爱AI工具库,国内AIGC产品探索者分享平台
注册
当前位置:首页

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

爱AI工具库 2024-06-02
10

6 月 2 日,在目前正在进行的黄仁勋 2024 台北电脑展主题演讲上,黄仁勋介绍生成式人工智能将推动软件全栈重塑,展示其 NIM(Nvidia Inference Microservices)云原生微服务。英伟达认为“AI 工厂”将掀起一场新产业革命:以微软开创的软件行业为例,黄仁勋认为生成式人工智能将推动其全栈重塑。为方便各种规模的企业部署 AI 服务,英伟达今年 3 月推出了 NIM(Nvidia Inference Microservices)云原生微服务。NIM 是一套经过优化的云原生微服务,旨在缩短上市时间,并简化生成式 AI 模型在云、数据中心和 GPU 加速工作站的任何位置的部署。它使用行业标准 API,抽象化 AI 模型开发和生产包装的复杂性,从而扩展开发者池。IT之家注意到,官方制作了一个 llama3 大模型的 NIM 容器,现已上线英伟达官网,开放供全部用户下载并任意部署。▲ 英伟达官网2024 台北国际电脑展专题

来源:IT之家

相关推荐

暂无数据

评论 ( 0 )

aiaitool@163.com

扫一扫,备注来意

qrcode

回顶部