11月5日消息,微软宣布,其 Azure ND GB300 v6 虚拟机在 Meta 的 Llama270B 模型上实现了每秒推理速度达110 万 token 的行业新纪录。
18 小时on MSN
每秒110万个token!微软联手英伟达刷新AI推理纪录
微软表示:“单个 NVL72 机架的 Azure ND GB300 v6 虚拟机实现了总计每秒 1,100,000 个 token 的推理吞吐量。这刷新了 AI 推理领域的新纪录,超越了此前在同一 NVIDIA GB200 NVL72 机架上使用 ...
十轮网科技资讯 on MSN
VS 2022 17.14升级Copilot,加入记忆功能让AI学习团队开发风格
微软发布Visual Studio 2022 17.14更新,重点围绕GitHub Copilot的项目感知与可预测性,添加记忆机制与规划功能,同时扩展模型选项并改善聊天对话管理。此次更新让开发者可通过Azure ...
图片来源:Unsplash今年夏天Anthropic 将其未来三年最乐观的增长预测上调了约 13%至 28%,并预计到 2028 年将产生高达 700 亿美元的收入,而今年这一数字接近 50 ...
财富中文网 on MSN
微软CEO:比尔·盖茨曾预言投资OpenAI注定失败
萨蒂亚·纳德拉投资OpenAI的决策曾遭到比尔·盖茨的反对。
一些您可能无法访问的结果已被隐去。
显示无法访问的结果