加拿大初创公司推出 Command A 轻量级 AI 模型,号称仅需两块英伟达 A100 / H100 GPU 即可部署

发布时间:2025-03-15 17:01:26 来源:互联网

本站 3 月 14 日消息,加拿大 AI 初创公司 Cohere昨日发布了一款名为“Command A”的 AI模型,该模型主打轻量化应用,号称只需要两块英伟达 A100 或 H100 GPU 即可轻松部署,号称“表现能和 GPT-4o 相媲美”,实现“用最少的硬件发挥最大的性能”。

Cohere 表示,Command A 专门为中小型企业环境设计,其支持 256k 的上下文长度和 23 种语言,作为比较,其他竞争对手的“同类模型”需要 32 块 GPU 才能部署。

在性能测试中,Command A 最快每秒可以输出 156 个 Token,据称比 GPT-4o 快 1.75 倍。而在指令追踪、SQL、代理程序和工具任务的基准测试上,Command A 也表现出色。

Cohere 援引相应性能数据,声称业界的大语言模型如果“规模过大”,反而在输出结果时可能会出现严重的延迟问题;如果只是想快速得到正确答案,Command A 相对是个不错的选择。

目前,Cohere 已将相应 Command A 发布在Hugging Face 平台(点此访问),对学术界开放使用,未来还会登陆其他云服务平台。

本周热门教程

1
www.17c.com为什么能吸引大量用户共同参与创作与互动?未来平台发展的潜力有多大?

www.17c.com为什么能吸引大量用户共同参与创作与互动?未来平台发展的潜力有多大?

2025/03/18

2
糖心logo官方网站怎么免费观看?它的资源更新速度和观看体验如何?

糖心logo官方网站怎么免费观看?它的资源更新速度和观看体验如何?

2025/02/26

3
红猫大本猫营211hm最新版本:全面升级的界面设计与优化带来全新游戏体验

红猫大本猫营211hm最新版本:全面升级的界面设计与优化带来全新游戏体验

2025/03/20

4
《高柳の家族樱花动漫全集在哪里看?这些平台帮你找到资源!》

《高柳の家族樱花动漫全集在哪里看?这些平台帮你找到资源!》

2025/03/17

5
春暖花开微杏十年论坛:如何看待未来十年的创新与发展趋势?

春暖花开微杏十年论坛:如何看待未来十年的创新与发展趋势?

2025/03/17

6
《高柳の家族1-4》中的家庭情感冲突如何影响人物成长?

《高柳の家族1-4》中的家庭情感冲突如何影响人物成长?

2025/03/20

7
如何通过52G我爱搞g52.ppt网页版链接快速查看和分享PPT文件:简单操作指南

如何通过52G我爱搞g52.ppt网页版链接快速查看和分享PPT文件:简单操作指南

2025/03/14

8
寡妇汆白肉最忌搭配哪些食物?避免这三种搭配,让白肉更加美味健康!

寡妇汆白肉最忌搭配哪些食物?避免这三种搭配,让白肉更加美味健康!

2025/03/13

9
如何快速下载安装383tv直播并解决常见安装问题:全方位指南

如何快速下载安装383tv直播并解决常见安装问题:全方位指南

2025/03/18

10
八重神子焊出白水问题解决方法及应对技巧

八重神子焊出白水问题解决方法及应对技巧

2025/03/16