加拿大初创公司推出 Command A 轻量级 AI 模型,号称仅需两块英伟达 A100 / H100 GPU 即可部署

发布时间:2025-03-15 17:01:26 来源:互联网

本站 3 月 14 日消息,加拿大 AI 初创公司 Cohere昨日发布了一款名为“Command A”的 AI模型,该模型主打轻量化应用,号称只需要两块英伟达 A100 或 H100 GPU 即可轻松部署,号称“表现能和 GPT-4o 相媲美”,实现“用最少的硬件发挥最大的性能”。

Cohere 表示,Command A 专门为中小型企业环境设计,其支持 256k 的上下文长度和 23 种语言,作为比较,其他竞争对手的“同类模型”需要 32 块 GPU 才能部署。

在性能测试中,Command A 最快每秒可以输出 156 个 Token,据称比 GPT-4o 快 1.75 倍。而在指令追踪、SQL、代理程序和工具任务的基准测试上,Command A 也表现出色。

Cohere 援引相应性能数据,声称业界的大语言模型如果“规模过大”,反而在输出结果时可能会出现严重的延迟问题;如果只是想快速得到正确答案,Command A 相对是个不错的选择。

目前,Cohere 已将相应 Command A 发布在Hugging Face 平台(点此访问),对学术界开放使用,未来还会登陆其他云服务平台。

本周热门教程

1
《玉女心经2之阴阳和合》:如何通过阴阳和合实现身心健康与情感平衡?

《玉女心经2之阴阳和合》:如何通过阴阳和合实现身心健康与情感平衡?

2025/03/06

2
如何通过《玉女心经2之阴阳和合》找到人生的平衡与和谐:揭示阴阳哲学对情感的深刻影响

如何通过《玉女心经2之阴阳和合》找到人生的平衡与和谐:揭示阴阳哲学对情感的深刻影响

2025/03/05

3
www.17c.com为什么能吸引大量用户共同参与创作与互动?未来平台发展的潜力有多大?

www.17c.com为什么能吸引大量用户共同参与创作与互动?未来平台发展的潜力有多大?

2025/03/18

4
如何利用WordPress建设永久免费网站?详细步骤与实用技巧

如何利用WordPress建设永久免费网站?详细步骤与实用技巧

2025/03/12

5
如何在WordPress上搭建一个永久免费的免费网站

如何在WordPress上搭建一个永久免费的免费网站

2025/03/09

6
如何避免遭遇9·1高危风险免费版网站NBA?教你识别与防范技巧

如何避免遭遇9·1高危风险免费版网站NBA?教你识别与防范技巧

2025/03/17

7
亚洲经典一曲二曲三曲的区别与特点解析

亚洲经典一曲二曲三曲的区别与特点解析

2025/03/10

8
如何巧妙搭配18水蜜桃和大黄瓜:轻松制作营养美味的果蔬佳肴

如何巧妙搭配18水蜜桃和大黄瓜:轻松制作营养美味的果蔬佳肴

2025/02/18

9
Toriblack高氵喷水MV:为何这部作品能突破常规,成为讨论焦点?

Toriblack高氵喷水MV:为何这部作品能突破常规,成为讨论焦点?

2025/02/17

10
“姐姐呀姐姐快停下是什么歌曲?”这首歌的背景与流行原因解析:为何这句歌词如此火爆

“姐姐呀姐姐快停下是什么歌曲?”这首歌的背景与流行原因解析:为何这句歌词如此火爆

2025/02/20