AI芯片独角兽最新产品 比英伟达GPU快20倍

时间:2024-08-28来源:中时电子报

综合外媒报导,人工智能(AI)芯片巨头英伟达(Nvidia)的竞争对手、全球最大AI芯片独角兽 Cerebras Systems宣布,推出Cerebras Inference,据称是全世界最快AI解决方案,较英伟达目前这一代GPU快20倍,价格更便宜只有GPU的五分之一。

Cerebras的AI推论工具可为大语言模型Llama 3.1 8B,每秒生成1,800个 tokens,比超大规模数据中心的英伟达GPU解决方案快20倍。而且Cerebras价格以每百万tokens收10美分起跳,与英伟达GPU解决方案相比如同九牛一毛。

Cerebras执行长费尔德曼(Andrew Feldman)受访时表示,「我们产品的性能GPU达不到,而且精确度最高,价格最便宜,更透露已经从Nvidia那里抢到有意义的客户。」

Cerebras于2015年创立,曾表明挑战英伟达市场龙头地位,更获ChatGpt开发商OpenAI行政总裁阿尔特曼(Sam Altman)投资。另有消息指出,Cerebras计划最快10月在美国上市。


关键词: AI芯片 英伟达 GPU Cerebras Systems

加入微信
获取电子行业最新资讯
搜索微信公众号:EEPW

或用微信扫描左侧二维码

相关文章

查看电脑版