当前位置:首页 > 国际 > 正文

大脑公司推出人工智能推理工具,旨在与英伟达竞争

  • 国际
  • 2024-12-26 02:16:04
  • 2

加州:

周二,脑神经系统公司(Cerebras Systems)为人工智能开发者推出了一款工具,允许他们使用这家初创公司的超大芯片来运行应用程序,并提供了一种比行业标准英伟达(Nvidia)更便宜的选择。

使用英伟达图形处理单元(gpu)——通常是通过云计算提供商——来训练和部署用于OpenAI的ChatGPT等应用程序的大型人工智能模型很难获得,运行成本也很高,开发人员将这一过程称为推理。

“我们正在提供GPU无法实现的性能,”Cerebras首席执行官安德鲁·费尔德曼在接受路透社采访时表示。“我们做到了最高的准确度,并以最低的价格提供服务。”

人工智能市场的推理部分预计将快速增长并具有吸引力——如果消费者和企业采用人工智能工具,最终价值将达到数百亿美元。

这家总部位于加州森尼维尔的公司计划通过开发者密钥和云提供几种类型的推理产品。该公司还将把其人工智能系统出售给那些更愿意运营自己数据中心的客户。

Cerebras的芯片——每个芯片都有一个餐盘大小,被称为晶圆级引擎——避免了人工智能数据处理的一个问题:驱动人工智能应用的大型模型处理的数据通常不适用于单个芯片,可能需要数百或数千个芯片串在一起。

费尔德曼说,这意味着大脑公司的芯片可以实现更快的性能。

它计划向用户收取每百万代币10美分的费用,这是公司衡量大型模型输出数据量的方法之一。

该公司表示,该公司的目标是上市,并于本月向美国证券交易委员会提交了一份保密的招股说明书。

周二,脑神经系统公司(Cerebras Systems)为人工智能开发者推出了一款工具,允许他们使用这家初创公司的超大芯片来运行应用程序,并提供了一种比行业标准英伟达(Nvidia)更便宜的选择。

使用英伟达图形处理单元(gpu)——通常是通过云计算提供商——来训练和部署用于OpenAI的ChatGPT等应用程序的大型人工智能模型很难获得,运行成本也很高,开发人员将这一过程称为推理。

“我们正在提供GPU无法实现的性能,”Cerebras首席执行官安德鲁·费尔德曼在接受路透社采访时表示。“我们做到了最高的准确度,并以最低的价格提供服务。”

人工智能市场的推理部分预计将快速增长并具有吸引力——如果消费者和企业采用人工智能工具,最终价值将达到数百亿美元。

这家总部位于加州森尼维尔的公司计划通过开发者密钥和云提供几种类型的推理产品。该公司还将把其人工智能系统出售给那些更愿意运营自己数据中心的客户。

Cerebras的芯片——每个芯片都有一个餐盘大小,被称为晶圆级引擎——避免了人工智能数据处理的一个问题:驱动人工智能应用的大型模型处理的数据通常不适用于单个芯片,可能需要数百或数千个芯片串在一起。

费尔德曼说,这意味着大脑公司的芯片可以实现更快的性能。

它计划向用户收取每百万代币10美分的费用,这是公司衡量大型模型输出数据量的方法之一。

该公司表示,该公司的目标是上市,并于本月向美国证券交易委员会提交了一份保密的招股说明书。

有话要说...