hiw3c AI 日报
Google News AI 网页快照

Anthropic放手,亚马逊想买!帮AI「换芯片」,凭什么值70亿美元? - 智源社区

Anthropic放手,亚马逊想买!帮AI「换芯片」,凭什么值70亿美元? 智源社区

来源:Google News AI · hub.baai.ac.cn

Anthropic放手,亚马逊想买!帮AI「换芯片」,凭什么值70亿美元?

新智元报道

10月11日,《华尔街日报》援引知情人士称,亚马逊正在洽购AI创业公司Decart,潜在交易估值约70亿美元。

彭博社9月报道称,双方曾探讨约60亿美元的交易,但Anthropic做完尽职调查后,决定不再推进。

英伟达有GPU,谷歌有TPU,亚马逊有Trainium。不同芯片的硬件架构不同,模型要高效运行,就得做好相应的适配。

一套在英伟达芯片上跑得顺畅的程序,换到亚马逊芯片上,往往还要调整、优化,才能发挥新硬件的性能。

Decart的DOS(Decart Optimization Stack),就是帮模型适应不同芯片、提高运行效率的一套软件。

据官方介绍,DOS支持英伟达GPU、谷歌TPU和亚马逊Trainium等硬件,同时用于模型训练和推理。

它会针对芯片的特点,调整模型的运行方式、优化底层计算,让芯片少一些等待,多完成一些有效计算。

亚马逊已经有自己的Trainium芯片,Decart这套能力或许能帮它争取更多客户。

如果开发者能少花些功夫完成适配,模型运行起来又更快、更省,选择Trainium的理由就多了一个。

今年5月,Decart在官方公告中将亚马逊列为战略客户,并披露其视频模型Lucy2已运行在Trainium3上。

让模型更容易适配不同芯片,并在这些芯片上跑得更快、更省,正是Decart能发挥作用的地方。

根据官方说明,Lucy2.5支持在视频播放的同时,通过文字或参考图片,更换人物、改变衣服、调整背景、添加特效,甚至移除物体。

直播时换背景,对着镜头试穿衣服,给正在拍摄的画面加特效,都可以成为这类技术的应用场景。

Lucy2.5实时视频编辑演示:变换人物造型、虚拟试衣与试戴。(图源:Decart)

这要求AI一边接收视频,一边修改画面,再及时把结果显示出来。从输入到处理,再到显示,任何一个环节慢了,用户都会感受到延迟。

据Decart联合创始人兼CEODean Leitersdorf介绍,其实时视频模型在Trainium上的帧吞吐量,最高达到对照GPU的4倍,成本效率达到2倍,延迟从40毫秒降至10毫秒。

Oasis3生成的六种道路模拟场景,展示不同环境下的驾驶画面。(图源:Decart)

这就像玩驾驶游戏:你打了方向盘,眼前的道路就得及时跟着变。Oasis要让自动驾驶系统在这样的环境里反复练习。

练习时间越长,需要生成的画面和完成的计算就越多。软件把这些工作安排得更高效,才有机会用同样的预算,多练一些场景、多做几轮测试。

比如,生成一段视频,能不能少盯一会儿进度条;花同样的钱,能不能多改几次细节,多试几种想法;实时试衣、视频特效,能不能让画面跟得上动作?

同样的芯片能干更多活,单次生成的成本就有机会降下来。厂商也就有更大的空间降价、增加使用次数,让更多人用得起、经常用。

但厂商省了钱,不代表你就一定能少付钱。产品卖多少钱、每月能用多少次,仍由厂商决定。

对我们来说,这场竞争的价值,就体现在每一次使用中:结果来得更快,想按下「重试」时,不必总先算一遍时间和费用。

评论列表

评论