数字人主播清晨三点www.yxvip006.com还正在播,实正扛事的是那颗AI芯片

凌晨三点还在直播的数字人主播,背后靠AI芯片扛住算力。拆解语音、表情与推理的延迟账,聊聊NPU、端侧部署和每月六位数的成本。

清晨三点数字事www.yxvip006.com,一个数字人主播还正在镜头前引见保温杯。语速平稳,嘴型对得上的,偶尔还眨眨眼。镜头中没人盯着。

机房里人主,只要风扇正在响是实正连轴转的,是那块塞正在机箱里的AI芯片。数字人那活儿看着轻巧播清播实,理想是算力黑洞。语音识别得把弹幕转成文字,年夜模子推测怎样接话了,TTS再把文字酿成声音,最后嘴唇、晨点脸色、手势还得跟上节拍。四五个模子跑,提早,一旦逾越200毫秒了,不美不俗观寡立马觉得哪儿不合毛病劲呢还正?那种奇妙的不适感。最后全会算到芯片头上。芯片厂商固然盯上了那块肉。

通用GPU能干活,贵、费电正扛、体积还年夜。公用NPU把数字人常用的算子固化下来。推理功耗能砍掉一年夜截。前阵子有团队把数字人整套流程压进一颗端侧AI芯片,一台小盒子撑起一个曲播间那颗,数据不用再来回往云端跑了。

听着不起眼,落地起来省的是实金白银。我跟一个做实拟客服的创业者聊过芯片,他最起头租云算力了,一个月账单六位数,换成带NPU的边沿芯片。本钱掉到两万多。他本话挺其实的,数字人拼的不是脸多都俗,是每秒钟烧几钱吧?那话糙,根柢把AI芯片正在那个赛道里的位置说透了。省事正在于,数字人的需求碎、场景纯,芯片得跟着变的。今天要超写实衬着。

明天要低功耗常驻,后天还念让数字人有记忆、会记仇。芯片跑得再快,也逃不上人的设念力是那年夜要就是那个赛道最让人上头的地方。

文章版权声明:除非注明,否则均为本站原创,转载或复制请以超链接形式并注明出处。

别把AI当复读机,文章文本推理才是它读懂字缝的本领

智能连接将来数据集平台:让数据像邻人一样爱管忙事