喂,手掌上的大模型你见过吗,只需千元

下载贤集网APP看更多精彩视频

视频介绍

截至2023年10月,国内公开的AI大模型数量已经达到238个,中国AI大模型发展势头正猛,但对于安防中小微企业而言,很难具备整体AI解决方案输出能力。 …… 究其原因,大模型一次训练成本在千万级,主流的训推一体机价格普遍在百万元,绝大多数企业都无法承担这样高昂的成本。 为了能够让大模型平民化,成为人人都可用的产品,云天励飞推出了深目AI模盒。

技术世界

了解更多有趣的知识,就关注技术世界

我来说几句


获取验证码
最新评论
这是多大规模的大模型,塞到盒子里这个。
云上跑好后移植到盒子里?
这种应该是那种规模极小的边缘计算设备,甚至我高度怀疑有可能是用云来跑大模型,这个设备只是链接自身和云平台的,正常来说,推理设备要想速度够快,不用云计算,本地跑的话,配置都不低,不可能才千元成本
想让人人都用大模型推理,主要就是要降低成本,千元级别的模盒是最合适的能让人人都有大模型推理
)