商汤科技李星治:服务应用是大模型行业痛点,算力和产品能力是关键

   日期:2024-07-06     来源:网络整理    作者:二手钢材网    浏览:128    评论:0    
核心提示:“我们讲大模型、讲AI这么久,大模型新势力做了一两年,到底该往什么方向变现?首先,他认为没有算力储备谈大模型就是空中楼阁。他还提出端侧模型的重要性,并基于数据安全、成本、咨询链的角度认为“端侧大有可为”。他表示,将模型能力移植到端侧应用,几B的模型代替上百B的,将产生更快速度等意义。

商汤科技数字娱乐事业部副总裁李行智

商汤李星治:端侧模型大有可为_商汤李星治:端侧模型大有可为_

首先他认为,没有算力储备,光谈大模型就是空中楼阁。资料显示,商汤人工智能超算中心目前拥有峰值算力4.5万块卡。

商汤李星治:端侧模型大有可为_商汤李星治:端侧模型大有可为_

其次,他表示大模型厂商需要有很强的产品能力,以商汤科技为例,其大语言模型具备MoE(混合专家模型)结构、上下文文本等能力,“可以和创业媒体合作,生成短期、深度的报道”。

他还指出了端侧模型的重要性,并从数据安全、成本、咨询链等角度认为“端侧有很大潜力”。他表示,通过将模型能力移植到端侧应用,一个几B的模型将取代几百B的模型,将具有速度更快的意义。例如,商汤科技的日新增大模型功能移植到喵画APP(AI内容创作社区平台)后,生成一张512K的图片只需要2秒。

商汤李星治:端侧模型大有可为_商汤李星治:端侧模型大有可为_

终端应用如何发展?李行智建议:多兼顾国内主流的互联网应用,多兼容更多的手机机型。对于机型厂商来说,就是在算力平台的兼容上,做到向下兼容。

值得注意的是,商汤科技近日成为新京报贝壳金融“AI小贝”数字人技术合作伙伴。同时,在7月3日AI主题论坛发布的《中国AI大模型测评报告——大众传媒行业大模型使用及满意度研究》中,商汤AI数字人技术也入选经典案例。同日,“AI小贝”在贝壳金融年会开幕式上发布了《2024年上半年中国企业家信心指数》。

杨旭丽 校对

 
打赏
 
更多>同类资讯

0相关评论
推荐热播视讯

推荐视频

    Copyright © 2017-2020  二手钢材网  版权所有  
    Powered By DESTOON 皖ICP备20008326号-2