新质生产力在湖北 | 用“硬核科技”把AI算力成本打下来
【ZiDongHua之“动感惠民生”收录关键词:新质生产力 人工智能 光芯屏端网产业】
新质生产力在湖北|用“硬核科技”把AI算力成本打下来
当前,新一代人工智能技术蓬勃发展,成为培育壮大新质生产力的核心引擎,加速融入大众生活。在全民AI时代,如何用“硬核科技”把AI算力成本打下来,来看湖北的探索。
当下,出于数据安全考虑,很多企业都愿意自建AI大模型。但这个过程就像组装电脑,耗时费力,花大价钱购买硬件不说,光调试就要忙活好几个月。武汉企业“传神语联”,通过大模型算力一体机,“AI秘书”输入企业招商要求,不到一分钟时间,就制作完成了一个专业的PPT。而且,所有数据不出办公室,彻底解决企业怕泄密的心病。就在上个月,传神语联将自己开发的“任度大模型”,和DeepSeek一起部署到算力硬件上,推出了湖北首款双脑大模型算力一体机。

传神语联网网络科技研究院院长何征宇:我们这个产品主要让它可以在私域当中去使用大模型,所有文件数据完全是保留在自己的本地,简化了用户使用私有化大模型的门槛,我们推理环境的算力成本可能相当于别人的1/5到1/10。
在湖北,不仅传神语联,超擎数智、长江计算等服务器制造商都在围绕客户需求,研发定制算力一体机的个性化服务。为鼓励企业抢抓机遇,湖北提出,对算力一体机出货量总计首次达到5万台的省内生产企业,给予1000万元资金奖励。
教育部一体化科技创新战略研究基地执行主任房超:一体机根据你的需要,把专门解决你问题的大模型以及配置的算力、服务器等等,都给你打包一体解决,实际上有点像从坐公共汽车变成了私家车。
AI技术除了需要超强算力运算海量数据,还需要推理能力,支持解决专业问题。而目前在应用推理时,通用AI芯片的利用率仅为30%到50%。如何将AI芯片在推理阶段的成本和能耗打下来?目前湖北正加快建设AI芯片研发、制造中心,支持重点骨干企业围绕AI推理芯片等新方向,加大研发力度。武汉一家企业的实验室里,指甲盖大小的NP101推理芯片即将量产,主要用于无人船等无人终端产品应用AI技术。
武汉凌久微电子有限公司副总经理秦泰:通过对细分领域特定算法和信号格式的优化,能够实现功耗降低50%以上,成本也能缩减到1/3以上。
不断抢抓新机遇,夯实AI发展的“地基”,湖北正依托“光芯屏端网”万亿产业集群的基础,围绕AI芯片、一体机等计算终端,以及云服务器等加大先进计算产品的研发和支持,助力今年实现算力与大数据产业规模突破1500亿元。
教育部一体化科技创新战略研究基地执行主任房超:湖北拥有光芯屏端网产业集群,有一个很完整的产业链,可以发挥自己独一无二的优势,利用这种关键器件的研制和生产的能力,未来在芯片架构设计技术、先进制程工艺技术、高速互联技术,助力我国的算力水平大幅度提高。
来源:长江云新闻
我要收藏
点个赞吧
转发分享
评论排行