【ZiDongHua之“智能自动化”收录关键词:灵汐芯片 大模型 智能硬件】
 
  灵汐芯片快速实现DeepSeek适配,助力国产大模型与类脑智能硬件融合
 
  重要消息
 
  节后开工第一天,灵汐科技团队联合类脑技术社区(“脑启社区“)的开发者,仅用半天时间就完成了DeepSeek-R1系列模型在灵汐KA200芯片及相关智算卡的适配,助力国产大模型与类脑智能硬件系统的深度融合。据“脑启社区“的开发者反馈,在DeepSeek-R1-Distill-Qwen的1.5B、7B等系列模型测试中,模型在4K上下文情形下体验顺畅,具备交付客户使用的能力。后续,灵汐科技也将联合产业生态伙伴及脑启社区,适时发布云上服务。
 
 
  灵汐科技的类脑芯片领启®KA200(-S)基于全新的存算一体、众核并行、异构融合架构,能高效支持深度学习神经网络、生物神经网络和大规模脑仿真。单芯片集成25万神经元和2500万突触(稠密模式),可扩展支持200万神经元和20亿突触的集成计算(稀疏模式),支持混合精度计算(48TOPS INT8和24TFLOPS FP16)。不仅有强大的视频图像处理和算法支持能力,也具有对各类LLM语言大模型及多模态模型的支撑能力。基于灵汐科技KA200的产品系列,已经具备了“云、边、端“全覆盖的大模型部署和高性能、低功耗的推理部署能力。灵汐的相关产品已在电力能源、交通、城市治理、低空智能装备等领域形成了规模化商用。
 
  近期DeepSeek大模型引发了业界的广泛讨论,有相关评论方认为DeepSeek的大模型技术路线创新有较大影响,而未来国产化、支撑大模型的新型架构芯片则会对产业形成更具颠覆性的效应。2024年初开始,类似存算一体架构芯片及其对大模型推理的提升效果,也引发了众多研究讨论。灵汐科技“存算一体、众核并行、异构融合”的芯片架构及其应用不断迭代,将为业内带来新的潜在突破。