首页 > 案例展示

【48812】寒武纪推出新一代云端AI芯片思元270

2024-08-23 作者: 案例展示

  6月20日,寒武纪宣告推出云端AI芯片中文品牌“思元”、第二代云端AI芯片思元270(MLU270)及板卡产品。中文品牌“思元”的意义为“考虑的根本单元”,是对寒武纪上一年推出云端AI芯片品牌“MLU”(Machine Learning Unit)的有机弥补。

  思元270芯片集成了寒武纪在处理器架构范畴的一系列立异性技能,处理非稀少深度学习模型的理论峰值功能提高至上一代MLU100的4倍,到达128TOPS(INT8);一起兼容INT4和INT16运算,理论峰值别离到达256TOPS和64TOPS;支撑浮点运算和混合精度运算。思元270选用寒武纪公司自主研制的MLUv02指令集,可支撑视觉、语音、自然言语处理以及传统机器学习等高度多样化的AI使用,为视觉使用集成了富余的视频和图画编解码硬件单元。

  此外,思元270芯片选用TSMC 16nm工艺制作,其板卡产品能通过PCIe接口快速布置在服务器和作业站内。寒武纪本次揭露的思元270板卡产品面向人工智能揣度使命,在ResNet50上推理功能超越10000fps。MLU270-S4 型板卡(半高半长)面向数据中心布置,集成16GB DDR4 内存,支撑ECC;MLU270-F4型板卡(全高全长)选用自动散热规划,面向非数据中心布置场景,集成16GB DDR4 内存,支撑ECC。

  在定点练习范畴,寒武纪已完成重要打破,思元270练习版板卡将可通过8位或16位定点运算供给杰出的人工智能练习功能;在系统软件和东西链方面,思元270继续支撑寒武纪Neuware软件东西链,支撑业界各干流编程结构。为使得开发者更好地发掘思元270超强的运算才能、开辟更多的使用范畴,寒武纪将在近期向社区和开发者敞开专用编程言语。面向人工智能练习使命的思元270练习版板卡产品也将于本年度第四季度推出。

  据悉,寒武纪第一代云端AI芯片MLU100及板卡通过在一年的适配和布置,已为客户在智能视频剖析、语音组成、引荐引擎、AI云等多个范畴供给了高能效比的解决方案。

  寒武纪CEO陈天石表明,最新推出的思元270芯片和板卡产品将为用户带来速度更快、功耗更低、性价比更高的AI加快解决方案。寒武纪将继续推进该范畴的技能和产品立异,为全球AI工业注入新鲜的血液,带来全新的动力。(赵广立 田晓雨)