平头哥发布真武V900芯片,T-Head SAIL软件栈开源再进一步

9月22日云栖大会上,阿里巴巴集团CEO吴泳铭介绍了新一代真武V900 AI芯片,称其算力性能为M890的3倍,是目前中国算力性能最强的AI芯片。
次日(9月23日),平头哥公布了AI软件栈T-Head SAIL的最新开源进展,进一步扩大在框架适配、加速库、工具链和通信库等领域的开放范围。平头哥将AI芯片比作发动机,软件栈则相当于“变速箱+传动系统+驾驶系统”,软件能否让模型顺利迁移、运行和优化,直接影响芯片性能的发挥。

目前,真武AI芯片已服务20多个行业的650多家客户,蚂蚁、小红书、小鹏汽车等企业已开始使用T-Head SAIL。其中,小红书基于T-Head SAIL开源代码开发了模型迁移与算子优化Agent,用于加速生成式推荐模型在真武上的部署。

T-Head SAIL可理解为平头哥围绕真武AI芯片打造的类“CUDA”软件栈,连接PyTorch等上层AI框架与底层真武硬件,负责模型迁移、编译执行、计算加速和开发调试。今年7月WAIC上,平头哥宣布启动T-Head SAIL开源,并提供SDK、驱动、性能分析与调试工具及相关技术文档下载。两个多月后的云栖大会上,团队公布了进一步进展:已开源项目包括PyTorch-for-sail框架适配、sailify源码迁移工具、Triton-for-sail算子开发工具,以及DeepGEMM-for-sail、FlashAttention-for-sail等计算加速项目。

这些工具和资源旨在解决开发者的关键问题。平头哥半导体软件生态资深总监陆生华在公开演讲中表示:“最大的诉求,从业务角度来说,就是迁移成本有多大。”
本文图片来自互联网,仅供学习交流使用,版权归原作者或原平台所有。如认为图片侵犯了您的权益,请联系我们删除。

