7月18日,阿里平头哥半导体宣布,其自研AI软件栈T-HeadSAIL正式开源。T-HeadSAIL是专为真武系列AI芯片设计的软件栈,具备自主知识产权,并全面兼容主流AI生态。截至今年4月,真武AI芯片累计出货量已达56万片,服务超过400家客户,覆盖20多个行业。真武AI芯片及T-HeadSAIL软件栈已在阿里云及多家头部客户的真实生产环境中经过深度测试,能够应对大规模流量、复杂场景以及严苛的服务水平协议(SLA)挑战。
T-HeadSAIL软件栈由五层技术构成,包括Driver与Runtime层、编程语言层、编译器层、高性能库层和开发者工具层。该软件栈兼容主流AI生态,支持主流模型即开即用,算子库完整对标,主流编程模型高度兼容。T-HeadSAIL已适配PyTorch、TensorFlow、vLLM、SGLang等260余个主流训练与推理框架,开发者获取源码后可直编译运行,无需额外适配。目前,T-HeadSAIL平均适配主流AI推理框架的时间少于7天,开发者无需额外适配和调优即可使用前沿最新的算子、特性与优化手段。平头哥开发者社区网站已上线,提供T-HeadSAIL全栈技术文档,SDK软件包、内核驱动、性能分析和调试工具下载服务。
