上个月有报道称,微软和OpenAI正在开发自己的AI芯片,并计划在11月发布,希望更高效、更廉价地调整他们的大型语言模型(LLM),以满足未来的计算需求。微软已经在OpenAI上投资了数十亿美元,使用NVIDIA最新的H100计算卡来满足处理培训和扩展AI所需的巨大计算负载。
在开发者大会上,微软宣布推出两款由其芯片实验室设计的定制芯片,AzureMaia100AI加速器和AzureCobalt。
100个处理器。
微软表示,这些芯片目前处于“第一阶段部署”,将于明年初出现在数据中心,首先用于运行Copilot和Azure。
OpenAI等服务。微软没有透露有多少芯片可用,但即使有自己的定制芯片,它未来仍将使用NVIDIA和AMD等合作伙伴的芯片来服务客户。
蔚蓝玛雅100
AI加速器使用的GPU是一个代号为《雅典娜》的项目,基于台积电的5纳米制程,拥有1050亿个晶体管。初始服务器当前正在接收GPT。
3.5Turbo试验。AzureCobalt100处理器拥有128核,支持64位ARMv9指令集,并使用ARM为微软定制的Neoverse。
该css平台可以基于Neoversen2内核。
微软表示,Maia的服务器采用完全定制的基于以太网的网络协议设计,以实现更好的可扩展性和端到端的工作负载性能。