界面新闻记者 |
界面新闻编辑 | 宋佳楠
在12月2日至6日举行的2024 re:Invent全球大会上，亚马逊云科技宣布 ，其基于Trainium2的Amazon Elastic Compute Cloud（Amazon EC2）Trn2实例正式可用 ，并推出了Trn2 UltraServer，称可让客户以优越的性价比训练和部署最新的人工智能模型 ，以及未来的大语言模型（LLM）和基础模型（FM） 。同时 ，亚马逊云科技还发布了新一代Amazon Trainium3芯片 。
值得注意的是，苹果机器学习和人工智能高级总监Benoit Dupin现身大会，并在台上讲解了苹果如何使用云服务。Dupin表示 ，十多年来 ，苹果一直在使用AWS提供Siri 、Apple Maps和Apple Music等服务 。其还强调使用亚马逊的Inferencia和Graviton芯片为搜索提供服务，使效率提高了40% 。
据Dupin透露 ，苹果目前正在评估亚马逊云科技的最新AI训练芯片Trainium2 ，预计使用该芯片进行预训练时效率将提高50%。
不过，苹果使用Trainium2仅限于AI模型的预训练阶段 ，不会用于Apple Intelligence功能。Apple Intelligence功能由苹果设备上的芯片或苹果私有云计算平台上的Apple Silicon 芯片提供支持 。
界面新闻了解到 ，苹果愿意考虑Trainium2进行预训练，成本是一个重要因素 。目前 ，市场上大部分公司的AI模型预训练都在使用英伟达的GPU芯片 ，但这种训练方式成本较高，各个公司都在寻求成本更低的替代方案 ，云计算厂商也看中了这一市场需求。
亚马逊云科技计算和网络副总裁David Brown在演讲中表示 ，Trainium2是专为支持大型 、前沿的生成式AI工作负载而设计的，能够满足训练和推理的需求，并且更具备性价比 。
具体来说 ，与当前基于GPU的EC2 P5e和P5en实例相比 ，最新可用的Amazon EC2 Trn2实例的性价比提升30%-40% 。其配备16个Trainium2芯片，可提供高达20.8 Petaflops浮点算力的性能 ，非常适合训练和部署具有数十亿参数的大型语言模型（LLMs）。
全新推出的Amazon EC2 Trn2 UltraServers服务器机型配备64个相互连接的Trainium2芯片 ，采用NeuronLink超速互连技术，可提供高达83.2 Petaflops浮点算力 ，其计算、内存和网络能力是单一实例的四倍 ，能够支持训练和部署超大规模的模型 。
目前，亚马逊云科技正在联合Anthropic打造名为Project Rainier的EC2 UltraCluster ，其包含数十万颗Trainium2芯片 ，所达到的算力比其当前一代AI模型训练所需算力高出5倍以上 。
亚马逊云科技推出的新一代AI芯片Trainium3，是首款采用3纳米工艺制造的芯片 ，在性能 、能效和密度上都达到了新的高度。搭载Trainium3的UltraServers性能预计将是Trn2 UltraServers的4倍 ，这意味着其能够帮助客户更快速地构建更大规模的模型，并在部署时提供更优的实时性能 。
有声音认为，亚马逊云科技推出Trainium系列将对英伟达GPU芯片形成挑战 ，有望争得更多市场份额 。但一位云计算行业从业者表示 ，两者的差异非常明显，Trainium系列芯片则更侧重于对亚马逊自身业务和客户需求的优化 ，亚马逊并不会对外出售该芯片 ，而英伟达GPU芯片在科学计算 、高性能计算等领域的应用更加广泛，其芯片架构和软件生态在这些领域的优化更为成熟。
随着AI的大规模应用和对算力需求的进一步增长 ，越来越多的企业对芯片、服务器、工具 、架构 、服务等提出新的定制化要求 ，云计算厂商通过自研芯片来训练和部署更大规模的模型、降低训练成本已是大势所趋 。
除了亚马逊云科技之外，微软Azure和谷歌云也在积极探索自研芯片 ，这也将进一步丰富芯片市场 ，以减少对英伟达芯片的过度依赖 。
