亚马逊发布令人印象深刻的新AI芯片,并透露与英伟达友好的路线图
12-06-2025
亚马逊网络服务(Amazon Web Services)多年来一直在构建自己的AI训练芯片,现在刚刚推出一个名为Trainium3的新版本,该版本具有令人印象深刻的技术规格。
这家云服务提供商周二在AWS re:Invent 2025大会上宣布了这一消息,同时还透露了其AI训练产品路线图上的下一个产品:Trainium4,该产品已在开发中,将能够与英伟达(Nvidia)的芯片协同工作。
AWS利用其年度技术大会正式推出了Trainium3 UltraServer,这是一个由公司最先进的3纳米Trainium3芯片以及其自研网络技术驱动的系统。据AWS称,正如您所预期的,第三代芯片和系统在AI训练和推理性能上相比第二代芯片有了显著提升。
AWS表示,该系统速度提高了4倍以上,内存容量增加了4倍,不仅适用于训练,还适用于在需求高峰时交付AI应用。此外,数千台UltraServer可以连接在一起,为单个应用提供最多100万个Trainium3芯片——是上一代产品的10倍。据该公司称,每台UltraServer可容纳144个芯片。
或许更重要的是,AWS表示,这些芯片和系统也比上一代产品节能40%。在全球竞相建设由天文数字级千兆瓦电力驱动的大型数据中心之际,数据中心巨头AWS正努力打造能耗更低而非更高的系统。
显然,这样做符合AWS的直接利益。但以亚马逊一贯的成本意识,它承诺这些系统也能为其AI云客户节省资金。
亚马逊表示,其客户如Anthropic(亚马逊也是其投资者)、日本的LLM Karakuri、SplashMusic和Decart已经在使用第三代芯片和系统,并显著降低了推理成本。
AWS还展示了下一代芯片Trainium4的部分路线图,该芯片已在开发中。AWS承诺该芯片将在性能上提供又一次重大飞跃,并支持英伟达的NVLink Fusion高速芯片互连技术。
这意味着由AWS Trainium4驱动的系统将能够与英伟达GPU互操作并扩展其性能,同时仍使用亚马逊自研的、成本更低的服务器机架技术。
值得注意的是,英伟达的CUDA(计算统一设备架构)已成为所有主要AI应用构建时支持的事实标准。由Trainium4驱动的系统可能更容易吸引那些专为英伟达GPU构建的大型AI应用转向亚马逊云。
亚马逊没有公布Trainium4的时间表。如果公司遵循以往的发布时间表,我们很可能会在明年的大会上听到更多关于Trainium4的消息。
请在此处关注TechCrunch对年度企业技术活动的全部报道。
这家云服务提供商周二在AWS re:Invent 2025大会上宣布了这一消息,同时还透露了其AI训练产品路线图上的下一个产品:Trainium4,该产品已在开发中,将能够与英伟达(Nvidia)的芯片协同工作。
AWS利用其年度技术大会正式推出了Trainium3 UltraServer,这是一个由公司最先进的3纳米Trainium3芯片以及其自研网络技术驱动的系统。据AWS称,正如您所预期的,第三代芯片和系统在AI训练和推理性能上相比第二代芯片有了显著提升。
AWS表示,该系统速度提高了4倍以上,内存容量增加了4倍,不仅适用于训练,还适用于在需求高峰时交付AI应用。此外,数千台UltraServer可以连接在一起,为单个应用提供最多100万个Trainium3芯片——是上一代产品的10倍。据该公司称,每台UltraServer可容纳144个芯片。
或许更重要的是,AWS表示,这些芯片和系统也比上一代产品节能40%。在全球竞相建设由天文数字级千兆瓦电力驱动的大型数据中心之际,数据中心巨头AWS正努力打造能耗更低而非更高的系统。
显然,这样做符合AWS的直接利益。但以亚马逊一贯的成本意识,它承诺这些系统也能为其AI云客户节省资金。
亚马逊表示,其客户如Anthropic(亚马逊也是其投资者)、日本的LLM Karakuri、SplashMusic和Decart已经在使用第三代芯片和系统,并显著降低了推理成本。
AWS还展示了下一代芯片Trainium4的部分路线图,该芯片已在开发中。AWS承诺该芯片将在性能上提供又一次重大飞跃,并支持英伟达的NVLink Fusion高速芯片互连技术。
这意味着由AWS Trainium4驱动的系统将能够与英伟达GPU互操作并扩展其性能,同时仍使用亚马逊自研的、成本更低的服务器机架技术。
值得注意的是,英伟达的CUDA(计算统一设备架构)已成为所有主要AI应用构建时支持的事实标准。由Trainium4驱动的系统可能更容易吸引那些专为英伟达GPU构建的大型AI应用转向亚马逊云。
亚马逊没有公布Trainium4的时间表。如果公司遵循以往的发布时间表,我们很可能会在明年的大会上听到更多关于Trainium4的消息。
请在此处关注TechCrunch对年度企业技术活动的全部报道。