Trainium2相較上一代晶片,效能提升了多少?
Answer
Trainium2 晶片效能提升
AWS EC2 Trn2 UltraServers 採用 Trainium2 晶片,該晶片採用台積電 5 奈米製程,效能相較於上一代 Trainium 晶片提升了 4 倍。單顆 Trainium2 晶片的算力達到 20.8 petaFLOPS。
功耗降低與成本效益
除了效能提升外,AWS 宣稱 Trainium2 晶片具有更高的能源效率,功耗降低了 2 倍,並且能大幅降低 GPU 成本,最高可降低 40%。這使得 Trainium2 在 AI 運算領域具有相當的成本優勢。
AWS 與 Anthropic 的合作
AWS 計劃與 AI 新創公司 Anthropic 合作,推出名為「Project Rainier」的計畫,該計畫將整合數十萬個 Trainium2 晶片,組成一個龐大的 AI 運算群集,以應對未來 AI 訓練的需求。