Podle příspěvku na blogu AWS je cluster nyní plně funkční a obsahuje téměř 500 000 vlastně vyvinutých čipů Trainium2.
Project Rainier byl vyvinut pro společnost zabývající se umělou inteligencí Anthropic a její AI model Claude. Cílem je mít do konce roku více než jeden milion čipů Trainium2, na kterých bude Claude běžet jak pro tréninkové, tak pro inferenční úlohy.
AWS podrobně představila cluster Rainier již dříve v letošním roce. Poprvé oznámený během akce Re:Invent v Las Vegas koncem roku 2024, Project Rainier se skládá z UltraServerů Trainium2 obsahujících „stovky tisíc“ čipů Trainium2 propojených třetí generací nízkolatentní petabitové sítě EFA, rozmístěných napříč několika datovými centry.
UltraServer kombinuje čtyři fyzické servery Trainium2, z nichž každý má 16 čipů Trainium2.
Mezi těmito lokalitami datových center je St. Joseph County v Indianě, do kterého AWS investuje 11 miliard dolarů, přičemž výstavba byla zahájena v říjnu 2024.
„Project Rainier je jedním z dosud nejambicióznějších projektů AWS,“ řekl Ron Diamant,inženýr AWS a hlavní architekt Trainium. „Je to masivní, jedinečný infrastrukturní projekt, který přinese další generaci modelů umělé inteligence.“
Podle AWS je cluster již o 70 procent větší než jakákoli jiná výpočetní platforma pro AI v historii AWS.
Zatímco Project Rainier má být používán společností Anthropic, tato AI společnost zůstává ve svých hardwarových volbách agnostická. Minulý měsíc Anthropic rozšířila svou smlouvu s Googlem o cloudovou dohodu na více než 1 GW, která by umožnila AI společnosti přístup až k jednomu milionu procesorů Tensor Processing Units (TPU) od Googlu. Pro trénink a inferenci používá také GPU od Nvidie.
Anthropic byla založena v roce 2021 bývalými zaměstnanci OpenAI a přímo konkuruje OpenAI prostřednictvím svých velkých jazykových modelů Claude. Amazon investoval do Anthropic přibližně 8 miliard dolarů. Začátkem tohoto roku se hovořilo o tom, že AI společnost získává přibližně 5 miliard dolarů v kole financování, které by ohodnotilo Anthropic na 170 miliard dolarů.
Zdroj: datacenterdynamics.com
Zdroj: CLOUD & BACKUP NETWORK NEWS
