Výkon CloudMatrix AI dosáhl podle interních testů významného milníku, když nová datová centra překonala grafické jednotky Nvidia H800 při provozu pokročilého modelu umělé inteligence DeepSeek R1, jak uvádí technický článek vydaný tento týden výzkumníky Huawei.
Výzkum, provedený společností Huawei Technologies ve spolupráci s čínskou AI startupem SiliconFlow, poskytuje první podrobnou veřejnou zprávu o výkonnostních metrikách CloudMatrix384. Je však důležité poznamenat, že benchmarky byly provedeny Huawei na jejich systémech, což vyvolává otázky ohledně nezávislého ověření proklamovaných výkonnostních výhod oproti zavedeným průmyslovým standardům.
Článek popisuje CloudMatrix384 jako „architekturu datových center příští generace, která ztělesňuje vizi Huawei pro přetvoření základů AI infrastruktury.“ Přestože jsou technické úspěchy do značné míry působivé, nedostatek ověření třetí stranou znamená, že výsledky by měly být posuzovány v kontextu pokračujícího úsilí Huawei demonstrovat technologickou konkurenceschopnost mimo sankce USA.
CloudMatrix384 integruje 384 Ascend 910C NPU a 192 Kunpeng CPU v jednom superuzlu, které jsou propojeny ultra-vysokorychlostní, nízkolatenční jednotnou sběrnicí (UB). Na rozdíl od tradičních hierarchických návrhů umožňuje peer-to-peer architektura „přímou komunikaci všeho se vším“, což umožňuje dynamické sdílení a nezávislé škálování výpočetních, paměťových a síťových zdrojů.
Návrh systému řeší významné výzvy při vytváření moderní AI infrastruktury, zejména pro architektury expertů (MoE) a distribuovaného přístupu k mezipaměti, což je považováno za základní pro operace s velkými jazykovými modely.
Výsledky výkonu Huawei CloudMatrix AI, i když byly provedeny interně, představují působivé metriky schopností systému. Pro porozumění číslům je užitečné přemýšlet o AI zpracování jako o konverzaci: fáze „předvyplnění“ je, když AI čte a „rozumí“ otázce, zatímco fáze „dekódování“ je, když generuje odpověď, slovo po slově.
Zdroj: CloudTech News
Zdroj: CLOUD & BACKUP NETWORK NEWS
Zdroj: ICT NETWORK NEWS
