Компанія Ілона Маска xAI почала тренування найпотужнішого у світі AI кластера на базі 100 000 чипів Nvidia H100, розташованого у Мемфісі.
Ілон Маск на своїй платформі X повідомив, що його компанія xAI, яка розробляє великі мовні моделі (LLMs) Grok, розпочала тренування найпотужнішого AI кластера у світі. Кластер розташований у Мемфісі та використовує рідинно-охолоджувані чипи Nvidia H100, вартість яких становить близько $50 000 кожен.
Ці чипи з’єднані за допомогою Remote Direct Memory Access (RDMA), що забезпечує низьку затримку при передачі даних між вузлами без навантаження на процесор. Маск прогнозує, що до грудня цього року цей кластер стане найпотужнішим у світі за всіма показниками.
Раніше цього року Маск оголосив про плани побудувати суперкомп’ютер, який він також називає “Gigafactory of Compute”. За словами бізнесмена, суперкомп’ютер почне працювати восени 2025 року. На даний момент, Grok, AI асистент від xAI, доступний для платних підписників на платформі X. Компанія також оголосила про випуск версії Grok 2 наступного місяця та третьої моделі до кінця року. У травні xAI отримала інвестиції у розмірі $6 мільярдів від відомих інвесторів Силіконової долини для розвитку інфраструктури та прискорення досліджень і розробок майбутніх технологій.