Чому AI-чипи для дата-центрів стали найгарячішим товаром у світі техніки

Ще кілька років тому графічні процесори асоціювалися передусім з іграми. Сьогодні найдорожчі з них працюють у дата-центрах і навчають великі мовні моделі.

Чому саме GPU

Навчання нейромережі — це мільярди однотипних обчислень. Графічні прискорювачі виконують тисячі таких операцій паралельно, тому справляються з цим набагато швидше за звичайні процесори.

Скільки їх потрібно

Для навчання великої моделі компанії об’єднують тисячі прискорювачів у кластери, з’єднані швидкою мережею. Це величезні інвестиції — і причина, чому виробники чипів стали одними з найдорожчих компаній світу.

Зворотний бік

• Енергія. Великі дата-центри споживають стільки електрики, скільки невелике місто.
• Охолодження. Дедалі частіше використовують рідинне охолодження.
• Дефіцит. Попит досі перевищує пропозицію, тому чипи замовляють на місяці вперед.

Що далі

Конкуренти розробляють власні спеціалізовані чипи, а великі хмарні компанії — свої. Тож у найближчі роки ринок, імовірно, стане різноманітнішим.