Что такое GPU — и почему ИИ считают на видеокартах для игр

Странная на вид правда: искусственный интеллект считают на видеокартах. Тех самых, что ставят в компьютер ради красивой картинки в играх. Когда говорят «не хватает GPU для ИИ» или «компания закупила тысячи видеокарт» — речь буквально про железку, которая рисует игры. Почему так вышло? Сейчас разберём, и это объяснит половину новостей про ИИ.

Что такое GPU простыми словами

GPU — это Graphics Processing Unit, графический процессор. По-русски — видеокарта (точнее, её главный чип). Изначально её работа была одна: рисовать на экране миллионы точек-пикселей, причём очень быстро, чтобы игра не тормозила.

Рядом всегда есть второй мозг — CPU, центральный процессор. Он управляет всем компьютером. Разница между ними — ключевая, и в ней вся соль.

CPU против GPU — несколько умных против тысячи простых

Представь так. CPU — это пара очень умных работников. Каждый берёт сложную задачу и делает её шаг за шагом, по очереди. Отлично, когда задач немного, но они хитрые.

GPU — это тысячи простых работников. Каждый умеет немного, зато их очень много, и все они работают одновременно. Плохо для одной хитрой задачи. Зато идеально, когда надо сделать миллион одинаковых маленьких вычислений разом.

Рисование игры — это как раз миллион одинаковых операций: посчитать цвет каждого пикселя. Поэтому видеокарты такими и сделали.

При чём тут ИИ

А теперь главный поворот. Внутри нейросети почти все вычисления — это умножение огромных таблиц чисел друг на друга. Миллионы одинаковых маленьких операций. Точь-в-точь то, для чего создавали видеокарту.

Получилось случайное, но идеальное совпадение. Железо, которое десятилетиями оттачивали ради игр, оказалось ровно тем, что нужно для обучения и работы моделей. Поэтому:

• Обучить большую модель без GPU почти невозможно — на обычном процессоре это заняло бы годы.
• Каждый твой запрос к ИИ (инференс) считается на видеокартах в дата-центре.
• Видеокарты стали дефицитом и стоят как машина — за них идёт настоящая гонка между компаниями.

Вывод, который останется с тобой: когда слышишь «нужно больше GPU», переводи это как «нужно больше той самой игровой железки, потому что ИИ — это гора одинаковых умножений».

Нужен ли GPU тебе

Чтобы собирать приложения с ИИ — почти наверняка нет. Ты обращаешься к модели через интернет, и видеокарты крутятся где-то в дата-центре, не у тебя дома. Ты платишь за ответ, а не за железо.

GPU дома пригодится в одном случае: если захочешь запустить открытую модель прямо на своём компьютере, без интернета. Тогда видеокарта (или даже свежий ноутбук) будет считать сама. Но для старта это не обязательно — начни с моделей по сети.

GPU и видеокарта — это одно и то же?

В быту да. Видеокарта — это плата целиком, а GPU — её главный чип, который и делает всю работу. В разговорах их обычно не различают, и это нормально.

Почему все говорят про NVIDIA?

NVIDIA делает большинство GPU, на которых работает современный ИИ, и софт для них. Поэтому компания оказалась в центре всего бума — её чипы и есть тот самый дефицит.