Нові моделі генеративного штучного інтелекту (genAI), представлені цього тижня компаніями Google і OpenAI, створили стрес для центрів обробки даних компаній, і обидві компанії намагаються наздогнати попит.
Генеральний директор OpenAI Сем Альтман у четвер написав у Х, що його компанія тимчасово обмежує використання графічних процесорів після надзвичайного попиту на службу генерації зображень на ChatGPT.
Цей крок відбувся через день після того, як OpenAI представила інструмент генерації зображень 4o . «Надзвичайно весело бачити, як людям подобаються зображення в ChatGPT. Але наші графічні процесори тануть», – написав Альтман у дописі на X.
OpenAI в основному покладається на графічні процесори Nvidia для забезпечення своєї служби ChatGPT, і в минулому стикався з проблемами, пов’язаними з перевантаженням інфраструктури ШІ. Альтман сказав, що OpenAI запровадить обмеження швидкості — що обмежує використання створення ШІ на графічних процесорах — доки система не стане більш ефективною.
Подібним чином Google також має справу зі сплеском попиту на свою модель Gemini 2.5 AI , яка вийшла у вівторок .
«Наразі ми бачимо величезний попит на Gemini 2.5 Pro і зосереджені на тому, щоб розробники якнайшвидше отримали вищі обмеження швидкості», — сказав Логан Кілпатрик, керівник продукту для інструментів розробника Google AI Studio, у дописі на X.
Google побудував свою інфраструктуру штучного інтелекту на своїх власних TPU (Tensor Processing Units) — спеціально створених мікросхемах, налаштованих для роботи з Gemini. TPU відрізняються від графічних процесорів, які можуть запускати широкий спектр AI, графічних і наукових програм.
Проблеми зі стрімким попитом є нагадуванням для підприємств, щоб забезпечити стабільну обчислювальну потужність, щоб запобігти простою штучного інтелекту, сказав Джим МакГрегор, головний аналітик Tirias Research. «Перехід до зображень, відео, агентів… сприятиме попиту на більше обчислювальних ресурсів штучного інтелекту в осяжному майбутньому», — сказав він.
OpenAI і Google широко використовуються окремими особами та підприємствами. Як правило, апаратному забезпеченню потрібен час, щоб наздогнати його, щоб ефективно працювати з новим програмним забезпеченням штучного інтелекту, а ненавмисні збої можуть вплинути на продуктивність компаній, вважають аналітики.
За словами Ділана Пателя, засновника консалтингової фірми SemiAnalysis, у OpenAI завжди були проблеми з пропускною здатністю під час запуску нових моделей. «Попит на штучний інтелект ненаситний», — сказав Патель.
No Comment! Be the first one.