Недавний отчет сообщает о том, что OpenAI начала использовать процессоры от Google вместо традиционных графических процессоров (GPU) от NVIDIA для некоторых своих вычислительных нужд. Согласно источнику, цитируемому The Information, OpenAI решила перейти на TPU (тензорные процессоры) Google, чтобы сократить операционные расходы.
До сих пор считалось, что OpenAI использует GPU от NVIDIA для своих продуктов, включая ChatGPT, но отчет подчеркивает, что компания ищет способы снизить затраты. TPU от Google, которые были выпущены в апреле, идеально подходят для инференса в ИИ — процесса, с помощью которого модели генерируют результаты на основе запросов пользователей.
Этот шаг стал особенно актуален после того, как OpenAI столкнулась с высокой нагрузкой на оборудование NVIDIA, особенно когда было запущено новое направление для генерации изображений в начале этого года. Снижение затрат стало основным приоритетом для компании, что и привело к переходу на процессоры Google для некоторых задач.
Хотя обучение моделей ИИ важно, именно инференс — обработка запросов пользователей — является ключевым моментом для ИИ чипов. TPU от Google оптимизированы для этой задачи, и OpenAI уже использует их для своих продуктов, включая ChatGPT. Стоит отметить, что Google активно развивает не только железо, но и программное обеспечение, такие как модели Gemini, которые интегрируются в сервисы, такие как Gmail и Google Search.
С учетом того, что цена на GPU NVIDIA растет, а поставки ограничены, альтернативы, такие как TPU от Google, становятся привлекательными. Если Google удастся убедить облачных провайдеров использовать свои чипы, это может серьезно повлиять на рынок и отвоевать часть доли у NVIDIA. Это, в свою очередь, может разрушить монополию NVIDIA в сфере высокопроизводительных ИИ чипов.