Groq выводит на рынок новое поколение инструментов для разработки ИИ
В мире искусственного интеллекта продолжается революция, и Groq готовится стать новым игроком на рынке. Компания Groq, основанная Джонатаном Россом, разрабатывает альтернативу доминированию Nvidia в области ИИ. Росс недавно продемонстрировал мощность своего чипа AI PU Inference Engine на CNN, что вызвало значительный интерес в индустрии.
Разговоры о Groq начались на платформе X (ранее известной как Twitter), когда Мэтт Шумер, генеральный директор HypeWriteAI и OthersideAI, восторженно отозвался о движке вывода AI PU от Groq, сообщив о Mixtral, работающем со скоростью почти 500 ток/с (другими словами, предоставляющем мгновенные ответы), и вскоре после этого представил демонстрацию.
Nvidia делает ставку на то, что с ростом прибыли на 265% по сравнению с прошлым годом она сохранит доминирование. Однако Groq утверждает, что его технология использует в среднем только десятую часть энергии, потребляемой Nvidia GPU. Это может быть решающим фактором в будущем, когда энергопотребление будет только расти. Росс заявил, что к следующему году более половины глобальных вычислений по ИИ будут выполняться на чипах Groq.
Джонатан Росс будет выступать на конференции VB Remodel 2024, где он поделится своими видением будущего ИИ и продемонстрирует мощность чипа Groq. Он также расскажет о том, почему эффективность является ключевым фактором в развитии ИИ и как Groq готовится изменить ландшафт вычислений. Конференция VB Remodel 2024 состоится с 9 по 11 июля в Сан-Франциско.
Groq не единственный игрок в борьбе за доминирование в мире ИИ. Компании, такие как Meta, также активно инвестируют в технологию. Meta* планирует приобрести около 350 000 процессоров Nvidia H100 к концу 2024 года, что значительно превышает инвестиции Groq. Это интенсивное накопление чипов ИИ привело к ожесточённой конкуренции за привлечение лучших талантов в отрасли ИИ.
* Компания Meta (социальные сети Instagram и Facebook) признана экстремистской организацией на территории Российской Федерации