OpenAI готова делиться опытом, полученным при разработке собственного ИИ-чипа Jalapeno, с другими участниками рынка. Компания заинтересована в более быстром выходе новых моделей чипов от других поставщиков, которые тоже применяются в её инфраструктуре.
OpenAI не откажется от компонентов AMD и Nvidia — они продолжат использоваться в вычислительной инфраструктуре компании. Главное, чтобы аппаратная конфигурация ЦОД была эффективной по соотношению производительности и затрат.
По словам вице-президента OpenAI по аппаратному обеспечению Ричарда Хо, к созданию своего чипа подтолкнуло стремление повысить эффективность вычислений в условиях дефицита ИИ-ресурсов. Чипы для инференса сейчас во многом определяют пользовательский опыт, поэтому Jalapeno заточен именно под снижение задержек при обработке запросов.
Новые поколения чипов OpenAI будет выпускать по мере готовности, без жёсткого графика анонсов. Каждое следующее поколение должно давать заметный прирост производительности, поэтому смена версий не будет частой.
Jalapeno разрабатывался так, чтобы хорошо работать не только с моделями OpenAI, но и с решениями других поставщиков. Адаптация под новые модели, не учтённые при создании чипа, занимает всего пару месяцев. При этом Хо считает, что внутренний спрос OpenAI на вычислительные ресурсы настолько велик, что о поставках Jalapeno внешним заказчикам говорить пока рано.
Jalapeno был представлен в июне — в его разработке активно участвовали специалисты Broadcom. В интервью Tom's Hardware Хо рассказал, как шла работа над чипом и чем этот опыт может быть полезен всей полупроводниковой отрасли.
Использование ИИ на этапе проектирования позволило сократить срок разработки с традиционных 18–24 месяцев до девяти. Говорить о замене инженеров искусственным интеллектом пока рано — небольшая команда специалистов просто стала работать эффективнее.
Пришлось пойти на компромиссы в архитектуре, так как сжатые сроки были приоритетом. В будущем, при создании более сложных чипов, OpenAI сможет действовать быстрее традиционных методов, опираясь на ИИ и уже готовый дизайн.