Anthropic сообщила в уточнённой форме S-1/A, что её будущие модели вскоре могут достичь порога «обусловленного ИИ значительного ускорения прогресса».
Компания уже применяет ИИ в исследованиях и разработке, в том числе при создании новых моделей. По её данным, ни одна из нынешних моделей пока не преодолела указанный порог; анализ данных продолжается.
Anthropic предупредила, что использование ИИ в разработке может ускорить рост возможностей моделей быстрее, чем создание и проверку средств безопасности. Компания признала, что раньше уже упускала из виду значительное ускорение развития моделей.
Anthropic также не рассчитывает в значительной мере полагаться на существующие ИИ-системы при полностью автономном создании следующих поколений передовых моделей без значимого контроля или понимания со стороны человека.