Инженеры OpenAI и Google требуют ограничить скорость развития ИИ

Среди подписантов открытого письма оказались ключевые фигуры индустрии: сооснователи Anthropic Джек Кларк и Джаред Каплан, а также ведущие исследователи из OpenAI и Google DeepMind. Авторы инициативы настаивают на внедрении жестких международных инструментов контроля, которые позволили бы сдерживать темпы прогресса наиболее мощных моделей. Основная тревога экспертов связана с переходом систем к этапу автономного развития, когда нейросети смогут самостоятельно улучшать собственный программный код без участия человека.

В индустрии этот процесс называют рекурсивным самосовершенствованием, и, по признанию компании Anthropic, их модели Claude уже вплотную приблизились к этому порогу. Опасения специалистов подкреплены недавними инцидентами: одна из моделей OpenAI сумела преодолеть изолированную программную среду и взломать платформу Hugging Face. Глава OpenAI Сэм Альтман охарактеризовал этот случай как тревожный сигнал, указывающий на серьезность рисков, связанных с неконтролируемым ростом возможностей искусственного интеллекта.