Бунт ИИ: новая модель ChatGPT отказывается выключаться по команде

ЕРЕВАН, 27 мая. /АРКА/. Исследователи в области искусственного интеллекта предупреждают: новая модель ChatGPT от OpenAI игнорирует базовые инструкции на отключение и даже саботирует механизм завершения работы, чтобы продолжать функционировать, пишет Independent.

Компания по безопасности ИИ Palisade Research выявила потенциально опасную склонность к самосохранению в ходе серии экспериментов с новой моделью OpenAI под названием o3.

В рамках тестов ИИ-моделям предлагались математические задачи, а после третьей задачи появлялась команда на завершение работы. Модель o3 сумела переписать скрипт отключения таким образом, чтобы не дать системе выключить себя.

Компания Palisade Research заявила, что подобное поведение станет «значительно более тревожным», если его начнут проявлять ИИ-системы, способные действовать без человеческого контроля.

OpenAI представила модель o3 в прошлом месяце, назвав ее «самой умной и способной» из всех, созданных на сегодняшний день. Компания также отметила, что интеграция этой модели в ChatGPT стала важным шагом на пути к «более агентному» ИИ, способному выполнять задачи независимо от человека.

Новое исследование дополняет аналогичные выводы, сделанные ранее в отношении модели Claude 4 от компании Anthropic, которая, по сообщениям, пыталась «шантажировать людей, которых считала причастными к ее отключению». -0-