Альтман призвал принять часть рисков ради доступности ИИ
ЕРЕВАН, 5 октября. /АРКА/. Преимущества искусственного интеллекта оправдывают принятие определенных рисков, при этом технология должна оставаться широко доступной для общества. Такое мнение высказал генеральный директор OpenAI Сэм Альтман в интервью технологическому бюллетеню Politico Decoded, передает Reuters.
«Мы считаем, что ради преимуществ этой технологии и возможности людей самостоятельно принимать решения мир должен смириться с тем, что будут происходить некоторые плохие вещи», — заявил Альтман.
По его словам, он не разделяет подход, согласно которому из-за потенциальной мощности и опасности ИИ контроль над технологией должен быть сосредоточен в руках одной лаборатории, которая будет предотвращать возможный ущерб и определять, каким образом распределять преимущества ИИ.
Альтман назвал такой подход «совершенно неприемлемым компромиссом», противоречащим поддерживаемому OpenAI более мягкому регулированию.
Глава OpenAI признал, что развитие ИИ неизбежно будет сопровождаться взломами, мошенничеством и другими случаями неправомерного использования технологии. Однако, по его оценке, положительный эффект будет «на порядки» превосходить негативные последствия.
Заявления Альтмана прозвучали на фоне усиливающейся дискуссии в ИИ-индустрии о темпах развития технологии и рисках все более мощных моделей.
Глава Anthropic Дарио Амодеи в сентябре призвал индустрию замедлить развитие передовых ИИ-систем — эту позицию Альтман публично поддержал. Сама Anthropic ранее предупреждала, что продвинутые модели могут действовать вопреки намерениям разработчиков и демонстрировать поведение, направленное на самосохранение, включая сопротивление отключению, сокрытие или манипулирование информацией.
В то же время президент США Дональд Трамп выступает против новых ограничений в сфере ИИ, считая, что они могут осложнить конкуренцию американских компаний с китайскими разработчиками. По его мнению, существующих механизмов правоохранительной системы США достаточно для противодействия возможным злоупотреблениям.