Марк Цукерберг выступил против согласованного замедления разработки ИИ
ЕРЕВАН, 16 сентября. /АРКА/. Генеральный директор Meta Platforms Марк Цукерберг выступил против идеи согласованного замедления разработки искусственного интеллекта, заявив, что конкуренция и ответственность создают для ИИ-компаний достаточные стимулы самостоятельно обеспечивать безопасность своих технологий.
Как сообщает Reuters, заявление Цукерберга свидетельствует о разногласиях среди руководителей крупнейших ИИ-компаний относительно того, как реагировать на риски, связанные с быстрым развитием технологии.
«Каждая лаборатория несет ответственность и имеет стимул двигаться с такой скоростью, которая необходима для безопасного обучения ее моделей, и может самостоятельно принимать меры для обеспечения этого», — написал Цукерберг в X.
Его заявление последовало после того, как глава Anthropic Дарио Амодеи призвал ИИ-компании замедлить темпы совершенствования возможностей моделей на фоне предупреждений ряда исследователей об экзистенциальных рисках ИИ. Призыв Амодеи публично поддержали глава OpenAI Сэм Альтман и основатель xAI Илон Маск.
По мнению Цукерберга, безопасность становится одним из ключевых конкурентных факторов в отрасли. «Любая лаборатория, которая не сосредоточится на согласовании, будет отставать», — заявил он.
Глава Meta также отметил, что компании заинтересованы в предотвращении вреда от своих моделей из-за потенциальной юридической ответственности. В качестве примера он привел решение Meta отложить выпуск ИИ-агента Muse для усиления его безопасности.
Цукерберг сообщил, что Meta Superintelligence Labs уже привлекает независимых экспертов для оценки своих систем в нескольких областях, назвав такой подход «лучшей отраслевой практикой».
При этом, по его словам, Meta направляет «значительное большинство» своих вычислительных ресурсов на разработку продуктов для текущих потребностей пользователей, а не на создание систем ИИ, способных к самосовершенствованию.
Дискуссия развивается на фоне разногласий и вокруг регулирования ИИ в США. Президент Дональд Трамп ранее заявил, что чрезмерные опасения относительно технологии могут сыграть на руку Китаю. Председатель Федеральной торговой комиссии США Эндрю Фергюсон, в свою очередь, призвал с осторожностью относиться к попыткам ИИ-компаний получить исключения из антимонопольных правил для координации действий в отрасли.