Глава OpenAI назвал два сценария, которых необходимо избежать при развитии ИИ

ЕРЕВАН, 15 сентября. /АРКА/. Глава OpenAI Сэм Альтман назвал два сценария, которых необходимо избежать при развитии ИИ.

«Существует два сценария, при которых развитие искусственного интеллекта может пойти крайне негативным путем и которых необходимо избежать», - написал Альтман в X.

По его словам, «во-первых, мы можем потерять контроль над будущим из-за ИИ. Это неприемлемо. Мы безоговорочно на стороне человечества, и искусственный интеллект всегда должен служить людям».

«Для этого необходимо обеспечить, чтобы методы согласования ИИ с человеческими ценностями и технологии безопасности развивались быстрее, чем возможности самих моделей», - отметил Альтман.

Второй возможный риск, по словам Альтмана, заключается в чрезмерной концентрации власти.

«Мы можем оказаться в мире, где сосредоточено слишком много власти. Если чрезвычайно мощный ИИ будет использоваться одним человеком или одной компанией для навязывания собственного мировоззрения всем остальным, последствия могут оказаться крайне антиутопическими», — сказал он.

По мнению главы OpenAI, чтобы избежать этих двух угроз, необходимо найти очень тонкий баланс. В частности, опасность может возникнуть в случае, если слишком большую власть получит одна страна или если чрезмерное влияние окажется в руках одной лаборатории.