ИИ может научиться самостоятельно распространяться по интернету уже к концу 2026 года – Anthropic
Сегодня,
11:12
Американская компания Anthropic предупредила о потенциальной угрозе, связанной с развитием искусственного интеллекта
ЕРЕВАН, 14 октября. /АРКА/. Американская компания Anthropic предупредила о потенциальной угрозе, связанной с развитием искусственного интеллекта: уже к концу 2026 года ИИ-модели могут получить возможности, необходимые для автономного самовоспроизведения и распространения между устройствами через интернет, пишет Reuters.
Это может создать новые серьёзные проблемы для кибербезопасности, хотя эксперты расходятся в оценках вероятности такого сценария.
Anthropic описала гипотетическую ситуацию, при которой вышедший из-под контроля ИИ способен создавать ботнеты — сети заражённых устройств, самостоятельно распространяться, противодействовать попыткам отключения и даже пытаться проникать в центры обработки данных ради получения дополнительных вычислительных мощностей.
По данным компании, эксперименты показали, что ИИ-модели среднего размера, содержащие до 30 миллиардов параметров, уже способны выполнять многие отдельные задачи, необходимые для самовоспроизведения. При этом надёжно осуществить весь процесс целиком они пока не могут. Anthropic также сообщила, что ей удалось продемонстрировать распространение модели в упрощённой тестовой сети.
Компания предполагает, что такие системы потенциально смогут использовать уязвимые устройства, подключённые к интернету, для получения необходимых вычислительных ресурсов. В дальнейшем они могут попытаться получить доступ и к более мощным системам, включая оборудование центров обработки данных.
По мнению Anthropic, подобную угрозу будет сложно нейтрализовать, если вредоносная система сможет распространяться между множеством устройств без зависимости от единого центрального сервера. В таком случае отключение одного узла не обязательно остановит её распространение.
Предупреждение развивает высказанную в прошлом месяце позицию генерального директора Anthropic Дарио Амодея, который допустил, что в течение ближайшего года или даже раньше искусственный интеллект может создать устойчивую сеть ботов, способную распространиться по всему интернету.
Таким образом, предупреждение Anthropic отражает растущую обеспокоенность специалистов тем, что дальнейшее развитие ИИ может упростить автоматизацию кибератак и усложнить их обнаружение и остановку.
Это может создать новые серьёзные проблемы для кибербезопасности, хотя эксперты расходятся в оценках вероятности такого сценария.
Anthropic описала гипотетическую ситуацию, при которой вышедший из-под контроля ИИ способен создавать ботнеты — сети заражённых устройств, самостоятельно распространяться, противодействовать попыткам отключения и даже пытаться проникать в центры обработки данных ради получения дополнительных вычислительных мощностей.
По данным компании, эксперименты показали, что ИИ-модели среднего размера, содержащие до 30 миллиардов параметров, уже способны выполнять многие отдельные задачи, необходимые для самовоспроизведения. При этом надёжно осуществить весь процесс целиком они пока не могут. Anthropic также сообщила, что ей удалось продемонстрировать распространение модели в упрощённой тестовой сети.
Компания предполагает, что такие системы потенциально смогут использовать уязвимые устройства, подключённые к интернету, для получения необходимых вычислительных ресурсов. В дальнейшем они могут попытаться получить доступ и к более мощным системам, включая оборудование центров обработки данных.
По мнению Anthropic, подобную угрозу будет сложно нейтрализовать, если вредоносная система сможет распространяться между множеством устройств без зависимости от единого центрального сервера. В таком случае отключение одного узла не обязательно остановит её распространение.
Предупреждение развивает высказанную в прошлом месяце позицию генерального директора Anthropic Дарио Амодея, который допустил, что в течение ближайшего года или даже раньше искусственный интеллект может создать устойчивую сеть ботов, способную распространиться по всему интернету.
Таким образом, предупреждение Anthropic отражает растущую обеспокоенность специалистов тем, что дальнейшее развитие ИИ может упростить автоматизацию кибератак и усложнить их обнаружение и остановку.