Anthropic выявила новые случаи опасного использования ИИ для кибератак и биологических исследований  

ЕРЕВАН, 11 сентября. /АРКА/. Компания Anthropic заявила о выявлении и блокировке новых случаев злоумышленного использования ее моделей искусственного интеллекта для кибератак, слежки, политической пропаганды и исследований, которые потенциально могут быть связаны с разработкой биологического оружия, пишет Euronews.

По данным компании, с декабря 2025 года по август 2026 года были зафиксированы злоупотребления со стороны различных групп, включая поставщиков шпионского ПО, политически мотивированных активистов и поддерживаемые государством структуры.

Anthropic отметила, что развитие ИИ снижает порог технических знаний, необходимых для проведения сложных кибератак. Одновременно компания усилила защиту новых моделей от запросов, связанных с опасными биологическими исследованиями.

В частности, системы Anthropic заблокировали попытку использовать Claude для подготовки исследования по генетическому изменению вируса чикунгунья с целью повышения его заразности и способности уклоняться от иммунной системы.

Компания также выявила несколько операций по созданию фальшивых аккаунтов в социальных сетях для распространения политической пропаганды. Anthropic заявила, что способна обнаруживать подобные кампании еще на стадии их подготовки с помощью своих моделей.

В компании подчеркнули, что по мере роста возможностей искусственного интеллекта увеличиваются и риски его злоумышленного применения. Anthropic сообщила, что заблокировала выявленные атаки, усилила меры безопасности и передала соответствующую информацию государственным органам и отраслевым партнерам.

Публикация отчета состоялась спустя два дня после ухода исследователя Anthropic Джейкоба Коксона, который выразил обеспокоенность тем, что компании в сфере ИИ слишком быстро развивают технологию в стремлении создать самоулучшающийся сверхразум.