ИИ ошибся в 100% случаев при поиске признаков внеземной жизни — исследование.

ЕРЕВАН, 9 июля. /АРКА/. Современные модели искусственного интеллекта могут быть ненадежными при поиске признаков внеземной жизни, показало исследование ученых из Университета штата Мичиган, сообщает ixbt.com со ссылкой на Popular Science.

Исследователи проверяли, насколько ИИ способен распознавать биомаркеры — признаки, которые могут указывать на существование живых организмов. Для эксперимента использовалась система Avida, моделирующая цифровую эволюцию.

Нейросеть обучили на десятках тысяч цифровых организмов, часть из которых содержала команду самокопирования, а часть — нет. На знакомых данных алгоритм показал почти идеальную точность классификации.

Однако после небольших изменений в программном коде модель начинала уверенно принимать ложные сигналы за признаки жизни. По словам одного из авторов исследования Анкита Гупты, ученым удавалось обмануть ИИ в 100% случаев.

Соавтор работы Кристоф Адами отметил, что проблема связана с уязвимостью моделей к данным, отличающимся от тех, на которых они обучались.

Авторы исследования считают, что выводы ИИ при поиске внеземной жизни должны проходить независимую проверку специалистами. По их мнению, человек должен оставаться частью процесса принятия решений в научных задачах, особенно если речь идет о возможном обнаружении жизни за пределами Земли.