Nature: исследования указывают на риск ослабления профессиональных навыков при активном использовании AI
ЕРЕВАН, 16 сентября. /АРКА/. Активное использование искусственного интеллекта способно не только повышать производительность специалистов, но и создавать риск постепенного ослабления навыков, которые человек передает AI-системам. На это указывают первые исследования влияния AI на врачей и программистов, пишет Nature.
Издание рассматривает феномен так называемого deskilling — ослабления профессиональных навыков из-за регулярной передачи части интеллектуальной работы автоматизированным системам.
Один из наиболее показательных примеров обнаружен в медицине.
Исследователи проанализировали работу специалистов четырех центров эндоскопии в Польше, где в конце 2021 года начали регулярно применять AI для обнаружения полипов во время колоноскопии.
Ученые сравнили, насколько успешно врачи обнаруживали аденомы при проведении обычной колоноскопии без AI до внедрения технологии и после того, как специалисты получили опыт регулярной работы с AI.
В анализ вошли 1443 процедуры без AI.
До внедрения искусственного интеллекта врачи обнаруживали аденомы в 28,4% таких исследований. После периода регулярного использования AI показатель при работе уже без системы снизился до 22,4%.
Абсолютное снижение составило 6 процентных пунктов и было статистически значимым.
Авторы исследования, опубликованного в The Lancet Gastroenterology & Hepatology, осторожно интерпретируют результаты: постоянное использование AI могло изменить поведение врачей при самостоятельном проведении процедуры.
Похожий вопрос исследователи изучают и в программировании.
В эксперименте с 52 разработчиками участники, ранее не работавшие с изучаемой библиотекой асинхронного программирования, осваивали ее с помощью AI или самостоятельно.
Использование AI ухудшало усвоение концепций, способность читать код и навыки отладки. Особенно заметным эффект оказался у участников, которые фактически передавали AI выполнение основной части задачи.
При этом исследователи обнаружили важное различие между способами использования технологии. Некоторые модели взаимодействия с AI, при которых человек продолжал активно анализировать задачу и контролировать процесс, позволяли сохранить результаты обучения.
Это означает, что проблема может заключаться не в использовании AI как такового, а в степени передачи ему интеллектуальной работы.
Исследователи предупреждают о возможном парадоксе: чем лучше AI выполняет профессиональные задачи, тем меньше возможностей у человека самостоятельно практиковать навыки, необходимые для проверки работы самого AI.
Это особенно существенно в сферах, где человек должен оставаться последней линией контроля — например, в медицине, программировании и других областях, где ошибка автоматизированной системы может иметь серьезные последствия.
Однако говорить о доказанной массовой деградации профессиональных навыков пока преждевременно. Количество исследований остается ограниченным, а исследование программистов пока опубликовано в виде препринта и не прошло журнальное рецензирование.
Нынешние результаты скорее указывают на новый риск внедрения AI: компаниям и специалистам может потребоваться выстраивать рабочие процессы так, чтобы искусственный интеллект повышал производительность, не заменяя полностью практику, необходимую для сохранения профессиональной компетентности.