ChatGPT получает функции персонального ассистента. Но есть и риски

ЕРЕВАН, 18 июля. /АРКА/. Пользователи ChatGPT смогут попросить ИИ-агента найти бронирование столиков в ресторанах, онлайн-покупки и даже составление списков кандидатов на вакансии — начиная с четверга чат-бот получает функции персонального ассистента, пишет The Guardian.

Агент ChatGPT, запущенный компанией OpenAI, не только «думает», но и действует, сообщили в американской компании. Агент объединяет возможности исследовательских инструментов ИИ с управлением веб-браузерами, компьютерными файлами и программами, такими как электронные таблицы и презентации.

Запуск последовал за презентацией аналогичных «агентов» от Google и Anthropic — на фоне растущего интереса к ИИ-моделям, способным самостоятельно выполнять задачи на компьютере, выбирая нужное ПО и переключаясь между системами для выполнения таких заданий, как составление маршрутов поездок или проведение рабочих исследований.

«Надежда состоит в том, что агенты действительно будут полезны пользователям — они будут выполнять задачи, а не просто выдавать красиво оформленный текст и звучать впечатляюще», — сказала Ниам Бернс, старший медиа-аналитик в компании Enders Analysis.

Однако в OpenAI признают, что даже ограниченный доступ ИИ-агента к компьютерным системам несет в себе больше рисков, чем у предыдущих моделей.

Хотя агент предназначен для помощи в повседневных задачах, его потенциальные возможности заставили OpenAI внедрить меры предосторожности, чтобы не допустить создания биологических угроз с его помощью.

Еще один важный риск — это возможность того, что агент станет жертвой вредоносных команд, скрытых на посещаемых сайтах, которые, например, могут потребовать передать пользовательские данные.

OpenAI заявила, что провела множество проверок безопасности и обучила агента отклонять подозрительные запросы, включая требования о переводе средств. Система сначала будет доступна подписчикам платных версий ChatGPT: «Pro», «Plus» и «Teams».