OpenAI внедрит невидимую маркировку текстов ChatGPT в ЕС

ЕРЕВАН, 6 октября. /АРКА/. OpenAI в ближайшие недели начнет добавлять невидимые водяные знаки к текстам, созданным ChatGPT и Codex для пользователей в Европейском Союзе, в рамках требований Закона ЕС об искусственном интеллекте, сообщила компания.

По данным OpenAI, специальная технология будет добавлять в текст статистический сигнал, позволяющий определить, был ли он создан ее ИИ-системами. При этом компания подчеркивает, что технология пока имеет ограничения: точность обнаружения зависит от длины и содержания текста, а редактирование, перевод или замена слов могут существенно ослабить маркировку.

OpenAI отмечает, что водяной знак не позволяет определить личность пользователя, степень участия человека в создании текста или достоверность содержащейся в нем информации. При этом отсутствие обнаруженного водяного знака также не означает, что текст написан человеком.

На первом этапе доступ к специальному детектору OpenAI предоставит исследователям и профильным организациям для оценки надежности технологии. Для пользователей API по всему миру компания также вводит возможность добровольно включать маркировку текстов для отдельных моделей.

OpenAI заявила, что рассматривает маркировку текста как часть более широкой системы определения происхождения контента и намерена продолжать совершенствовать технологию по мере развития стандартов и накопления практического опыта.