OpenAI и Meta предупредили суды США о риске поддельных ИИ-доказательств
ЕРЕВАН, 16 октября. /АРКА/. Эксперты OpenAI и Meta предупредили судебные органы США о растущих рисках использования поддельных аудио- и видеодоказательств, созданных искусственным интеллектом (ИИ). По их оценке, технологии генеративного ИИ достигли уровня, при котором отличить дипфейки от подлинных материалов становится все сложнее как людям, так и программному обеспечению, сообщает Reuters.
Представители компаний выступили на заседании Консультативного комитета по правилам доказывания Судебной конференции США в Бостоне, где обсуждались вопросы проверки подлинности цифровых доказательств и возможного регулирования использования ИИ в судебных процессах.
«Изображения, создаваемые искусственным интеллектом, становятся только лучше, и я не думаю, что в будущем появится научный способ их обнаружения», — заявила юрисконсульт OpenAI по вопросам политики Шира Андерсон.
Директор по управлению продуктами Meta Девин Нордер отметил, что контент, создаваемый передовыми моделями ИИ последних поколений, уже практически неотличим для человека от подлинных материалов. При этом затраты и время на его создание стали незначительными.
Крупные технологические компании, включая OpenAI и Meta, внедряют инструменты проверки подлинности цифрового контента. В Калифорнии и Евросоюзе также приняты законы, предусматривающие использование цифровых водяных знаков для выявления дипфейков. Однако, по словам Андерсон, отсутствие единого стандарта не позволяет надежно обнаруживать все такие маркировки и гарантировать подлинность материалов.
Несмотря на технологические риски, случаи оспаривания доказательств из-за дипфейков пока остаются редкими. Согласно опубликованным в марте данным Федерального судебного центра США, лишь 15 из 931 опрошенного судьи сталкивались с делами, в которых одна из сторон оспаривала доказательства как созданные с помощью дипфейков.
В связи с этим часть представителей судебной системы призывает не спешить с введением специальных правил для ИИ. Федеральный судья Валери Капрони отметила, что действующее законодательство уже запрещает представление сфальсифицированных доказательств и позволяет судьям проверять их подлинность.
Тем не менее комитет сформировал специальный подкомитет для дальнейшего изучения проблемы использования дипфейков в судебных разбирательствах.