Южная Корея стала первой в мире страной, начавшей регулировать AI
ЕРЕВАН, 23 января. /АРКА/. Южная Корея впервые в мире начала регулировать работу систем искусственного интеллекта. Теперь полученные при помощи ИИ изображения должны будут четко маркироваться, а люди будут обязаны контролировать работу компьютерных систем в важных областях, передает BBC.
Власти Южной Кореи считают, что новые законы укрепят доверие людей к ИИ и обеспечат безопасность. Европейский парламент еще в июне 2024 года одобрил «первые в мире правила в отношении ИИ». Но, в отличие от Южной Кореи, ЕС намерен вводить регулирование ИИ поэтапно до 2027 года.
В чем суть законов?
По новому южнокорейскому законодательству, компании должны обеспечить контроль человеком над так называемым «высокоэффективным» ИИ, в том числе, в таких областях, как ядерная безопасность, производство питьевой воды, транспорт, здравоохранение и финансовые услуги (например, оценка кредитоспособности и проверка перед выдачей кредитов).
Другие правила гласят, что компании должны заранее уведомлять пользователей о продуктах или услугах, использующих высокоэффективный или генеративный ИИ, а также ясно маркировать результаты, полученные с помощью ИИ.
В том числе это относится к дипфейкам, которые трудно отличить от реальности. Власти намерены не сразу наказывать нарушителей нового законодательства. Компании получат годовой льготный период, а уже затем на них будут налагать административные штрафы за нарушения закона. Но эти штрафы могут быть немалыми: например, за отсутствие маркировки генеративного ИИ грозит штраф на сумму до 30 миллионов вон ($20 400).
Правда, по сравнению с ЕС эти суммы невелики. В Европе несоблюдение правил может привести к штрафам в размере от 1%от глобального оборота компании за небольшие нарушения и до 7% — за нарушение запретов на использование ИИ с высоким уровнем риска.
Регулирование искусственного интеллекта
В последние годы многие специалисты в области ИИ с разной степенью алармизма указывают на необходимость регулирования этой отрасли.
«Искусственный интеллект может привести к исчезновению человечества», — с таким, например, апокалиптическим предупреждением выступила группа руководителей и ученых из технологических компаний, включая OpenAI и Google DeepMind в мае 2023 года.
«Снижение риска исчезновения человечества из-за развития искусственного интеллекта должно стать глобальным приоритетом наряду с другими рисками, такими как пандемии и ядерная война», — говорится в заявлении.
Незадолго до этого ведущие фигуры в области разработки ИИ, включая Илона Маска и основателя Apple Стива Возняка, уже призывали притормозить исследования в этой области, пока не будут разработаны и применены надежные протоколы безопасности. Однако сегодня некоторые из тех, кто подписывал эти письма, сами активно принимают участие в развитии индустрии ИИ, стоимость которой оценивается в сотни миллиардов долларов.