С воскресенья Европейский союз получает право проверять, соблюдают ли компании знаковые правила об искусственном интеллекте, и штрафовать тех, кто их нарушает, сообщает немецкое новостное издание ausnews.de
У ЕС уже есть самый обширный в мире набор цифровых законов — он охватывает соцсети, интернет-магазины и поисковики, — и в этом году появятся новые нормы.
Ещё в 2024 году ЕС принял большой закон об ИИ — «Закон об ИИ» (AI Act). Но вводится он в силу не сразу, а частями, по этапам.
С воскресенья у ЕС — новые полномочия в сфере ИИ
Главная идея закона — оценивать риски. Чем выше риск того, что технология навредит правам или здоровью людей, тем больше у компаний обязанностей по защите пользователей.
Закон прямо запрещает: использовать ИИ для «предсказывающей» полицейской работы, ставить системы распознавания эмоций на работе или в школах, а также применять ИИ, который манипулирует поведением людей.
С воскресенья контент, созданный ИИ — например, дипфейки, — обязательно нужно помечать как сгенерированный. А компании должны следить, чтобы их ИИ-системы, скажем чат-боты, прямо предупреждали пользователей: «я — искусственный интеллект».
Компаниям, у которых уже есть работающие ИИ-системы, дают время подстроиться под новые правила — до 2 декабря. Исключение сделали для произведений искусства, творчества, сатиры и художественного вымысла — на них строгие требования не распространяются.
Право следить за исполнением закона
С воскресенья европейские регуляторы из Управления по ИИ получают полномочия следить, соблюдают ли компании правила блока в отношении самых мощных моделей ИИ.
В этом регулирующем органе, который работает при исполнительной власти ЕС, будут работать десятки специалистов — технических экспертов, юристов и экономистов. Управление по ИИ сможет тестировать самые продвинутые универсальные модели — например, чат-боты, — чтобы проверить, соответствуют ли они закону.
Компании обязаны будут дать ЕС доступ к своим моделям, а в некоторых случаях, по словам представителя ЕС, ЕС сможет потребовать такой доступ ещё до того, как модель выйдет на рынок.
Если у ЕС возникнут опасения по поводу модели, а разработчик на них не ответит, ЕС сможет ограничить её использование на территории союза.
Эти полномочия появляются очень вовремя. В этом году у ЕС были сложности с доступом к модели Mythos от американской компании Anthropic — но правила, вступающие в силу в воскресенье, должны исключить повторение подобных проблем в будущем.
Что касается менее мощных, небольших систем ИИ — следить за их соблюдением правил будут уже национальные регуляторы отдельных стран. Если ЕС обнаружит, что компания нарушает правила, он сможет потребовать устранить нарушение, а если компания этого не сделает — оштрафовать её.
Самые крупные штрафы грозят тем, кто допускает использование своих систем в полностью запрещённых целях: до 7% от годового мирового оборота компании или 35 миллионов евро (40 миллионов долларов) — в зависимости от того, какая сумма окажется больше.
За остальные нарушения штраф может составить до 3% годового мирового оборота или 15 миллионов евро. Оштрафовать компанию могут и в том случае, если она мешает расследованию ЕС или отказывается с ним сотрудничать.
Что дальше?
В конце этого года и в последующие годы вступят в силу и другие части «Закона об ИИ».
С декабря начнёт действовать запрет на ИИ-системы, которые создают сексуализированные дипфейки. Его ввели после мировой волны возмущения, вызванной тем, что чат-бот Илона Маска Grok создавал обнажённые изображения людей без их согласия.
Также ЕС решил дать компаниям больше времени на подготовку и перенёс на более поздний срок часть правил для «высокорисковых» систем ИИ — то есть тех моделей, которые считаются потенциально опасными для безопасности, здоровья или основных прав людей.
Эти правила начнут применяться к самостоятельным высокорисковым ИИ-системам с декабря 2027 года, а к ИИ-инструментам, встроенным в другие продукты, — с августа 2028 года.