Согласно обновлённым правилам, любые чат-боты и иные интерактивные программы, работающие на основе искусственного интеллекта, обязаны информировать пользователей о том, что те общаются не с живым человеком, а с цифровым алгоритмом. Это условие касается всех подобных сервисов вне зависимости от их назначения.
Помимо этого, весь визуальный, аудио- и видеоконтент, который был полностью создан или существенно переработан с использованием ИИ (так называемые дипфейки), должен иметь специальную пометку. Такая маркировка обязана указывать на искусственное происхождение материала. Дополнительно к видимой для человека пометке, в файлы с подобным содержимым необходимо встраивать машиночитаемые метки, которые позволяют техническим средствам автоматически распознавать, что продукт был сгенерирован или изменён нейросетью.
В Еврокомиссии подчёркивают, что вводимые новшества нацелены на сокращение вероятности мошеннических схем и попыток манипулирования общественным мнением. Власти ЕС также рассчитывают, что усиление прозрачности в сфере ИИ даст бизнес-структурам чёткие ориентиры для соблюдения законодательных норм и избавит их от неопределённости в трактовке правил. Одновременно с этим ведомство опубликовало первый список, включающий свыше 180 организаций, которые добровольно присоединились к Кодексу практики, регламентирующему вопросы открытости при создании контента нейросетями.
С того же 2 августа Европейская комиссия наделяется дополнительными контрольными функциями. Теперь она вправе следить за тем, как поставщики универсальных моделей ИИ (General-Purpose AI, сокращённо GPAI) соблюдают положения AI Act. Эти модели лежат в основе широкого круга цифровых сервисов, в том числе так называемых ИИ-агентов, которые выполняют задачи автономно. Упомянутые модели используются во множестве приложений — от поисковых систем до программ для обработки текста, и теперь их разработчики будут находиться под пристальным вниманием европейских регуляторов.
Виктор Вронский
