Нейросети научились создавать видео, практически неотличимые от настоящих - и законодатели уже реагируют. В Государственной думе рассматривается законопроект об обязательной маркировке контента, созданного с помощью искусственного интеллекта. Разбираемся, что именно предлагают депутаты, помогут ли штрафы остановить мошенников и почему без комплексного подхода маркировка рискует остаться формальностью.
Что предлагают депутаты
Автором инициативы выступил депутат Дмитрий Гусев из «Справедливой России». Законопроект предлагает дополнить закон «Об информации, информационных технологиях и о защите информации» определениями синтетического видеоматериала, маркировки и владельца видеохостинга.
По замыслу разработчиков, маркировка будет состоять из двух элементов: видимого обозначения, которое отображается непосредственно при просмотре ролика, и машиночитаемой метки в метаданных файла - с указанием факта применения ИИ, даты создания и сведений о владельце ресурса. За нарушение требований предусмотрены штрафы:
- для физических лиц - от 10 до 50 тысяч рублей
- для должностных лиц - от 100 до 200 тысяч рублей
- для юридических лиц - от 200 до 500 тысяч рублей
Пользователи не успевают за технологиями
По данным опросов, каждый третий россиянин - 31% - не видит разницы между продуктом искусственного интеллекта и контентом, созданным человеком. Примерно столько же - 33% - говорят, что распознать «суррогат» для них не представляет труда, а 22% настроены скептически и предпочитают не доверять первому впечатлению.
Технологии развиваются быстрее, чем правила, а пользователи не замечают разницы и не могут отличить сгенерированный контент от настоящего. Это формирует новую уязвимость.
Эксперт также обращает внимание: сегодня в России нет единого закона об ИИ - правила только начинают складываться через отдельные стратегии и стандарты. Именно поэтому вопрос маркировки приобретает особое значение.
Дипфейки - уже реальный инструмент мошенничества
Показательный пример - инцидент с британской инженерной компанией Arup: злоумышленники использовали клонированные голоса и визуальные образы руководителей компании в видеозвонке, чтобы убедить сотрудника перевести крупную сумму денег. Случай оказался далеко не единичным.
По данным компании Resemble AI, только в первом квартале 2025 года зафиксировано 163 инцидента с использованием дипфейков в мошеннических схемах - совокупный ущерб превысил 200 миллионов долларов.
Данные говорят сами за себя, дипфейки перестали быть абстрактной угрозой.
Поможет ли закон?
Слабое место законопроекта - техническая уязвимость визуальных меток. Простые водяные знаки и метаданные удаляются без особых усилий, и для мошенников, целенаправленно использующих дипфейки, это не станет серьёзным препятствием. Реальную защиту может обеспечить только комплексная система верификации.
Как вариант, разработчики внедряют криптографические метки и хэш-идентификаторы, платформы их проверяют, а пользователи через жалобы могут инициировать проверку. При этом платформа может самостоятельно помечать контент как сгенерированный или удалять его.
В рамках действующего законодательства организаторы распространения информации уже обязаны содействовать ограничению доступа к запрещённым материалам и взаимодействовать с регуляторами. Этот принцип можно распространить на маркировку и контроль за распространением синтетического контента - что создаст реальную возможность оперативно идентифицировать дипфейк.
Штрафы как инструмент прозрачности, а не сдерживания
Введение штрафов не остановит преступников, но значительно усложнит им возможность вводить людей в заблуждение. Таким образом, задача штрафов состоит в том, чтобы создать прозрачные правила для остальных участников, снижая риск манипуляций. Следовательно, если разработчики создают защищенные метки, платформы проверяют их, система работает и защищает всех участников сети.