После того как в социальных сетях появилось фейковое видео «ограбления Лувра», вопрос доверия к контенту, созданному искусственным интеллектом, снова оказался в центре внимания. На кадрах двое мужчин в жёлтых жилетах выносят драгоценности под звук сирены. Многие зрители восприняли запись как реальную. Агентство AFP подтвердило: ролик создан нейросетью Sora от OpenAI.
Видео быстро разошлось по TikTok, X и YouTube, подогревая интерес к недавнему настоящему ограблению в парижском музее. При внимательном просмотре заметны характерные артефакты генеративных моделей: искажённые отражения, непропорциональные движения, нереалистичная перспектива. Тем не менее большинство пользователей не усомнились в подлинности записи.
Почему маркировка не решает проблему
Казалось бы, очевидное решение - обязательная маркировка ИИ-контента. Однако на практике этого недостаточно: пользователи редко проверяют происхождение видео и склонны доверять увиденному.
Водяных знаков будет недостаточно. Они легко удаляются, как и метаданные, особенно теми, кто заинтересован в распространении дезинформации.
Системный подход: криптография и блокчейн
Разовые технические меры не справятся с масштабом угрозы. Нужна комплексная система, в которой ответственность распределена между создателями инструментов и площадками, где контент распространяется.
Разработчики должны быть обязаны маркировать сгенерированный контент криптографическими метками, использовать технологии вроде блокчейна и хэш-идентификаторы, а платформы - проверять и маркировать такие материалы либо оперативно реагировать на жалобы.
Ответственность платформ
Социальные сети уже несут обязательства по удалению незаконного контента. Эксперт считает, что этот принцип пора распространить на материалы, созданные ИИ.
Платформы уже обязаны ограничивать доступ к запрещенной информации. Этот принцип можно расширить и закрепить законодательно для контента, созданного ИИ.