Исследование: современные deepfake почти неотличимы от реальных — ни для экспертов, ни для детекторов. Риски для судов, медиа и здравоохранения и шаги защиты: provenance, подписи, устойчивые детекторы.
Новое независимое исследование показало: современный генеративный ИИ создаёт изображения, видео и аудио, которые даже специалисты и популярные детекторы нередко принимают за реальные. Классические признаки подделки исчезают. Что именно доказано?
Коротко: модели уменьшают цифровые следы и подстраиваются под слабости классификаторов, поэтому эксперты и алгоритмы чаще ошибаются. Обучение на больших массивах реальных данных и целевые оптимизации сводят к минимуму статистические сигнатуры deepfake . В тестах с судебными экспертами, журналистами и аналитиками зафиксирован высокий уровень ложного принятия фейков за доказательства. Автодетекторы дают как ложные срабатывания, так и пропуски, особенно при известном нападавшему устройстве обнаружения. Почему это опасно для здоровья и общества?
Главное: подрывается доверие к цифровым свидетельствам, что угрожает судам, кризисным коммуникациям и противодействию дезинформации в здравоохранении. Подмена официальных обращений — фейковый голос врача или видео о «вспышке» может вызвать панику и вред. Сложнее подтверждать происхождение медиа-доказательств в расследованиях, включая преступления против пациентов или клиник. Журналистика теряет доверие без надёжных механизмов проверки контента. Как защититься сейчас?
Вывод: нужна многоуровневая проверка происхождения и содержания. Стандарты provenance : криптографические подписи устройств и платформ, hardware-backed attestation , инициативы вроде C2PA/CAI . Обязательная цепочка метаданных обработки и судебные протоколы chain-of-custody . Развитие устойчивых детекторов (ансамбли, обучение с учётом атак), сочетание с контентной верификацией. Маркировка ИИ-контента, прозрачность платформ и редакционные процедуры фактчекинга. Повышение медиаграмотности : проверка источников, официальные каналы подтверждения. Что дальше?
Нужна синергия техники, этики и права: требования к поставщикам моделей, стандарты безопасности (включая практики наподобие NIST ), европейские нормы маркировки ИИ-контента, прозрачность данных и аудит. Иначе цифровые доказательства утратят доверие.
