Защита от ИИ не пережила обычную обрезку
1 мин
55% сгенерированных изображений Meta* теряют защитную метку после кадрирования. Компания обещала, что её новые водяные знаки помогут выявлять ИИ-картинки, и удалить их практически невозможно. На деле выяснилось, что стоит только обрезать файл, и детектор перестает его узнавать.
Идея была в том, что при генерации в картинку добавляется невидимый глазу узор. По нему алгоритм должен определять дипфейк. Но если обрезать изображение под сторис или аватарку, система ломается. В итоге инструмент, который позиционировали как надёжную защиту от дипфейков, не справился с редактором смартфона.
*Компания Meta признана экстремистской организацией в РФ