Практика LLM Lettering помогает прекрасно писать фишинговые письма, которые сложно отличить от подлинных. А рост качества дипфейков, в том числе возможность изменения голоса в реальном времени — угроза даже для крупных компаний, где «украденная» личность директора становится поводом перевести деньги или принять нерациональное решение.
В итоге проблема перестала быть точечной. То, что когда-то ограничивалось единичными атаками, сегодня разрослось до масштабов небольшой войны. По данным Sumsub, за 2024 год использование дипфейков в мошеннических схемах выросло в четыре раза, составив 7% от всех атак. На первый взгляд цифра не выглядит угрожающей, но важно учитывать динамику. Технологии становятся доступнее, а стоимость создания дипфейков — ниже.
В России пока всё не так плохо, но проблема тоже вышла за рамки гипотетической угрозы. В исследовании MTS AI и Б1 выяснили, что 21% компаний на рынке уже сталкивались с атаками в комбинации спуфинг+дипфейк, хотя пока урон и не слишком существенный. При этом 92% российских компаний видят в спуфинге и дипфейках реальную опасность (что не удивительно на фоне громких новостей об украденных 25 миллионах долларов с помощью дипфейка у компании в Гонконге или 35 миллионах долларов у банка в ОАЭ). Последнее — типичный пример голосового спуфинга, подделки голоса руководства — таких атак боятся 79% респондентов.
Причём для того, чтобы заменить лицо в реальном времени и синхронизировать движения губ, сегодня даже не нужны какие-то проприетарные или закрытые решения — тот же DeepFaceLive легко доступен на Гитхабе и не требует мощного железа. Хотя, конечно, и результат не даёт идеальный — но более чем достаточный для участия злоумышленника в конференции или бизнес-созвоне с подключением якобы «через вебку» с плохим разрешением. На этом фоне интересно было почитать, что 33% компаний в России вообще не выделяют бюджет на борьбу с дипфейк-спуфингом и проверку видео/аудио во внутренней коммуникации.
На российском рынке в последнее время появляются и различные решения для борьбы с угрозами — они есть у МТС (Дипфейк-детектор от дочки MTS AI VisionLabs), Cбера, Wink, NtechLab и так далее. Но проблема в том, что 100% защиту гарантировать невозможно.
А вот стоит ли винить за это ИИ и делать его крайним? Вряд ли логично надеяться только на технологии защиты, не обращая внимание на механизм принятия решений, иерархию внутри бизнеса, процесс подтверждения транзакций и так далее — ведь именно они и стали итоговой причиной потерь компаний, о которых мы упомянули раннее. А дипфейк и спуфинг в данном случае — только инструменты, которые эксплуатируют существующие уязвимости.