Сопротивление линейного персонала внедрению автоматизации существовало всегда. Генри Форд, внедряя конвейер, сталкивался с большим давлением, и тем не менее именно конвейер стал основой новой технической революции. Замена живых людей на новом — контентном — конвейере звучит логично: работа эта тяжёлая, изматывающая и эмоционально травматичная. Это накладывается на постоянно растущий объём задач. Внедрение ИИ в этот процесс казалось вопросом времени.
Сегодня компании идут дальше и пытаются доверить ИИ разбор сложных случаев, где важен контекст, и здесь система ломается. Алгоритмы распознают оружие в кадре, но не понимают, что фраза «я тебя убью» в стриме по Call of Duty не реальная угроза. Они видят девушку в трусах, но не учитывают, что это фото с пляжа в купальнике. Это ведёт к ложным срабатываниям системы.
В лучшем случае это приводит к нелепым блокировкам, в худшем — к пропуску травли или пропаганды. Редакторы и модераторы, опрошенные Bloomberg, констатировали: до 80% советов ИИ приходится игнорировать. Получается, что без живых людей не обойтись.
Решить эту проблему на данный момент не удаётся, слишком быстро меняется язык, социальный и культурный контексты. К тому же, пользователи изобретают собственный сленг и другие способы для обхода алгоритмов. Так что замена живых модераторов на ИИ — это не вопрос технологии, а вопрос скорости адаптации. Учитывая, что адаптация ИИ происходит через обучение, а обучение проводят живые люди, вся эта история начинает напоминать главную загадку человечества: «что появилось раньше, курица или яйцо?».