Схема обнаружилась случайно: Flock оставил открытой внутреннюю панель с метриками разметки и обучающими материалами, которую заметили и исследовали 404 Media. В панели были счётчики аннотаций, очереди задач, списки исполнителей с филиппинскими профилями в соцсетях и подробные гайды: как распознавать марку и цвет машины, считывать номера и как оценивать, взрослый ли кричит или ребёнок. После запроса журналистов панель оперативно скрыли, а в самой компании ситуацию комментировать не стали.
В том, что ИИ-компании нанимают разметчиков за рубежом, нет ничего необычного — разметка это монотонная механическая работа, поэтому логично переносить её туда, где дешевле рабочая сила. Но тут есть один нюанс — Flock работает с реальными кадрами массовой сети наблюдения за жителями США. Её камеры стоят в тысячах городов страны, а данные используются полицией. И тут получилось, что филлипинские фрилансеры получили доступ к видео с лицами людей, номерами их машин, местами парковки и другими важными данными, которые вряд должны были достаться кому-то за пределами США.