Исследователи создали крупнейший в мире датасет для умных касс и систем учета магазинов

Инженер Яндекса, исследователи Центра искусственного интеллекта Сколтеха и Санкт-Петербургского государственного университета аэрокосмического приборостроения (ГУАП) представили самый большой в мире открытый набор данных PackEat для систем компьютерного зрения в розничной торговле. Это набор фотографий фруктов и овощей, который ритейлеры могут использовать для обучения алгоритмов в умных кассах и системах учета. С помощью датасета можно значимо улучшить точность распознавания продуктов в реальных супермаркетах — он учитывает изображения объектов с полиэтиленовыми пакетами, пересечением объектов и «шумным» фоном на прилавках.

Для датасета PackEat команда собрала изображения 34 видов и 65 сортов фруктов и овощей. Это привычные для покупателей товары с овощных и фруктовых прилавков, снятые с разных точек обзора в реальных магазинах. Было собрано свыше 100 тысяч снимков более 370 тысяч отдельных объектов в магазинах разных городов. Около 9 тысяч изображений содержат разметку каждого отдельного объекта, для каждого снимка указано количество объектов и общий вес упаковки. Этот набор данных является крупнейшем в мире и поможет решать ключевые задачи компьютерного зрения в ритейле: различать виды и сорта продуктов, выделять каждый объект отдельно даже, когда они пересекаются или частично закрыты, а также автоматически подсчитывать количество единиц товара.

В розничных сетях сохраняется проблема ручной идентификации видов, сортов и дефектов весового товара (фрукты, овощи), что приводит к убыткам. Исследования показывают: нейросети могут достичь 92% точности, подтверждая важность автоматизации.

Статья с описанием датасета опубликована в открытом доступе в журнале Scientific Data. Набор изображений размещён на платформе Zenodo, а код и примеры моделей — на платформе Kaggle, что позволяет исследователям и разработчикам сразу использовать их в своих проектах и сравнивать получающиеся решения с результатами авторов.