Алгоритм без тормозов: нейросеть загнала бегунов

Иллюстрация сгенерирована нейросетью Gemini
2,1 миллиона человек каждый месяц доверяют алгоритму то, что раньше доверяли тренеру с секундомером. Runna — приложение для подготовки к марафонам, которое купил–Strava — выросло на 74% за год. Всего за десять долларов в месяц (примерно в 12 раз дешевле живого тренера) оно объясняет людям, как быстро нужно бежать, когда и сколько.

По данным WSJ, вскоре после запуска физиотерапевты стали принимать по несколько пострадавших пользователей приложения в неделю. Среди жалоб — переломы, воспаления, перегрузки от темпа занятий, который приложение наращивало слишком агрессивно. Проблема не в самих травмах (они могут быть и с живым тренером), а в количестве и причинах — алгоритм не видит резкие перемены в человеке и не способен визуально оценить его самочувствие в середине занятия или пробежки, что приводит к травмам. Те, кто избежал проблем, как правило игнорировали часть советов приложения и слушали собственное тело.