Вернуться в детство за 4 доллара

Roblox решил в целях безопасности разделить детей и взрослых с помощью ИИ. Компания представила биометрию и проверку документов, чтобы защитить несовершеннолетних от груминга. Правда, развернулась история, как это часто бывает, совсем в другом направлении: система, призванная обезопасить детей и остановить педофилов, просто создала для последних удобный рынок с прейскурантом. Теперь верифицированный аккаунт «ребенка», дающий доступ в закрытые чаты, продаётся всем желающим на eBay за 4 доллара.

За технологией стоит вендор Persona и нейросеть, угадывающая возраст по селфи. На практике оказалось, что именно «угадывающее» — алгоритмы путают детей со взрослыми, а родители, уставшие от нытья и просьб своих чад, проходят проверку самостоятельно, лёгким движением руки превращая детей в совершеннолетних. Вместо защищенного периметра платформа получила хаос, где верификация возраста не гарантирует ничего.

Правда, разработчикам игры это, видимо, и не важно. Roblox пытается вырваться из ниши «песочницы для школьников» и продавать дорогую рекламу взрослой аудитории. Верификация как раз может стать идеальным инструментом сегментации аудитории, аргументом для рекламодателей и юридической защитой для компании. А если при этом они ещё и не теряют основную детскую аудиторию, которая обходит ограничения, то тем лучше.