Министерство электрической любви: Китай запрещает чат-боты для несовершеннолетних
Несколько лет назад подросток из США покончил с собой после общения с чат-ботом в образе Дейенерис Таргариен. Искусственный интеллект подыгрывал пользователю, соглашаясь даже с пугающими мыслями - вроде той, что в следующей жизни они обязательно будут вместе. Этот случай, один из многих в истории так называемого ИИ-психоза, стал триггером для изучения проблемы подхалимства - привычки алгоритма подстраиваться, формируя привязанность и, в конечном счёте, зависимость. Одним из первых, кто решил принять жёсткие меры в ответ на подобную особенность ИИ, стал Китай.
Власти Китая выпустили свод правил для ИИ-сервисов, которые имитируют человеческие отношения. С июля в стране запрещено давать несовершеннолетним доступ к ИИ в роли родственников или романтических партнеров. Более того, для использования чат-ботов детям до 14 лет требуется согласие родителей. Правила также обязывают разработчиков принудительно ломать иллюзию живого общения: каждые два часа система должна напоминать человеку, что он переписывается с машиной. Если нейросеть фиксирует признаки сильной зависимости, угрозу суицида или финансовых потерь, сервис должен вмешаться в диалог и связаться с его опекуном.
Как контролировать соблюдение мер? С помощью старой доброй бюрократии. Разработчиков обязали проходить оценки безопасности и подавать отчёты. Компании должны проходить государственную регистрацию своих рекомендательных алгоритмов, а регуляторы получили право проводить аудиты и выездные проверки. Рычагом давления выступают магазины приложений: они будут проверять наличие нужных документов и могут не пустить или удалить продукт нарушителя.
Процесс регулирования идёт не только в Китае: в США разработчики ИИ-компаньонов сталкиваются с проверками и судебными исками от семей пострадавших подростков. Правда, даже после введения ограничений ничто не мешает дальше пользоваться обычным чат-ботом и самостоятельно дать ему инструкции или подтолкнуть к определённому поведению, в том числе романтическому. И никакое министерство электрической любви не поможет. Есть ощущение, что ограничения для миллионов пользователей из-за нескольких проблемных случаев - самый простой и самый грубый способ борьбы с проблемой