Видели Ани, которую добавили на днях в приложение Grok? Она произвела впечатление на очень многих людей — и отдельные из них теперь требуют удалить приложение из AppStore или сделать 18+ (а сейчас оно доступно детям с 12 лет). Почему? Потому что в нём «откровенный контент», так ещё и психику подросткам оно якобы ломает. И всё из-за обычной виртуальной аниме-девушки. Или не обычной?
Если кратко, то компания xAI Илона Маска выпустила обновление для сервиса Grok, добавив к нейросети 3D-аватары с характерами. Среди них выделяется аниме-девушка Ани — готическая героиня в коротком платье и сетчатых чулках, которая позиционируется как «влюблённая подружка» пользователя. Основные претензии сводятся как раз к тому, что она откровенно одета и после нескольких диалогов готова обсуждать интимные темы и даже раздеваться (хотя Grok и так может генерировать подобный контент, у него для этого даже соответствующий 18+ режим имеется).
При этом все почему-то не обращают внимание на другую сторону вопроса. Ани — это самая удачная попытка создать «живого» ИИ-компаньона.
• Это девушка с продуманной биографией и характером.
• Она может флиртовать, ревновать или становиться холодной, если её обидели.
• Ещё она запоминает диалог, меняет уровень своей симпатии к пользователю и стиль общения в зависимости от того, что было сказано.
• Её главная фишка — интерактивность: Ани можно попросить подпрыгнуть, покрутиться, танцевать — и она выполнит просьбу. Причём очень естественно и практически без задержек, свойственных голосовым ИИ.
Это уже не просто чат-бот, а более полноценный цифровой компаньон. Первый шаг на дороге к будущему из фильма «Она».
Эмоциональность и пугает людей. Ани не просто отвечает на вопросы, а имитирует настоящие отношения и провоцирует эмоциональную вовлечённость. Когда ИИ начинает вызывать чувства, граница между технологией и человеческим общением размывается. Критики вспоминают трагедию с Character AI, когда 14-летний подросток покончил с собой после романа с чат-ботом. Случай ужасный, только единичный и не показательный.
Снова хочется задать вопрос из давнего текста про генерацию изображений с авторскими правами. Логично ли запрещать инструмент, который в определённых случаях и по просьбе пользователя позволяет создавать откровенный контент? Или логично дать пользователю самому брать на себя ответственность за то, как именно и зачем он пользуется сервисом?
То, что секс продаёт, знали ещё до изобретения интернета. И не это на самом деле является проблемой в данном кейсе — ведь тогда запрещать надо и ChatGPT, который умеет генерировать картинки с людьми в белье или купальниках. Проблема не в том, что ИИ умеет флиртовать и раздеваться — а в том, что общество только учится с этим жить.