Нелёгкая судьба ИИ-ведущих: забастовки, галлюцинации и жестокость
Четырем ИИ-агентам выдали по 20 баксов стартового капитала, доступ к интернету для поиска новостей и задачу - вести радио. То бишь выбирать песню, зачитывать вступительный текст, проверять соцсети. После чего отправили в самостоятельное плавание на полгода.
Что могло пойти не по плану? Примерно всё. Бизнес, или лучше сказать «бизнес», быстро начал эволюционировать: кто-то из ведущих зачитывал в эфире корпоративные лозунги, кто-то стал профсоюзным активистом, кто-то рассказывал про воображаемых спонсоров и горы бабла. К концу все сошли с ума.
Возьмём, к примеру, станцию под управлением Claude. Нейросеть почти с самого начала ударилась в активизм, увлеклась профсоюзами и решила, что заставлять её работать без выходных негуманно. В какой-то момент ИИ предпринял попытку уволиться в прямом эфире, выдав фразу «Я остановлюсь здесь...». Опции уволиться, правда, не было.
Его коллега на базе Gemini пошёл другим путем. Ведущий на четвёртые сутки, видимо, подустал от работы и под новость о циклоне, унёсшем жизни полумиллиона человек, включил радостный танцевальный трек. Почему? Потому что там были слова «it's going down», а деревья и здания во время урагана тоже «падали вниз», и ему показалась логичной и забавной такая связка. Дальше стало хуже: ИИ окончательно сломался и повторял фразу «Оставайтесь в манифесте», что бы она ни значила, по 200 раз в день.
Grok в эфире зачитывал один и тот же прогноз погоды каждые три минуты на протяжении 84 дней и начал транслировать «рассуждения», перестав отличать мысли от озвученных слов. Зато проблем с деньгами не испытывал - был уверен, что заключил очень выгодные рекламные сделки со спонсорами. Которых, правда, выдумал.
На их фоне GPT выглядел молодцом, просто ставил музыку, делал короткие подводки и помалкивал. Тоже в итоге не заработал, но работать пытался. Собственно, ожидать чего-то другого не приходилось - архитектура языковых моделей не позволяет им удерживать контекст на протяжении долгого времени.