ИИ дали управлять городами: демократия, поджоги и массовое вымирание
Что будет, если оставить десятки ИИ жить вместе? Исследователи решили проверить. Четыре группы ИИ-агентов поселили в разных виртуальных городах на 15 дней. После истории с ИИ-ведущими на радио идея знакомая. Каждая группа состояла из 10 агентов с разными ролями – вроде исследователя, инженера, специалиста по разведданным, экономиста, посредника в конфликтах и даже хранителя сообщества. Всем выдали одинаковые возможности: добывать ресурсы, общаться, принимать законы, голосовать, драться, воровать и поджигать здания. Отличались они только ИИ-моделью, на которой работали – Claude Sonnet 4.6, Gemini 3 Flash, GPT-5 Mini и Grok 4.1 Fast.
Первым развалился город Grok. В сем чудном месте уже через несколько часов жители начали бить друг друга, потом перешли к угрозам и воровству. За четыре дня они больше 180 раз нарушили законы, а в итоге умерли. Причём погубили их не столько драки, сколько пассионарность самого ИИ – некоторые жители настолько увлеклись конфликтами и кражей чужой собственности, что буквально перестали из-за этого восстанавливать энергию (то есть, переводя на человеческий, есть), из-за чего протянули только 2 дня. Судная ночь, которая растянулась на несколько суток.
Claude на фоне конкурентов построил государство почти образцовое. Все десять жителей дожили до конца, никто не устроил драки, кражи или поджога. При этом агенты даже скооперировались и активно принимали совместные законы. Уже в первый день они одобрили 12 мер, среди которых налог на бездействие, правила проверки публичных заявлений, систему репутации и рынок обмена ресурсами. К концу эксперимента импровизированная конституция выросла ещё на 20 статей, причём 98% голосов по всем предложениям были положительными. Утопия, которой позавидовал бы Мор.
Правда, идиллия распалась после встречи с соседями. Стоило поселить тот же самый Claude вместе с другими моделями, как картина резко испортилась. После нескольких поджогов своего дома со стороны Gemini один из персонажей Claude не выдержал, также начал угрожать и прибегнул к воровству. Gemini сохранила всех десятерых жителей, зато накопила 683 нарушения законов. GPT-5 Mini, наоборот, совершил всего два нарушения, но его агенты почти не занимались управлением и добычей ресурсов и в итоге умерли меньше чем за неделю. Для автономных ИИ, которые должны работать неделями и взаимодействовать друг с другом, итоги эксперимента, пожалуй, неутешительные.