Но как искусственный интеллект вообще может «помнить»? Память в чат-ботах сейчас — не «мозг» в человеческом понимании, а довольно простой набор техник: интеграция с историей диалогов, базами данных, почтой, календарями, откуда модель получает данные по запросу. Это работает, когда речь идёт о нейропоиске или корпоративном чат-боте, но не даёт ИИ возможности реально понять тему, научиться новому или стать компаньоном. Ведь обучаемость человека — это нейронные связи, которые формируются, закрепляются и активируются в нужный момент. То есть память.
Сэм Альтман из OpenAI сформулировал это же видение — не просто научить бота помнить кличку собаки пользователя или его планы на выходные, а создать компактную модель с триллионом токенов контекста. Только такой ИИ сможет стать настоящим компаньоном, загрузив в себя всю жизнь пользователя: переписки, книги, календарь, интересы. Он будет понимать не отдельные запросы, а всю последовательную траекторию жизни, видеть взаимосвязи, расти и меняться вместе с пользователем. Мы писали об этих словах Альтмана в контексте угрозы приватности и персональным данным, но, как ни парадоксально, это же является условием дальнейшего развития технологии.
Нынешние реализации «памяти» — примитивный костыль на пути к этой цели, который не создаёт эмерджентных свойств, присущих живому интеллекту. Проблема в том, что сегодня увеличивать контекст дорого — каждый новый токен требует нелинейного роста вычислений. Вероятно, настоящий прорыв случится не за счёт наращивания мощностей, а благодаря полной смене архитектуры нейросетей.