Научно-популярный блогер Бенн Джордан узнал о своей поездке на границу Израиля и Газы из новостей Гугла. AI Overviews торжественно сообщил, что Джордан снял видео «Я ошибался насчёт Израиля: что я узнал на месте» после якобы поездки к границе с Газой. Это очень озадачило самого блогера, его зрителей и рекламодателей, особенно учитывая, что до этого он критиковал действия Израиля.
В реальности такой ролик действительно существует, но его автор — другой человек. Алгоритм перепутал Джордана с комментатором телеканала Newsmax, который действительно ездил в Израиль и снимал сюжеты оттуда.
Google слепил в единого Франкенштейна видео, новости про Джордана, его биографию и какие-то тексты из новостной повестки про Израиль и Газу. Через сутки после публичного возмущения Джордана AI Overviews обновился. Теперь система сообщала о «ложных слухах» про поездку ютубера в Израиль, не уточняя, что сама же их создала.
Случилось такое не в первый раз. В июле пулитцеровский лауреат Дейв Барри обнаружил некролог о себе — система перепутала его с тёзкой. В августе ИИ сочинил репортаж с похорон матери Джеффа Безоса, где Эминем якобы исполнил Mockingbird, а Илон Маск произнёс речь, хотя церемония ещё не состоялась. Ну и классика — весной 2024-го AI Overviews советовали добавлять клей в пиццу и есть камни для здоровья, вдохновившись шутками с Reddit. Проблема касается не только Google — Apple не отстают и тоже сталкиваются с фейками в пересказанных ИИ новостях.
Раньше подобные новости тоже вбрасывали сатирические или жёлтые издания с узнаваемым почерком. Читая Панораму или Life, человек понимает специфику контента. ИИ же не различает контекст и иронию, а просто механически соединяет фрагменты из тысяч источников, так что отменять журналистов спешить не стоит. По крайней мере, пока не появится специальный ИИ, который будет перепроверять и редактировать работу другого ИИ (вот и идея для стартапа).