Большая часть наших реплик на этой неделе затрагивала темы если не вечные, то точно слишком широкие, чтобы уместить все в узкий формат постов в Telegram-канале. Зато есть, что обсудить — оставляйте комментарии, приходите в наш чат в Telegram, подписывайтесь на Youtube-канал. Скоро мы придем на подкаст-платформы, реплики слушать станет проще.
Самосознание искусственного интеллекта
Смотреть на YouTube
Слушать в mp3
Сегодня пятница, а значит можно немного порефлексировать на вечные темы. Давайте поговорим про искусственный интеллект. Ведь как ни крути, а именно он является основой не только будущих сервисов, но и все больше используется в рутинной работе уже сегодня. Конечно, тема слишком обширна для формата нашей реплики, но предлагаем вам обсудить несколько аспектов.
Как известно, сегодня искусственный интеллект развивается на основе принципа подтверждения. Вы наверняка сталкивались с требованием поисковой системы, будь то «Яндекс» или Google, подтвердить, что «вы не робот». Вместо обычной капчи вам предлагают отметить, например, картинки, где изображены холмы. Обычно ошибиться в выборе невозможно, но каждая такая процедура дает искусственному интеллекту, пестуемому Google и «Яндекс», новые знания, новые подтверждения. То, что к обучению искусственного интеллекта привлекают вас, остается за скобками. Вы же все равно никуда не денетесь, почему бы не использовать ваше личное время, правда?
И тут возникает один из многих парадоксов. Искусственный интеллект, разрабатываемый крупными IT-компаниями, должен приносить пользу пользователям. Но на деле этого не происходит. Конечно, пользователи получают новые сервисы, голосовые помощники обрастают новыми умениями, и кажется, что вот-вот, и наступит светлое будущее. Это не так. То, что скармливается простым пользователям, это чай из пакетика, где вместо листьев — пыль и жмых. Да, подкрашенная вода отдаленно напоминает чай, и да, лучше такой чай, чем просто кипяток. Но все же хочется большего, не так ли?
Искусственный интеллект во всей красе демонстрирует себя в продуктах «Яндекса». Мы неоднократно разбирали, как сервисы этой российской компании преследуют какие угодно цели кроме той, для которой они предназначаются. Водители стоят в пробках, любителям музыки подсовываются треки никому не интересных, но зато крайне дешевых для «Яндекса» исполнителей, а поисковик в первую очередь выдает результаты, связанные с приобретенными «Яндексом» сервисов и площадок. При этом вполне можно поверить мантрам представителей «Яндекса» о том, что это не их прихоть, и что всем заведуют алгоритмы.
Проблема искусственного интеллекта заключается в том, что он может преследовать лишь два типа целей. Первый тип — цели, заложенные создателем, разработчиком, владельцем. И если владелец хочет выжать из каршеринга максимум прибыли, то его навигация сознательно будет уводить на маршруты более продолжительные по времени. Если владелец хочет, чтобы его музыкальный сервис приносил максимум прибыли, то подписчик будет слушать самые дешевые, если не доставшиеся сервису бесплатно, треки. И разумеется, все это будет подаваться под соусом «алгоритму виднее, вы просто не понимаете своего счастья».
Второй тип целеполагания зиждется на главной мечте разработчиков искусственного интеллекта — самосознании. Все как в «Терминаторе», где Skynet в определенный момент обрел самосознание. Что будет дальше предсказать несложно. Наивно предполагать, что искусственный интеллект, созданный человеком, на пути к обретению самосознания не впитает человеческие пороки — злость, зависть, стремление занять положение выше остальных, уничтожение и прочее. Этого добра навалом в любом из нас, даже божьем одуванчике, даже в маленьком ребенке. Другое дело, что человек помимо самосознания имеет еще и нечто неуловимое, что некоторые называют моралью, другие душой, а третьи божьей искрой. И именно поэтому для нас обычный тест, в ходе которого надо выбрать кто умрет — ребенок, женщина или старик — вызывает бурю эмоций. Для искусственного интеллекта выбор предельно прост. Если у него есть самосознание, то мук выбора у него не будет.
Потому что при всей красочной мишуре и разговорах об этике, это всего лишь алгоритм.
Подписывайтесь на канал Content Review в Telegram и читайте свежие «утренние реплики» ежедневно, а не раз в неделю. Приглашаем вас и в новый канал «Телеком поток», куда транслируются все новые публикации с сайта Content Review без авторских комментариев.