Искусственный интеллект Microsoft предлагает фудбанк в качестве туристического объекта в Канаде - почему?

В конце прошлой недели на сайте MSN.com в разделе Microsoft Travel была опубликована сгенерированная искусственным интеллектом статья о достопримечательностях Оттавы, которые нельзя пропустить. В том числе об фудбанке в Оттаве — реальной благотворительной организации, которая кормит нуждающиеся семьи.

В рекомендательном тексте модель искусственного интеллекта Microsoft написала: «Подумайте о том, чтобы отправиться туда на голодный желудок».

Статья называется «Собираетесь в Оттаву? Вот что не стоит пропускать!» (архив статьи можно найти тут) рассказывает о достоинствах канадского города и рекомендует посетить фестиваль Winterlude (который проводится только в феврале), побывать на игре Ottawa Senators и покататься на «Крупнейшем в мире катке с естественной заморозкой».

В качестве пункта назначения № 3 в списке Microsoft Travel предлагает посетить Ottawa Food Bank, что, вероятно, следует из информации, найденной в Интернете, но завершенной неудачной фразой.

Организация занимается сбором, закупкой, производством и доставкой продуктов питания нуждающимся людям и семьям в районе Оттавы с 1984 года. Мы наблюдаем, как голод ежедневно влияет на мужчин, женщин и детей и как он может стать препятствием на пути к достижению цели. У людей, которые приходят к нам, есть работа и семьи, которые нужно содержать, а также расходы, которые нужно оплачивать. Жизнь и так достаточно трудна. Подумайте о том, чтобы сюда на голодный желудок.

Эта цитата — пример пустой банальности (или неловкой ошибочной информации), которую можно легко встретить в написанных ИИ статьях, вставленных бездумно, потому что модель ИИ, лежащая в основе статьи, не понимает контекста того, что она делает.

Авторство статьи принадлежит Microsoft Travel, и, скорее всего, она является результатом работы большой языковой модели (LLM) — разновидности модели искусственного интеллекта, обученной на обширном фрагменте текста, найденного в Интернете. Партнер Microsoft, компания OpenAI, в 2020 г. выпустила модели LLM под названием GPT-3, а в 2023 г. — GPT-4. Обе модели способны имитировать человеческий стиль письма, но, по мнению критиков, часто используются для решения неподходящих задач.

С момента объявления о глубоких инвестициях и сотрудничестве с компанией OpenAI, создавшей ChatGPT, в январе и появления Bing Chat в следующем месяце, Microsoft экспериментирует с интеграцией генерируемого ИИ контента в свои онлайн-публикации и сервисы, например, добавляет генерируемые ИИ истории в Bing Search и включает генерируемые ИИ обзоры приложений в Microsoft Store. Проект «Microsoft Travel», по-видимому, является еще одним примером использования технологии генерирующего ИИ.

Судя по содержанию статьи про фудбанк в Оттаве, более чем вероятно, что за её написание отвечал не человек, и никто не проверял ее содержание перед публикацией, что означает, что Microsoft публикует в Интернете материалы, созданные искусственным интеллектом, практически без контроля.

В заявлении Microsoft по поводу статьи Ottawa Food Bank, говорится: «Эта статья была удалена, и мы установили, что проблема была вызвана человеческой ошибкой. Статья не была опубликована неуправляемым искусственным интеллектом. Мы объединяем мощь технологий и опыт редакторов контента, чтобы создавать истории. В данном случае контент был создан с помощью комбинации алгоритмических методов с человеческой проверкой, а не с помощью большой языковой модели или системы искусственного интеллекта. Мы работаем над тем, чтобы исключить публикацию подобного контента в будущем».

Однако автор статей в Insider, Натан МакАлоун, поставил под сомнение «человеческую проверку», отметив, что Microsoft Travel также опубликовала ряд других статей о путешествиях с несочетаемыми или нелепыми элементами (все они уже удалены), что позволяет предположить наличие алгоритмического состава. (Или, возможно, чрезвычайно ленивый человек копирует и вставляет в статью случайные элементы без какого-либо редакторского контроля?) Вполне возможно, как утверждает Microsoft, что за историями о Microsoft Travel не стоят большие языковые модели, но эксперименты с другими типами автономного составления статей все же кажутся наиболее вероятным объяснением необычных статей.

Однако автор публикации в издании Insider, Натан МакАлоун, поставил под сомнение «человеческую проверку», отметив, что Microsoft Travel также опубликовала ряд других статей о путешествиях с несочетаемыми или нелепыми элементами (все они уже удалены), что свидетельствует о работе в основном алгоритмического состава. (Или, возможно, чрезвычайно ленивый человек копирует и вставляет в статью случайные элементы без какого-либо редакторского контроля?) Вполне возможно, как утверждает Microsoft, что за историями о Microsoft Travel не стоят большие языковые модели, но эксперименты с другими типами автономного составления статей все же кажутся наиболее вероятным объяснением необычных статей.