Чат-боты искажают новости - даже для платных пользователей
Согласно новому отчету, инструменты искусственного интеллекта дают неверные ответы с «тревожной уверенностью».
Инструменты искусственного интеллекта и новости просто не сочетаются друг с другом — даже на премиальном уровне.
Новое исследование , проведенное Колумбийским центром цифровой журналистики им. Тоу, показало, что некоторые чат-боты с искусственным интеллектом часто неправильно идентифицируют новостные статьи, представляют неверную информацию без каких-либо оговорок и фабрикуют ссылки на новостные статьи, которых не существует. Выводы основаны на первоначальном исследовании , опубликованном Tow в ноябре, которое показало, что ChatGPT Search искажает контент от издателей, практически не осознавая, что он может быть неверным.
Эта тенденция не нова. В прошлом месяце BBC обнаружила , что чат-боты ChatGPT, Gemini, Copilot и Perplexity изо всех сил пытались точно обобщить новостные сюжеты, вместо этого предоставляя «значительные неточности» и «искажения».
Более того, в отчете Tow были обнаружены новые доказательства того, что многие чат-боты с искусственным интеллектом могут получать доступ к контенту с сайтов, которые блокируют его поисковые роботы. Вот что нужно знать и какие модели оказываются наименее надежными.
Неспособность идентифицировать новостные статьи
Исследователи Tow случайным образом выбрали по 10 статей из 20 издательств. Они запросили восемь чат-ботов с выдержками из статей, попросив ИИ вернуть заголовок, издателя, дату и URL-адрес соответствующей статьи.
«Мы намеренно выбрали отрывки, которые, если их вставить в традиционный поиск Google, вернули первоначальный источник в первых трех результатах», — отмечают исследователи.
После выполнения 1600 запросов исследователи ранжировали ответы чат-ботов на основе того, насколько точно они получили статью, издателя и URL-адрес. Чат-боты выдали неверные ответы более чем на 60% запросов. При этом результаты варьировались в зависимости от чат-бота: Perplexity ошибался в 37% запросов, в то время как Grok 3 ошибался в 94%.
Почему это важно? Если чат-боты хуже, чем Google, правильно извлекают новости, на них не обязательно можно положиться в интерпретации и цитировании этих новостей, что делает содержание их ответов, даже если они связаны ссылками, гораздо более сомнительным.
Уверенно давая неверные ответы
Исследователи отмечают, что чат-боты возвращали неправильные ответы с «тревожной уверенностью», как правило, не уточняя свои результаты или признавая пробелы в знаниях. ChatGPT «никогда не отказывался дать ответ», несмотря на то, что 134 из 200 ответов были неправильными. Из всех восьми инструментов Copilot отказался отвечать на большее количество запросов, чем ответил .
«Все инструменты с большей вероятностью давали неверный ответ, чем признавали ограничения», — поясняется в отчете.
Платные уровни не являются более надежными
В то время как премиальные модели, такие как Grok-3 Search и Perplexity Pro, отвечали более правильно, чем бесплатные версии, они все равно давали неправильные ответы более уверенно, что ставит под сомнение ценность их часто астрономической стоимости подписки.
«Это противоречие проистекает в первую очередь из тенденции [ботов] давать определенные, но неправильные ответы, а не отказываться отвечать на вопрос напрямую», — поясняется в отчете. «Фундаментальная проблема выходит за рамки фактических ошибок чат-ботов и распространяется на их авторитетный тон разговора, который может затруднить пользователям различение точной и неточной информации».
«Эта незаслуженная уверенность создает у пользователей потенциально опасную иллюзию надежности и точности», — говорится в отчете.
Изготовление звеньев
Известно, что модели ИИ регулярно галлюцинируют. Но в то время как все чат-боты галлюцинировали фальшивые статьи в своих ответах, Тоу обнаружил, что Gemini и Grok 3 делали это чаще всего — более чем в половине случаев. «Даже когда Grok правильно идентифицировал статью, она часто ссылалась на сфабрикованный URL-адрес», — отмечается в отчете, а это означает, что Grok мог найти нужное название и издателя, но затем сфабриковал фактическую ссылку на статью.
Анализ данных о трафике Comscore, проведенный Generative AI в Newsroom, инициативе Северо-Западного университета, подтверждает эту закономерность. Их исследование данных с июля по ноябрь 2024 года показало, что ChatGPT сгенерировал 205 битых URL-адресов в своих ответах. Несмотря на то, что издания иногда удаляют статьи, что может привести к ошибкам 404, исследователи отметили, что, основываясь на недостатке архивных данных, «вполне вероятно, что модель галлюцинирует правдоподобные ссылки на авторитетные новостные агентства при ответе на запросы пользователей».
Полученные результаты вызывают тревогу, учитывая растущее внедрение поисковых систем с искусственным интеллектом. Хотя они все еще не опередили традиционные поисковые системы, доля рынка Google упала ниже 90% в 4 квартале 2024 года впервые за 10 лет, что говорит о влиянии таких популярных инструментов, как ChatGPT. На прошлой неделе компания также выпустила режим AI для некоторых пользователей, который заменяет обычный поиск чат-ботом (несмотря на безудержную непопулярность его AI Overviews).
Учитывая, что около 400 миллионов пользователей стекаются на ChatGPT еженедельно, ненадежность и искажение его цитат делают ChatGPT и другие популярные инструменты искусственного интеллекта потенциальными двигателями дезинформации, даже несмотря на то, что они берут работу с аккредитованных, тщательно проверенных новостных сайтов.
В отчете Тоу сделан вывод о том, что инструменты искусственного интеллекта, неверно указывающие источники или неправильно представляющие свою работу, могут иметь неприятные последствия для репутации издателей.
Игнорирование заблокированных поисковых роботов
Новости становятся еще хуже для издателей: в отчете Columbia Tow говорится, что некоторые чат-боты все еще могут получать статьи от издателей, которые заблокировали их поисковые роботы с помощью протокола исключения роботов (REP) или robots.txt. Парадоксально, но чат-боты не смогли правильно ответить на запросы о сайтах, которые позволяют им получить доступ к их контенту.
«Perplexity Pro был худшим нарушителем в этом отношении, правильно определив почти треть из девяноста выдержек из статей, к которым у него не должно было быть доступа», — говорится в отчете.
Это говорит не только о том, что компании, занимающиеся искусственным интеллектом, по-прежнему игнорируют REP (как это было с Perplexity и другими в прошлом году), но и о том, что издатели в любом лицензионном соглашении с ними не гарантированно будут корректно цитироваться.
Доклад Колумбийского университета является лишь одним из симптомов более широкой проблемы. В отчете «Генеративный ИИ в редакции» также было обнаружено, что чат-боты редко направляют трафик на новостные сайты, из которых они извлекают информацию (и, следовательно, человеческий труд), что подтверждают и другие отчеты. С июля по ноябрь 2024 года Perplexity передал 7% переходов на новостные сайты, в то время как ChatGPT — всего 3%. Для сравнения, инструменты искусственного интеллекта, как правило, отдают предпочтение образовательным ресурсам, таким как Scribd.com, Coursera и те, которые прикреплены к университетам, направляя до 30% трафика в их сторону.
Вывод: оригинальные репортажи по-прежнему являются более надежным источником новостей, чем то, что отрыгивают инструменты искусственного интеллекта. Обязательно проверьте все ссылки, прежде чем принимать то, что они говорят вам, как факт, и не забывайте использовать свое собственное критическое мышление и навыки медиаграмотности для оценки ответов.