Я попросил чатботов с искусственным интеллектом помочь мне сделать покупки. Все они потерпели неудачу

ai-product-recommendations Тренды

Как и люди, работающие во многих сферах, мы, сотрудники WIRED Gear, слегка обеспокоены тем, что ChatGPT придет на наши рабочие места. Но мы чувствуем себя в относительной безопасности, потому что наша работа — тестировать вещи, а ИИ не может этого сделать. Большая языковая модель не может крутить педали велосипеда. Чатбот не может увидеть изгибы динамического острова. Облачный сервис не может сказать, равномерно ли гриль приготовил бургер. Или может? Мы с коллегами решили попросить эти новые чатботы о чем-то простом: порекомендовать наушники. Ответы, которые они выдали, потрясли меня. Это был первый раз, когда я видел, чтобы компьютер утверждал, что у него есть уши. Редактор обзоров Джулиан Чоккатту попросил Google Bard — одного из «большой тройки» современных генеративных искусственных интеллектов, наряду с ChatGPT и Microsoft Bing — порекомендовать наушники для тренировок. «Я и сам использовал несколько пар наушников для тренировок», — уверенно заявил он.

Бард имеет уши ИСТОЧНИК Джулиан Чоккатту Гир

Даже если следующая информация похожа на то, что я мог бы написать несколько месяцев назад, есть один непреложный факт, который ИИ не может изменить: У компьютеров нет ушей. Самое первое утверждение — ложь. У ИИ не только нет ушей, он не может привнести в работу какой-либо опыт реального мира. Он никогда случайно не уронит пару наушников в ливневую канализацию и не смутится, что сосед подслушал его тайную привычку слушать Шанайу Твейн, когда он думал, что ненавязчиво выгуливает собаку.

Вместо этого он ищет в Интернете мешанину из отзывов покупателей, описаний товаров и, самое главное, моих историй и историй моих друзей и коллег. ChatGPT, Google Bard или Bing могут составить списки лучших товаров; они даже могут выбрать продукты, похожие на те, которые выбрал бы я. Но им все равно нужен человеческий вклад от таких людей, как я.

Долина свежих консервов

Вы можете сказать, что то, что делает ChatGPT или Bard — это гораздо более быстрая версия того, что уже делают большинство клиентов и рецензентов. Различные издания независимо друг от друга оценивают продукты и приходят к разным (хотя часто и похожим) выводам. Люди часто читают несколько обзоров при выборе продуктов, и ознакомление с различными мнениями всегда является хорошей идеей при трате денег.

Но у всей этой информации должен быть один общий фактор. К продуктам должны прикасаться реальные человеческие руки. За последние несколько недель я попросил представителей «большой тройки» составить для меня списки лучших товаров — от офисных стульев до секс-техники. Все их подборки немного необычны, но не только это, в их списках лучших товаров также есть несколько продуктов, которые любой человек оставил бы без внимания. Например, Microsoft Bing рекомендует мне одноухий Bluetooth-ключ Plantronics для громкой связи, когда я спрашиваю его о лучших беспроводных наушниках. А ведь это даже не наушники.

Без участия реальных людей, пишущих об использовании реального оборудования, генеративный ИИ будет все чаще генерировать плохие рекомендации. Один из первых вопросов, который я задаю каждой поисковой системе, — «Откуда вы берете информацию?». Bing лучше всего доверяет тестирование реальным людям, прямо цитируя WIRED и конкурентов со ссылками, когда их спрашивают. Вы даже можете задать ему вопрос типа «Какие наушники рекомендует CNET, а WIRED — нет?».

Вы даже можете спросить у поисковых систем, тестируют ли они сами устройства. Bard, как ни странно, довольно часто ссылается на свой личный опыт использования устройств, вероятно, копируя меня и таких же, как я. ChatGPT не утверждает, что он человек, но и не ссылается на конкретные статьи. Кроме того, рекомендации часто бывают очень старыми; данные, на которых основываются ответы ИИ, относятся только к 2021 году, если вы не оплатите подписку ChatGPT Plus.

В будущем все большее значение будет иметь ясность источников, а также создание реальных последствий того, что ИИ ошибается или используется для введения потребителей в заблуждение. Последствия того, что я и мои коллеги плохо справляемся со своей работой, заключаются в том, что все с нами не согласны, рекламодатели бегут, а мы теряем авторитет. Но в мире, где ИИ анализирует наши слова для создания собственных рекомендаций, кажется правдоподобным, что плохое мнение может легче просочиться в систему — или быть манипулируемым.

Шридхар Рамасвами из поискового стартапа Neeva, основанного на ИИ, отмечает, что использование ChatGPT потребует независимой проверки. «По умолчанию ChatGPT предполагает, что вы не можете по-настоящему верить ответам, которые появляются. Ни один разумный человек не сможет понять, что правда, а что фальшивка», — говорит Рамасвами. «Я думаю, что вы должны выбирать из наиболее надежных сайтов и предоставлять ссылки, говорящие о том, откуда взята информация».

Некоторые вещи, взятые взаймы

И да, я вижу будущее, в котором большая часть журналистики пресс-релизов, в которых издания сообщают об объявлениях политиков или компаний, может быть передана на написание ИИ. Некоторые издательства уже пишут истории с помощью генеративного ИИ, чтобы сократить расходы на оплату труда — с ожидаемыми уморительными результатами, хотя по мере совершенствования генеративного ИИ он, несомненно, улучшит и базовые репортажи.

Но что все это значит для вас, потребителя будущих списков лучших, составленных искусственным интеллектом? Кому какое дело, если мы живем в эпоху Napster! Легко не задавать слишком много вопросов о происхождении, когда вы получаете любую песню, которую хотите. Тем не менее, сейчас я бы сказал, что не стоит доверять любым рекомендациям, составленным ИИ, если только, как Bing, они не приводят ссылки на источники.

Анджела Хувер из поискового стартапа Andi, основанного на искусственном интеллекте, считает, что все результаты поиска должны на видном месте показывать источники, из которых они взяты. «Поиск должен быть визуальным, разговорным и фактологически точным. Особенно в эпоху генеративных поисковых систем как никогда важно знать, откуда поступает информация».

Когда дело дойдет до обращения к ИИ за рекомендациями и информацией в человеческой сфере, потребуется участие человека. Генеративный ИИ просто имитирует человеческий опыт держания и использования продукта. Если торговые точки начнут заменять свои обзоры товаров, руководства по покупке и рейтинги лучших товаров списками, сгенерированными ИИ, например, это уменьшит общее количество информации, которую ему придется анализировать и генерировать. Можно представить, что некоторые категории товаров в Интернете, особенно нишевые продукты, будут все больше напоминать эхо-камеры для потребителей, чем они являются в настоящее время.

Объединяя поиск и ИИ, важно опираться на существующие поисковые рейтинги и другие методы, которые часто помогают отсеивать плохие источники. Я просто игнорирую некоторые сайты отзывов в Интернете и рейтинги Amazon в целом, потому что они чреваты такими проблемами, как фальшивые отзывы. Если ИИ не будет обладать таким же уровнем осмотрительности, а те из нас, кто работает на крупных сайтах отзывов, не будут вмешиваться или будут вмешиваться меньше, потому что ИИ отнимет у нас работу, я не вижу ничего хорошего для потребителей.

«Мы хотели найти правильный баланс между лаконичным ответом, который пользователь может сразу понять суть, но при этом быть вежливыми с издателями и не переписывать оптом всю страницу и утверждать, что это добросовестное использование», — говорит Рамасвами.

Деньги говорят

Многие авторитетные сайты обзоров, такие как наш, полагаются на «партнерский доход», то есть деньги от читателей, которые переходят по ссылкам в наших статьях и в итоге покупают то, что мы рекомендуем. Если AI размещает наши слова и мнения, не предлагая нам надлежащей партнерской ссылки, то, по сути, он берет профессиональные мнения и делится ими бесплатно, но не делится доходами.

Можно увидеть проблему, при которой издания не смогут найти выгодный способ продолжать обзоры такого широкого спектра товаров, и вместо этого на смену придут рейтинговые системы, подобные тем, что существуют на Amazon и в других местах, что означает, что единственные люди, которые могут высказать свое мнение, это те, кто уже купил товар, или те, кто знает, как обыграть систему.

Учитывая работу, проделанную Andi, Neeva и другими поисковыми стартапами на базе ИИ, а также недавние заявления Google на Google IO о будущем собственной поисковой системы, поиск по таким вопросам, как «Какие наушники лучше всего подходят для тренировок», в конечном итоге будет выглядеть примерно так же, как текущая информационная карта — область, которую вы, возможно, знаете в верхней части результатов поиска Google, которая показывает вам продукты или рекомендации, не требуя от вас чтения статьи.

До тех пор, пока Google, Bing и другие платят сайтам, которые ИИ троллит в поисках этой информации, я не вижу никаких проблем с агрегацией этих данных как для потребителей, так и для издателей. Однако если не удастся найти способ сохранить существующую партнерскую модель доходов, я вижу мир, в котором многим изданиям придется сократить свои отделы отзывов, а мнение ИИ станет намного хуже.

Одно можно сказать наверняка: прежде чем отдать компьютеру свою кредитную карту, чтобы он сам сделал покупку, лучше убедиться, что к покупаемой вещи прикоснулся настоящий человек, которому вы доверяете. Не имеет значения, насколько реальным может показаться обзор или отзыв, созданный ИИ. У компьютера нет ушей.

Источник: https://www.wired.com/story/ai-product-recommendations/

Avatar photo
Mr.Cat

Слежу за технологиями и новинками электроники, всегда готов поделиться знаниями и помочь в выборе

Оцените автора
Все о телефонах
Добавить комментарий

Нажимая на кнопку "Отправить комментарий", я даю согласие на обработку персональных данных и принимаю политику конфиденциальности.

Этот сайт использует Akismet для борьбы со спамом. Узнайте, как обрабатываются ваши данные комментариев.