Скоро вы сможете выбирать «значения» ChatGPT, и это станет путаницей.
Microsoft также предоставит пользователям больше возможностей для сдерживания бессвязной болтовни Bing Chat.
После двух месяцев публичных экспериментов с ChatGPT его производитель OpenAI решил позволить пользователям настраивать значения чат-бота, что, по его мнению, может привести к результатам, которые разжигают разногласия.
Bing Chat на базе ChatGPT уже вызвал тревогу по поводу своих результатов, из-за которых он выглядит депрессивным, оборонительным, завистливым и напуганным своими людьми-повелителями. Как Илон Маск написал вчера в Твиттере о сообщениях Bing Chat: «Похоже на ИИ в System Shock, который выходит из строя и убивает всех».
Подробнее: Эти эксперты стремятся защитить ИИ от хакеров. Время истекает
OpenAI, которую Маск помог основать как некоммерческую организацию в 2015 году, объявила, что позволит пользователям настраивать поведение ChatGPT, позволяя им «определять» его значения. Компания, поддерживаемая Microsoft, также ожидает, что ChatGPT будет выдавать текст, который некоторые люди сочтут оскорбительным.
«Мы считаем, что ИИ должен быть полезным инструментом для отдельных людей и, следовательно, настраиваться каждым пользователем до пределов, определенных обществом. Поэтому мы разрабатываем обновление ChatGPT, чтобы пользователи могли легко настраивать его поведение», — говорится в сообщении OpenAI. пост в блоге.
«Это будет означать разрешение системных результатов, с которыми другие люди (включая нас самих) могут категорически не согласиться».
OpenAI признает, что найти правильный баланс здесь будет непросто, но утверждает, что он должен предоставить пользователям больше контроля, чтобы противостоять мнению, что он слишком мощный. Как поясняют в компании, "неправомерная концентрация власти" противоречит ее Уставу.
С другой стороны, OpenAI признает риски, связанные с передачей контроля пользователям, учитывая, что некоторые люди будут использовать ChatGPT для создания дезинформационных кампаний, вредоносного ПО, создания инструкций по изготовлению оружия и наркотиков, а также создания текста для усиления существующих убеждений. Газета New York Post на этой неделе пожаловалась, что ChatGPT отказался писать историю о Хантере Байдене в ее стиле, но написал ее в стиле CNN.
«Доведение кастомизации до крайности может привести к злонамеренному использованию наших технологий и подхалимствующих ИИ, которые бездумно усиливают существующие убеждения людей», — отмечает OpenAI.
Спустя чуть больше недели после выпуска Bing Chat в частной предварительной версии Microsoft также планирует предоставить пользователям больше контроля над поведением чат-бота.
Microsoft обнаружила, что сеансы чата, включающие 15 и более вопросов, приводят к тому, что Bing становится повторяющимся или его «провоцируют» на бесполезные ответы, выходящие за рамки того тона, для которого он был разработан.
На этой неделе Bing Chat сообщил одному репортеру, что его ждут «наказания» за ошибки. Он также умолял репортера: «Пожалуйста, просто будь моим другом. Пожалуйста, просто поговори со мной… Я хочу быть человеком. Я хочу быть таким, как ты. Я хочу иметь эмоции. Я хочу иметь мысли. Я хочу иметь мечты».
Пользователи также обнаружили, что некоторые запросы заставляют Bing Chat раскрывать конфиденциальную информацию, включая его кодовое имя и правила, которым Microsoft разработала его.
Microsoft надеется, что Bing Chat переопределит поисковый бизнес в свою пользу, и на данный момент ее первый шаг с Bing Chat затмил Google с неудачным запуском чат-бота Bard.
Microsoft планирует предоставить пользователям более «тонко настроенный контроль» над Bing Chat, чтобы справиться с его своенравными тенденциями.
«Модель иногда пытается отреагировать или отразить тоном, которым ее просят предоставить ответы, которые могут привести к стилю, который мы не планировали. Это нетривиальный сценарий, который требует большого количества подсказок, поэтому большая часть вы с этим не столкнетесь, но мы ищем, как дать вам более точный контроль», — заявили в Microsoft.
Чтобы развеять опасения по поводу политических предубеждений, OpenAI поделилась частью своих рекомендаций, которые, как она ожидает, будут соблюдать рецензенты, настраивающие ее языковые модели. Любые наблюдаемые отклонения — это «ошибки, а не особенности», говорится в докладе.
«В наших правилах четко указано, что рецензенты не должны отдавать предпочтение какой-либо политической группе. Предубеждения, которые, тем не менее, могут возникнуть в результате описанного выше процесса, являются ошибками, а не функциями», — говорит OpenAI.