5 быстрых способов настроить использование ИИ для достижения лучших результатов и повышения безопасности работы
Эти быстрые советы по искусственному интеллекту, представленные на SXSW, помогут вам использовать технологию более эффективно.
Избежать искусственных технологий (ИИ) становится все труднее, поскольку они становятся все более распространенными. Ярким примером является поиск в Google, демонстрирующий ответы ИИ. Безопасность ИИ важна как никогда в наш век повсеместного распространения технологий. Итак, как пользователь ИИ, как вы можете безопасно использовать генеративный ИИ (Gen AI)?
Доценты Школы компьютерных наук Карнеги-Меллона Маартен Сап и Шерри Тонгшуан Ву вышли на сцену SXSW, чтобы рассказать людям о недостатках больших языковых моделей (LLM), типе модели машинного обучения, лежащей в основе популярных инструментов генеративного искусственного интеллекта, таких как ChatGPT, и о том, как люди могут более эффективно использовать эти технологии.
«Они великолепны, и они повсюду, но на самом деле они далеки от совершенства», — сказал Сап.
Настройки, которые вы можете внедрить в свое повседневное взаимодействие с искусственным интеллектом, просты. Они защитят вас от недостатков ИИ и помогут получить больше от чат-ботов ИИ, включая более точные ответы. Продолжайте читать, чтобы узнать о пяти вещах, которые вы можете сделать для оптимизации использования искусственного интеллекта, по мнению экспертов.
1. Предоставьте ИИ более качественные инструкции
Из-за разговорных возможностей ИИ люди часто используют неопределенные, короткие подсказки, такие как чат с другом. Проблема в том, что под руководством инструкций системы искусственного интеллекта могут неправильно определить значение текстовой подсказки, поскольку им не хватает человеческих навыков, которые позволили бы им читать между строк.
Чтобы проиллюстрировать эту проблему, во время сеанса Сап и Ву сказали чат-боту, что они читают миллион книг, и чат-бот воспринял это буквально, вместо того, чтобы понять, что человек был лишним. Сап поделился, что в своем исследовании он обнаружил, что современные LLM изо всех сил пытаются понимать небуквальные ссылки в буквальном смысле более чем в 50% случаев.
Лучший способ обойти эту проблему — уточнить свои подсказки с более четкими требованиями, которые оставляют меньше места для интерпретации или ошибок. Ву предложил думать о чат-ботах как о помощниках, четко инструктируя их о том, что именно вы хотите сделать. Несмотря на то, что этот подход может потребовать больше работы при написании приглашения, результат должен больше соответствовать вашим требованиям.
2. Перепроверьте свои ответы
Если вы когда-либо пользовались чат-ботами с искусственным интеллектом, вы знаете, что у них галлюцинации, которые описывают вывод неверной информации. Галлюцинации могут возникать по-разному: либо выдача фактически неверных ответов, либо неверное обобщение предоставленной информации, либо согласие с ложными фактами, которыми делится пользователь.
Сап сказал, что галлюцинации случаются от 1% до 25% времени в общих, повседневных случаях употребления. Уровень галлюцинаций еще выше в более специализированных областях, таких как юриспруденция и медицина, и составляет более 50%. Эти галлюцинации трудно обнаружить, потому что они представлены таким образом, что звучат правдоподобно, даже если они бессмысленны.
Модели часто подтверждают свои ответы, используя такие маркеры, как «Я уверен», даже когда предлагают неверную информацию. В исследовательском документе, процитированном в презентации, говорится, что модели ИИ были уверены, но ошибались в своих ответах в 47% случаев.
В результате, лучший способ защититься от галлюцинаций — это перепроверить свои реакции. Некоторые тактики включают в себя перекрестную проверку ваших выходных данных с внешними источниками, такими как Google или новостные агентства, которым вы доверяете, или повторный опрос модели, используя другие формулировки, чтобы увидеть, выдаст ли ИИ такой же ответ.
Хотя может показаться заманчивым получить помощь ChatGPT по вопросам, о которых вы мало что знаете, легче выявить ошибки, если ваши подсказки остаются в пределах вашей области знаний.
3. Сохраняйте конфиденциальность данных, которые вас интересуют
Инструменты Gen AI обучаются на больших объемах данных. Они также требуют данных для продолжения обучения и создания более интеллектуальных и эффективных моделей. В результате модели часто используют свои выходные данные для дальнейшего обучения.
Проблема в том, что модели часто извергают свои обучающие данные в своих ответах, а это означает, что ваша личная информация может быть использована в чужих ответах, что сделает ваши личные данные доступными для других. Кроме того, существует риск при использовании веб-приложений, поскольку ваша личная информация покидает ваше устройство для обработки в облаке, что имеет последствия для безопасности.
Лучший способ поддерживать хорошую гигиену ИИ — избегать обмена конфиденциальными или персональными данными с LLM. В некоторых случаях необходимая помощь может включать использование персональных данных. Вы также можете отредактировать эти данные, чтобы получить помощь без риска. Многие инструменты искусственного интеллекта, включая ChatGPT, имеют опции, которые позволяют пользователям отказаться от сбора данных. Отказ всегда является хорошим вариантом, даже если вы не планируете использовать конфиденциальные данные.
4. Посмотрите, как вы рассказываете о LLM
Возможности систем искусственного интеллекта и способность общаться с этими инструментами с помощью естественного языка заставили некоторых людей переоценить мощь этих ботов. Антропоморфизм, или приписывание человеческих характеристик, — это скользкая дорожка. Если люди думают об этих системах ИИ как о системах, смежных с человеком, они могут доверить им больше ответственности и данных.
По мнению экспертов, один из способов помочь смягчить эту проблему — перестать приписывать человеческие характеристики моделям ИИ, когда речь идет о них. Вместо того, чтобы сказать: «Модель считает, что вам нужен сбалансированный ответ», Сап предложил лучшую альтернативу: «Модель предназначена для генерации сбалансированных ответов на основе своих обучающих данных».
5. Тщательно продумайте, когда использовать LLM
Хотя может показаться, что эти модели могут помочь практически с любой задачей, есть много случаев, когда они могут не обеспечить наилучшую помощь. Несмотря на то, что бенчмарки доступны, они охватывают лишь небольшую часть того, как пользователи взаимодействуют с LLM.
Кроме того, LLM могут работать не лучшим образом для всех. Помимо галлюцинаций, о которых говорилось выше, были зафиксированы случаи, когда магистры права принимали расистские решения или поддерживали западноцентричные предубеждения. Эти предубеждения показывают, что модели могут быть непригодными для помощи во многих случаях использования.
В результате решение заключается в том, чтобы быть вдумчивым и осторожным при использовании LLM. Этот подход включает в себя оценку влияния использования LLM, чтобы определить, является ли это правильным решением вашей проблемы. Также полезно посмотреть, какие модели превосходно справляются с определенными задачами, и использовать наилучшую модель для ваших требований.
- Хотите больше историй об искусственном интеллекте? Подпишитесь на нашу еженедельную рассылку «Инновации».