Nvidia заявляет, что может предотвратить галлюцинации чат-ботов
Чат-боты с искусственным интеллектом часто попадают в заголовки газет из-за своего странного поведения. Новое программное обеспечение Nvidia может это исправить.
Nvidia, технологический гигант, ответственный за изобретение первого графического процессора - теперь важной части технологии для генеративных моделей искусственного интеллекта, представила во вторник новое программное обеспечение, которое потенциально может решить большую проблему с чат-ботами с искусственным интеллектом.
По словам Nvidia, программное обеспечение NeMo Guardrails должно гарантировать, что интеллектуальные приложения, такие как чат-боты с искусственным интеллектом, основанные на больших языковых моделях (LLM), будут «точными, соответствующими, актуальными и безопасными».
А также: 5 крупнейших рисков, связанных с генеративным искусственным интеллектом, по мнению эксперта
Программное обеспечение с открытым исходным кодом может использоваться разработчиками ИИ для установки трех типов границ для моделей ИИ: актуальных, безопасности и ограждений безопасности.
Тематические ограждения не позволят приложению искусственного интеллекта исследовать темы в областях, которые не являются необходимыми или нежелательными для предполагаемого использования. Nvidia приводит пример помощника по обслуживанию клиентов, который не отвечает на вопросы о погоде.
Этот тип ограждения был бы полезен для Bing Chat, когда он был впервые выпущен и начал раскрывать секреты компании.
Ограждения безопасности — это попытка решить проблему дезинформации и галлюцинаций.
При его использовании приложения ИИ будут отвечать точной и соответствующей информацией. Например, с помощью программного обеспечения можно усилить запрет на ненормативную лексику и ссылки на достоверные источники.
Ограждения безопасности просто ограничивают доступ приложений к внешним приложениям, которые считаются небезопасными.
А также: Согласно этому исследованию, генеративный ИИ может повысить производительность некоторых работников
Nvidia утверждает, что практически все разработчики программного обеспечения смогут использовать NeMo Guardrails, поскольку они просты в использовании, работают с широким спектром приложений с поддержкой LLM и работают со всеми инструментами, которые используют разработчики корпоративных приложений, такими как LangChain.
Компания включит NeMo Guardrails в свою платформу Nvidia NeMo, которая уже в основном доступна в виде открытого исходного кода на GitHub.
Он также будет предлагаться как часть программной платформы Nvidia AI Enterprise и как услуга через Nvidia AI Foundations.