Forklog
2023-04-26 11:56:54

Nvidia выпустила инструмент для создания безопасных ИИ-моделей

Компания Nvidia представила инструмент NeMo Guardrails, призванный помочь разработчикам обеспечить точность, уместность и безопасность генеративного ИИ. NeMo Guardrails, the new toolkit for easily developing trustworthy LLM-based conversational applications.It works with all #LLMs and natively supports @LangChainAI, adding a layer of safety, security, and topical guardrails to existing applications. ➡️ https://t.co/CBHbTkcDUU pic.twitter.com/irYFmlHKdM— NVIDIA AI Developer (@NVIDIAAIDev) April 25, 2023 NeMo Guardrails позволяет разработчикам применять три различных типа ограничений для своих языковых моделей (LLM). В частности, компании могут устанавливать «тематические барьеры», которые не позволят их приложениям обрабатывать нерелевантные запросы. Например, чат-бот службы поддержки клиентов с помощью своего программного обеспечения будет отказываться отвечать на вопрос о погоде. Компании также могут устанавливать ограничения, чтобы LLM получали точную информацию и подключались к безопасным приложениям. Согласно Nvidia, NeMo Guardrails работает со всеми языковыми моделями, включая ChatGPT. Также в компании утверждают, что почти любой разработчик программного обеспечения может использовать инструмент. «Nvidia сделала NeMo Guardrails […] с открытым исходным кодом, чтобы внести вклад в огромную энергию сообщества разработчиков и безопасность работы ИИ», — говорится в блоге. В компании уверены, что инструмент поможет разработчикам привести свои интеллектуальные услуги в соответствие требованиям безопасности. NeMo Guardrails имеет открытый исходный код. В Nvidia отметили, что он также будет работать со всеми инструментами, которые уже используют корпоративные разработчики. Инструмент включен в существующую платформу NeMo для создания генеративных моделей ИИ. Бизнес-клиенты также могут получить доступ к нему через платформы AI Enterprise или AI Foundations. Напомним, в апреле Nvidia показала алгоритм генерирования реалистичных видео по текстовому описанию. В сентябре 2022 года компания представила новые чипы и ИИ-сервисы. Среди них — платформа для создания языковых моделей NeMo LLM.

获取加密通讯
阅读免责声明 : 此处提供的所有内容我们的网站,超链接网站,相关应用程序,论坛,博客,社交媒体帐户和其他平台(“网站”)仅供您提供一般信息,从第三方采购。 我们不对与我们的内容有任何形式的保证,包括但不限于准确性和更新性。 我们提供的内容中没有任何内容构成财务建议,法律建议或任何其他形式的建议,以满足您对任何目的的特定依赖。 任何使用或依赖我们的内容完全由您自行承担风险和自由裁量权。 在依赖它们之前,您应该进行自己的研究,审查,分析和验证我们的内容。 交易是一项高风险的活动,可能导致重大损失,因此请在做出任何决定之前咨询您的财务顾问。 我们网站上的任何内容均不构成招揽或要约