作家：赵雨荷 开始：硬AI 英伟达周四推出用于加快生成式AI模子的部署的容器化微劳动Nvidia Inference Microservices（NIM），但愿匡助企业提妙手工智能代理的信任、安全和可靠性。 英伟达在一篇博客中暗示，东说念主工智能代理是一项正在赶紧发展的技能，正慢慢改革东说念主们与策画机互动的神色，但也伴跟着诸多关节问题。智能化 AI（Agentic AI）有望改良常识职责者的任务扩充神色，以及客户与品牌“对话”的神色，但其背后的大型话语模子仍可能出现不良反应，以致在坏心用户试...
作家：赵雨荷
开始：硬AI
英伟达周四推出用于加快生成式AI模子的部署的容器化微劳动Nvidia Inference Microservices（NIM），但愿匡助企业提妙手工智能代理的信任、安全和可靠性。
英伟达在一篇博客中暗示，东说念主工智能代理是一项正在赶紧发展的技能，正慢慢改革东说念主们与策画机互动的神色，但也伴跟着诸多关节问题。智能化 AI（Agentic AI）有望改良常识职责者的任务扩充神色，以及客户与品牌“对话”的神色，但其背后的大型话语模子仍可能出现不良反应，以致在坏心用户试图打破着重时激发安全问题。
英伟达暗示，周四发布的履行是基于其为诞生者提供的保护框架NeMo Guardrails的扩张，旨在提高生成式东说念主工智能应用的安全性、精准性和可扩张性。NeMo Guardrails是英伟达NeMo平台的一部分，用于处罚、定制和保护东说念主工智能，匡助诞生者在大型话语模子（LLM）应用中集成并处罚AI着重模式。咫尺Amdocs、Cerence AI和Lowe’s正在使用NeMo Guardrails来保护 AI 应用。
英伟达发布的NIM共有三种，永诀涵盖主题戒指、履行安全和逃狱保护。该公司暗示，这些微劳动是过程高度优化的微型轻量级AI模子，可通过调控大型模子的反映进步应用性能。
伸开剩余65%英伟达企业AI模子、软件与劳动副总裁Kari Briski暗示。
“其中一项用于调控履行安全的新微劳动，是基于Aegis履行安全数据集覆按的。这是同类数据集中质地最高、由东说念主工标注的数据源之一。”
“其中一项用于调控履行安全的新微劳动，是基于Aegis履行安全数据集覆按的。这是同类数据集中质地最高、由东说念主工标注的数据源之一。”
Aegis履行安全数据集由英伟达推出，包括跨越35,000个由东说念主工标注的样本，用于检测AI安全问题和试图绕过系统遗弃的逃狱算作。该数据集将在本年晚些时候于Hugging Face上公诞生布。
举例，用于主题戒指的NIM可退避AI代理“过于健谈”或偏离其正本的任务主义，确保其保捏在既定主题内。英伟达暗示，与AI聊天机器东说念主进行的对话时辰越长，ag真人百家乐每天赢100它越容易健忘对话的初志，从而让话题偏离轨说念，近似于东说念主类对话可能的闲谈。天然东说念主类不错继承这种情况，但关于聊天机器东说念主，尤其是品牌AI代理，偏离主题可能导致驳斥到名东说念主或竞争产物，这对品牌不利。
Briski暗示，
“像NeMo Guardrails系列中的微型话语模子，具有较低的延长，专为资源受限或分散式环境中的高效运行而遐想，这使它们绝顶合适在医疗、汽车、制造等行业的病院或仓库等场景中扩张AI应用。”
“像NeMo Guardrails系列中的微型话语模子，具有较低的延长，专为资源受限或分散式环境中的高效运行而遐想，这使它们绝顶合适在医疗、汽车、制造等行业的病院或仓库等场景中扩张AI应用。”
此外，NIM允许诞生者以最小的附加延长重迭多个着重模式。英伟达暗示，这对大大宗生成式AI应用至关进攻，因为用户不可爱万古辰恭候，举例看到三点能干或转圈加载动画后才出现文本或语音。
英伟达暗示，NIM微劳动以及用于轨说念编排的NeMo Guardrails和NVIDIA Garak器具包ag百家乐接口多少钱，当今依然面向诞生者和企业绽放使用。诞生者不错通过有关教程驱动将AI着重模式集成到客户劳动的AI代理中，哄骗NeMo Guardrails构建安全的AI应用。
发布于：上海市