英伟达发布了三项新的 NIM 微服务，目的是帮助企业管理并确保其人工智能代理的安全。这些服务属于英伟达 NeMo Guardrails 的范畴，后者是一套旨在提升人工智能应用性能的软件工具集合。新的微服务着重于内容安全，确保对话仅限于预先批准的主题，并防止对人工智能代理进行越狱尝试。
内容安全服务有助于阻止人工智能代理产生有害或带有偏见的内容输出，而对话过滤器则确保讨论内容保持在既定的轨道上。第三项服务致力于阻止任何试图绕过人工智能软件限制的行为。英伟达旨在为开发人员提供更细致的控制权，以管理人工智能代理的交互，从而解决因过于宽泛的统一政策而可能产生的问题。
尽管采用速度不及预期，但企业对人工智能代理的兴趣正逐渐增加。德勤最近发布的报告预测，到 2027 年，将有半数企业采用人工智能代理，而其中 25%的企业已经实施或将计划在 2025 年之前实施。尽管企业对人工智能技术的兴趣广泛，但其采用速度仍然落后于技术本身的快速发展。
英伟达推出的新工具旨在提升人工智能应用的安全性和可靠性。公司期望这些创新能激励企业更自信地将人工智能代理融入其业务运营，然而，是否能够显著加快普及速度，尚需时间来验证。
