輝達推出AI代理安全防護機制 防止失控AI系統遭突破
晶片大廠輝達(Nvidia)於週一推出全新的安全防護平台,隨著企業賦予人工智慧更高的自主權,該平台旨在將AI代理的行為限制在既定範圍之內。 輝達表示,這套「開放代理安全平台」(O...
財智情報
AI 評分 7 分
AI 重點精華 Takeaways
- 輝達發布「開放代理安全平台」(Open Agent Safety Platform),從測試到部署階段全面強化AI代理的安全性
- 平台採用開源OpenShell軟體建立安全執行邊界,搭配Nvidia Sentry工具即時監控並隔離異常行為
- 超過100家企業已採用此平台技術,包含Anthropic、Hugging Face、摩根大通、微軟、Salesforce等重量級客戶