durin
註冊

值得信賴的員工。特權過高的智能體。

有關非託管智能體存取、MCP 治理邊界、提示注入和生產門的 CISO 指南。

決策摘要

將 MCP 治理套用於已知路由,然後評估內容、用戶端、提供者和旁路的殘餘風險。

從觀察邊界開始

安全審查通常以“智能體”一詞開頭,就好像它命名了一個受控系統一樣。實際上,智能體可以組合模型、客戶端、本機伺服器、遠端 MCP 伺服器、瀏覽器和上游憑證。代理管理到達其端點的請求。這個邊界之所以有價值,正是因為它是特定的。

說明其外部的內容:直接提供程式呼叫、非託管用戶端、瀏覽器操作、shell 命令以及模型提供者對傳回的工具結果的處理。這使得控制審查變得誠實,並將補償控制引導給正確的所有者。

說明性場景:令人信服的工具結果

想像一下,路由工具傳回一個包含指令的文檔,這些指令告訴模型禁用控製或顯示資料。代理在寫入之前仍然可以要求身分、政策和核准,但它無法確定每個內容是否可信。該場景是說明性的,而不是報告的違規行為。

即時注入防禦屬於模型、客戶端、應用程式和人類核准路徑。將代理人視為深度防禦的一層,為危險行為提供生產大門,並提供一種檢查不確定結果的方法。

Anthropic:即時注入防禦

安全審查清單

尋求將控制權映射到請求及其結果的證據:

  • 最終授權檢查時是否驗證了身份,包括當前會員資格或撤銷資格?
  • 上游憑證的範圍是否僅限於連線和受眾,並同意與網關登入不同?
  • 當覆蓋範圍未知時,是否對工具和資源映射進行審查、版本控制和拒絕?
  • 敏感寫入是否根據確切參數、模式、政策、到期日和使用計數進行獨立批准?
  • 稽核記錄是否區分政策結果和執行結果(包括不確定性)?
  • 團隊能否示範針對預期部署的直接路徑和旁路測試?

Durin可以支援什麼

Durin 的受控路徑涵蓋預設允許授權檢查、可選寫入審查或禁止控制、範圍連線和稽核。評估工作區支援決策模型審查。 Enterprise 正常運作時間和支援承諾在客戶協議中定義。公共信託副本不要求認證或居住保證。

這種區別在 CISO 審查中非常有用:評估決策模型和證據路徑,然後驗證生產路徑的身份、提供者、網路、保留、恢復和操作證明。

Durin 安全控制Durin 生產信託

安全評估問題。

MCP 治理能否解決提示注入問題?

不會。即時注射仍然是一個活躍的模型和應用風險。 Durin 可以強制執行路由存取政策和核准,而應用程式擁有者仍然需要輸入處理、模型防禦和生產門。

安全部門應該要求提供什麼證據?

請求身分、客戶、連線、政策決策、核准、調度、結果、撤銷和覆蓋證據,並明確說明保留和提供者邊界。

測試控制邊界。

建立一個帳戶來管理路由存取控制以及內容、客戶端、提供者和繞過風險。

建立帳戶

選擇該瀏覽器允許的選用用途。保持網站正常運作、讓您保持登入並記住此選擇的 Cookie 始終處於開啟狀態,推薦連結設定的推薦 Cookie 的有效期最長為 90 天。您的選擇將在第一方 Cookie 中儲存 180 天。如果分析正在運行,儲存關閉分析的選項會重新載入此頁面。 閱讀隱私權聲明.