您出貨 AI 產品,有十位客戶註冊,一切運作良好。
第 11 位客戶傳送一個提示,導致運行時間當機。
當您執行共用的 AI runtime 時就會發生這種情況。
共用執行時間基本上是一種負擔
大多數團隊一開始都會在所有租戶間共用一個 AI runtime,這很合理吧?一個容器、一個端點、一組環境參數。
除了「出貨後繼續前進」這句話,當您的租戶開始真正工作時,這句話就會變成「凌晨三點調試」。
以下是出錯的地方,我經常看到這種情況:
*** 租戶 A 製作了一個會擾亂執行時行為的提示,租戶 B 繼承了這個破壞的狀態。共享執行時意味著他們之間根本沒有牆。
資源爭用會降低效能。 一個租戶執行繁重的工作負載,會讓其他租戶餓死。您最好的付費客戶回應緩慢,就是因為某些免費層使用者在敲打 API。
秘密洩漏 環境變數、API 金鑰、模型設定 - 在共用的執行時間中,一個錯誤設定的端點可能會讓租戶 B 的秘密暴露給租戶 A。
*** 不同的客戶需要不同的型號版本、不同的系統提示、不同的費率限制。共享運行時間會強迫每個人使用相同的設定。
與世隔絕不是什麼必需品,而是賭注。
當每個租戶都有自己的 runtime 時,所有這些問題都會消失。
*** tenant As 提示注入保留在 tenant As 集裝箱中。
*** 每個租戶都有自己的 CPU、記憶體、儲存設備,沒有吵鬧的鄰居。
**每個容器都有自己的環境參數,租戶 A 無法存取租戶 B 的設定。
*** 每位客戶都有不同的機型版本、系統提示、費率限制、功能標誌。
後隔離 "的真正成本
更多的容器、更多的基礎設施、更多的複雜性。
但不隔離的代價會更高。
一次資料洩漏,您就會永久失去客戶的信任。一次跨租戶癱瘓,您的 SLA 就毫無意義。一次鄰居喧嘩事件,您的企業潛在客戶就會離開大門。
目前在多租戶 AI 方面獲勝的公司?
ShipClaw 如何處理
ShipClaw 為每位客戶自動提供一個獨立的 OpenClaw 運行時間,無需手動工作。
每位客戶都能獲得:
- 他們自己的 Docker 容器與專用運算
- *在
/data處的個持久卷,可維持重新啟動後的狀態 - 獨立的環境變數用於 API 金鑰、模型組態、秘密
- unique URL 在
slug.agents.shipclaw.io使用自動 SSL - 獨立擴充,因此一個租戶的使用量不會影響另一個租戶的使用量
您不需要編寫 Docker 檔案,也不需要管理 Kubernetes 艙單。您只需要將節點拖曳到畫布上,連接它們,然後進行部署,僅此而已。
Visual builder 負責處理拓樸,而 Platform 負責處理隔離。
底線
共用 AI 執行時間是一個會造成長期負擔的捷徑。按租戶隔離是唯一能真正安全擴充的架構。
如果您要為多位客戶建立 AI 產品,隔離並不是一項功能,而是一項需求。
