企業導入 AI 時,長期被迫在兩條路之間取捨:選擇私有大型語言模型(LLM),資料留在內部,卻難以發揮 AI Agent 與自動化流程的生產力;選擇雲端 AI,能用到最強的模型與 Agent,但受資料在地化或法規約束的資料不一定能送上雲端,跨多家服務的治理也難以統一。
AnyInsight Edge 讓企業不必再二選一:透過單一控制平面(Control Plane)集中管理政策,在雲端與地端一致執行,同時運用地端私有模型與雲端主流模型,建立 AI Agent 與自動化流程;每一次 AI 互動、Agent 動作與流程執行,都經過即時檢查、存取控管與完整紀錄,管控不留破口。
私有 AI 為何成了孤島
AI 正從對話工具走向能自主執行多步驟任務的 AI Agent 與代理式工作流程(Agentic Workflow)。企業導入 AI 的關鍵已不只是部署模型,更在於 AI 能否安全地存取企業資料、串接內部系統、執行自動化流程,並在不同環境中維持一致的治理與防護。
許多受資料在地化、法規或客戶合約約束的企業與機構,已投資 AI 伺服器並部署私有 LLM。但模型上線後,往往只停留在內部聊天介面:接不到 ERP、MES、CRM 等地端與雲端核心系統,難以建立 Agent 與自動化流程,治理機制也得自行建置。即使自行串接,也會帶來新的風險:Agent 在機房內跨系統讀取、搬移資料,這些流量不經過網路防火牆;各部門自行架設、直接呼叫地端模型的 Agent,更形成 IT 看不到的「影子 Agent」(Shadow Agent),讓原本各自受權限保護的資料失去控管。
另一方面,雲端 AI 服務各自具備完善的安全機制,但企業同時使用多家服務時,政策與管理紀錄分散在各平台,難以用同一套標準管控;部分受法規或合約約束的資料,也不適合送往外部服務。若企業內部缺乏核准的 AI 工具,員工便會轉向個人帳號使用公開 AI 服務,形成企業難以掌握的「影子 AI」(Shadow AI)。
單一控制平面:集中管理政策,雲地一致執行
AnyInsight Edge 以容器(Container)形式交付,獨立於硬體設計,可部署於企業機房,或與 AI 伺服器的作業系統整合。Edge 本身不需要 GPU,運算資源可完整留給模型推論。政策與管理可直接由 Edge 在地端啟動,也可與雲端平台同步;Edge 在地端 AI 流量的路徑上擔任政策執行點(Policy Enforcement Point,PEP),即時檢查與執行。因此,Edge 的架構也可延伸至完全隔離的網路(air-gapped)環境,獨立負責 AI 伺服器的治理與防火牆,無需連線雲端。
AI 伺服器即成為受治理的 AI 伺服器:AI 伺服器啟動 AnyInsight Edge 後,即具備 AI 路由閘道(AI Gateway)與零信任(Zero Trust)生成式 AI 防火牆,進出模型的每一次請求,不管是對話、檔案傳輸或應用程式串接,都受到政策引擎(Policy Engine)檢查與紀錄。地端模型的存取可統一經由 Edge 控管,未經核准的 Agent 無法直接呼叫模型。
金融與保險:客戶個資在送入模型前即被遮罩,每一次 AI 使用與 Agent 動作都留下可供稽核的紀錄,回應主管機關與內控要求。
政府機關與醫療院所:公文與病歷留在機關或院內,由地端模型處理;同一平台提供 AI 互動揭露、人工審查與完整稽核軌跡,呼應台灣《人工智慧基本法》的方向,並對應歐盟《人工智慧法》(EU AI Act)對透明與人為監督的要求。
聆機科技執行長晏自強表示:「二十年前,防火牆、入侵防禦與 VPN 整合成 UTM,企業資安才真正跟上網路的普及。AI 正走到同樣的轉折點:模型會不斷更換,Agent 會越來越多,企業需要的是在 AI 工作發生的地方就能執行政策的控制點。AnyInsight Edge 讓每一台 AI 伺服器都成為這樣的控制點。」
關於聆機科技股份有限公司
聆機科技致力於開發可信賴、高安全度的企業級 AI 解決方案。旗下旗艦平台 AnyInsight 是以零信任架構為基礎的企業 AI 資安與治理平台,內建生成式 AI 防火牆、角色權限管理及可稽核的活動紀錄,協助企業在跨平台、跨網路的架構下保護敏感資料、落實 AI 治理。企業可安全且快速地串接各項資料與應用系統,導入 AI Agent 與自動化流程,提升生產力與知識管理,並保留完整、可供合規稽核的紀錄。
AnyInsight 已通過 ISO/IEC 27001:2022 資訊安全管理系統認證,其 AI 治理與資料保護機制,以歐盟《人工智慧法》(EU AI Act)與《一般資料保護規則》(GDPR)為設計原則。