強化AI安全基礎並正式啟動共創型AI開發業務

株式会社MONO BRAIN（總部：東京都澀谷區，代表董事：加藤真規）宣佈，在強化AI安全基礎的同時，將正式展開與客戶合作的AI共創開發業務（AI Dev事業）。

背景：AI應用的擴大與治理課題的顯現 隨著生成式AI的普及，許多企業正推動將AI導入業務。然而，如提示詞注入（Prompt Injection）、AI供應鏈攻擊、機密資訊洩漏等AI特有的風險日益凸顯，傳統的安全措施已難い充分應對。此外，在第一線也出現了影子AI（Shadow AI）的使用、運維負擔增加、以及因規則強化導致便利性下降等問題，因此迫切需要一種「安全應用的機制」。

AI安全基礎「MODEL SAFE」的強化 本公司提供針對AI特有漏洞的整合安全平台「MODEL SAFE」。該平台涵蓋了從AI開發到運維的全過程，提供以下功能： - 模型及依賴關係的自動掃描（供應鏈對策） - 基於450多種攻擊手法的自動紅隊演練（Red Teaming） - 生產環境下的24小時運行時監控（Runtime Monitoring） 藉此實現對AI特有攻擊和漏洞的持續防禦與可視化。目前在生產環境中已有超過3,000件的檢測實績。

保護員工使用AI工具的「Mamoraku AI」 此外，為應對員工使用AI工具帶來的風險，本公司還提供AI安全代理「Mamoraku AI」。只需分發瀏覽器擴充功能，最快可在1天內完成導入，透過以下功能在不增加現場負擔的情況下實現AI治理： - 機密資訊自動脫敏（發送前檢測並進行遮蔽處理） - 偵測影子AI並引導至安全的AI工具 - 不改變既有業務流程の「零負擔」導入設計 透過促進「安全應用」而非「禁止」，同時兼顧了第一線的便利性與安全性。

Mamoraku LP：https://modelsafe.jp/mamoraku

共創型AI開發業務（AI Dev）的正式展開 本公司將與客戶共同策劃與開發AI，並推動著眼於實際運行及對外銷售的共創型AI開發。透過深入探討AI導入中的課題與風險，支援實現真正「被使用的AI」。此外，在共創開發中所獲得的洞察也將持續反映在「MODEL SAFE」的功能改進上，進而構建更具實踐性的AI安全基礎。

未來展望 本公司不僅將AI安全視為風險對策，更將其定位為以AI應用為前提的基礎設施。透過提供整合了開發、運維及第一線使用的AI治理，我們將使「因為安全所以可用」的環境標準化，加速企業的AI應用。未來，我們將繼續透過提供兼顧AI安全與AI應用的產品與服務，為實現一個能安心應用AI的社會做出貢獻。

【株式会社MONO BRAIN 公司概況】 代表者：代表董事 加藤真規 事業內容：AI安全平台「MODEL SAFE」的開發與提供，以及共創型AI開發業務 聯繫方式：https://modelsafe.jp/contact 服務介紹：https://modelsafe.jp/