開發並提供AI資安解決方案的CoWorker株式會社(總公司:東京都新宿區,代表取締役:山里一輝,以下簡稱「本公司」或「CoWorker」),已開始提供專為生成式AI/LLM應用所打造的「LLM診斷服務」。

本服務是一項專屬診斷,對象包含本公司提供之數位轉型(DX)服務中所內建的AI應用,以及企業內部的AI應用,能全面評估LLM整合應用程式特有的風險。過去傳統的弱點掃描服務主要針對網頁應用程式或整體基礎架構的弱點,而這項新服務則聚焦於「生成式AI的安全應用」。

[Box] AI資安公司CoWorker推出「弱點掃描服務」——透過自研AI「Red Agent」× 專家的混合診斷,加快診斷速度並抑制重大風險的遺漏。 https://prtimes.jp/main/html/rd/p/000000018.000156001.html [/Box]

開發與提供的背景

生成式AI應用的急遽擴張與新興風險 隨著ChatGPT和Gemini等大型語言模型(LLM)的普及,聊天機器人和AI助手正迅速被整合至企業的DX服務與內部業務中。然而,提示詞注入、資訊外洩、輸出結果遭惡意利用等LLM特有的弱點也隨之浮現,導致傳統型弱點掃描難以偵測的案例正不斷增加。

本公司基於OWASP所定義的LLM Top 10風險,開發了支援生成式AI安全應用的全新診斷服務。

FACT BOX · 重點整理

  • 來源:PR TIMES
  • 分類:新品
  • 相關組織:OWASP
  • 產品、服務:Red Agent