日本Elith公司獲經產省、NEDO「GENIAC」計畫第4期採納

株式會社Elith宣布其提案主題「金融業務專用AI護欄模型『FinGuard』開發」獲經產省與NEDO實施的GENIAC第4期公募採納。GENIAC為日本國家級計畫，旨在強化國內具競爭力的生成式AI基礎模型開發。近年金融業導入生成式AI加速，但面臨個資(PII)洩漏、合規違規、幻覺(Hallucination)及提示注入攻擊等特有風險。FinGuard針對金融領域開發，可即時監控生成式AI的輸入與輸出，偵測並阻斷不當回應與機密資訊外洩。主要功能涵蓋PII洩漏偵測、合規違規偵測、金融幻覺偵測及提示注入防護。FinGuard並非特定服務專用，而是可跨接各種LLM與AI代理的通用安全層。本計畫亦將建構並公開金融領域專用安全性基準「FinGuard-Bench」。未來將與金融教育機構、金融DX企業及機器人理財營運商等展開實證，推動金融領域安全運用生成式AI。GENIAC自2024年2月啟動，本次為第四期，主要透過提供運算資源加速基礎模型開發。