CTC、Ricoh、Ricoh Japan 開始提供搭載 Ricoh 自製 LLM 的超小型桌邊 AI 伺服器

伊藤忠科技解決方案株式會社（代表取締役社長：新宮達史，以下簡稱 CTC）與 Ricoh 株式會社（社長執行役員：大山晃）以協助客戶在業務中運用 AI 為目的，共同開發了一套將小型桌邊 AI 伺服器與 Ricoh 自製 LLM（大型語言模型）結合，能在地端環境中安全且便捷地使用生成式 AI 的解決方案。本方案不受安裝地點限制，可建構 AI 環境，支援從模型驗證到以業務單位為基礎的應用。即日起透過 Ricoh Japan 株式會社（社長執行役員：笠井徹）開始提供。

近年，企業對生成式 AI 的運用已從 PoC（概念驗證）階段迅速轉移至業務現場的實際運營。然而，機密資料的處理、模型精度的驗證以及環境建置所帶來的負擔等問題日益凸顯，市場迫切需要能兼顧安全性與速度的導入方式。

本方案的 AI 伺服器最大特點是採用超小型機箱設計，可放置於桌邊，在地端環境中具備高機動性與運算能力，足以運行大規模參數的 LLM。搭配 Ricoh 自製 LLM——雖僅有 270 億參數（決定 AI 性能的學習要素規模）的相對緊湊架構，卻實現了高效能表現——使得無論在何處都能在安全環境中靈活運用 AI。

CTC 負責完成本伺服器上 Ricoh 自製 LLM 及生成式 AI 開發平台 Dify 的預裝，以及 AI 應用環境的設定，再由 Ricoh Japan 以套裝方案的形式提供。如此一來，客戶無需進行特別設定，即可輕鬆開始運用 AI。

除了因顧及處理機密資訊風險而需要在地端環境使用 AI 的客戶外，本方案也適合用於 AI 功能驗證、面向全公司導入的測試部署，以及依業務單位或負責人單位進行的導入。

Ricoh 與 Ricoh Japan 貼近客戶需求，依行業與業務提供「能用、能活用的 AI」，支援辦公室及現場的數位轉型（DX）。以「RICOH 地端 LLM 入門套件」為首，提供涵蓋在地端環境中安全運用 AI 所需的環境建置、導入到運營支援的一站式套裝解決方案，並依客戶使用規模及用途提供完整產品陣容。本次解決方案的推出進一步擴充了產品陣容。

CTC 以多年系統整合（SI）實績與基礎架構建置所累積的專業知識為基礎，協助優化本方案的導入流程。同時發揮與廠商的合作夥伴關係，將導入前置時間縮至最短。此外，從各項設定表單及操作手冊的整備、出貨前的功能驗證，到出貨與物流管理，全程一手包辦，大幅減輕現場作業負擔。

今後將持續降低企業導入 AI 的門檻，進一步強化朝 AI 深度應用邁進的附加價值提供。