CTC、リコー、リコージャパンがオンプレミスAIサーバーを提供開始、セキュアな生成AI活用を促進

超小型サーバーと高性能LLMでAI導入を容易に
導入から運用までをCTCとリコージャパンが強力にサポート
関連情報

超小型サーバーと高性能LLMでAI導入を容易に

本ソリューションの核となるAI用サーバーは、オンプレミス環境で大規模なパラメーターを持つLLMを動作させるための高い機動性と計算能力を備えています。デスクサイドに設置可能な超小型筐体が特徴で、NVIDIA GB10 Grace Blackwell Superchipを基盤に構築されており、ローカル環境で最大2,000億パラメーターのモデル開発・推論が可能です。

このサーバーには、270億パラメーターと比較的小規模ながらも高性能を実現したリコー製LLMが搭載されています。これにより、設置場所の制約を受けずに、機密情報を安全に扱えるオンプレミス環境でのAI活用が実現します。

導入から運用までをCTCとリコージャパンが強力にサポート

CTCは、本サーバーへのリコー製LLMおよび生成AI開発プラットフォーム「Dify（ディフィ）」のプリインストールを含むAI活用環境の設定までを担当します。これにより、お客様は特別な設定を行うことなく、手軽にAI活用を開始できます。リコージャパンは、このソリューションをパッケージとして提供します。

このソリューションは、機密情報を扱うリスクからオンプレミス環境でのAI利用を希望するお客様だけでなく、AIの動作検証、全社導入に向けたテスト導入、さらには業務単位や担当者単位での導入にも適しています。

リコーおよびリコージャパンは、お客様に寄り添いながら、業種・業務に応じた「使える・使いこなせるAI」を提供し、オフィスおよび現場のデジタルトランスフォーメーション（DX）を支援しています。今回のソリューションは、オンプレミス環境でセキュアにAIを活用するために必要な環境構築から導入、運用支援までをパッケージで提供する「RICOH オンプレLLMスターターキット」のラインアップをさらに拡充するものです。

CTCは、長年のSI実績とインフラ構築で培ったノウハウを基に、本ソリューションの導入プロセス最適化を支援します。ベンダーとのパートナーシップを活かし、導入までのリードタイムを最小化することに貢献します。さらに、各種設定シートや手順書の整備、出荷前の動作検証、出荷・輸送管理までを一括して対応することで、現場作業の負荷を大幅に軽減します。