生成AI活用における新たなセキュリティリスク
近年、企業における生成AIの活用は急速に進んでいます。しかし、社内利用にとどまらず、顧客対応や業務システムへの組み込みが進む中で、従来の情報セキュリティ対策だけでは対応しきれないAI特有のリスクが顕在化しています。
具体的には、以下のようなリスクが挙げられます。
-
機密情報の漏洩
-
プロンプトインジェクションなどの新たな攻撃手法
-
企業評価の低下やブランド毀損につながる不適切な回答
これらの課題に対応するため、企業には従来のセキュリティ対策に加え、AIの利用状況や入出力、応答内容を適切に管理・制御する新しいセキュリティレイヤーの導入が求められています。
Cisco AI DefenseによるAIセキュリティ基盤の構築
今回のプロジェクトでは、ナレッジコミュニケーションがガイドライン策定から技術実装まで一貫して支援し、Cisco AI Defenseを活用したAIセキュリティ基盤を構築しました。
取り組みの主な内容は以下の通りです。
-
AI利用状況の把握と統制
-
入出力データおよび応答内容の保護
-
ガバナンス基盤の整備
約4か月間にわたるPoCでは、AIの利用に関する管理体制がISO/IEC 42001をベースに整理されました。
PoCで確認された具体的な成果
PoCを通じて、以下の具体的な成果が確認されました。
-
AI利用状況および利用経路の可視化により、管理対象が明確化されました。
-
AI利用に関する統制ポリシーの適用および監査運用の実現可能性が確認されました。
-
セキュリティと利便性の両立を見据えた運用モデルが整理されました。
これらの成果は、企業が安全かつ効率的に生成AIを活用するための重要な基盤となります。
ナレッジコミュニケーションの強みと今後の展開
ナレッジコミュニケーションは、生成AI活用におけるガイドライン策定や導入コンサルティングに加え、実装・運用設計まで一貫して支援できる点を強みとしています。上流の方針整理だけでなく、実運用を見据えた具体的な仕組みづくりまで伴走できる点が評価され、今回のPoC支援につながりました。
今後は、今回のPoCを踏まえた本格導入支援に加え、以下のサービスを通じて企業の安全なAI活用を推進していく予定です。
-
AIセキュリティ導入サービス
-
ガバナンス設計・運用支援
-
ナレコムAIプラットフォームとの統合
シスコシステムズ合同会社の執行役員である吉井 彩乃氏は、ナレッジコミュニケーションの取り組みとPoCの完了を歓迎し、AIセキュリティとガバナンスが企業全体でAIを展開するための不可欠な基盤であるとコメントしています。Cisco AI Defenseは、AI利用の可視化、ポリシー適用、脅威対策を統合的に提供し、安全かつ持続可能なAI活用を支援すると述べています。
株式会社ナレッジコミュニケーションについて
株式会社ナレッジコミュニケーションは、「クラウド×AI」を軸に企業のAI利活用を支援するテクノロジーカンパニーです。AWS、Microsoft Azure、Databricksなどのクラウド基盤を活用し、コンサルティングからシステム開発、データ活用基盤の整備、AI開発、運用までを一貫して提供しています。
同社は、AWS Machine LearningコンピテンシーやMicrosoft Azureの各種専門認定を取得しており、Microsoft AI Partner Awardの受賞実績もあります。これらのクラウドおよびAI領域における高い技術力と実績を強みに、企業のAIトランスフォーメーション（AX）を支援しています。
ナレッジコミュニケーションの生成AIセキュリティ対策ソリューションに関する詳細はこちらをご覧ください。
ナレッジコミュニケーション 生成AIセキュリティ対策ソリューション
株式会社ナレッジコミュニケーションのウェブサイトはこちらです。
株式会社ナレッジコミュニケーション
コメント