ビジネスシーンでAIの利用が急速に広がる一方、安全に活用するためのセキュリティ対策は追いついていないのが実情だ。多くの企業が「AIには機密情報を入れない」という注意喚起を守っているが、それだけで本当に安全なのだろうか。
AIセキュリティの「切り口」を整理する
AIを安全に利用するためには、まずセキュリティの観点を明確にする必要がある。主要な観点は次の5つだ。
- データの機密性：AIに入力するデータが適切に保護されているか
- データの完全性：AIが改ざんされていないデータを処理しているか
- モデルの安全性：AIモデル自体が攻撃に対して堅牢か
- 出力の信頼性：AIの出力結果が正確で悪意のある内容を含まないか
- コンプライアンス：規制や社内ポリシーに準拠しているか
これらの観点を踏まえ、企業はAI利用に関するルール化と統制を進める必要がある。
—
AIアプリにおけるデータの所在と流れ
AIサービスを利用する際、データがどこに保存され、どのように流れるかを理解することが重要だ。SaaSとAIの違いを考えてみよう。メールサービスなどのSaaSでは社外秘情報を日常的に扱っているが、SaaSがAI機能を搭載した場合、同じように社外秘情報を扱えるのか疑問が生じる。実際には、AI機能の有無にかかわらず、データの取り扱いポリシーを確認し、適切な対策を講じる必要がある。
AI利用に関するルール化と統制
企業はAI利用に関する明確なルールを策定し、従業員に周知徹底すべきだ。具体的には、以下のような対策が考えられる。
- AIサービスごとに利用可能なデータの種類を定義する
- 機密情報を扱う場合は、オンプレミス型やプライベートクラウド型のAIを検討する
- AIの入出力データを定期的に監査する
「AIを使わないこと」は個人と組織のリスク
セキュリティを理由にAI利用を制限しすぎると、競争力の低下につながるリスクがある。AIを適切に活用できないことで、業務効率の改善機会を逃し、結果的に個人や組織の成長を阻害する可能性がある。CISOはセキュリティとビジネス価値のバランスを考慮し、安全なAI活用を推進する必要がある。
本記事では、企業がAIを利用するうえでのセキュリティ上の論点を整理し、ユーザーが考慮すべきセキュリティモデルを提案した。AIセキュリティの基本を押さえ、安全かつ効果的なAI活用を目指してほしい。
