ビジネスで毎日AIを利用するものの、「機密情報は入れない」というルールで止まっている企業は多い。しかし、それだけでは不十分だ。本稿では、AIを安全に利用するためのセキュリティ対策について、Preferred NetworksのAIガバナンス推進・セキュリティアーキテクトである高橋正和氏が解説する。
AIセキュリティの現状と課題
AIを安全に利用するためのセキュリティ対策は、技術の進歩に追いついていないのが現状だ。多くの企業がAI活用を進める一方で、セキュリティリスクへの対応は後手に回っている。
Secure Use of AIモデル：4つの要素
今回は「Secure Use of AI（AIを安全に使う）」に焦点を当て、以下の4要素で構成するモデルを提案する。
—
- AIシステム利用に伴う技術的リスク：データとプライバシーの保護、新たな攻撃経路・脆弱性の出現、脆弱性情報の突発的な公開（ゼロデイ開示など）が含まれる。
- AIの出力に起因する倫理的・意味論的リスク：不正確または偏った情報の生成（ハルシネーション）、不公平・差別の誘発、著作権などの権利侵害が該当する。
- 攻撃者によるAI悪用に起因するリスク：AIを悪用した高度なサイバー攻撃など、外部からの脅威を指す。
- 統制・ガバナンス：社内規定、ガイドライン、監査などの運用管理体制が含まれる。
AIアプリにおけるデータの所在と流れ
AIセキュリティを考えるうえでは、データがどこに存在し、どのように流れるかを把握することが不可欠だ。AIアプリが扱う主なデータは、以下の4つに整理できる。
- AIモデルが保有する学習データ
- プロンプト（ユーザーの入力）とAIアプリの応答
- ファイルサーバーやメールボックス等の外部サービスのデータ
- RAG（社内データのAI参照を補助するためのデータベース）
この分類に基づいて、「組織外への情報漏洩リスク」と「社内での情報漏洩リスク」について見ていく。
AI利用に関するルール化と統制
AIを安全に利用するためには、技術的対策だけでなく、ルール化と統制が重要だ。CISOは、AI利用に関する明確なポリシーを策定し、従業員への教育を徹底する必要がある。また、定期的な監査とリスク評価を実施し、セキュリティ対策を継続的に改善することが求められる。
