オープンソースソフトウェア（OSS）の脆弱性を発見した人に報奨金を支払う仕組みが、AIの台頭によって大きな変革を迫られている。米セキュリティ企業HackerOneは、新たな脆弱性報告の受け付けを停止。AIが生成する低品質な報告が急増し、対応が追いつかなくなったことが原因だ。同様のプログラムを提供してきたGoogleもルール変更を余儀なくされており、業界全体に波紋が広がっている。
HackerOne、新規報告の受付を停止
HackerOneのバグバウンティプログラムは2021年に開始され、これまでに支払われた報奨金の総額は150万ドルを超える。重大な脆弱性の場合、1件あたり4000～2万5000ドルの報奨金が支払われ、うち80％が発見者に、残りの20％は対応に当たるOSSプロジェクト側に提供されていた。
しかし、HackerOneは3月28日付で、新規の報告受け付けを停止すると発表。理由について「脆弱性発見の様相が変わりつつある。AIを利用した調査により、エコシステム全体で脆弱性発見が拡大し、カバー範囲とスピードの両方が増大した。オープンソースの脆弱性発見と修正能力の間のバランスが大きく変化した」と説明した。
HackerOneからの報奨金がなくなったことで、オープンソースのJavaScript実行環境「Node.js」もバグバウンティプログラムの停止を余儀なくされた。今後も脆弱性報告は受け付けるものの、報奨金は支払われないという。
AI生成の「ゴミ報告」が問題に
これとは別に、オープンソースの通信ツール「curl」プロジェクトも1月までにバグバウンティプログラムを打ち切っていた。「インセンティブが大きすぎて悪意を持って『問題』がでっち上げられ、過度な負担や悪用を引き起こした」という理由だった。
サイバーセキュリティニュースサイト「Dark Reading」によると、オープンソースプロジェクトのメンテナーはAIが生成する「ゴミ報告」の検証に時間を取られるようになり、「トリアージ（優先順位付け）疲れ」が大きな問題になっているという。
米セキュリティ企業Minimusの専門家は、AIが生成した「ゴミ報告」が急増したことで、かつて15％程度あった有効な報告の割合は5％未満に低下したと指摘する。「脆弱性探しにAIを利用しても、重大なゼロデイの発見が増えるとは限らない。それどころか、もっともらしく見えるが悪用はできない脆弱性報告が殺到し、トリアージ担当者が何千件もの検証を強いられている」という。
Googleもルール変更、低品質報告を排除
先にオープンソースソフトウェアの脆弱性を対象とする報奨金プログラムのルール変更に踏み切ったGoogleも、AIで生成された「低品質で無効な報告」の急増を伝えていた。AI生成レポートの急増は、誤った情報やハルシネーション（もっともらしい虚偽情報）の「洪水」状態を引き起こしたとGoogleは主張する。そうした中で「対応チームが重大な脆弱性に集中して取り組むため」としてルール変更を表明。「低品質の報告を除外して、実質的な影響に焦点を絞るため、より高い品質の証拠提出を義務付ける」とした。
これに伴い、小規模プロジェクトや優先度が低いとされたプロジェクトは報奨金の対象外となった。「AIは脆弱性の発見を効率化できる強力なセキュリティツールだが、出力された内容は検証を必要とする」とGoogleは強調している。
