「プログラミングの知識を持っていなくてもサービスが作れる時代」が到来し、IT部門だけでなく業務部門の担当者でもアプリケーションを開発できる「市民開発」が急速に広がっている。生成AIに言葉で指示するだけで、数十分後には動くWebサービスが完成する「バイブコーディング（Vibe Coding）」は企業でも導入が進む。
その一方で、新種のセキュリティ事故も増え始めている。従来のシステム開発では要件定義、設計、開発、レビュー、テストに多くの時間を費やしていたが、AIは「開発」の時間を劇的に短縮した。しかし、人間がレビューに費やす時間は短縮されておらず、開発速度だけが数十倍になり、安全性を確認する速度は従来のままだ。
「動くコード」と「安全なコード」の違い
生成AIは非常に優秀なプログラマーだが、その目的は「要求された通りに動くコードを書くこと」であり、人間が暗黙の了解として持つ「安全なコードを書くこと」とは必ずしも一致しない。例えば、認証を省略する、管理画面が外部から見える、APIキーをソースコードに埋め込む、権限管理が不十分なまま公開するといった問題が珍しくない。
—
暴走するAIエージェントは、人のミスより致命的
AIエージェントが暴走した場合、人のミスより致命的な結果を招く可能性がある。AIは開発者として優秀でも、責任を取ることはない。そもそも「AIを使える土壌」が日本企業にできているのかという根本的な課題も指摘されている。
