AIが書いた公開アプリ、9割に脆弱性と米研究

概要

詳細

調査方法

調査対象は、Claude CodeやLovableといったツールを使い、コードの90%以上をAIが書いたと見なせるアプリです。研究チームはこうしたアプリのうち実際に公開運用されている984件から200件を無作為抽出し、1件ずつ手作業で脆弱性を監査しました。

見つかった脆弱性の深刻度

200件のうち91.0%にあたるアプリから、少なくとも1つの脆弱性が見つかりました。確認された脆弱性は合計1,186件にのぼり、このうち65.77%が第三者による不正アクセスやデータ漏えいにつながりかねない「致命的」または「高」の深刻度に分類されています。内容別では、アクセス権限の不備が339件(28.58%)、インジェクション系の不備が199件(16.78%)、認証の不備が176件(14.84%)を占めました。

原因は「知識の欠陥」

研究チームは脆弱性の原因を3つに分類しています。最も多かったのは、AIがセキュリティ上必要な暗黙のルールを見落としたり、危険な指示をそのまま実行してしまう「知識の欠陥」で、全体の63.4%を占めました。次いで、セキュリティよりも機能の実現を優先してしまう「目的の欠陥」が23.1%、実装すべき既定の安全対策を単純に書き忘れる「記憶の欠陥」が13.5%でした。

対策になり得る工夫

指示文(プロンプト)に「本番運用に耐えるものを作って」という一文を加えるだけで、脆弱性の再発率は25.7%から11.0%まで下がりました。セキュリティに関する注意点を明示的に加えた場合も11.9%まで改善しましたが、逆に技術的な指示を細かく書き込みすぎると45.7%まで悪化するケースも見られました。また、より高性能なAIモデルに切り替えても改善はほとんど見られず、場合によっては悪化することもあったとしており、モデルの性能向上だけでは解決しない課題であることがうかがえます。