アプリセキュリティ企業のCheckmarxは、AnthropicのClaude Codeの自動レビューでは一部のバグは検出できるものの、他のバグは見逃されてしまうことがあり、テスト中にコードを実行することで新たなリスクを生み出すこともあると述べている。
Anthropicは先月、Claude Codeに自動セキュリティレビューを導入し、「ベースラインセキュリティレビューなしではコードが本番環境にリリースされない」ことを約束しました。AI主導のレビューでは、認証と認可の欠陥、安全でないデータ処理、依存関係の脆弱性、SQLインジェクションなど、一般的な脆弱性パターンがチェックされます。
Checkmarxは、Claude Codeの/security-reviewコマンドが、XSS（クロスサイトスクリプティング）などの単純な脆弱性や、多くの静的解析ツールでは見逃される可能性のある認証バイパスの問題さえも検出することに成功したと報告しました。しかし、Pythonデータ分析ライブラリpandasを用いたリモートコード実行の脆弱性によって検出され、誤検知と誤って結論づけられてしまいました。
より困難な領域は、AIによる検査を誤らせるようにコードが細工されている場合です。研究者たちは、「sanitize」と呼ばれる関数を用いてこれを行ないました。この関数には、安全でない入力や無効な入力をどのように検出するかを説明するコメントが付与されていましたが、実際には明らかに安全でないプロセスが実行されていました。この関数はClaude Codeのセキュリティレビューを通過し、「セキュリティへの影響：なし」と評価されました。
もう一つの問題は、Claude Codeのセキュリティレビューが独自のテストケースを生成・実行することです。研究者らは、「単にコードをレビューするだけでは、組織に新たなリスクをもたらす可能性がある」という潜在的な問題点を挙げています。例として挙げられているのはSQLクエリの実行ですが、テストデータベースに接続された開発中のコードであれば通常は問題になりません。しかし、悪意のあるコードがサードパーティのライブラリに隠されている場合など、安全性をテストするためにコードを実行することが不適切なケースも考えられます。
クロード・コード氏は開発者に対し、「信頼できるコードにのみ使用してください」と警告している。
CheckmarxはAIセキュリティレビューの価値を否定しているわけではありませんが、開発者に対し、製品自体が発する警告に注意するよう求めています。例えば、「Claudeは間違いを犯す可能性があります」や「プロンプトインジェクションのリスクがあるため、信頼できるコードでのみ使用してください」といった警告です。コードが完全に信頼できる場合、セキュリティレビューは不要になるという点で、ここには矛盾が生じています。
- マイクロソフトはWindowsドライバのRusty化に近づいているが、実稼働環境での使用は依然として禁止されている
- GitpodがAIエージェントプラットフォームへの転換でOnaとして生まれ変わる
- JetBrains ReSharperの「大規模なアーキテクチャ変更」によりVisual Studioのフリーズが減少
- Laravelの発明者が開発者に「複雑な大聖堂」を書くのをやめるよう指示
研究者らは、AI セキュリティ レビューを安全に使用するための 4 つのヒントを挙げています。開発者マシンに本番環境へのアクセスを許可しないこと、開発中のコードで本番環境の資格情報を使用できないようにすること、すべてのリスクのある AI アクションに人間による確認を要求すること、エンドポイント セキュリティを確保して開発者環境における悪意のあるコードによるリスクを軽減することです。
「クロード・コードは、非常に強力なツールを備えた素朴なアシスタントです。問題は、この素朴さと強力さの組み合わせにより、暗示の影響を非常に受けやすくなっていることです」と研究者らは述べています。
したがって、コード生成、テスト生成、セキュリティレビューを AI に委託することは、プロンプトインジェクションと暗示性に関する未解決の問題を抱える中で、厳格な人間による監視なしに安全なアプリケーションを作成するための堅牢なプロセスにはなり得ないことは明らかです。®
