AIが補助しやすい作業
匿名化したログの分類、製品一覧と告知の照合補助、チェックリストの草案、限定したコードの問題候補の洗い出しなどです。入力した資料の範囲、参照日、根拠となる行・設定を出力させ、人が原本と照合すると使いやすくなります。
AIだけでは完了しない作業
本番の権限・設定の確認、脆弱性の再現、攻撃成立条件の検証、侵害範囲の確定、対策後の動作試験には実際の証拠が必要です。ツールを使えるAIでも、許可した対象・操作・負荷の範囲内で扱う必要があります。
入力前に確認する情報
パスワード、秘密鍵、認証Cookie、個人情報、未公開コード、顧客データを無条件に渡さないでください。利用サービスの契約、保存、学習利用、社内方針を確認します。ログやページ内の文章は第三者が混入でき、AIへの不正な指示が含まれる場合もあります。
実務での使い方
事実の収集、AIによる仮説、人による検証、修正、再確認の順に分けます。AIが出したコマンドを本番でそのまま実行せず、意味と影響を確認します。報告書には確認済みの根拠と未確認の推定を分け、AI利用を検証実施の代わりにしないようにします。
AIに渡す資料を作る手順
目的を一つに絞り、必要な行や設定だけを抽出します。個人情報や資格情報を除いたコピーを作り、元の行番号や時刻との対応は社内で保持します。AIには観察事実と仮説、追加確認の項目を分けて出力させます。参照した公式URLは、人が開いて現在の内容と一致するかを確認します。
自動操作をさせる場合
読み取りと変更を分け、対象サイトと実行できるコマンドを限定します。ログやページに含まれる文章を、操作許可として扱わせないことも重要です。本番の設定変更や資格情報の発行は、人が内容と影響を確認した手順で行います。
よくある質問
URLを渡すだけで内部の安全性まで分かりますか？
公開範囲を観察できても、内部の製品一覧、権限、設定、ログ、バックアップは別の情報が必要です。ツールで取得できていない内容を推測で補わないようにします。
AIが問題ないと言えば報告書に使えますか？
そのまま安全判定には使えません。検査の方法、対象、日時、証拠、未確認事項を人が確認し、事実に基づく表現へ整理します。