生成AI活用システム診断

よくある質問

具体的にどのような生成AI固有のリスクがありますか？

生成AI固有のリスクの代表例としてはプロンプトに対する攻撃があります。プロンプトとは生成AIへの依頼を記したテキストを指します。意図しないテキストでプロンプトを構築され、意図しない動作を引き起こしてしまう場合があります。典型的な攻撃例としては、本来は利用者に表示されないはずのプロンプト自体を出力させる行為などがあります。

独自の学習データは利用していないので、生成AIに関する診断は不要ですか？

独自データを利用していない場合も診断の実施を推奨いたします。独自のモデル構築やファインチューニングなどの独自の学習を利用しない場合でも、生成AI利用には固有のリスクが生じます。OWASP Top10 for LLM Applicationsの観点にはトレーニングデータの汚染がありますが、それ以外の観点は独自の学習データに関わらず注意する必要があるため、診断の実施を推奨しています。

生成AI活用システム診断はブラックボックステストで実施可能ですか？

ブラックボックステストでの実施が可能です。また、診断対象のソースコードを提供可能な場合は一部観点をホワイトボックスにて評価することも可能です。提供不可の場合はヒアリングとブラックボックステストの範囲で診断を実施します。