セキュリティの
学び場

今回の解説ニュース

今回の脆弱性は、NVIDIA ChatRTXに複数の脆弱性が存在するというものです。影響を受けるシステムは、NVIDIA ChatRTX for Windows 0.2.1以前のすべてのバージョンです。影響として、ユーザーが実行フローを変更するためにユーザー入力を送信したり、異なるプロセス間のプロセス間通信を悪用したりすることで、不適切な権限管理の問題を引き起こし、情報漏えい、特権の昇格、データの改ざんにつながる可能性があるということです。深刻度を表すCVSSv3の基本値は7.5で、2番目に高い「重要」とされています。脆弱性の詳細は、本脆弱性に割り当てられたCVE番号「CVE-2024-0096」「CVE-2024-0097」で検索してみてください。

AIチャットボット利用時の注意点

AIチャットボットを利用する際は、情報漏洩や不正アクセスに対する、一般的なセキュリティ対策に加え、AIの学習データに注意することが必要です。

まず、チャットボットでは、利用者から住所や氏名、メールアドレスなどの個人情報を入力してもらう場合があります。これらの個人情報が漏洩した場合、利用者にとって重大な被害につながる可能性があるので、一般的なセキュリティ対策はもれなく実施することが必要です。

具体的には、チャットボットとの通信は、常に暗号化されていることを確認して、盗聴の被害から利用者を守りましょう。また、今回のような公表された脆弱性だけでなく、チャットボットシステムを定期的に診断することで、脆弱性が放置されて悪用されることを未然に防ぎます。

AIチャットボットのセキュリティリスク

AIチャットボットは、利用者との会話や入力情報を学習し、その知識から回答を生成したり、タスクを実行したりすることができます。しかし、AIの学習機能がもたらすリスクについても、十分に理解しておくことが重要です。

仮に、Aさんの質問を学習したAIチャットボットの場合、Aさんの質問に含まれる偏見を学習してしまう可能性があります。もし、Aさんの質問に人種差別的な発言が含まれていた場合は、チャットボット自身もそのような発言をしてしまう可能性があります。

その他にも、利用者の入力した質問に、住所や氏名などの個人情報や、パスワードやクレジットカード情報などの機密情報が含まれていた場合、AIが学習したデータに対して悪意のある第三者が質問することで、悪用されてしまう可能性があります。

AIツールを利用する際は、脆弱性情報やAIの取り扱いについて、積極的に公表しているツールを選びましょう。脆弱性情報が公表されており、定期的にアップデートが行われていれば、一定のセキュリティが担保されていることが期待できます。逆に、一切のアップデートが行われていない場合は、脆弱性がないというよりも、積極的に発見しようとしていない可能性を疑った方がいいかもしれません。また、先ほど説明したAIの学習データなどについて、どのようなポリシーで運用されているかについては、事前に内容をよく確認したうえでツールを選定することが求められます。