セキュリティの
学び場

今回の解説ニュース

OpenAIがフィッシング詐欺などに悪用されているということです。ChatGPTに代表されるOpenAIのアプリケーションにまつわるセキュリティリスクについて説明します。

今回の記事は、テレグラムボットを用いることでOpenAIのAPIを利用して悪意あるメールやコードの生成を可能とするサービスが、アンダーグラウンドのフォーラムで売られていることを確認していると発表しています。

通常、フィッシング詐欺などへの悪用を防ぐためChatGPTでは、不正行為を助長するような質問や依頼を投げかけると「要求に応じることはできない」とAIが断るように制限を設けています。しかし、OpenAIのAPI自体は不正対策はほとんど行われておらず、その結果、ChatGPTがユーザーインターフェースに設定している制限に引っかかることなく、フィッシングメールやマルウェアコードなどの悪意あるコンテンツの作成が可能になっているということです。

話題のAIチャットボット、セキュリティリスクの観点から考える

今回の発表からセキュリティリスクについて、できるだけわかりやすく説明します。

まず、OpenAIとは、営利法人と非営利法人からなる人工知能を研究する組織です。AIの普及と発展をさせることを目標に掲げてAI分野の研究を行っており、OpenAIの技術を活用したアプリケーションの一つとしてChatGPTが挙げられます。

続いて、ChatGPTとは、OpenAIが2022年11月に公開したチャットボットです。人間が自然と感じる回答を生成することから注目を集めており、ChatGPTのアクティブユーザー数が1億人へ到達するまでにかかった時間は2か月と言われています。

最後に、テレグラムとは、ロシアで開発された秘匿性の高いインスタントメッセージアプリケーションです。メッセージは暗号化されており、一定の時間が経過すると削除される機能もあるため、プライバシーも担保されることから、サイバー犯罪に悪用される事例が確認されています。

セキュリティリスクの観点で考えると、ChatGPTは人間が話す自然言語に近い回答をすることができるため、機械的に作られた文章と比較して、違和感がないことが期待できます。具体的には、マルウェアが添付されたメールの本文に悪用された場合、極めて自然な内容と判断されることで添付ファイルがクリックされ、よりマルウェアへの感染率が上がることが考えられます。

そのような状況を鑑みて、ChatGPTは悪意あるメールやコードを生成しようとするユーザの依頼に対して制限をかけています。しかし、OpenAIのAPIを利用する外部アプリケーションには現状、制限がほとんどかけられていないため、サイバー犯罪者によってテレグラムボットに悪用され、AIを活用した悪意あるメールやコードの生成が可能な状態になっています。

AIを利用するにあたりセキュリティの観点から気を付けるべきポイント

AIを利用する際にセキュリティの観点で気を付けるポイントとして、AIに機密情報を学習させると、ユーザからの質問に機密情報を回答してしまう可能性があります。

例えば、AさんがAIに、Aさんの住所、年齢、電話番号など個人情報を学習させたとします。何ら制限されていないAIは学習したデータについて、回答して良いことと悪いことを区別することはありませんので、関係のないBさんが「Aさんの住所と電話番号を教えて」と質問しても、無邪気に答えてくれるはずです。

AIは自然言語によるチャットだけでなく、開発言語によるプログラミングができることでも有名です。仮に、AIへパスワードやAPIキーなどの機密情報を含むソースコードを学習させてしまった場合、ユーザがAIへの質問を駆使することで、機密情報を引き出すことができるかもしれません。そのために、ChatGPTでは不正行為を助長するような質問を制限していると考えられます。

AIがWikipediaを学習データとして利用するように、公開レポジトリのソースコードを学習データとして利用することが考えられますので、今まで以上に機密情報を含んだ状態でソースコードを公開しないように注意することが必要です。

今回は、ChatGPTに代表されるOpenAIのアプリケーションにまつわるセキュリティリスクについてお届けしました。