セキュリティの
学び場

生成AIにおけるプラグインとは

生成AI の基本的な機能は「学習済みの知識とプロンプト内の情報を基に回答する」ことです。 いわば素のままの生成AIは、何かを調べたり、操作することができません。 このような機能を実現するのが、生成AI基盤が提供するプラグインです。
ChatGPTの場合、このような拡張機能として GPTs が提供されています。
なお、ChatGPT では外部連携機能を ChatGPTプラグイン として提供していましたが、 2024年2月にChatGPTプラグインを廃止して GPTs へ統合することがアナウンスされました。 このため、厳密にはChatGPTにおいて「プラグイン」とは呼びませんが、「素のままのGPTが持たない知識や機能拡張を利用できるようにする」という意味で、ここでは生成AIプラグインの一種として扱います。

生成AIのプラグインで出来ること

先に述べた通り、「素のままの生成AI」は「知っている知識とプロンプト内の情報から回答する」ことしかできません。生成AIのプラグインを介することで、以下のようなことが生成AIで実現できます。

• ・リアルタイム情報の参照と活用
• ・外部サービスとの連携
• ・カスタムされた生成AI機能の提供
• ・第三者が提供するプラグインの活用

「リアルタイム情報の参照と活用」と「外部サービスとの連携」は 生成AI に目や耳、手足を与える事に似ています。これにより、生成AIはリアルタイムでインターネットやサービス上の情報を参照したり、サービスを人間に代わって操作することが可能になります。例えば、誰かが何か新しいWebサービスを提供するとき、そのWebサービスを生成AIから利用する仕組みを提供するのが「外部サービスとの連携」です。これまでも Webサービス間で連携する仕組みとして WebAPI が提供されてきましたが、今後は生成AIを前提とした拡張機能の提供なども考えられます。

「カスタムされた生成AI機能の提供」は特定の目的に特化した生成AIを実現します。具体的には外部サービスや他の生成AIと連携したり、独自の知識や処理を組み合わせる等のカスタマイズした生成AI を ChatGPT の GPTs のように提供します。さらに、「第三者が提供するプラグイン活用」では、第三者が提供する「カスタムされた生成AI機能（プラグイン）」を利用することで生成AIアプリの機能拡張を容易にします。

生成AIプラグイン利用の注意点

生成AIプラグインを利用する際の主な注意点として以下が挙げられます。なお、「生成AIプラグイン提供の注意点」については別の機会に説明したいと思います。

注意点1. 信用できないプラグインを利用しない
いわゆる「サプライチェーンリスク」に対する注意です。悪意あるプラグインを利用した場合 や 脆弱性のあるプラグイン を利用した場合、情報漏洩や意図しない動作などのリスクが生じます。

注意点2. 生成AIが間違える事を想定してプラグインを利用する
生成AIの特性に基づく注意点です。例えば、プラグインを介して生成AIが外部サービス上のデータを編集する場合、意図しない既存データの破壊が生じない連携方法が望ましい対応となります。

おわりに

生成AIプラグインは生成AIの普及とともにより身近なものになると想定されます。 将来的にはサービスが提供するプラグインにより、そのサービスのスペシャリストと仕事をする効果が得られる世界になるかもしれません。 一方で、生成AIプラグインの利用や提供にはまだまだ注意すべき点があります。 SHIFT SECURITY の 生成AI活用システム診断 ではこのような生成AIプラグインのリスク評価も対応しております。
ぜひ、リスクを管理して、安全に生成AIを活用しましょう。