たきざわ法律事務所

【2023】ChatGPTの危険性は?安全性を高める対策を弁護士がわかりやすく解説

この記事を書いた弁護士は…

 

 

 

 

 

ChatGPTとは、ユーザーのインプットに対してAIがまるで人間のように返答をしてくれる、AIチャットツールです。日本語にも対応しており、自然な言語で返答をしてくれます。

 

では、ChatGPTの利用に危険性はあるのでしょうか?今回は、ChatGPTの危険性や活用にあたって安全性を高める方法などについてくわしく解説します。

 

ChatGPTとは

ChatGPT

 

ChatGPTとは、OpenAI社が開発をしたAIチャットツールです。ユーザーの入力に対して、ほんの数秒でアウトプットを返してくれます。

 

アウトプットの精度が非常に高いことから非常に話題となり、2022年11月30日に公開され、その後わずか2ヶ月でユーザー数は1億2,000万人を突破しました(※1)。

 

また、このようなAIツールは英語のみに対応していることが多いものの、ChatGPTは日本語にも対応しています。自然な日本語で回答をしてくれるため、仮にChatGPTについて知らなければ、人が対応していると思ってしまうかもしれません。

 

※1:[新連載]史上最速で利用者1億人突破のChatGPT、焦るグーグル「破壊」の危機(日経BP)

 

ChatGPTの使い方

 

ChatGPTは、どのように使えば良いのでしょうか?さっそく、ChatGPTに「ChatGPTの使い方を教えて」と入力して聞いてみましょう。すると、ものの数秒で次の返答がありました。

 

ChatGPTを使用するには、次の手順に従ってください。

 

  1. ウェブブラウザーを開いて、ChatGPTの公式ウェブサイト(https://beta.openai.com/docs/)にアクセスします。
  2. 画面上部にある「Sign up for API key」をクリックして、APIキーを取得します。
  3. 取得したAPIキーを使って、ChatGPTに接続します。APIキーを使用する方法については、公式ドキュメントを参照してください。
  4. ChatGPTと対話するには、チャットウィンドウにテキストを入力し、Enterキーを押します。ChatGPTは入力されたテキストに応じて回答を返します。
  5. 必要に応じて、ChatGPTに対して繰り返し質問をすることができます。また、対話を終了するには、チャットウィンドウの右上にある「Exit」ボタンをクリックします。

 

注意:ChatGPTは人工知能のモデルであり、自動応答システムです。人間と同じような認識力を持っていません。また、ChatGPTに対して不適切な質問や過度な要求をすることは避けてください。

 

このように、非常に流暢な日本語で返答がありました。

 

念のために、ChatGPTの使い方について少し補足します。ChatGPTを利用するにはまず、ChatGPTの公式サイトにアクセスをして、ユーザー登録をするか、Googleアカウントなどと連携をします。

 

ログインをすると「Send a message.」と書かれた入力ボックスが現れますので、そこに文字を打ち込んでチャットを開始しましょう。ChatGPTには有料プランもありますが、無料で使うことも可能です。

 

ChatGPTでできること

 

ChatGPTでは、どのようなことができるのでしょうか?こちらも、「ChatGPTでは、何ができますか」と入力してChatGPTに聞いてみましょう。これに対するアウトプットは次のとおりです。

 

ChatGPTは、人工知能の一種であり、言語モデルの一つです。ChatGPTは、自然言語処理の分野で使用され、以下のようなタスクを自動化することができます。

 

  1. 文章生成:ChatGPTは、与えられた文脈から文章を生成することができます。例えば、小説やニュース記事、手紙、レビュー、広告など、様々な形式の文章を生成することができます。
  2. 言語翻訳:ChatGPTは、与えられた文章を自動的に別の言語に翻訳することができます。例えば、英語から日本語への翻訳や、日本語から中国語への翻訳などが可能です。
  3. 質問応答:ChatGPTは、与えられた質問に対して自動的に回答を生成することができます。例えば、FAQなどの質問に対する回答や、顧客対応などでの自動応答に利用されることがあります。
  4. 自然言語対話:ChatGPTは、人間との対話においても、自然な文章で返答することができます。例えば、チャットボットや音声アシスタントなど、様々なアプリケーションに活用されています。

 

以上のように、ChatGPTは自然言語処理の分野において、様々なタスクを自動化することができます。また、ChatGPTの機能は、今後の技術進化によって更に発展することが期待されています。

 

ChatGPTはこのように、さまざまな分野での活用が可能です。活用方法は、インプットをするユーザー次第で無限大であるともいえるでしょう。

 

ChatGPTの主な危険性:ユーザー視点

 

ここまでは、ChatGPTの有用性について解説しました。では、ChatGPTの利用には危険性はないのでしょうか?まずは、ユーザー視点での危険性を3つ解説します。

 

もっともらしい文体で誤った出力をすることがある

 

ChatGPTの返答は、必ずしも正確であるとは限りません。非常にもっともらしい文体で虚偽の内容をアウトプットする場合もあります。

 

特に人物など固有名詞の説明については弱いようで、しばしば誤った返答がなされているのが現状です。笑い話で済むような内容であればまだ良いものの、犯罪歴があるかのような虚偽のアウトプットがなされてしまえば、大きなトラブルへと発展しかねません。

 

また、企業がChatGPTのアウトプットを信用してこれをベースに開発などを行ったところ、その後誤っていたことが判明すれば、軌道修正を迫られることとなるでしょう。

 

情報漏洩の可能性がある

 

ChatGPTへインプットした内容はOpenAI社の開発者の目に触れる可能性があるほか、ChatGPTの学習用データとして使われる可能性があります。これは単なる憶測ではなく、ChatGPTのQ&Aに、次のとおり明記されていることです。

 

5.誰が私の会話を表示できますか?

安全で責任ある AI へのコミットメントの一環として、会話を見直してシステムを改善し、コンテンツがポリシーと安全要件に準拠していることを確認します。

 

6.私の会話をトレーニングに使用しますか?

はい。あなたの会話は、システムを改善するために AI トレーナーによって確認される場合があります。

 

そのため、機密情報をChatGPTに入力してしまうと、他のユーザーへのアウトプットでその機密情報に関する事項が出力される危険性があるでしょう。

 

取引先などとトラブルになる可能性がある

 

ChatGPTのユーザーがこれほどまでに広がっている現状では、従業員や取引先がChatGPTのユーザーである可能性は低くないでしょう。

 

そのため、たとえばブログ記事の執筆などを取引先へ委託した場合に、ChatGPTを使って記事が作成されてしまう可能性があります。また、自社が委託している開発用のプログラムコードを委託先の従業員がChatGPTに入力し、情報が漏洩してしまうかもしれません。

 

このように、ChatGPTの利用に関して取引先などとトラブルになる危険性があります。

 

最適解を提案します

 

最適解を提案します

 

ChatGPTの主な危険性:社会全体としての視点

 

次に、ChatGPTの登場が社会全体へ及ぼす危険性について、3つの危険性を解説します。

 

犯罪などに悪用される可能性がある

 

便利なツールが登場すると、これを犯罪に悪用する人が現れるのは世の常です。ChatGPTもこの例に漏れず、犯罪に悪用される危険性があります。

 

たとえば、もっともらしい文章が簡単に作成できることから、フェイクニュースが量産される可能性があるでしょう。ChatGPTが作成したフェイクニュースが改変された画像などとともに拡散されれば、真実であるかのように誤認する人が増えてしまうかもしれません。

 

また、ChatGPTを使って作成されたメールが迷惑メールに活用される危険性もあります。ほかにも、不正アクセスのプログラムがChatGPTで生成されてしまう可能性もあるでしょう。

 

誤った知識が広まる可能性がある

 

先ほど解説したように、ChatGPTは誤った内容をアウトプットすることもあります。これにより、誤った知識が広まる危険性があるでしょう。

 

特に医療や健康に関する誤ったアウトプットが広まれば、これを信じた人の体に悪影響を及ぼす危険性もあります。

 

自己の著作物が学習データとして取り込まれる可能性がある

 

ChatGPTは、インターネット上のあらゆる情報を学習用データとして取り込んでいます。そのため、インターネット上で公開した自己の著作物が、ChatGPTに取り込まれる可能性があるでしょう。

 

これにより、別のユーザーによるアウトプットで、自己の著作物と酷似した内容が表示される可能性もあります。ChatGPTの普及に伴って、今後著作権にまつわるトラブルが頻発するかもしれません。

 

最適解を提案します

 

最適解を提案します

 

ChatGPTの安全性を高めるための対策:個人編

 

ChatGPTがこれだけ広まっている中、安全性を高めるにはどのよう対策を取れば良いのでしょうか?個人がそれぞれで取り組むべき対策は主に次のとおりです。

 

ChatGPTの危険性を理解したうえで活用する

 

ChatGPTに関するトラブルに遭遇しないためには、個々がChatGPTの危険性をよく理解したうえで活用することが重要です。特に、業務上知り得た機密情報をChatGPTへ入力することのないよう注意しなければなりません。

 

機密情報を無断でChatGPTへ入力した結果その情報が流出することとなれば、勤務先から解雇されたり取引先から損害賠償請求をされたりする可能性があるためです。また、ChatGPTが返す内容が必ずしも真実ではないことを十分に留意しておく必要があるでしょう。

 

セキュリティソフトを最新状態に保つ

 

ChatGPTの普及によって迷惑メールが増加したり、より巧妙化したりする可能性があります。巧妙化した迷惑メールは、目視では迷惑メールであると判別できないかもしれません。

 

そのため、改めてセキュリティソフトを見直し、セキュリティソフトを最新状態に保つなどの対策をする必要があるでしょう。

 

真偽が疑わしい情報を拡散しない

 

今後、ChatGPTを活用して書かれたフェイクニュースが増加するかもしれません。そのため、個々がこれを拡散しないよう注意することが必要です。

 

センセーショナルな記事を見かけたらまずは情報のソースを確認し、疑わしい内容の記事を拡散しないよう心がけましょう。

 

最適解を提案します

 

ChatGPTの安全性を高めるための対策:企業編

 

ChatGPTの安全性を高めるため、企業はどのような対策を講じれば良いのでしょうか?企業が検討したい主な対策は次のとおりです。

 

社内規程を定める

 

はじめにChatGPTに関する自社のスタンスを定めたうえで、社内規程を見直しましょう。ChatGPTの業務利用を全面的に禁じるのであれば、その旨を規程に盛り込むことなどが挙げられます。

 

また、機密情報を取り扱う企業では、機密情報をChatGPTに入力しないよう定めておくことをおすすめします。ChatGPTに関して特に定めていなければ、知らぬ間に従業員がChatGPTを業務に活用しているかもしれません。

 

社内研修を実施する

 

ChatGPTの利用に関して、社内研修を実施すると良いでしょう。そこでは、先ほど解説したような自社のスタンスを浸透させるほか、仮に機密情報が漏洩した場合のリスクなどについても解説することをおすすめします。

 

社内に研修講師の適任者がいない場合には、弁護士など外部の専門家に講師を依頼することも一つの手です。専門家に講師を依頼することで、法務リスクや最新事例などを交えて解説してくれることでしょう。

 

セキュリティソフトを最新状態に保つ

 

ChatGPTの登場で迷惑メールや不正アクセスが増える可能性を踏まえ、個人で講じるべき対策と同じく企業もセキュリティソフトを最新に保つなど、セキュリティ対策を改めて見直す必要があるでしょう。

 

特に、企業がフィッシング詐欺や不正アクセスの被害にあった場合には、その影響が甚大となる傾向にあります。場合によっては、取引先にまで迷惑をかけてしまうかもしれません。

 

取引先との契約書を見直す

 

自社の開発業務やウェブコンテンツの作成などを外部に委託している場合には、委託先との契約内容を見直す必要があるでしょう。たとえば、自社が委託した業務についてChatGPTの利用を禁止したり、業務上の必要から自社が提供した機密情報をChatGPTに入力することを禁止したりすることなどが挙げられます。

 

ただし、契約書に条項を追加したり条項の一部を改訂したりした場合には、他の条項と矛盾が生じないよう整合性を確認しなければなりません。そのため、契約書を見直す際には弁護士へ相談することをおすすめします。

 

コピペチェックツールを活用する

 

自社のコンテンツ生成などでChatGPTを活用する場合には、自社のウェブサイトの掲載などをする前に、ウェブ上の他の記事と酷似していないか確認すると良いでしょう。たとえば、コピペチェックツールを活用することなどが考えられます。

 

なぜなら、ChatGPTのアウトプットが他者の書いたコンテンツと酷似していれば、著作権侵害であるとされてトラブルに発展する危険性があるためです。

 

ユーザーが悪意を持ってコンテンツの盗用をしたわけでないとしても、ChatGPTがそのコンテンツを学習用データとして取り込んでいる可能性は否定できません。また、結果的に侵害がないと認められたとしても、対応には時間とコストを要します。

 

そのため、無用なトラブルを防止するためにも、ChatGPTを使ってコンテンツを生成する際にはコピペチェックを徹底することをおすすめします。

 

最適解を提案します

 

最適解を提案します

 

まとめ

 

ChatGPTは非常に便利なツールであり、うまく活用すれば業務効率化に大きく寄与することでしょう。

 

しかし、ChatGPTの返答が必ずしも正しいとは限らないうえ、入力した機密情報が漏洩する危険性もあります。また、犯罪行為などに悪用される危険性も否定できません。

 

そのため、ChatGPTの利用に関してはユーザーや企業が対策を講じ、安全性を高める工夫が必要です。

 

たきざわ法律事務所では、インターネット法務に力を入れています。ChatGPTにまつわる社内規程の整備やChatGPTにまつわるトラブルでお困りの際などには、たきざわ法律事務所までお気軽にご相談ください。

 

 

 

 

 

この記事を書いた弁護士は…

 

サンカラ

サンカラ