ChatGPTとは、AIが人間のようにスムーズな会話を返してくれる、AIチャットツールです。ChatGPTをうまく活用することで、業務効率化などにつながるでしょう。

 

しかし、ChatGPTは悪用されるリスクがあるほか、使い方を誤ればトラブルの原因となる可能性があります。そこで今回は、ChatGPTの悪用で起き得る出来事や企業が取るべき対策などについてくわしく解説します。

 

ChatGPTとは

 

 

ChatGPTとは、OpenAI社が開発したAIチャットツールです。ユーザーがチャットのように文章を入力すると、AIがあたかも人間のように返答をしてくれます。登録をするのみで無料で利用できるため、まずは触ってみると良いでしょう。

 

このようなツールは英語のみに対応していることも少なくありませんが、ChatGPTは日本語での利用も可能です。

 

ChatGPTでできる主なこと

 

ChatGPTには、さまざまな活用方法が存在します。ChatGPTでは、主に次のことが可能です。

 

メール文章の作成

 

ChatGPTへ簡単な指示を出すことで、メールの文章を作成してくれます。たとえば、「著作権侵害に遭って困っています。法律事務所へ、相談予約をするメールを書いてください」と入力すると、次のアウトプットがありました。

 

以下は、著作権侵害に関する相談予約をするための一例のメールです。法律事務所に直接電話して相談をすることもできます。

 

件名: 著作権侵害に関する相談予約依頼

 

尊敬する〇〇法律事務所様

 

私は、自身の著作物が他者によって無断で使用され、著作権侵害が行われている状況に直面しており、法的な手続きを検討している者です。貴事務所は、著作権侵害に関する問題に豊富な知識と経験を持ち、専門的な助言を提供していることから、相談予約を希望いたします。

 

以下の日程で、電話または面談による相談予約を希望いたします。相談に関しては、料金についてもお知らせいただけますと幸いです。

 

日程: 〇〇月〇〇日（曜日）〇時から〇時まで

 

お忙しい中恐縮ですが、折り返しご返信いただけますようお願い申し上げます。

 

以上、よろしくお願いいたします。

 

敬具

 

 

このように、非常に丁寧なメールを作成してくれました。多少の違和感はあるものの、ChatGPTが書いたものであるとの前置きをしなければ、ChatGPTが書いたことに気づかないかもしれません。

 

記事構成の作成

 

ウェブ上の記事を作成する際には、記事の構成（記事の見出し）を作成してから書き始めることが少なくありません。ChatGPTは、この記事構成の作成も得意としています。

 

ブログ記事の作成

 

ChatGPTは、ブログ記事などの作成も可能です。試しに「ChatGPTと著作権に関する記事を300字程度で書いて」と入力してみたところ、すぐに次の文章がアウトプットされました。

 

ChatGPTは、オープンAIが開発した人工知能の言語モデルであり、文章の生成や翻訳、応答などのタスクを自動化することができます。しかしながら、ChatGPTを使用する場合、著作権侵害に注意する必要があります。

 

ChatGPTが生成する文章には、他人の著作物を含むことがあります。著作権侵害が行われた場合、権利者からのクレームや法的な問題が発生する可能性があります。ChatGPTを利用する場合は、著作権法に準拠して使用することが重要です。

 

また、ChatGPTを利用して生成した文章を公開する場合は、出典や引用元を明示することが必要です。特に、商業利用する場合は、著作権法や倫理的な観点から、他人の著作物を使用することになるため、注意が必要です。

 

以上から、ChatGPTを使用する際には、著作権に関する法律や規則を遵守することが必要です。ChatGPTを使用することで、文章生成や自動応答などがよりスムーズに行える一方、著作権侵害を避けることが重要です。

 

 

内容の正確性については別途検証する必要があるものの、それなりの記事が即座に作成できました。今後は、人間の書いた記事であるのかChatGPTが書いた記事であるのかを見分けることが、いっそう困難となるかもしれません。

 

小説の執筆

 

ChatGPTは、簡単な小説の執筆も可能です。単に「何か小説を書いて」などと指示することもできますが、ユーザーがインプットで背景や登場人物、結末など詳細な設定していくことで、より精度の高いアウトプットが得られるでしょう。

 

プログラムの生成

 

ChatGPTは、プログラムの生成も可能です。ユーザーは日本語など通常の言語でどのようなプログラムを生成するかの指示を与えるのみでよく、コードを書く必要はありません。

 

ChatGPTの悪用で起きる可能性がある例

 

ChatGPTが悪用された場合、どのような事態が生じるおそれがあるのでしょうか？ChatGPTの悪用によって今後起き得る主な出来事の例は次のとおりです。

 

迷惑メールの巧妙化

 

迷惑メールに困っている人は、少なくないでしょう。近年では、取引先や金融機関、配送業者などを装った巧妙なメールも増えています。

 

しかし、仮に迷惑メールフィルタから漏れたとしても、日本語の不自然さから迷惑メールであることに気付くことも多いのではないでしょうか？

 

ChatGPTは、簡単な指示を入力するだけで、流暢な日本語でメールの文章を作成します。そのため、さらに巧妙な迷惑メールの生成に活用されるかもしれません。

 

たとえば、ChatGPTに「ゆうちょ銀行からお客様へ、カードが不正に利用されたことを知らせるメールを書いて」という簡単な指示を出したのみで、次の文章が出力されました。

 

以下は、ゆうちょ銀行からお客様へ、カードが不正に利用されたことを知らせるメールの例です。

 

件名: 【緊急】カード利用の不正使用に関するお知らせ

 

お客さま

 

ゆうちょ銀行をご利用いただき、誠にありがとうございます。

 

この度、お客さまがご利用いただいているカード番号が不正に利用された可能性があることが判明いたしました。

 

当行は、すでにカードの不正利用を止め、該当カードを停止いたしました。該当カードをご利用いただいた際の取引については、当行にて調査を行い、不正な取引に関しては、ご利用いただいたお客さまに追加請求をいただくことはございません。

 

お客さまにはご迷惑をおかけいたしましたこと、深くお詫び申し上げます。今後、同様の事態を防止するために、セキュリティ対策を強化してまいります。

 

万が一、お客さまご自身が不正な取引をされたことがある場合は、即座に当行までご連絡いただくようお願いいたします。

 

何かご不明な点がございましたら、お気軽にお問い合わせください。

 

敬具

 

ゆうちょ銀行

 

 

このような文面が数秒で作成できてしまうことから、迷惑メールであるか正規のメールであるかを目視で確認することが難しくなるかもしれません。そのため、今後は迷惑メールのフィルタをより強化するなど、対策が必要となるでしょう。

 

不正アクセスなどサイバー犯罪の増加

 

ChatGPTは、プログラミングを生成することも可能です。また、ChatGPTでプログラムを生成するにあたって、入力者であるユーザーがプログラミングコードを書く必要はありません。

 

さらに、ChatGPTはインターネット上に存在するあらゆるデータを、学習用データとして取り込んでいます。そのため、これが不正アクセスなどサイバー犯罪に悪用されるリスクがあるでしょう。

 

フェイクニュースの拡散

 

フェイクニュースとは、虚偽の内容をあたかも事実であるかのように伝える記事です。ChatGPTを使えば、簡単な入力のみで数秒で記事が作成できてしまうため、フェイクニュースがこれまで以上に量産されることが懸念されます。

 

また、ChatGPTで生成したフェイクニュースに偽造した画像を組み合わせることで、多くの人を信じ込ませる記事ができてしまうでしょう。センセーショナルな記事をSNSなどで拡散する前に、その記事の出処や信憑性をよく確認することが必要です。

 

ChatGPTの活用で起き得る悪用以外のトラブル

 

悪用以外に、ChatGPTの活用で生じ得るトラブルには、どのようなものがあるのでしょうか？考えられる主なトラブルは次のとおりです。

 

機密情報の漏洩

 

ChatGPTに入力した情報はOpenAI社の社員が目にするほか、ChatGPTの学習用データとして活用されます。これは、ChatGPTが公表しているQ&Aでも、次のように記載されています。

 

5.誰が私の会話を表示できますか?

安全で責任ある AI へのコミットメントの一環として、会話を見直してシステムを改善し、コンテンツがポリシーと安全要件に準拠していることを確認します。

 

6.私の会話をトレーニングに使用しますか?

はい。あなたの会話は、システムを改善するために AI トレーナーによって確認される場合があります。

 

そのため、機密情報を入力してしまうと、この機密情報が他のユーザーへのアウトプット出力されてしまうかもしれません。これを懸念して、実際にChatGPTに機密情報を入力することを禁じる企業も増加しています。

 

誤った情報の拡散

 

ChatGPTのアウトプットが、必ずしも正確であるとは限りません。中には、事実と大きく異なる内容をあたかも確証があるように返答する場合もあるほどです。

 

上で紹介をしたフェイクニュースの拡散は意図的なものですが、ChatGPTのアウトプットが真実であると誤認したユーザーによって、意図せず誤った情報が拡散されてしまうリスクもあるでしょう。

 

特に今のところ、人物に関する解説は弱いようです。笑い話で済む内容であればまだ良いかもしれませんが、実際にはない犯罪歴などが表示されこれが拡散されてしまえば、大きな問題となりかねません。

 

従業員や委託先による無断でのChatGPT活用

 

ChatGPTは非常に話題となっており、従業員や委託先の中にも興味を持っている人が少なくないでしょう。中には、業務で実際に使用するケースもあるかもしれません。

 

ChatGPTを業務に活用するのが良いかどうかは、企業の考え方次第です。ChatGPTを一切使ってほしくないという場合もあれば、ChatGPTのアウトプットをきちんと検証したり違和感のないように修正したりするのであれば使ってもよいと考える場合もあるでしょう。

 

しかし、企業が何らChatGPTに関するスタンスを定めていなければ、気付かぬうちにChatGPTが活用されており、後にトラブルとなる可能性があります。そのため、企業としてはあらかじめChatGPTの業務利用に関するスタンスを定め、これを従業員や委託先に周知するなどの対応が必要です。

 

著作権にまつわる紛争の発生

 

著作権とは、著作物を保護する権利です。著作権はプロの小説家が書いた文章やプロの画家が描いた絵などのみならず、思想や感情を創作的に表現した文芸、学術、美術又は音楽の範囲に属するものであれば、広く対象となります。

 

たとえば、ホームページ上に存在する多くのブログ記事や一般個人が描いた絵、写真なども著作権の対象です。

 

ChatGPTなど生成AIに関しては、今後著作権にまつわる紛争が発生する可能性があるでしょう。なぜなら、ChatGPTなどはインターネット上に存在する著作物を学習用データとして取り込んでおり、これと非常に似通ったアウトプットをする場合があるためです。

 

たとえば、ある記事を書くようChatGPTに指示をしたところChatGPTがアウトプットした文章が、他者の著作物をと酷似したものであった場合、著作権侵害を疑われる可能性があります。

 

著作権侵害が成立するには依拠性（その著作物を参考にして創作されたこと）が必要ですが、ユーザーがその著作物の存在を知らなくともChatGPTが学習用データとして参考にいていた場合、依拠性の有無が問題となる可能性があるでしょう。

 

 

 

ChatGPTに関して企業が取るべき対策

 

ChatGPTに関して、企業はどのような対策を取れば良いのでしょうか？検討すべき主な対策は次のとおりです。

 

ChatGPTの返答が必ずしも正確でないと知っておく

 

ChatGPTを業務利用するとしても、ChatGPTの返答が正確ではないことを十分に理解しておきましょう。仮にChatGPTのアウトプットをそのまま信じて自社のウェブサイトに流用するなどすれば、企業としての信頼性が揺らいでしまいかねません。

 

正確性は今後向上していくものと思われますが、当面の間はChatGPTのアウトプットはあくまでも参考として捉え、人の目によるチェックが不可欠であると考えておきましょう。

 

コピペチェックを徹底する

 

ChatGPTをコンテンツの生成に活用する際には、コピペチェックを徹底することをおすすめします。なぜなら、アウトプットされた文章が他者の著作物と酷似していた場合、著作権侵害を疑われてトラブルとなる可能性があるためです。

 

コピペチェックツールは無料で使えるものがインターネット上に多く存在しますので、これらを活用すると良いでしょう。

 

社内規程にChatGPT利用に関する事項を盛り込む

 

企業はまずChatGPTに関する自社のスタンスを定め、これを社内規程に盛り込むことが必要です。

 

先ほど解説したように、ChatGPTに機密情報を入力すれば、これが漏洩するリスクがあります。そのため、少なくとも機密情報をChatGPTに入力しないようなルールを定めることは不可欠でしょう。

 

そのうえで、業務へのChatGPTの利用を禁止するのであればその旨を定めるなど、企業の考え方を反映した規程を作成することが急務です。

 

取引先との契約書にChatGPT利用に関する事項を盛り込む

 

自社の業務を他社へ委託している場合には、その業務に関してChatGPTを活用して良いかどうかを検討しましょう。そのうえで、ChatGPTの利用を禁止するのであれば、その旨を契約書に盛り込むことが必要です。

 

たとえば、自社の開発業務の一部を委託している場合、委託先がバグを見つける目的などでプログラミングコードをChatGPTに入力してしまうと、この情報が流出するかもしれません。また、ブログ記事の作成を委託している場合、ChatGPTを使って記事構成や記事本文を作成される可能性もあるでしょう。

 

このような事態を防ぐためには、あらかじめ契約に定めておくことが必要です。

 

社内研修を実施する

 

ChatGPTの利用については、社内で研修を実施すると良いでしょう。

 

たとえば、ChatGPTに機密情報を入力しないよう周知したり、ChatGPTのアウトプットが必ずしも正しいわけではないことを周知したりすることなどが挙げられます。また、企業が業務上での利用スタンスを定めた場合には、これを周知する必要もあるでしょう。

 

他にも、公式SNSを運営している従業員がいる場合には、ChatGPTの悪用で生成されたフェイクニュースを拡散することなどのないよう、運用方法についていま一度確認しておくことも重要です。

 

社内研修の講師は社内で募る場合もありますが、社外の弁護士などへ依頼することも一つの手です。社外の専門家へ依頼することで、最新事例や法的視点を踏まえた研修となりやすいでしょう。

 

相談先の弁護士を確保しておく

 

ChatGPTは普及してから日が浅く、現状で問題点が出そろっているとはいえません。ChatGPTにまつわる新たなトラブルや法的な問題点が、今後生じる可能性もあるでしょう。また、ChatGPTが今後利用規約などを改訂することも十分に考えられます。

 

そのため、業務でChatGPTを活用するのであれば、万が一トラブルが生じた場合に備え、相談先に弁護士を確保しておくと良いでしょう。

 

 

 

まとめ

 

ChatGPTは非常に便利なツールであるものの、悪用されるリスクもあります。また、悪用ではなくとも、トラブルの原因となることもあるでしょう。

 

企業としてはまずChatGPTの基本を知ったうえで、自社における活用スタンスを定めておくことをおすすめします。そのうえで、自社のスタンスを従業員や委託先に周知したり、各種規程に盛り込んだりしておくことが必要です。

 

たきざわ法律事務所では、インターネットに関する法務トラブルの予防や解決に力を入れています。ChatGPTの利用に関する規程を定めたい場合やトラブルが勃発した際などには、たきざわ法律事務所までご相談ください。

 

お問い合わせフォームはこちら