生成系AIの業務利用、リスクはあるのか？

任意の指示を与えるだけで、イラスト・文章・楽曲・プログラムコード等を生成してくれるAIを使用したサービス（以下、まとめて生成系AIサービスという）が次々に登場し、生成系AIサービスの業務利用（事業への活用）を進めている企業・人も増えています。

一方で生成系AIの利用を制限する動きもでてきています（文科省は学校教育におけるAI活用についての指針の取りまとめを行うと表明、EUではAI規制法の策定が進められている等）。また、生成系AIサービスの業務利用を禁止する企業もあります。そこで、今回は生成系AIサービスの業務利用についての注意点や問題点をまとめてみました。

●業務利用時は著作権にご注意を

大前提として、生成系AIサービス提供者の定める利用規約で商用利用が認められていない場合はサービスを利用して作成したイラストや文章を商用利用することはできません。

商用利用が認められている場合でも、不特定多数のデータを学習データに使用しているサービスの場合は、AIが出力した結果（内容）によっては他者著作物への著作権侵害としてトラブルになる可能性もあります。

日本の著作権法では、AIに学習（分析）させるために他者の著作物（画像やイラスト、テキスト等）を著作者の許可なくAIに取り込むこと自体は認められています（著作権法第30条の４）が、AIが生成（出力）したイラスト等が他者著作物に著しく似ている、または学習（サンプル）データがほぼそのまま出力された場合などに問題となる可能性があります。　

この問題をクリアするために、著作者から利用許諾を得た学習データのみを使用し、商用利用も認める生成系AIサービスも登場してきました。商用利用する際は学習データの権利関係に問題がないことを必ず事前に確認するようにしましょう。

ただし、AIによって生成されたイラスト等には「ヒトの創作性」が認められないため利用者の著作物ではない（著作権は認められない）と判断されることが現状の基本路線なので、他者の著作権を侵害していなかったとしても、自身の著作物ともならず、仮に第三者が同じ生成系AIサービスで作成したイラストが、自身が生成系AIサービスで作成したイラストと類似している（または同じ）であっても、第三者を著作権侵害として訴えることはできません。さらに、自身が生成系AIサービスで作成したイラストを第三者に無断で利用されてしまったとしても、著作権がないため著作権の侵害として訴えることもできません。

●AIが出力したものをヒトが修正したら著作物になるのか？

AIが生成したイラスト等は著作物とは認められない一方で、AIが生成したイラストやテキストを「ベース」にして、人の手によって修正・加工を施した場合は、修正・加工を行った部分については著作物として認められる可能性があります。

例えば、AIで生成したキャラクターを使用して漫画を作成した場合、キャラクターそのものの著作権は認められない可能性が高い一方で、コマ割りやストーリーについては制作者の著作物として認められる（著作権が認められる）可能性があります。

ただし、生成系AIサービスで作成したものなのか、人の手によって加工・修正されたものなのかは、基本的には自己申告に依存してしまうことになるため、著作権についての判断は難しくなります。

トラブルを防止するためには、創作過程の記録や生成系AIサービスの操作ログ等を残しておき、作品を公開する際には生成系AIサービスを利用して作成したコンテンツを含んでいることを明記するようにしておきましょう（サービス名称の表記が必須というサービスもあります）。

●AIへの指示からの情報漏えいリスクもある

生成系AIサービスに「指示するために入力する情報（以下、プロンプトという）」や学習データとして提供する画像等にも注意が必要です。

自身の意図する内容の文章やイラストを生成するためには曖昧な（漠然とした）指示だけでは事足らないため、「プロンプトの補強・補完」として具体的な指示を入力したり、複数の画像を学習データとして提供したりすることがあります。その際に、プロンプトや学習用画像データに企業や取引先の機密情報や個人情報が含まれていると、情報漏えいが発生するリスクがあります。

例えば、単に「謝罪文を書いて」と指示するだけでなく、「プログラムの予期せぬ不具合発生で株式会社〇〇（製造業）の顧客へのシステム納品が１か月遅れてしまった場合の謝罪文を簡潔に書いて」のように具体的な指示を入力したとします。この場合、「利用者はシステム開発を行っている会社の社員で、株式会社〇〇（製造業）と取引があり、システムの不具合によって納期遅延するというクレームが発生した」という、本来関係者以外に知られてはいけない情報がAIの学習データに利用され、別の利用者の出力結果に反映されてしまうおそれもあります（別の利用者が「株式会社〇〇　クレーム　謝罪」のように指示した場合に、先のシステム開発の遅れについての謝罪文のプロンプトが利用され、ほぼそのままの内容が出力される可能性はゼロではありません）。

あるいは、本人以外の別の利用者に自身のプロンプト履歴（過去の指示情報）が表示されてしまう等の不具合が発生するなどして情報が漏えいしてしまう可能性もあります（実際にそのような不具合が発生した生成系AIサービスが問題になりました）。

●リスクと利便性のバランスで自社のポリシーを作成する

生成系AIサービスが注目され、利用者が増加するにつれ、著作権侵害や情報漏えいの発生は今以上に問題になることが想定されます。また、AIが出力した結果の正確性も問題になりそうです（AIが必ずしも正しい結果を出力するとは限りません）。

ただ便利だから……とどのような利用も許可してしまうのはリスクがあります。一方で、危ないから……と全面禁止としてしまってはせっかくの優れた技術を事業に利用し、事業を発展または改善できる可能性の芽を摘んでしまう事にもなりかねません。

企業としては生成系AIサービスを業務利用する場合のメリットとデメリットを適切に把握したうえで、リスクと利便性のバランスに配慮したポリシー（社内ルール）を定め、従業員に周知・教育を実施していくことが重要になります。

生成系AI（大規模言語モデル：LLMを含む）の登場は、パソコンとインターネットの登場、スマートフォンの登場と並ぶ（またはそれ以上の）、ヒトの生活や文化を変える一大トピックとなる可能性があります。

しかし、一方で「便利なものにはリスクもある」ということも事実ですので、それを忘れず、適切に利用するようにしましょう。