どうも、マルワの裏方あれこれ担当です。
今回は、「清掃員スキリの事件簿（著作権トラブル編）」の第二話、「画像生成の落とし穴」と題して、「生成AIでイラストを作成して使用する際には、使用するAIの選定と類似画像チェックなどで事前に確認しましょうね」という内容です。
ちなみに第一話は「記事共有の落とし穴」というお話です。こちらもあわせてお読みいただけますと幸いです。
これを機に、著作権について学んでみようと思っていただければ幸いです。
―清掃員スキリの事件簿―
著作権トラブル編 Vol.02 画像生成の落とし穴
【ご注意】本ブログに掲載されている物語は、一般的な情報提供を目的としたフィクションです。登場する企業名、人物名、団体名などはすべて架空であり、実在の企業・人物・団体とは一切関係ありません。
【免責事項】
- 本コンテンツは、筆者が作成した文章について、複数の生成AI（OpenAI社のChatGPT、Microsoft社のCopilot等）を活用して校閲し、再度筆者が加筆・編集を行ったものです。また、イラストはAdobe社のPhotoshopの画像生成機能（Firefly）を活用して作成したものです。
- 内容の正確性・完全性については十分な注意を払っていますが、必ずしも専門的知見や現実の事実に基づくものではありません。具体的な問題への対策等については、必ず専門家にご相談ください。
- 本コンテンツの利用により生じたいかなる損害についても、当社は一切の責任を負いかねますので、あらかじめご了承ください。
【登場人物】
スキリ: デジタルリスク管理のスペシャリストであるが、ある事情から現在は清掃員として働いている。豊富な知識と鋭い観察眼を持ち、社員からの信頼が厚い。本作の主人公。
イシカワ: 法務部主任。普段は優しいが、一度怒ると怖い。
キニシナイ: 広報部所属。SNSと生成AIが好きだが著作権には疎い。今回のトラブルの当事者。
画像生成AIを業務に使用することのリスク
日本の某所。××（ばつばつ）株式会社。
清掃員スキリは会議室前の廊下を清掃中に、壁に貼られたポスターを見つける。そこには、どこかで見たことがあるようなキャラクターが大きく描かれている。
そのころ、広報部フロアではまたもやトラブルの気配……
キニシナイさんが作成した当社主催イベント用のポスターだけど、メインイラストが、某アニメのキャラクターのパクリじゃないかってSNSに投稿されているぞ！一体どうなっているんだね！
えぇ！？あのイラストはAIを使って僕が作ったものなのに。確かに、『某アニメのキャラクター』風と指示をしましたが、キャラクターそのものを描いたわけではないですよ……
巡回清掃で広報部フロアにやってきたスキリが２人の様子に気付き声をかける。
イシカワ主任、キニシナイさん、何かあったのですか？
おお、スキリさん。先日キニシナイさんが作った当社のイベントポスターのイラストがパクリじゃないかってSNSに投稿されてしまってまして……
キニシナイさん、どのようにしてそのイラストを作成したのか、詳しく教えてもらえますか？
はい……、△△AIっていう有名なAIサービスを使ってイラストを生成しました。その際に『某アニメのキャラクター風』と指示していますが、だからといって、実際にアニメに登場する特定のキャラクターそのものを描かせたわけではありません。
スキリは掃除カートの奥からタブレットを取り出してサービス利用規約を確認する。
なるほど……。キニシナイさん、利用規約はちゃんと確認しましたか？このAIサービスは商用利用OKですが、『生成された成果物が著作権等の権利を侵害していないことを保証するものではありません』と書かれています。つまり、AIの学習に利用したデータの中には、権利者の許諾を得ていないデータも含まれているってことです。おそらく、某アニメのキャラクター画像も学習していたのでしょう。また、『著作権等の問題が生じた場合、責任は利用者にあります』とも書かれています。AIが生成したイラストなどの利用によってトラブルが生じたとしても、それは利用者の責任ということです。そのリスクを事前に確認しておくべきでしたね。
えぇ？AI学習にどんなデータが使われているのかなんて、利用者にはわからないじゃないですか？それなのに利用者の責任になってしまうのですか？
そうですね。多くのAIサービスでは『AIが作ったものでも、使う人が内容をちゃんと確認してね。問題があったら使った人の責任ですよ』っていうルールになってるんです。だから、公開したり商用で使うときは、事前によく確認することが大事なんです。
ちなみに、日本の著作権法では、著作者の許可なくAI学習のために著作物データを読み込ませることは、一定の条件下では著作権の侵害とはみなされないとされているので、AIサービスが許諾のないデータをAIに学習させること自体に問題はないのですよ。
今回のように『〇〇風』というような指示で雰囲気だけを似せて生成したつもりのものが、偶然実在のキャラそっくりになってしまった場合でも、問題になることがあるんですか？
たとえ本当に偶然であっても、生成されたものが既存著作物と非常によく似ていたり、実質的に同一とみなされるような場合には、著作権上の問題が生じる可能性があります。特に『〇〇風』など、特定の作品やキャラクターに似せるような指示をした場合には既存著作物と酷似したものが作られてしまうリスクがあります。今回のイラストも、著作権侵害に該当するかどうかは一概には判断できませんが、第三者から指摘や批判を受ける可能性はあると考えられます。
そんなぁ……
トラブルの原因と対策
スキリさん、どうすれば、このようなことを避けられるのですか？生成AIの利用は今後も社内で増えそうなので注意しなければいけないですね。
そうですね、まず生成AIの仕組みを正しく理解することが大切です。生成AIは『魔法の画像・文章製造機』ではありません。学習データとして使用された既存のデータの特徴を組み合わせて、新しいものを作り出しているのです。だから、利用する生成AIがどのように学習データを集め、学習しているのかを事前に確認しておくことが大切です。つまり、サービスの利用規約や公式のFAQなどを事前によく確認しておくことですね。生成されたコンテンツが著作権を侵害している可能性があることを免責事項として明記しているサービスを業務で使用する場合は、リスクを十分に理解して利用する必要があります。
でも、AIを使って作った『〇〇風』のイラストをSNSに投稿している人は沢山いますよ？あれだってよく見たらそっくりなものもあると思うんですけど……
確かによく見かけますが、企業として利用する以上は不要なリスクを避けるためにも慎重になる必要があると言えます。今回の件も、SNSでの批判的な投稿が原因で当社の評判や信用が落ちるかもしれません。SNSの投稿が必ずしも正しいとは言えませんが、影響力はあります。たとえ法的には『作風やアイデアのみの類似であれば著作権の侵害とはいえない』としても、似ているだけでも『パクリ』と思われてしまうかもしれません。
生成AIに〇〇風のイラストを描かせるのは、人気店の料理を沢山食べて味を覚えた見習い料理人に、『レストラン〇〇の料理風に作って』と頼むようなものです。全く同じレシピではないかもしれませんが、盛り付け方なども含めてほぼ同じものを作ってしまうことがあります。そして、似ているけど全く同じではないので、オリジナルとの線引きが曖昧になります。
なるほど。キニシナイさん、あのポスターはすぐに作り直してください。Webサイトに掲載しているものもすぐに差し替えるように。もし、この件で元作品の作者から何らかの問合せがあれば、会社として誠実に対応しましょう。
わかりました。すぐ作り直します。でも、これからAIで生成した画像を使う時は、どうしたらよいのでしょうか……
いくつかの対策があります。まず、仕事で利用する生成AIは著作権保証がされているものや、権利許諾を得たデータのみを使用していることを明記しているものを使うようにすることです。そのうえで、生成した画像が既存の作品と似ていないか、類似画像検索などで事前にチェックすること。商用利用の場合は、特に慎重に確認することが重要です。そして、プロンプトには具体的な作品名や作家名を含めず、抽象的・一般的な表現を用いるようにすることが望ましいです。また、AI生成画像の利用については、まだ法的に不確定な部分もあります。会社内でのAI利用ガイドラインを作成して、リスクを最小限に抑える運用ルールを整備することが必要ですね。
後日、SNSで作品の類似を知った作者から問い合わせがあったが、事情を説明したところ、悪質性はなく、既に画像は差し替え済みのため、法的措置はとらないことで合意した。また、SNS上での批判投稿もすぐに鎮静化し、大事には至らなかった。
××株式会社では、臨時の幹部会議が開かれ、「AI生成コンテンツの業務利用についての社内規程を策定すること」「利用可能なAIサービスを特定すること」「AI利用のリスクと対策についての社内研修を開催すること」が決定した。
今回のトラブルを防ぐための三箇条
- AI生成＝オリジナルとは限らない！ AIが生成した画像でも、既存作品と酷似する可能性があります。特に利用規約に生成物が著作権を侵害している可能性が記載されているサービスを利用する際には注意しましょう。
- 事前チェックを怠るべからず！ 類類似画像検索（Googleレンズなど）で既存作品との類似性をチェックしましょう。著作権以外にも、肖像権、商標権、倫理的配慮（差別的・不適切な表現の生成）にも注意が必要です。商用利用の場合は特に念入りに確認しましょう。
- AI利用ガイドラインを整備＆周知！ まだ法整備が追い付いていないこともあるため、社内での生成AI利用ルール、チェック体制などを明確にし、社員に周知しましょう。
この後、スキリに次なるトラブルが待ち受けているのですが、それはまた別のお話で……
いかがでしたでしょうか？
本コンテンツに使用している画像もすべてAIで作成しているので、内心実はドキドキしております（著作権者の許諾を得た画像や著作権フリー画像しか学習していないと明言しているAdobeの生成AIを使用し、公開前にGoogleレンズでチェックしておりますが）。
既存作品との類似が著作権の侵害になる/ならないは、法的には「類似性（既存作品の本質的な特徴がどれくらい含まれているか）」と「依拠性（既存作品を知っていて真似たのか）」が判断材料になりますが、それとは関係なく、似てるだけでも「パクりだ」という批判が出てくることもあります。
なかなか難しいところですが、できるだけ安全に注意しつつ、生成AIを活用していきたいものですね。
ということで、今回の「清掃員スキリの事件簿」のBGMは、ちょっとサイケにフリッパーズギターの「アクアマリン」なんてどうでしょうか（内容と歌には何の関係もないですが、まだまだ暑い日が続いているということで）？
本日はこの辺で。
