GPT-image、Nano Bananaでアニメキャラが出る理由

はじめに：え、これ…そのまんまでは？😳

画像生成AIを触っていると、たまに「えっ、これ大丈夫なの？」と思う瞬間がありますよね。

たとえば、Google系のNano Bananaより、OpenAIのGPT-imageのほうが安全チェックが厳しいはず。そう思っていたのに、実際に使ってみると、有名アニメキャラに「近い」どころか、見る人によっては「ほぼそのまんまでは？」と感じる画像が出てしまうことがあります。

これはちょっと不思議ですし、正直びっくりしますよね💦

ただ、この話は「OpenAIがゆるい」「Googleが厳しい」と簡単に言い切れるものではありません。調べてみると、画像生成AIの安全対策には、かなりややこしい事情があります。

この記事では、難しい言葉をなるべく使わずに、やさしく整理していきます🌸

この記事では、OpenAIの画像生成機能をわかりやすく「GPT-image」と呼びます。公式資料では「GPT Image」と表記されています。

テーマはこれです。

なぜ、厳しいはずのGPT-imageでも、有名アニメキャラそのまんまに見える画像が生成されてしまうのか。

まず結論：厳しくても完璧には止められない🔍

先に結論から言うと、OpenAIもGoogleも安全対策はしています。

OpenAIの公式資料では、GPT Image系の画像生成について、入力した文章や生成された画像がポリシーに沿って確認されると説明されています。さらに、ChatGPT Images 2.0の安全性資料では、入力文、入力画像、生成後の画像など、いくつもの段階でチェックする仕組みがあるとされています。

Google側も、Gemini APIやGoogle AI Studioで不正利用を監視し、問題がありそうな使い方を自動・手動で確認すると説明しています。

つまり、どちらも何もしていないわけではありません。

でも、ここが大事です。

安全対策があることと、すべてを完全に止められることは別なんです。

画像生成AIは、言葉をそのまま検索して画像を出しているわけではありません。たくさんの画像や説明から特徴を学び、「それっぽい絵」を作ります。

だから、たとえキャラクター名を止めても、髪型、服装、色、道具、ポーズ、雰囲気などから、結果的に「そのまんま」に見える画像が出てしまうことがあるのです😢

GPT-imageとNano Bananaは何が違うの？🍌

まず、名前を整理しておきましょう。

GPT-imageは、OpenAIの画像生成モデルを指す言い方です。ChatGPTで画像を作る機能や、APIから画像を作る仕組みに関係しています。

Nano Bananaは、GoogleのGemini系の画像生成機能につけられた呼び名です。Googleの公式資料では、Nano Banana、Nano Banana Pro、Nano Banana 2といった形で、複数のモデルが説明されています。

ざっくり言えば、どちらも「文章から画像を作るAI」です✨

違うのは、作っている会社、使われているモデル、使える場所、速度、得意なこと、安全対策の作り方などです。

ただし、今回のテーマである「どちらが有名キャラを出しやすいのか」については、2026年5月時点で、信頼できる形で直接比較した資料は多くありません。

そのため、「GPT-imageのほうが必ず厳しい」「Nano Bananaのほうが必ずゆるい」と断定するのは危険です。

実際の動きは、使っている画面、モデルの種類、時期、入力する文章、添付画像の有無などで変わる可能性があります。

「検閲」と呼ばれる仕組みは何を見ているの？🛡️

ここでいう「検閲」は、少し強い言葉です。

公式資料に近い言い方をするなら、「安全チェック」や「コンテンツの確認」と呼ぶほうが正確です。

では、画像生成AIは何を見ているのでしょうか。

主に見ていると考えられるのは、次のようなものです。

入力した文章に問題がないか。

アップロードした画像に問題がないか。

生成された画像そのものに問題がないか。

OpenAIの資料では、画像生成のリクエストや生成画像がコンテンツポリシーに従って確認されると説明されています。また、問題のある内容を見つけるために、自動システムや人間による報告レビューも使われるとされています。

Googleも、Gemini APIやAI Studioについて、不正利用を見つけるために自動・手動の仕組みを使うと説明しています。

つまり、AIは「作る前」と「作った後」の両方で確認される場合があります。

でも、それでも止めきれないことがあるんです。

名前を止めても、見た目で出てしまう👀

わかりやすく言うと、こういうことです。

ある有名キャラの名前を入力すると止められるとします。

でも、名前を書かずに、髪型、服の色、持っている道具、決めポーズ、作品の雰囲気だけを入力したらどうなるでしょうか。

人間でも「あ、それってあのキャラじゃない？」と気づくことがありますよね。

AIも同じように、名前がなくても特徴の組み合わせから、かなり近い見た目を作ってしまう場合があります。

しかも、近いどころか、見る人によっては「いや、これはもうそのまんまでは…」と感じることもあります💦

研究論文 “Fantastic Copyrighted Beasts and How (Not) to Generate Them” では、画像・動画生成モデルが、キャラクター名を直接出さなくても有名キャラクターに似たものを生成し得る可能性が示されています。

ただし、この論文の査読状況などは確認が必要です。とはいえ、「名前だけを止めても十分ではない」という問題を考えるうえでは、とても参考になります。

なぜ有名キャラそのまんまに見えるの？🎨

画像生成AIは、たくさんの画像や文章から「特徴の関係」を学びます。

たとえば、ある髪型、服装、色、表情、ポーズ、背景がよく一緒に出てくると、AIはそれらをひとまとまりの特徴として扱うことがあります。

もちろん、これは人間の記憶と同じではありません。AIが画像をアルバムのように保存して、そのまま取り出しているとは限りません。

でも、特徴の組み合わせが強すぎると、結果として有名キャラにかなり似た画像が出る可能性があります。

特にアニメやゲームのキャラクターは、見た目の記号がとても強いです。

髪の色。

目の形。

服のデザイン。

武器。

帽子。

体のシルエット。

決めポーズ。

こうした要素がそろうと、名前を出していなくても「あのキャラだ」とわかってしまいます。

だから、安全チェックがあっても、すべての画像を確実に止めるのは難しいのです😔

これは「抜け道」ではなく「仕組みの限界」かも

ここで気をつけたいのは、「抜け道を探せば出せる」という話にしすぎないことです。

もちろん、わざと安全チェックをすり抜けようとする使い方は問題です。OpenAIやGoogleの規約でも、他人の権利を侵害する使い方や、安全対策を回避する使い方は避けるべきものとされています。

一方で、悪意がなくても、偶然かなり似てしまう場合があります。

たとえば、「赤い服の元気な少年」「大きな剣を持つ金髪の戦士」「青い髪の未来風ヒロイン」のような指示でも、どこかで見たことのある雰囲気になるかもしれません。

つまり、「生成できたから問題ない」とも言えません。

そして、「生成できたから会社が何も対策していない」とも言い切れません。

画像生成AIの仕組みそのものに、似すぎる画像が出てしまう難しさがあると考えたほうが自然です。

OpenAIのほうが厳しい、は本当？🤔

「OpenAIのほうが検閲が厳しい」という印象を持っている人は多いと思います。

実際、OpenAIの公式資料を見ると、画像生成には複数段階の安全対策があると説明されています。入力文の確認、画像の確認、生成後の確認など、かなり丁寧に設計されている印象です。

ただし、それをもって「Nano Bananaより必ず厳しい」とまでは言えません。

Google側にも、Gemini APIやAI Studioの不正利用監視、生成AI禁止利用ポリシー、SynthID透かしなどの仕組みがあります。

さらに、モデルは時期によって変わります。

昨日できたことが今日できないこともあります。

ある画面では止まるのに、別のAPIでは違う動きをする可能性もあります。

そのため、この記事ではこう整理します。

OpenAIもGoogleも安全対策をしている。

GPT-imageとNano Bananaのどちらが常に厳しいかは、公開資料だけでは断定しにくい。

有名キャラそのまんまに見える画像が出ることは、安全対策がゼロという意味ではなく、画像生成AI全体の難しさを示している可能性がある。

この部分は、今後も確認が必要です。

Sora 2問題から見える日本の反応🇯🇵

この話を考えるうえで、OpenAIの動画生成AI「Sora 2」をめぐる問題も参考になります。

CODA、つまりコンテンツ海外流通促進機構は、Sora 2に関して、既存の日本コンテンツまたはそれに似た映像が多数生成されているとして、OpenAIへ要望書を提出しました。

この要望書では、日本のコンテンツが学習データとして使われた結果ではないか、また特定の著作物が出力として再現・類似生成される場合には著作権侵害に関わる可能性がある、という趣旨の指摘がされています。

また、日本政府や報道でも、アニメ・ゲームなどのキャラクターがAIで生成されることへの懸念が取り上げられました。

ここからわかるのは、日本のアニメやゲームのキャラクターは、単なる絵ではなく、大切な知的財産として見られているということです。

知的財産とは、簡単に言えば「作品やキャラクターを作った人、会社が持つ権利」のことです。

AIでそのまんまに見える画像が出る問題は、「面白い画像ができたね」で終わる話ではありません。

作品を作った人。

会社。

ブランド。

ファン文化。

収益。

こうしたものに関わる、とても大事な問題なんです🌷

ファンアートと権利侵害の境目はあいまい

ここで難しいのが、ファンアートとの境目です。

昔から、好きなアニメやゲームのキャラクターを自分で描いて楽しむ文化はあります。SNSに投稿する人もいますし、二次創作イベントもあります。

ただし、AI画像生成は、短時間で大量に、しかもかなり似た画像を作れてしまいます。

個人で楽しむだけなのか。

SNSで公開するのか。

広告に使うのか。

商品にして販売するのか。

この違いで、リスクは大きく変わります。

OpenAIの利用規約でも、他人の権利を侵害するような使い方はできないとされています。Googleの生成AI禁止利用ポリシーでも、知的財産権を含む他者の権利を侵害する利用は禁止されています。

つまり、「AIが作ってくれたから自由に使える」と考えるのは危険です。

特に、商用利用や宣伝利用では、権利確認が必要です。

使う側が気をつけたいこと📝

では、私たちはどう使えばよいのでしょうか。

まず、有名キャラの名前をそのまま入力して画像を作ろうとするのは避けたほうが安全です。

次に、名前を入れていなくても、できあがった画像が特定のキャラクターそのまんまに見える場合は、公開や販売に使わないほうがよいでしょう。

また、商用利用する場合は、必ず権利関係を確認する必要があります。仕事の資料、広告、商品画像、アイコン、サムネイルなどに使う場合は特に注意が必要です。

安全に使うなら、次のような考え方が役に立ちます。

有名作品名やキャラ名を使わない。

特定キャラの見た目に寄せすぎない。

できた画像が似すぎていないか、人の目で確認する。

公開・販売・広告利用の前に、権利の問題がないか確認する。

AIのフィルタを「通ったから大丈夫」と考えない。

画像生成AIは便利ですが、最後に判断するのは人間です。

ここ、本当に大事です🌼

まとめ：作れることと使えることは別🌙

GPT-imageでアニメキャラがそのまんまに見える画像が出ると、「OpenAIのほうが厳しいはずなのに、どうして？」と不思議に感じます。

でも、公式資料や関連研究を見ると、答えは単純ではありません。

OpenAIもGoogleも安全対策をしています。

ただし、画像生成AIは、名前だけでなく、見た目や特徴の組み合わせから画像を作ります。そのため、キャラクター名を止めても、髪型、服装、色、道具、雰囲気から、かなり似た画像が出てしまう場合があります。

これは、AIがすべてを自由に許しているというより、安全対策だけでは完全に止めきれない領域がある、という見方が近いと思います。

そして、AIが画像を作れたとしても、それを公開したり売ったりしてよいとは限りません。

特にアニメやゲームのキャラクターは、作った人や会社の大切な権利に関わります。

画像生成AIは、とても便利な道具です✨

でも、万能の安全装置ではありません。

だからこそ、公式ルールを確認し、著作権に気をつけながら、「作れること」と「使ってよいこと」を分けて考える必要があります。

楽しく使うためにも、少しだけ慎重に。

そのくらいの距離感が、今の画像生成AIとはちょうどいいのかもしれませんね🌸

参考文献

OpenAI Developers「Image generation」
https://developers.openai.com/api/docs/guides/image-generation

OpenAI Deployment Safety「System Card: ChatGPT Images 2.0 and Thinking mode」
https://deploymentsafety.openai.com/chatgpt-images-2-0/chatgpt-images-2-0.pdf

OpenAI Help Center「How we identify problematic content on our services for individuals」
https://help.openai.com/en/articles/8940831-how-we-identify-problematic-content-on-our-services-for-individuals

OpenAI「Terms of Use」
https://openai.com/policies/terms-of-use/

Google AI for Developers「Image generation with Gemini」
https://ai.google.dev/gemini-api/docs/image-generation

Google AI for Developers「Abuse monitoring」
https://ai.google.dev/gemini-api/docs/usage-policies

Google「Generative AI Prohibited Use Policy」
https://policies.google.com/terms/generative-ai/use-policy

CODA「OpenAI社に『Sora 2』の運用に関する要望書を提出」
https://coda-cj.jp/wp/wp-content/uploads/2025/10/coda_newsrelease_20251028.pdf

衆議院「SORA2と著作権法第三十条の四に関する質問主意書」
https://www.shugiin.go.jp/internet/itdb_shitsumon.nsf/html/shitsumon/219019.htm

文化庁「Copyright」
https://www.bunka.go.jp/english/policy/copyright/index.html

U.S. Copyright Office「Copyright and Artificial Intelligence」
https://www.copyright.gov/ai/

arXiv「Fantastic Copyrighted Beasts and How (Not) to Generate Them」
https://arxiv.org/abs/2406.14526

TechCrunch「Google adds Nano Banana-powered image generation to Gemini's Personal Intelligence」
https://techcrunch.com/2026/04/16/google-adds-nano-banana-powered-image-generation-to-geminis-personal-intelligence/

The Japan Times「Japan’s government asks OpenAI to seek permission amid Sora 2 copyright concerns」
https://www.japantimes.co.jp/business/2025/10/16/companies/japan-opt-in-model-sora2/

Reddit / r/OpenAI 関連議論（利用者の体験談として参照。事実確認には公式資料# GPT-imageでアニメキャラが出る理由

#GPTimage #NanoBanana #画像生成AI #生成AI #AIイラスト #アニメキャラ #著作権 #AI著作権 #OpenAI #Gemini #GoogleAI #ChatGPT #Sora2 #AI検閲 #コンテンツポリシー #AI安全性 #知的財産 #キャラクター生成 #AI規制 #AIニュース