AIの「目」は、ときどき嘘をつく。白杖が魔法の杖になった日の話

AIに画像の中身を聞いたら、「白杖を持っています」と答えた。

ところが、同じチャットで10枚ほど説明させたあと、もう一度聞いたら「魔法使いの杖を持っています」と答えた。

いやいや、全然違うものになってしまっている。笑

見える人ならひと目でおかしいとわかる。
でも、私にはそれが確認できません。

私は全盲です。

YouTubeショートを作るとき、動画をフレーム分割して、30秒なら30枚の画像をAIに説明させます。
それこそ何度も何度も。

そうしているうちに、AIの回答がだんだんズレていくことに気づきました。

AIに画像の説明を頼んだことがある人なら、覚えがあるかもしれません。

最初は正確だったのに、チャットが長くなるにつれて、答えが怪しくなっていく。
正直、どこまで信じていいのかわからなくなる瞬間があります。

今日はその話をします。

AIの「目」がなぜ嘘をつくのか。そしてその対策。
さらに、無料で使える画像生成AIの新しい選択肢も紹介します。

ちなみにこの画像。
私にはこの画像が見えません。
なので、GPTに説明してもらいました。

南国のバナナ畑の中で、擬人化されたバナナたちが集まっている。顔と手足のあるバナナたちが笑いながら、バナナを積み上げた小さな塔を一緒に組み立てている。その中に、白く半透明で輪郭だけが光っている「幽霊のようなバナナ」が数体いて、同じように塔に触れて支えている。

見えるバナナと、見えないバナナ。
両方が協力して、笑っている。

この画像がどう見えたか、ぜひコメントで教えてください。
そしてこの画像を作ったAIの話は、もう少しあとで。

なぜAIの「目」は嘘をつくのか

GPT-5をはじめ、最近のAIモデルは画像認識の精度が高い。
写真を渡せば、何が写っているかを詳細に説明してくれます。

でも、注意してほしいことがあります。

画像の説明を頼むと、AIが勝手に推測した内容を「事実」のように語ることがある。
チャットが長くなるほど、この現象は起きやすくなります。

無料プランなどライトなモデル、つまり深く思考しないタイプだとなおさらです。

これは画像に限った話ではありません。

LLM（大規模言語モデル）全般に見られる特徴で、**ハルシネーション（幻覚）**と呼ばれています。

存在しないものを、さもあるかのように答える。
AIを使ったことがある人なら、一度は経験があるのではないでしょうか。

対策は2つだけ

対策は意外とシンプルです。

1つ目。チャットを適度にリセットすること。

会話が長くなると、AIは過去の文脈に引きずられて推測が増えます。
新しいチャットでやり直すだけで、精度が戻ることがあります。

2つ目。「予測ではなく、添付した画像をベースに答えて」と明示すること。

この一文を加えるだけで、AIの回答が慎重になります。
嘘が減ります。

どちらも、特別な技術はいりません。
知っているかどうかだけの話です。

次にAIに画像の説明を頼むとき、試してみてください。

ナノバナナって知っていますか

さて、ここからは画像を「作る」側の話。

今、ネットでちょっとした話題になっているサービスがあります。
Nano Banana（ナノバナナ）。Googleが出した画像生成AIです。

Geminiベースで、テキストから画像を生成できます。

特徴は、同じキャラクターを一貫して描けること。
一度作った人物やキャラの特徴を、別のシーンでも高い精度で再現してくれます。

さらに、日本語の描画がGPTのイメージジェネレーションよりも正確で綺麗です。

Googleアカウントがあれば無料で使えます。
ただし、無料枠だと生成できる枚数に限りがあります。
私の場合、3枚しか作れませんでした。

ここで注意。

チャット入力欄の右側にモード選択があります。
デフォルトは「高速モード」ですが、これだと旧モデルが使われてしまいます。

「Pro」を選んでください。

スクリーンリーダーでも「Pro 3.1 Proによる高度な数学とコード」という文言が確認できます。

Proを選ぶと、画像生成時に「Nano Banana Proを読み込んでいます...」と表示されます。

昨日の画像、実はこうやって作りました

昨日の2000スキ記念記事に載せた画像やアイキャッチ。
あれは最終的にナノバナナで仕上げました。

ただ、ゼロからナノバナナに任せたわけではありません。

ベースはHTMLです。
Chromiumエンジンのヘッドレスブラウザを使って、HTMLからスクリーンショットを撮る。
それをナノバナナで調整して仕上げました。

画面をそのままスクショすればいいと思うかもしれません。

でも、見えないと個人情報が映り込んでいても気づけない。
だからこの手段を取っています。

目が見えない自分にとって、画像を「作る」のは簡単ではありません。

でもHTMLなら、コードで構造を組めます。
テキストベースだからスクリーンリーダーでも扱える。
そこにAIの画像生成を組み合わせれば、視覚的な仕上げもできます。

3枚しか作れないから、うまくできているかドキドキでした。

今更ながら、昨日の画像がどんなイメージだったか、ぜひコメントで教えてもらえればうれしいです。

AIは完璧ではない。でも、味方にはなる

今日は2つのことを書きました。

AIの「目」が嘘をつく話と、その対策。
そして画像を「作る」側の新しい選択肢、ナノバナナ。

AIは完璧ではありません。
でも、使い方を知れば、見えない世界でも強い味方になります。

今日の記事で持ち帰れることは、たった2つです。

チャットが長くなったらリセット。
画像を聞くときは「予測ではなく画像ベースで」と一言添える。

これだけで、AIの嘘は減ります。

次にAIに画像の説明を頼むとき、この記事のことを思い出してもらえたらうれしいです。

📎 お時間があればこちらもぜひ

見えない画像を言葉で受け取る。ChatGPTに関係性を描かせた話
https://note.com/kind_fish6099/n/n1638ddf93e3a
AIに画像を生成してもらう原体験。今回の記事の出発点です。

見えない画像を言葉で受け取る（3）なぜ「忖度なし」で絵が変わったのか解説してみた
https://note.com/kind_fish6099/n/n2396ee428e22
AIへの指示の出し方で結果が変わる。ハルシネーション対策と同じ「伝え方」の話。

子どもたち、目は悪くならないでほしい→全盲クリエイターが語るスクリーンリーダー全11製品
https://note.com/kind_fish6099/n/n845315400116
記事中のスクリーンリーダーについて、もっと詳しく知りたい方へ。

見えない映像クリエイターが作った動画

音とテキストだけで映像を作る。
記事で書いた「見えないからこその工夫」を、動画でも実践しています。

#視覚障害 #AI #ナノバナナ #NanoBanana #全盲クリエイター #画像生成AI #ハルシネーション