YouTubeの「満足度の低い、または不快なコンテンツ」って何？AI動画の収益化停止事例を見て気になったこと

最近、YouTubeで

「満足度の低い、または不快なコンテンツ」

という理由で収益化停止になった
チャンネルをいくつか見ました。

最初にこの言葉を見たとき、
僕はてっきり

「グロい動画とか、
かなり刺激の強い動画のことなのかな？」

と思っていました。

ところが、実際に収益化停止になった事例をいくつか見ていくと、
どうもそれだけではなさそうです。

AIで作られたホラーや怪異系の動画もあれば、
猫との別れや再会を描いた感動系の動画もあります。

さらに気になったのが、

AIで作った猫が料理をしたり、
人間のように生活したりする動画まで
同じ理由で収益化停止になっていることです。

「それの何が不快なんだろう？」

と、最初は僕もよく分かりませんでした。

YouTubeのいう「不快」はかなり意味が広い

現在のYouTubeの収益化ポリシーを見ると、
「満足度の低い、または不快なコンテンツ」は
単純にグロい動画だけを指しているわけではありません。

たとえば、

暴力や喪失などの不快なテーマを繰り返すもの

だけでなく、

感情を操作するテーマに大きく依存しているチャンネル

も収益化できない例として挙げられています。

その具体例としてYouTubeは

動物が誇張された苦痛や危険に
さらされている様子を繰り返すシリーズ

まで挙げています。(Googleヘルプ)

ここを見ると

「不快＝見た瞬間に気持ち悪くなる動画」

という意味ではなさそうなんですよね。

海外では以前から「偽の動物救助」が問題になっていた

動物系について調べてみると、
海外では以前からかなり大きな問題がありました。

いわゆる偽の動物救助動画です。

わざと猫を蛇の近くに置いたり
動物を危険な状況にしたうえで、

「偶然見つけて助けました」

という動画を作る。

動物を助ける感動動画に見せながら、
実際には再生数を取るために動物を苦しめていたわけです。

2021年にはWIREDが
こうしたチャンネルをYouTubeに報告し
一部のチャンネルが削除されたほか、
収益化を停止され、広告が表示されなくなった事例も報じられています。(WIRED)

National Geographicが報告した偽救助動画についても、
YouTubeは複数のチャンネルを停止しています。

その後YouTubeは2021年6月、
動物を意図的に危険な状態に置いてから救助する演出を
明確に禁止しました。(National Geographic)

つまり、

「動物は数字が取れるから、苦しませて感動動画を作る」

ということが実際に問題になってきた歴史があります。

では、AIで作った猫ならどうなのか

ここからが今回一番気になったところです。

AI猫なら
本物の猫は傷ついていません。

猫が悲しい目に遭っていてもフィクション。

猫が料理していてもフィクション。

本物の猫に包丁を持たせたり、
コンロを使わせたりしているわけではありません。

それなら問題ないようにも思えます。

ただ、最近の収益化停止事例を見ると、

「AIだから実際には誰も傷ついていない」
で終わる話でもないのかもしれない

と感じています。

たとえば、かなりリアルなAI猫が二足歩行して、
コンロで料理をして、人間が食べるような料理を食べる。

大人なら、

「AIで作った猫だからね」

と分かります。

でもYouTubeを見るのは大人だけではありません。

小さい子どもが見れば、

「猫ってこういうものを食べてもいいんだ」

と受け取る可能性もあります。

もちろん、

「AI猫が料理したから収益化停止された」

とYouTubeが公式に発表したわけではありません。

ここはあくまで僕の考察です。

ただ、YouTubeの現在のガイドラインを見ると、
動物への虐待や危険行為についてはかなり厳しく、

さらに架空・ドラマ化された映像であっても、
フィクションであることが十分伝わらない場合は対象になり得ると
されています。(Googleヘルプ)

そう考えると、AIで作った架空の動物についても、

「本当に起きたかどうか」だけではなく「何を見せているか」

を以前より厳しく見るようになっている可能性はありそうです。

感動系のAI猫動画も少し気になる

もう一つ気になったのが、

猫との死別、捨て猫、孤独、飼い主を待つ猫、再会――

こういった内容を中心にしたAI猫動画です。

これも当然、本物の猫を苦しめているわけではありません。

ただ、

かわいそうな猫を見せる
↓
視聴者を悲しませる
↓
最後に救済や再会で感動させる

という作り方が続けば
YouTubeが現在書いている

「感情を操作するテーマに大きく依存している」

という部分に近づく可能性はあります。(Googleヘルプ)

昔の偽救助動画は
本物の動物を苦しめて「かわいそう」「助かってよかった」
という感情を作っていました。

今はAIを使えば、本物の動物を傷つけることなく、
それと似た感情を引き出す映像をいくらでも作れます。

YouTubeがそのあたりまで含めて見始めているのであれば、
今回の収益化停止も少し理解できます。

「AIだから大丈夫」は通用しなくなっていくのかも

今回見た事例だけで、

YouTubeがAI動画そのものを規制している

とは思いません。

YouTube自身も、AIを使って独自のキャラクターや
ストーリーを映像化することは
収益化できる例として挙げています。(Googleヘルプ)

ただ、

「これはAIだからフィクションです。
だから何を描いても問題ありません」

とは考えない方がよさそうです。

AIで本物そっくりの動物を作れるようになった。

実際には撮影できないような危険な場面も作れる。

実際には存在しない悲しい話を作って、
何度でも視聴者を泣かせることもできる。

AIが進化したからこそ、YouTube側も

「どう作ったか」より「何を見せているのか」

を厳しく見るようになっているのかもしれません。

「満足度の低い、または不快なコンテンツ」という名前だけを見ると、
かなり刺激の強い動画だけが対象に思えます。

でも最近の収益化停止事例を見る限り、

僕たちが思っているより、
この判定の範囲はかなり広いのかもしれません。

そしてAI動画を作る場合は、

「本物ではないから大丈夫」ではなく、
「もしこれが実写だったらどう見えるか」

まで考える必要が出てきたのかもしれません。