講談 FraudGPT・ダークWeb

さて皆さん。

今日は少々物騒なお話をひとつ。

AI、AIと世の中では毎日のように騒いでおりますが、便利になったのは善人だけじゃございません。

悪党も便利になった。

これが今回のお話でございます。

名前を聞いただけで、いかにも悪そうなのが出てまいります。

その名も――

FraudGPT。

フラウドGPT。

「Fraud」というのは詐欺。

つまり直訳すれば、

「詐欺GPT」

でございます。

もう名前からして反省する気がない。

普通のAIなら、

「そのご依頼にはお答えできません」

なんてことを言う。

ところが、このFraudGPTは、

「はいはい、悪いことですね。お任せください」

という触れ込みで売られた。

2023年頃、ダークWebなどで話題になった代物でございます。

いやあ、時代もここまで来ましたか。

昔の悪党なら、喫茶店の隅っこで新聞を広げましてね。

「おい、佐藤。銀行の名前を使ってメールを送ったらどうだ？」

「なるほど。じゃあ文章は俺が考えるよ」

なんて相談していた。

ところが今は違う。

「AIに聞こう」

でございます。

「銀行員になりすましたメールを書いて」

「通販会社のカスタマーサポートを装った文章を書いて」

「英語版も頼む」

「相手が高齢者なら、もう少し親切そうにして」

……。

いやあ、悪党の業務改善でございます。

会社ならDX。

悪党なら犯罪DX。

これには私も思わず笑ってしまった。

笑っている場合じゃないんですけどね。

AIというのは、本来、人間の能力を拡張する道具であります。

文章を書く。

翻訳する。

調べる。

考える。

コードを書く。

画像を作る。

そういうことを人間の代わりにやってくれる。

だから私はAIを見ていると、

「これは人間の頭脳をポケットに入れる時代だな」

と思う。

ところがですね。

ポケットに入れる頭脳を持つのは、善人だけじゃない。

悪人もポケットを持っている。

ここが問題なんです。

しかし、ここで一つ面白いことがあります。

FraudGPTという名前を聞くと、

「うわあ、ダークWebの奥に、とんでもない超高性能AIが存在しているんだ」

と思うでしょう。

ところが、そうとも限らない。

むしろ、

「それ、本当にそんなに凄いの？」

という話がある。

これが実に面白い。

なぜなら、ダークWebという場所はですね、

犯罪者が犯罪者を騙す場所でもあるからです。

考えてみれば当たり前です。

「私は詐欺師です」

という人間が、

「あなたを騙しません」

と言ったところで、

誰が信用するんだ。

詐欺師同士が商売をする。

これはもう、

「泥棒市場の防犯パトロール」

みたいな話でございます。

「お前、俺の金を盗むなよ」

「お前こそ盗むなよ」

「じゃあ契約書を書こう」

……。

何を契約するんだ。

という世界です。

だからFraudGPTについても、

「犯罪者向けの凄いAIが登場した！」

という話だけでなく、

「そのAI自体が詐欺だった可能性もある」

というところまで見ておかなければいけない。

ここが実に人間臭い。

AI時代になっても、

詐欺師が詐欺師を騙す。

文明がどれだけ進歩しても、

人間の基本性能はなかなか変わらない。

私はこういうところを見ると、

「AIって、人間を変えるというより、人間を拡大するものなんじゃないか」

と思うんです。

良い人がAIを使えば、

もっと良い仕事ができる。

研究者が使えば、

研究を早く進められる。

医師が使えば、

情報整理を助けてくれる。

経営者が使えば、

会社の意思決定を助けてくれる。

そして悪人が使えば、

悪事の効率が上がる。

つまりAIは、

善悪を自分で決める機械ではない。

人間の手に渡った能力を、

ものすごい勢いで増幅する機械なんです。

ここが私は怖い。

そして面白い。

昔の詐欺師は、一人で一通の詐欺メールを書く。

ところがAIなら、

「100種類作って」

と言えばいい。

「相手によって文章を変えて」

と言えばいい。

「日本語、英語、中国語で」

と言えばいい。

つまりAIによって、

犯罪が「手作業」から「大量生産」に変わる可能性がある。

これは工場と同じです。

昔は職人が一個ずつ作っていた。

機械を導入した。

一時間に100個作れるようになった。

AIを犯罪に使えば、

犯罪者一人あたりの生産能力が上がる。

私はここに、

AI時代の本当の怖さがあると思っています。

ところが、さらに話を進めると、

FraudGPTそのものが必要なくなる可能性もある。

これがまた皮肉なんです。

「悪いこと専用AIを作りました！」

と売っていた時代から、

「普通のAIを組み合わせればいいじゃないか」

という時代になる。

AIが一般化すればするほど、

犯罪者専用AIと一般AIの境目が曖昧になる。

文章を書くAI。

翻訳するAI。

検索するAI。

画像を作るAI。

コードを書くAI。

それぞれを組み合わせてしまえばいい。

つまり、

「悪いAI」という一匹の怪物を探して退治すれば済む話ではなくなる。

AIそのものが社会のインフラになってしまえば、

そのインフラを悪用する人間も当然出てくる。

私はレターボックス・ドロップをやっていて、つくづく思うんですがね。

現場というのは、必ず予定どおりにはいかない。

机の上で、

「このルートが最適です」

なんて計算しても、

現場へ行けば、

「あれ、ここ工事中じゃないか」

となる。

犬が吠える。

車が止まっている。

住民から話しかけられる。

道が塞がっている。

そして、

「この家には、こっちから行ったほうが早い」

と現場で気づく。

AIにも似たところがある。

仮説は必ず間違える。

だから現場を見る。

私はAIを使えば使うほど、

「最後に残るのは人間だな」

と思うようになりました。

FraudGPTの話も同じです。

「AIが悪い」

ではない。

「AIが怖い」

でもない。

怖いのは、

人間がAIを使って何をするのか分からないことです。

そしてこれは犯罪者だけの問題ではありません。

企業も政府も個人も、

みんな同じです。

AIは、

人間の「やりたいこと」を猛烈な速度で実現してしまう。

だから、

「何を作れるか」

よりも、

「何を作るべきか」

のほうが重要になる。

私は最近、AIを見ながらよく考える。

昔は、

「AIが人間の仕事を奪う」

と言われていた。

しかし私は少し違うと思う。

AIは人間の仕事を奪うというより、

人間の能力を増幅する。

だから、

優秀な人間がAIを持てば、とんでもなく優秀になる。

普通の人間がAIを持てば、かなり便利になる。

そして、

悪意を持った人間がAIを持てば、

悪意まで大量生産できてしまう。

これがAI時代なんでしょう。

FraudGPTという名前は、もしかすると数年後には忘れられているかもしれません。

しかし、

「犯罪にもAIが使われる」

という事実は消えません。

むしろこれから、

もっと普通の話になっていくでしょう。

だから私は、

FraudGPTを「悪魔のAI」として見るより、

「AIという巨大な道具を、人間がどう使うのかを考えさせてくれた事件」

として見ています。

AIは善人でも悪人でもない。

包丁が料理人の手にあれば料理道具。

泥棒の手にあれば別の道具になる。

AIも同じです。

ただし、包丁と違う。

AIは、

文章を書く。

翻訳する。

考える。

調べる。

作る。

しゃべる。

画像を作る。

コードを書く。

そして、それを一瞬で大量にやってしまう。

だから私は思うんです。

これからの時代、

「AIを使える人」

だけでは足りない。

「AIに何をさせてはいけないのかを判断できる人」

そして何より、

「そもそも何をさせるべきなのかを決められる人」

が必要になる。

FraudGPTを笑っている場合ではない。

なぜなら、

AIを使うのは善人だけではないからです。

そして最後に、ひとつ。

FraudGPTが本当に凄かったのか。

それとも、

「凄いAIですよ」

と言って犯罪者から金を巻き上げていたのか。

これすら怪しい。

いやあ、ここまで来ると講談のオチとしては最高です。

AIで詐欺をする。

そのAIを売って詐欺をする。

そして、そのAIを買った詐欺師が騙される。

結局、

AI時代になって一番進化していないものは何か。

私は、

人間の欲だと思うんです。

AIはどんどん賢くなる。

ロボットも歩く。

文章も書く。

画像も作る。

会社まで動かすようになる。

ところが人間は、

「儲かりますよ」

と言われれば財布を開く。

昔も今も、そこは変わらない。

いやあ、人間って面白い。

AIが超知能になる前に、

人間のほうがもう少し賢くならなきゃいけませんな。

――お後がよろしいようで。


フジ
JINSEN BOTTI
ローマ倶楽部