考えたこと2 | AIの作った画像

2018.10.22 Monday

AIの作った画像

今やAIが学習して生成するイメージは、人間が見て本物かどうかわからないレベルまで来ているらしい。
Forbesの記事で、AI通信というのがあるが、その中に記事があった。
記事の冒頭にいくつかの犬の写真があるが、その中にAIが作った画像があるとは思えない。
スゴイ画像生成能力だ。

AIが発達して、コンピューターができることが増えてきた。
最近の海外ドラマなどの爆発シーンは、ほとんどCGになった。
本物の画像に、炎や煙と散らばる破片などをCGで加工しているのだろう。
ちょっと不自然なところもあるから、CGだとわかるが、ぼやっと見ていたら本物と区別がつかない。
今はまだCGはかろうじてCGだとわかるが、そのうち本物と区別がつかなくなる。

この技術がフェイクニュースに使われたら、テロなどでっち上げ放題だ。
敵対勢力が、ターゲットにしている国の組織がテロを起こした、というニュースを流せる。
それも、本物としか思えない被害映像をつけてだ。
プロが見たら、偽物だとわかるかもしれないが、そういう分析が済む頃にはもう拡散している。
そんなことも考えられるくらいのレベルだ。

記事の中にも書いてある。

「これらの技術は「敵対的生成ネットワーク（GAN: Generative adversarial networks）」をベースにしたものだ。端的に説明するならば、「騙すAI」と「見抜くAI」を競争させ、より本物に近い対象（ここでは画像やイメージ）を生み出す技術である。人工知能関連のさまざまなイシュー中でも、昨今、特に注目が集まる分野である。今年6月、フェイスブックのAI開発者であるYann Lecun氏も、GANは非常に重要な技術と言及したことがある。」

騙すAIの技術がどんどん進むと、人間では真偽がわからなくなる。
要は、写真などを見せられても、それが本物かどうかは「見抜くAI」に頼らないとわからない、ということになる。
動画も、そのうち同じことになる。

長い人間の営みの中で、写真や動画は「本当のもの」だった。
それが揺らぐことになる。

記事の最後に書かれている。

「しかし、GANなど関連技術が発達すれば、写真や動画に真実を求めることは不可能になる。何を持って真実とするか。人工知能時代には、存在を証明する新しい技術やテクノロジーが必要となってくるはずである。」

どちらかというと、「見抜くAI」の技術が大事になると思うが、その技術を開発するには、「騙すAI」の技術が必要になるのだろう。

騙し合いは難しい。