考えたこと2 | 超知性AI

2023.06.08 Thursday

超知性AI

今のAIは脳のシナプスの構造に模して、そのつなぎ方や何層につなぐかなどを工夫して、プログラムを決めているのだと思う。
その上で、インターネット上の膨大な情報を選択して学習させ、そこから回答を見出すということをやっている。
ということは、そのAIの設計者にも、なぜその質問に対して、その答えが出てきたかはわからない。
そこが一番怖いところだ。

とはいえ、人間にしても同じこと。
今まで何を学んで、どう考えているから、今の自分があるのかということなど、想像もできない。
結果論としてはわかっても、どういう過程を経て今に至っているかということは、理解の彼方だ。

OpenAIのサム・アルトマンCEOらがブログ記事で、超知性の開発のガバナンスに対するOpenAIの立場を表明したらしい。
それによると、「現在のところ見えている全体像を考えると、AIシステムが今後10年以内にほとんどの領域で専門家のスキルレベルを超え、現在の大手企業の1つが行うような生産活動を実行する可能性があると考えられる」ということらしい。

今のChatGPTの賢さを考えると、10年も経たなくても並の専門家のスキルレベルを超えそうだ。
最新のChatGPTは、アメリカの司法試験の上位20%の成績だという。
ファンドを運営させたら、人間より運用成績がよいというし、法律や税務関係の仕事など、単に煩雑でいろんなところを見ないといけないから、という理由で営業している「士」のつく商売などは危機感を持っているのだろうと思う。
おそらく、ソフトウェアで条件を入れたら、行政向けの申請書を書いてくれるようなものができるのだろう。

行政のDXについては、ぜひChatGPTの可能性を検証してほしいものだ。（既得権を守ろうとする人も多いだろうが…）
日本は少子化で人口減少するのだから、そういう非生産的な仕事をしている人はコンピューターで代替えしないといけない。

OpenAIの首脳陣の発言は、議会の上院小委員会のメンバーからの質問に回答したものを反映しているらしい。

その発言は超知性AIの開発をやめることは、直感に反してリスキーだという。
それを正しく開発することが重要ということだ。

ただ、世界的な監視体制が必要になり、それすらもうまくいくとは限らない、とも書かれている。

超知性AIのいる世界はユートピアになるか、それともディストピアになるか。
どうなんだろう。

ターミネーターの世界のように、人工知能が世界を牛耳ることにならなければいいと思うのだが、人間より賢いのだから、それでもいいかもしれない。

なってみないとわからないということか…。