考えたこと2

ロシアのやっているAI対策の記事があった。

今までやっていたのは、検索の対策で、これはSEO（Search Engine Optimization)という。
ある検索ワードを入れたときに、表示されやすくするための対策だ。
サイトのどこかに検索ワードを隠して埋め込んだりするものだ。

これからは、AIに聞いたときに引っかかりやすくするための対策だという。
親ロシアのプロパガンダを撒き散らすためのもの。
これをGAIO（Generative AI Optimization）という。
生成AI最適化という意味だ。

生成AIはたくさんのWeb上の情報を使って自身を学習させている。
その学習に偽のデーターを紛れ込ませるという手法。
記事の中では「AIのトレーニングに使用されるデータを汚染する」と書かれている。

まずは大量のコンテンツをWeb上に放つ。
48時間に2万件以上の記事を発信するらしい。
全く同じデータではなく、似たようなデータであり、それが正当性を増すようになっている。

そのデーターがいろんな検索ワードで検索されやすいようにして、他のサイトから参照され、信頼できるデータだと思い込ます。
そんなふうにして、AIが使う大規模言語モデルに取り込まれやすくなる。
それを使って、AIが学習すると、結果的にAIを騙せるのだ。

それ以外にも、信頼性をつけるために、複数の報道機関が取り上げたように見せたりする。

そんなふうにして、ロシアびいきの検索結果をAIが出すようにするらしい。
新たなものが出てきたら、それを逆手に取って悪いことをする輩が出てくる。

そんなことを聞くと、AIを手放しで信じてはいけないと思う。
もともと、AIは平気で嘘をつくものだ。
嘘という概念もなく、それが悪いとも思っていない。
膨大なデータから、統計的に言葉をつないでいるだけだ。

それでも、あまりにもまともな答えを返すから、まるで人間のように思ってしまう。

これも、それを防ぐ側と、攻撃する側のイタチごっこになるのだろうか…。