AIを騙してみよう！

From:山極綾子

「実は、AIに画像を誤認識させるのは、

意外に簡単にできるという実験結果があるようです。

人間にはどうみてもパンダにしか見えない画像ですが、

ある細工をするとAIはテナガザルと認識するらしいのです。」

先日お送りした山極毅からのメルマガに、上記のような文章がありました。

．．．AIってもしかして、ちょっとおバカ？

ということで今回は、AIをどうしたら騙せるかについて考えてみたいと思います。

実はいろんな方法が考えられるのですが、

一番は、正解データをでたらめにする方法です。

基本的にAIは機械学習、つまり、与えられたデータに対するルールを

学習させることにより、様々なタスクに対応させることが出来ます。

ということは、そもそも与えられたデータが誤っていれば、

学習されるルールもまた、誤ってしまうということです。

もし、猫の画像を犬として、犬の画像を猫として学習すれば、

AIはその与えられたデータを正解として学習するわけなので、

間違ったルールを学習することになる、ということです。

実は、この点を悪用して、音声AIに悪い言葉を教えてしまった例が

あるようなのですが、それはさておき。

与えられたデータがそもそも嘘つきなら、それは騙すとは言わないのではないか？

とも考えられますので、もう少し、騙す、といった形で

AIが間違ってしまうデータを考えます。

ここでは、すでに正しいデータ(猫は猫、犬は犬)で学習された、

猫と犬を識別するAIがあるものとします。

もし、そのAIが猫と犬を、耳の形で判断しているとしたら。

（三角形の耳を猫、そうでなければ犬、とか…）

ネコに犬の耳をかぶせた画像を見せれば、

きっとそのAIは間違えてしまうことでしょう。

AIを学習させるのが人間であるならば、それを騙すこともまた、

人間には簡単なことなのかもしれません。

山極綾子

P.S.

では、どうやれば騙されないAIが学習されるのか？

そのためには、データを増やすこと、そもそも正しいデータを入力すること、

新しいデータに対して、AIのモデルを変化させないことなど、

様々な対策が考えられます。

どんなところに弱点があるのか？というのは、常に意識した方がよさそうです。

P.P.S.

今日も最後まで読んでいただきありがとうございます！

メルマガの感想などありましたら、こちらからお寄せ下さい。

嬉しく拝見しています。いつもありがとうございます！

↓

https://keieijinjipartnersytube.typeform.com/to/B8JjDrk5

—————————————————————-
【経営人事メールマガジン】
発行責任者：　山極毅（株式会社経営人事パートナーズ）
発行者住所：〒100-0005東京千代田区丸の内1-8-3丸の内トラストタワー本館20F
連絡先：https://keieijinji.co.jp/
メールアドレス：　strategic-membership-program■■keieijinji.co.jp(■■を@に置き換えてください)
—————————————————————-

↓バックナンバーはこちら↓
PC: https://04auto.biz/brd/BackNumber.htm?acc=keieijinji&bid=3
スマホ・ガラケー: https://04auto.biz/brd/BNMobi.htm?a=keieijinji&b=3

↓メルマガの新規登録はこちらから↓
PC: https://48auto.biz/keieijinji/touroku/scenario13.htm
スマホ: https://48auto.biz/keieijinji/touroku/sp/scenario13.htm
ガラケー: https://48auto.biz/keieijinji/touroku/sp/scenario13.htm