自分のミスに気づけないAI

From:山極綾子

いつも、メルマガへのコメントをいただき、本当にありがとうございます。

どんなふうに伝わっているのか。

少しは楽しんでいただけているだろうかと、

毎日ドキドキしながらいただいたコメントを拝見しています。

ところで、先日「失敗することによる新たな気付き・学び」を得られないことが、

AIの弱点に関係があるのではないか？というコメントをいただきました。

結論から言えば、私も、そのように思います。

AIは、自分が出した結論が正しいか否かを、

自分で認識することができないのです。

例えば、広告のコンバージョンレート

（※細かい定義は企業により異なりますが、一般には広告が表示されたときに、

どれだけの人がクリックしてくれるか、または商品購買してくれるか、

を示す指標）を、

機械学習を使って当てることを考えます。

実際に、GoogleやYahooの広告でもこのレートを当てるための研究が

かなりなされており、多くの論文が発表されています。

ここで、A社の広告について、コンバージョンレートが50%である、

とAIが予測したとします。

すると、その予測に合わせて広告出稿の割合が調整され、

実際に広告が顧客の目に触れることになります。

（Googleなどの検索エンジン側から見ても、顧客の利便性向上のため、

コンバージョンレートが高い、

つまり顧客にとって有益と考えられる広告を多く載せたい、

という力学が働きます。）

実際に広告が運用されてみて、もし、AIの予想が大幅に外れていたら、

どうなるでしょうか？

…AIは、どうもしません。

その当たらなかったデータも新たにデータベースに追加し、

パラメータの推定をするだけでしょう。

ここで言うパラメータとは、例えば画像を載せたときの影響が正の方向に3割…

とか、そういった類のものです。

具体的な値については公表されていないので、あくまで想像です。

それはさておき、もともとのモデルが悪かったから当たらないのか。

それとも、今までのデータには全くない要因が突然発生したから

当たらなかったのか。

当たらなかった真の理由についてAIが自分で気づくことはできません。

仮説を立てて、それを明らかにすることが出来るのは、人間だけなのです。

つまり、AIは、失敗から学ぶことが出来ない、ということもできるのではないか、

と私は思うのです。

なぜならば、AIは、失敗に気づけないからです。

失敗から学ぶことが出来るのは、人間の特権なのかもしれません。

山極綾子

P.S.
AIは自分の失敗に気づくことが出来ない、そして、

そこからの学びを得ることが出来ない。

ということを考えると、なんとなく、自己客観視の能力と近いものを感じます。

自分を客観的に見るには、AIのように過去のデータや経験から学ぶのではなく、

AIが出来ないようなこと、

具体的には、それまでとは全く異なる視点・意見を取り入れることや、

評価軸の見直しなどが必要になってくるのかもしれません。

P.P.S.

最後までお読みくださりありがとうございます。

ご感想、ご質問などありましたら、こちらからお寄せ下さい。

いつもありがとうございます！

↓

https://keieijinjipartnersytube.typeform.com/to/B8JjDrk5

—————————————————————-
【経営人事メールマガジン】
発行責任者：　山極毅（株式会社経営人事パートナーズ）
発行者住所：〒100-0005東京千代田区丸の内1-8-3丸の内トラストタワー本館20F
連絡先：https://keieijinji.co.jp/
メールアドレス：　strategic-membership-program■■keieijinji.co.jp(■■を@に置き換えてください)
—————————————————————-

↓バックナンバーはこちら↓
PC: https://04auto.biz/brd/BackNumber.htm?acc=keieijinji&bid=3
スマホ・ガラケー: https://04auto.biz/brd/BNMobi.htm?a=keieijinji&b=3

↓メルマガの新規登録はこちらから↓
PC: https://48auto.biz/keieijinji/touroku/scenario13.htm
スマホ: https://48auto.biz/keieijinji/touroku/sp/scenario13.htm
ガラケー: https://48auto.biz/keieijinji/touroku/sp/scenario13.htm