From:山極綾子
理由はよくわかりませんけど、AIによると最適なのはこちらの方法であるようです。
理由はわからないの？
はい、そうです。
そんなの、説明できないし使えないよ…。
AIを実際のビジネスに活用しようとするとき。
きっと上のような問答がいくつもあったに違いありません。
AIはなんかすごいらしいけれど、なんでそんな出力をしたのか、その説明をしてくれない。
説明できないものをビジネスで使って、失敗したときに責任を取るのは採用を決めた人間。
だとすれば、AIを使うわけにはいかない…。
もちろん、他にも知的好奇心などの理由はあったのだと思いますが、
とにもかくにも、AIの中身を理解しようとする研究が昨今盛んにおこなわれています。
いわば「AIの考えていることを考える」というような研究です。
その方法のひとつとしては、各説明変数の影響を明らかにしようとする、
SHAPと呼ばれる手法やFeature Importanceという指標を出力する方法があります。
この方法は、AIが結局何を考えているのかはわからないけれど、各変数の影響はわかる、
といったようなものです。
例えば人間の身長の予測モデルについて、性別の影響はXXcmで、
小さい頃に飲んだ牛乳の影響はYYcm、母親の身長の影響はZZcmで…といったように、
それぞれの影響を出すことができます。
他にも、直接AIの中身をわかりやすくしようとする研究もあります。
重回帰分析（y=a1x1+ a2x2+…といったように、各特徴量の係数が推定されるモデルです）
などのシンプルなモデルを使えば、
なんでその出力になったのか？を解釈することは非常に簡単です。
ですが、シンプルなモデルの説明力は弱く精度に乏しいことが多いため、
解釈性を取るか、それとも精度を重視して解釈は別の方法で行うか、
という二つを天秤にかけることがほとんどでした。
ですが2023年5月4日。
それを覆すかもしれないモデルが、マサチューセッツ工科大学から提案されました。
論文掲載URL：https://arxiv.org/abs/2305.08746
人間の脳がそれぞれ担当している役割が違うように、ニューラルネットワークでも、
それぞれの部分に異なる役割を割り当てれば、モデルの解釈ができるのでは？
という研究らしいです。
ニューラルネットワークは複雑なモデルの最たるもので、
そのまま解釈することは難しいと言われてきたのですが。。。
もしこれが可能になれば、AIと人間の距離が一気に縮まるかもしれないと、
とてもワクワクします。
山極綾子
P.S.
今日も最後まで読んでいただきありがとうございます！
メルマガの感想などありましたら、こちらからお聞かせ下さい。
いつも嬉しく拝見しています。いつもありがとうございます！
↓
https://keieijinjipartnersytube.typeform.com/to/B8JjDrk5
—————————————————————-
【経営人事メールマガジン】
発行責任者： 山極毅（株式会社経営人事パートナーズ）
発行者住所：〒100-0005東京千代田区丸の内1-8-3丸の内トラストタワー本館20F
連絡先：https://keieijinji.co.jp/
メールアドレス： strategic-membership-program■■keieijinji.co.jp(■■を@に置き換えてください)
—————————————————————-
↓バックナンバーはこちら↓
PC: https://04auto.biz/brd/BackNumber.htm?acc=keieijinji&bid=3
スマホ・ガラケー: https://04auto.biz/brd/BNMobi.htm?a=keieijinji&b=3
↓メルマガの新規登録はこちらから↓
PC: https://48auto.biz/keieijinji/touroku/scenario13.htm
スマホ: https://48auto.biz/keieijinji/touroku/sp/scenario13.htm
ガラケー: https://48auto.biz/keieijinji/touroku/sp/scenario13.htm
