「このAI、普通のユーザに迷惑かけないの？」

From:山極綾子

以前ご紹介したヤフオクの機械学習。

https://www.nikkei.com/article/DGXZQOUC116UC0R11C21A1000000/

お金を払わず商品だけをだまし取るという詐欺を防ぐために、

これまで発生した詐欺の際の文面を学習し、

詐欺につながる可能性の高いコメントを自動で削除する、というものでした。

そしてその結果、不正な投稿であるとの通報が97%も減少したとのことでした。

このニュースを見たとき、私は正直ポジティブな印象しか抱くことができませんでした。

さすがYahoo！

こんなに効果のある機械学習を導入して、しかもニュースで展開してくれるなんて、

さすがだなあ…。

でも、このニュースをメルマガでお伝えした時、ある方からコメントをいただきました。

それは、その機械学習の導入に対する、注意喚起の様なものでした。

「普通に使っているユーザに、不便をかけてしまうのではないか？」

確かに、勝手にコメントを削除されてしまう…ということが自分の身に発生したら、

かなりイラっとしてしまいそうです。

きっと、サポートセンターに連絡してしまう気がします。

恐らく今回のヤフオクの導入した機械学習では、

詐欺を働く人に非常に特徴的な文面を学習しているのだと思います。

なぜならば、通常のコメントを消してしまったら、コメントをくださった方が危惧するように、

他の善良なユーザに迷惑をかけ、満足度の低下、

ひいてはユーザの減少を招いてしまうに違いないからです。

ですが、そういった「本当は正しいのに不正と判断してしまう」リスクを無視することは、

ビジネスにおいては良くないことなのは間違いありません。

「不正なものをきちんと不正と判断できない」

「不正じゃないのに不正と判断してしまう」

どちらも判断が誤っていたことは変わりませんが、

これら二つは「どこからを不正と判断するか？」という基準を調整することによって、

その出易さを調整することが出来ます。

そして機械学習の特に分類の分野では、その値をモデルの評価指標として用いることができます。

不正をかなり厳しく取り締まるか。

自由なやり取りを推進するか。

どちらを選ぶかには、企業姿勢が表れるのかもしれません。

山極綾子

P.S.

今日も最後まで読んでいただきありがとうございます！

メルマガの感想などありましたら、こちらからお聞かせ下さい。

嬉しく拝見しています。いつもありがとうございます！

↓

https://keieijinjipartnersytube.typeform.com/to/B8JjDrk5

—————————————————————-
【経営人事メールマガジン】
発行責任者：　山極毅（株式会社経営人事パートナーズ）
発行者住所：〒100-0005東京千代田区丸の内1-8-3丸の内トラストタワー本館20F
連絡先：https://keieijinji.co.jp/
メールアドレス：　strategic-membership-program■■keieijinji.co.jp(■■を@に置き換えてください)
—————————————————————-

↓バックナンバーはこちら↓
PC: https://04auto.biz/brd/BackNumber.htm?acc=keieijinji&bid=3
スマホ・ガラケー: https://04auto.biz/brd/BNMobi.htm?a=keieijinji&b=3

↓メルマガの新規登録はこちらから↓
PC: https://48auto.biz/keieijinji/touroku/scenario13.htm
スマホ: https://48auto.biz/keieijinji/touroku/sp/scenario13.htm
ガラケー: https://48auto.biz/keieijinji/touroku/sp/scenario13.htm