性善説を信じるシステム

From:山極綾子

突然ですが、GitHubというシステムをご存知でしょうか。

IT系で開発に携わる人の99%が知っているであろう、超有名な開発用プラットフォームです。

開発していく過程を管理したり、バージョンの管理をしたり、

それはそれは便利なシステムなので、多くの企業が活用しています。

先日、Twitterのトレンドに、GitHubという言葉が上がっていました。

この手のプラットフォームの名前がトレンドに上がっているのはたいてい、

良いことでではありません。

例えばサーバーが落ちてしまった。

アクセスが出来なくなってしまった。

など、不具合が起きたときにトレンドに入ることがほとんどです。

（少し前には、Amazonが提供するクラウドサービスで不具合が起きて、

多くのエンジニアが「仕事にならない！」と話題にしていました。）

そして今回の事象は、主観的にはもっとひどい出来事でした。

情報漏洩が起きていた、という問題でした。

ある会社の顧客情報が漏洩してしまっていたのです。

（該当企業のプレスリリースはコチラ：

https://linecorp.com/ja/pr/news/ja/2021/4032

既に対応は済んでおり、顧客の方への個別の連絡も済んでいるということでした。

（この企業だけに起こりうる問題、というわけではなく、

この企業のイメージを悪くしたいわけでもなく、

あくまで先日ニュースになっていたためメルマガに載せた次第です。

なにとぞご容赦ください。）

人間は必ずしも性善説で動いているわけではなく、

きちんと対策しておくことの必要性を見せつけられた気分でした。

機械学習も、そういった人間の悪意にさらされることがあります。

しかも、人間に悪意が無かったとしても、

人間の認識や経験そのものが悪影響をもたらすことすら起こり得ます。

以前お伝えした、スパムを排除しようとするアルゴリズムで、

ある民族の方が良く使う言葉が「スパムによく出てくる単語」として学習されてしまい、

自由な発言が阻害されてしまったり。

チャットボットに、あえて悪い言葉を教えようとする人もいました。

システムに限らず機械学習でも、人間の悪意や、意思のない悪い影響から守る方法を

きちんと考える必要があるのかもしれません。

山極綾子

P.S.

その目的ではないけれど悪影響を与えてしまう例としては、

ECサイトでのサクラ評価者もあるかもしれません。

特定の商品の評判を上げたり下げたりするために、

お金を払ってサクラを雇う行為がなされる場合があります。

そういったデータを是として扱ってしまうと、

分析結果がおかしくなってしまうことが予想されます。

全体の傾向と違う外れ値の排除には、人間の悪意への抵抗力をつける、

といったメリットもあるように思えます。

P.P.S.

今日も最後まで読んでいただきありがとうございます！

メルマガの感想などありましたら、こちらからお聞かせ下さい。

嬉しく拝見しています。いつもありがとうございます！

↓

https://keieijinjipartnersytube.typeform.com/to/B8JjDrk5

—————————————————————-
【経営人事メールマガジン】
発行責任者：　山極毅（株式会社経営人事パートナーズ）
発行者住所：〒100-0005東京千代田区丸の内1-8-3丸の内トラストタワー本館20F
連絡先：https://keieijinji.co.jp/
メールアドレス：　strategic-membership-program■■keieijinji.co.jp(■■を@に置き換えてください)
—————————————————————-

↓バックナンバーはこちら↓
PC: https://04auto.biz/brd/BackNumber.htm?acc=keieijinji&bid=3
スマホ・ガラケー: https://04auto.biz/brd/BNMobi.htm?a=keieijinji&b=3

↓メルマガの新規登録はこちらから↓
PC: https://48auto.biz/keieijinji/touroku/scenario13.htm
スマホ: https://48auto.biz/keieijinji/touroku/sp/scenario13.htm
ガラケー: https://48auto.biz/keieijinji/touroku/sp/scenario13.htm