なぜか泣いている機械学習モデル
From:山極綾子
大学に向かう電車の中で開くTwitter。
頼りにしているとあるアカウントがつぶやいていた研究情報を見ていると、
なぜか泣いている機械学習モデルが目に入りました。
曰く、「GPT-4をも凌駕する思考のツリー(ToT)」
(GPT-4はchatGPTに使われている機械学習モデルです。)
(ToT)
なぜ、泣いているのだろう。
落ち着いて考えれば、これは単なるTree of Thoughtsという思考のツリーを表す
モデル名の短縮形でした。
ですが、顔文字文化に慣れ親しんだ私の眼には、残念なことに、
泣いている人にしか見えませんでした。
慣れというのは恐ろしいですね…。
このモデルが何をしているものかと言いますと、木のような構造を持つ機械学習モデルを使って、
人間が思考するときの階層構造を再現して、これまでのモデルでは解けなかった
クロスワードなどの問題を解けるようにしようとする研究です。
この発想を得るために研究者の方々は1900年代中盤の脳科学に関する研究まで
調べたというから驚きです。
ところで今回私が(ToT)を泣き顔だと思ってしまったのは、
私が顔文字文化をすでに学習してしまっていたことによるものでした。
顔文字と言えば、ロシア語を学んだ友達が(; ・`д・´)などのキリル文字を使った顔文字が
顔文字に見えなくなってしまったと話していましたが、それはさておき。
この「すでに学習している」というのが、
昨今大活躍している大規模自然言語モデルの肝になっていたりします。
GPTやBERTといった大規模言語モデルでは、
事前に多くの文章を読み込ませて事前学習と呼ばれる学習を行っています。
ここで何をやっているかと言いますと、ある意味「言語に慣れることである」と
言うことができます。
具体的には、言語に共通する理解の方法を学んでいる、と言われています。
事前学習によって文章の意味や読み方を理解した機械学習は、そのあと少し応用的な
内容を学習するだけで、様々な問題を解くことができるようになります。
人間が少数の例題だけで、問題を題意に沿って解くことができるようになるのと同じです。
今回(ToT)が顔文字に見えてしまったのも、
私がすでに顔文字の考え方を学習してしまっていたためでした。
一方、キリル文字(ロシア語)を学んだ人が、
一部顔文字を顔文字と認識できなくなるのもまた、
新たに文字の解釈方法を学んだからと考えられます。
対象をどのように解釈するか。
思った以上に、私たちの認知はこれまでに得た知識から影響を受けているのかもしれません。
山極綾子
P.S.
今日も最後まで読んでいただきありがとうございます!
メルマガの感想などありましたら、こちらからお聞かせ下さい。
いつも嬉しく拝見しています。いつもありがとうございます!
↓
https://keieijinjipartnersytube.typeform.com/to/B8JjDrk5
P.P.S.
<面接お役立ち資料>
「構造化面接100の質問集 VOL.1 基本スキル編」
採用面接に自信がなく、時間ばかり取られてしまう方へ
採用面接にかける手間を大幅に軽減し、優秀な候補者を効率的に採用するための質問集です。
明確で公平な、確かな選考力を今すぐ手に入れましょう!
期間限定で無料公開中!
https://blog.people-resource.jp/stractured_interview_100_question_list
—————————————————————-
【経営人事メールマガジン】
発行責任者: 山極毅(株式会社経営人事パートナーズ)
発行者住所:〒100-0005東京千代田区丸の内1-8-3丸の内トラストタワー本館20F
連絡先:https://keieijinji.co.jp/
メールアドレス: strategic-membership-program■■keieijinji.co.jp(■■を@に置き換えてください)
—————————————————————-
↓バックナンバーはこちら↓
PC: https://04auto.biz/brd/BackNumber.htm?acc=keieijinji&bid=3
スマホ・ガラケー: https://04auto.biz/brd/BNMobi.htm?a=keieijinji&b=3
↓メルマガの新規登録はこちらから↓
PC: https://48auto.biz/keieijinji/touroku/scenario13.htm
スマホ: https://48auto.biz/keieijinji/touroku/sp/scenario13.htm
ガラケー: https://48auto.biz/keieijinji/touroku/sp/scenario13.htm