プロジェクション・フィルム(仮)

いろいろ考えたことを言語化して焼き付けておくためのブログ。話題は研究・身体・生活から些細な日記まで雑多に。ほぼ毎日21時更新です

MENU

LLMの中で何が起こっているのか知りたい

こんばんは、ゴドーです。


ChatGPTが東大入試の数学を4問半解いたという
ポストを見ました。

より高性能なモデルでは5問解けたそうです。

「よく考えて」という指示が効果的だったり、モデル自身が誤りを自覚しているようだったりと、おもしろい挙動を示していますね。


個人的にはLLMの応用面よりも、モデル内で何が起こっているのかを理解したいと感じます。

この点、すでに最先端では決着しているのかもしれませんが、自分のような門外漢が理解できる教材は見つけられておらず。

ハイペースで研究が進んでいる現在、そのうちこの疑問が解決されることを願っています。


それでは、また。

/ゴドー