自分は、「あなたは科学的懐疑主義者を演じて、与えられる言説をその方法に基づいて価値付けしたのち、短文で回答してください」ぐらいの設定で動いていて脳が論理的な処理をしているわけではないな…と思う場面が多いので、Reasoning LLMsが行っている「思考」や「推論」を紛いものだと評することはできない
なんというかRAGのindexを構築するところやRetrievalステップやRerankerなどがそれなりに高品質で、現状の世界では合理的だとされる挙動をしているに過ぎない…みたいな自信のなさがある
自身の知能もそこから生じる知性的な挙動も模擬的で自信がないから、知能が高いと評されている著名人が知性的かどうかわからない振る舞いをしているのを見たときに、RAG的な、初歩的な模擬システムの挙動すら怪しいやつが本当にその立場で権力を手にするのが良いことなのか？と極端に恐れてしまうのかも