Bradley Brown, Jordan Juravsky, Ryan Ehrlich, Ronald Clark, Quoc V. Le, Christopher Ré, Azalia Mirhoseiniによる2024年7月31日の論文 "Large Language Monkeys: Scaling Inference Compute with Repeated Sampling" で示された.
Point：
任意の試行によって解決される問題の割合[カバレッジ]が,サンプル数の増加に応じて4桁のオーダーで拡大することを観測したとする.このカバレッジとサンプル数の関係はしばしば対数線形であり,指数関数的なべき乗則でモデル化できることから,推論時のスケーリング法則が存在することを示唆すると結論.
arXiv:2407.21787 [cs.LG]
