序文:
OpenAIのスケーリング則(Scaling Laws)は、過去5年間のAI開発のバイブルでした。データが多ければ多いほど、計算力が多ければ多いほど、パラメータが多ければ多いほど、モデルは強くなる。
しかし2025年までに、このバイブルは挑戦に直面しているようです。
1兆パラメータモデルの普及に伴い、私たちは3つの壁にぶつかりました:エネルギーの壁、データの壁、そして認知の壁です。AIスケーリングの道は行き止まりなのでしょうか?それとも、次のより大きな飛躍を準備しているのでしょうか?この記事では、物理学、情報理論、経済学の観点からAIの究極の未来を推論します。
2025/2/12約3分
