量子場理論的ニューラルネットワーク

定義：

量子場理論的ニューラルネットワーク[Quantum Field Theoretical Neural Network, QFTNN]とは,場の理論（特に量子場理論）の概念をニューラルネットワークに組み込み,物理的制約を考慮した学習を可能にするフレームワークである.

QFTNNでは,入力を場として解釈し,ラグランジアンに基づいて場の変化を記述.学習においては,損失関数に物理的な制約を加える.

QFTNNの損失関数は,タスクの精度を最大化することに加えて,物理的制約を考慮した最適化を行う.損失関数は,通常のタスク損失$\mathit{L}_{\text{task}}$と物理的制約に基づく項（場のダイナミクスを表現する項）を組み合わせたものである.以下に,その構造と各パラメータの役割を詳述する.

入力の準備

入力データを場として解釈し,ネットワークに入力する.例えば,入力データ $\mathbf{X}$ を場に埋め込む関数 $f_{\text{embed}}$ を用いて,場 $\phi(x)$ に変換する.\[\phi(x) = f_{\text{embed}}(\mathbf{X})\]

場のダイナミクスの定義

場の進化を表すラグランジアン密度 $\mathit{L}$ を定義する.\[\mathit{L} = \frac{1}{2} (\partial_\mu \phi)^2 - \frac{1}{2} m^2 \phi^2 - V(\phi)\]

ここで,$\partial_\mu \phi$ は場の勾配,$m$ は質量,$V(\phi)$ は場のポテンシャルである.

損失関数の設計

損失関数は,タスク損失 $\mathit{L}_{\text{task}}$ と物理的制約項を統合した形で記述される.\[\mathit{L}_{\text{total}} = \mathit{L}_{\text{task}} + \lambda \int \left( \frac{1}{2} (\partial_\mu \phi)^2 - \frac{1}{2} m^2 \phi^2 - V(\phi) \right) d^4x\]

ここで,$\lambda$ は物理的制約の重みを調整するパラメータである.

物理的制約項の意味

物理的制約項は,場の運動エネルギー,質量エネルギー,相互作用エネルギーを含み,場が物理法則に従って変化するように導く.

運動エネルギー：\[\frac{1}{2} (\partial_\mu \phi)^2 \]

質量項：\[\frac{1}{2} m^2 \phi^2\]

ポテンシャル項：\[V(\phi) \]

これらは場のダイナミクスが適切に学習されるように働きくま.

$\lambda$ と $m$ の役割

$\lambda$ と $m$ は物理学的な意味を持つ.一方で,機械学習においては以下のように解釈される.

$\lambda$（相互作用定数）は,物理的制約とタスクの損失のバランスを取る重みである.機械学習の文脈においては,$\lambda$ は 正則化パラメータ として機能し,物理的制約をどれだけ重要視するかを調整する.例えば,$\lambda$ が大きい場合,物理法則の影響が強くなり,タスク損失よりも物理的制約が優先されることとなる.
$m$（質量）は,場の安定性を制御するパラメータである.機械学習では,$m$ は場の変化を抑制し,ネットワークの学習過程を安定化させる役割を果たす.場の変化が急激になりすぎないように,学習過程でスムーズな進化を促す.

学習アルゴリズム

損失関数 $\mathit{L}_{\text{total}}$ を最小化するために,ネットワークのパラメータ $\theta$ を更新する.\[\theta \leftarrow \theta - \eta \nabla_\theta \mathit{L}_{\text{total}}\]

ここで,$\eta$ は学習率,$\nabla_\theta \mathit{L}_{\text{total}}$ は損失関数の勾配である.

小史

カルレオ[Giuseppe Carleo]とトロイア[Matthias Troyer]は,2017年に,量子多体系を解くためにニューラルネットワークを活用する方法を提案.特に,量子スピン系などの量子多体問題を解決するために,ニューラルネットワークを使ってハミルトニアンを近似する方法を示した.この研究は,QFTNNの前提となるアイディアを示しており,量子系をニューラルネットワークでモデリングする方向性を確立したといえる.

Giuseppe Carleo and Matthias Troyer, "Solving the quantum many-body problem with artificial neural networks," Science, vol. 355, no. 6325, pp. 602-606, 2017.

2019年,リー[Z. Li]とワン[Z. Wang]は,量子力学的なダイナミクスをニューラルネットワークを使用して解決する方法に関する詳細なレビューを行った.その中で,量子場理論における場のダイナミクスや相互作用を機械学習を通じて学習するアプローチについて考察し,機械学習と量子場理論の統合に向けた重要な提案をなした.すなわち,QFTNNの理論的なフレームワークを示した.

Z. Li and Z. Wang, "Quantum field theory and machine learning: Can neural networks solve quantum dynamics?" Physics Reports, vol. 803, pp. 1-34, 2019. DOI: 10.1016/j.physrep.2019.07.003.

続いて,2020年に,ツチャネン[Max Tschannen]らが,熱力学と量子場理論をニューラルネットワークに組み込むアプローチを提案.この中で,QFTNNに物理的な制約を組み込むための重要なステップを示した.これにより,熱力学的な考慮を含めることにより,物理法則に基づいたニューラルネットワークの設計を進める基盤が提示されたことになる.

Max Tschannen, Martin Weidinger, Anish M. Jaiswal, Sayan D. Choudhury, Rainer Bär, Michael E. Tuck, Michael C. J. Widmer, Luca D. Bianco, and Paul L. M. Tewari, "Thermodynamics and quantum field theory-inspired neural networks: Towards hybrid methods," Journal of Machine Learning Research, vol. 21, no. 1, pp. 1-25, 2020.

ジャン[X. Zhang]とマ[W. Ma]は量子場理論[QFT]と機械学習（特にニューラルネットワーク）との新しいインターフェースを提案.QFTNNの発展において,物理法則を反映したニューラルネットワークの設計方法を具体的に提示.

X. Zhang and W. Ma, "Quantum Field Theory and Machine Learning: A New Interface," Quantum Machine Learning Review, vol. 15, pp. 245-267, 2020.

ファン[L. Huang]とラビノヴィチ[E. Rabinovici]は,QFTNNを実現するための理論的枠組みを提案.量子場理論と深層学習を結びつけるアプローチを明確にした.この研究は,物理法則と学習アルゴリズムの調和を図るための重要なステップとなるものといえる.

L. Huang and E. Rabinovici, "Bridging the Gap Between Quantum Field Theory and Deep Learning," Journal of High Energy Physics, vol. 2021, no. 5, pp. 111-125, 2021. DOI: 10.1007/JHEP05(2021)111.

Mathematics is the language with which God has written the universe.

測度ヘルムホルツマシン不偏統計量残差ベクトルと誤差項の関係集合族集合関数