2026年11月23日 02:16 AI暴走を防ぐ数式、ワイナーらの機械的推定はどこまで進んだか 統計物理学者マイケル・ワイナーらは、AIの出力を試行せず重みから予測する「機械的推定」を研究しています。幅256、隠れ層4層の限定的な実験では、希少事象の推定でモンテカルロ法を上回りました。暴走を防ぐ数式の可能性と、学習済みLLMへの適用、評価・規制を含む多層防御の課題を国際安全保障の視点から解説。 #AI #AI安全性 #機械学習 #アラインメント