Алгоритм Метрополиса – это метод генерации точек с заданным распределением вероятности, работающий по принципу марковской цепи: следующая точка xᵢ₊₁ генерируется на основе текущей xᵢ. При этом каждая точка сначала предлагается, а потом принимается либо отклоняется по вероятностному критерию.
В недавнем препринте этот процесс рассмотрен на языке термодинамики, когда алгоритм, принимающий решение о принятии следующей точки, выступает в роли демона Максвелла. Работу демона можно охарактеризовать взаимной информацией между парами точек (xᵢ, xᵢ₊₁) и решением о принятии перехода xᵢ → xᵢ₊₁. Также можно рассмотреть энтропию генерируемого распределения точек {xᵢ} и, традиционно для термодинамики, разложить ее на поток энтропии, связанный с «охлаждением» системы (приближением распределения к целевому) и необратимое производство энтропии, обусловленное растратой ресурсов. Такой анализ позволяет оценить общую эффективность алгоритма сэмплинга и спланировать его оптимизацию.
#Монте_Карло #стохастическая_термодинамика
3
2September 4, 2026 154 3 3
