Score 관점에서 본 diffusion

diffusion을 SDE/score 관점으로 보면 그림이 하나로 합쳐진다.

• score = 로그 확률밀도의 기울기. “지금 위치에서 데이터가 더 그럴듯한 방향”.
• 노이즈를 예측하는 것과 score를 추정하는 것은 스케일 차이일 뿐 동일한 정보다.
• 샘플링은 score를 따라 확률이 높은 쪽으로 이동하면서 노이즈를 줄이는 과정.

DDPM(이산)과 score SDE(연속)가 사실상 같은 틀의 두 표현이라는 것을 알면, 샘플러들(DDIM, Euler, Heun…)이 왜 서로 호환되는지 이해가 된다.