Wiener process는 Brownian motion을 표현하는 stochastic process로, 시간이 지나면서 어떤 random한 움직임이 어떻게 변화하는지를 표현하는 프로세스이다. SDE는 다양한 방법으로 표현될 수 있지만, SDE 내의 randomness는 다음 식과 같이 종종 Wiener process로 표현된다.
그렇기 때문에 SDE를 활용하여 diffusion process를 표현하는 diffusion model에 관련된 논문들에서 Wiener proces라는 단어가 흔히 나오고는 한다. 이번 글에서는 이 Wiener process가 무엇인지에 대해 알아보겠다.
Motivation
Wiener process는 많은 real world의 randomness를 표현하기 위해 사용된다. 대표적인 예시로, 물리에서 액체 안에서 particle들이 어떻게 확산되어 (diffusion) 나가는지를 표현하는 Brownian motion을 표현할 때에 사용된다. 하지만 우리는 물리보다는 컴퓨터에 조금 더 관심이 있기 때문에 SDE에서 random한 부분, 혹은 diffusion process에서의 random한 부분을 Wiener process가 대체한다고 생각하면 좀 더 이해가 쉽다.
특성
Wiener process는 크게 네 개의 특성을 가진다.
1. 0에서부터 시작한다. 즉, 다음 식을 만족한다.
2. 어떤 timestep $\Delta t$만큼의 차이가 나는 state와 현재 state 간의 차이가 정규 분포를 따르는 process이다. 우리는 이를 Gaussian increment라고 부르고, 식으로 표현하면 다음과 같다. 이러한 특성은 state 간의 차이의 계산을 쉽게 만든다.
3. 각 increment는 서로 독립이다. 즉, 다음 두 식이 서로 상관없이 완전히 독립인 것이고, 우리는 이를 independent increment라고 부른다.
4. Wiener process의 path는 almost surely continuous하다.
이번 글에서는 Wiener process가 무엇인지에 대해 알아보았다. 이것이 어떻게 diffusion model에서 쓰이는지를 한 줄로 요약하면, "Wiener process가 diffusion process에서 randomness 담당이다" 정도로 말할 수 있겠다. 다음 글에서는 diffusion 관련 논문들을 읽다 보면 자주 나오는 개념인 Langevin dynamics에 대해 알아보겠다.
최근댓글