본문 바로가기

boltzmann machine

(3)
MATLAB, Learning Deep Boltzmann Machines 원본 : http://web.mit.edu/~rsalakhu/www/DBM.html Code provided by Ruslan Salakhutdinov Permission is granted for anyone to copy, use, modify, or distribute this program and accompanying programs and documents for any purpose, provided this copyright notice is retained and prominently displayed, along with a note saying that the original programs are available from our web page. The programs and do..
Restricted Boltzmann Machine(볼쯔만 머신) 요즘 한창 machine learning분야에 기존의 state-of-the-art를 갈아치울 것이라 기대를 받고있는 deep learning, deep architecture가 떠오르고.. (아니 이미 떠 올랐다.)Google에서도 Stanford의 Andrew Ng.를 중심으로 practical하게 large scale의 이미지를 대상으로 적용을 하였으니... deep structure, deep network에 대해서 논문이나 튜토리얼을 찾다보면, 흔하게 나오는게 DRBM(Deep Restricted Boltzmann Machine)이나 DBN(Deep Belief Network)이다. 그래서 몇일에 걸쳐 이 두가지에 대해서 공부하고 정리를 해볼려고 한다. 구글링을 해보면 튜토리얼이 참 많이 나오니..
BM(Boltzmann machine)과 RBM(Restricted Boltzmann machine) * Reference : http://www.mit.edu/~rsalakhu/papers/dbm.pdf 자세한건 모르겠고, RBM과 BM의 네트워크 구조 차이는 아래와 같음. 위에 링크걸어둔 레퍼런스 논문에서 사용된 그림인데, 보는것과 같이 각 Layer(v 또는 h)에 존재하는 node들이 서로 연결이 되어있냐 없냐의 차이. 정확한 이유는 잘 모르겠으나, 같은 Layer에 있는 것들끼리 서로 직접적인 영향을 주지 않기때문에, conditional independent한 관계로 해석할 수 있기때문인거 같음.