역전파(?) 뭐예요... 역("거꾸로") 전파("전달한다")... 逆傳播

"머신러닝", "머신러닝" 하니까 새로운 것인 줄 알고 들여다보니

머신러닝의 여러 기법들이 통계학의 다변량 분석기법들과 거의 같은 것을 알고

머신러닝이 다변량 통계기법과 비슷하고, 알고리즘을 의미하는 모양이구나... 생각하게 되었습니다.

 

그러다 딥러닝 세미나에 참석하게 되었는데 "역전파" "역전파" 하길래 

무슨 "전자기파"의 일종으로 딥러닝에서는 "음파" "파장" 같은 것을 다루는 모양이구나 라고 생각했습니다.

"역전파"는 역逆으로 전파되는 무슨 "전자기파"의 개념을 이용한 모형인 모양이구나....

알고 보니 그런 뜻이 아니고 "역(거꾸로, 逆)으로 전파(전달하는, propagation) 傳播되는 것" 

^^^ 

 

딥러닝의 Hidden Layer 모형, 그리고 "백 프로프게이션"이라...
멋진 생각들... 어떻게 이런 생각들을 하게 됐을까?

몰입을 하다 보면 이런저런 생각이 나게 되는 걸까?

 

그리고 또 하나 생각나는게 있는데 바로 "퍼셉트론" 이었습니다.

무슨 "퍼셉트" 이론(理論) 으로 오해하여, 무슨 이론인 줄 알았습니다.

알고보니 "퍼셉트론" (perceptron) 이 무슨 이론의 이름이 아니고,  "일렉토론(eletron)" 같이

"신경망을 이루는 가장 중요한 기본 단위"가 "퍼셉트론" 이란 것을 알게 되었습니다.

 

"퍼셉트론은 입력값과 활성화함수를 사용해, 출력값을 만들어 전달하는 가장 작은 (신경망) 단위"

(참고문헌: 모두의 딥러닝 6장 퍼셉트론 에서)