Tag: batch normalization

Visualization of Image Exceeding Limitation

연산 결과를 그림으로 표현하다보면, 표현 가능한 범위를 넘어설 때가 있습니다. 이럴 때 어쩔 수 없이 표현 가능한 범위로 우겨넣어 표현하지만, 오해를 유발합니다. 최대한 오해를 방지하려는 노력으로 이해해 주시면 좋겠습니다. Pega Devlog: tf.keras BatchNormalization 1. 지난 글에 이어서 지난 글에 이런 부분이 있습니다

keras BatchNormalization

Contributors 하헌진님, 흑염룡님, 머린이왕자님 CNN에서 batch normalization은 Convolution layer를 따라다닙니다. 배치 정규화batch normalization는 그레이디언트 소실gradient vanishing과 폭주exploding 문제를 해결하기 위해 제안되었습니다. 본 글에서는 배치 정규화의 이론적 내용을