
[DL & ML] - 인공신경망의 편향과 활성화 함수
·
Tech Experiments & Study/Basic
What is Bias? 출력 신호 전달 여부는 각 입력 신호와 가중치의 곱의 합이 임계값 이상이면 신호를 전달하고, 임계값 미만이면 신호를 전달하지 않습니다. 이 식을 변형해보면 조금 다른 방향으로 해석이 가능합니다. 위 식과 같이 "- (임계값)"을 "+b"로 치환할 수 있으며, 이때 b를 편향(Bias)라고 합니다. 그렇다면 변형된 식을 이용하여 출력 신호 여부를 표현해본다면 아래와 같이 나타낼 수 있습니다. 단순 모형으로 표현해보면 아래와 같이 편향을 하나의 입력 신호로 볼 수 있으며, 이때 가중치는 1이라고 볼 수 있습니다. What is Activation Function? 먼저 이전 포스팅에서 뉴런의 신호 전달 과정을 알아보았습니다. 이때 출력 신호는 0 또는 1이었지만, 이것은 생물학적인 ..