델타 규칙

위키백과, 우리 모두의 백과사전.
이동: 둘러보기, 검색

델타 규칙은 최급하강법(Gradient Descent) 학습 방법으로, 싱글 레이어 퍼셉트론에서 인공 뉴런들의 연결강도를 갱신하는데 쓰인다. 뉴런 와 활성함수 에 대하여, 번째 연결강도 에 대한 델타 법칙은 다음과 같다.

,

여기서 학습 속도 라고 불리는 작은값의 상수이고, 는 뉴런의 활성함수, 는 원하는 목표 결과값, 는 실제 결과값, 그리고 번째 입력값이다. 이것은 다음 식을 만족한다.

and .

델타 법칙은 다음과 같은 선형 활성함수를 가진 간단한 형태의 퍼셉트론에서 주로 언급된다.