심층 신뢰 신경망
| 기계 학습과 데이터 마이닝 |
|---|
 |
심층 신뢰 신경망(Deep belief network, DBN)은 기계 학습에서 생성적 그래픽 모델이거나 심층 신경망 클래스로, 여러 레이어의 잠재 변수("숨겨진 단위")로 구성되며 레이어 간 연결은 있지만 각 레이어 내 유닛 간 연결은 없다.[1]
지도 없이 일련의 사례에 대해 훈련을 받으면 DBN은 입력을 확률적으로 재구성하는 방법을 배울 수 있다.[1] 그런 다음 레이어는 특징 탐지기 역할을 한다. 이 학습 단계 후에는 분류를 수행하기 위해 감독을 통해 DBN을 추가로 훈련할 수 있다.[2]
DBN은 제한된 볼츠만 머신(RBM)[1] 또는 자동 인코더와 같은 단순하고 감독되지 않는 네트워크의 구성으로 볼 수 있으며, 여기서 각 하위 네트워크의 숨겨진 레이어는 다음 네트워크의 가시 레이어 역할을 한다.[3] RBM은 "가시적" 입력 레이어와 숨겨진 레이어가 있고 레이어 내부가 아닌 레이어 간 연결이 있는 무향 생성 에너지 기반 모델이다. 이 구성은 레이어의 "가장 낮은" 쌍(가장 낮은 가시 레이어는 트레이닝 세트임)부터 시작하여 대조 발산이 각 하위 네트워크에 차례로 적용되는 빠른 레이어별 비지도 훈련 절차로 이어진다.
DBN이 한 번에 한 계층씩[2] 탐욕스럽게 훈련될 수 있다는 관찰은 최초의 효과적인 딥러닝 알고리즘 중 하나로 이어졌다.[4]:6 전반적으로, 실제 응용 및 시나리오에서 DBN의 매력적인 구현 및 사용이 많이 있다(예: 뇌전도[5], 약물 발견[6][7][8]).
같이 보기
[편집]각주
[편집]- ↑ 가 나 다 Hinton G (2009). “Deep belief networks”. 《Scholarpedia》 4 (5): 5947. Bibcode:2009SchpJ...4.5947H. doi:10.4249/scholarpedia.5947.
- ↑ 가 나 Hinton GE, Osindero S, Teh YW (July 2006). “A fast learning algorithm for deep belief nets” (PDF). 《Neural Computation》 18 (7): 1527–54. CiteSeerX 10.1.1.76.1541. doi:10.1162/neco.2006.18.7.1527. PMID 16764513. S2CID 2309950.
- ↑ Bengio, Yoshua; Lamblin, Pascal; Popovici, Dan; Larochelle, Hugh (2007). 《Greedy Layer-Wise Training of Deep Networks》 (PDF). NIPS.
- ↑ Bengio, Y. (2009). “Learning Deep Architectures for AI” (PDF). 《Foundations and Trends in Machine Learning》 2: 1–127. CiteSeerX 10.1.1.701.9550. doi:10.1561/2200000006.
- ↑ Movahedi F, Coyle JL, Sejdic E (May 2018). “Deep Belief Networks for Electroencephalography: A Review of Recent Contributions and Future Outlooks”. 《IEEE Journal of Biomedical and Health Informatics》 (미국 영어) 22 (3): 642–652. doi:10.1109/jbhi.2017.2727218. PMC 5967386. PMID 28715343.
- ↑ Ghasemi, Pérez-Sánchez; Mehri, Pérez-Garrido (2018). “Neural network and deep-learning algorithms used in QSAR studies: merits and drawbacks”. 《Drug Discovery Today》 23 (10): 1784–1790. doi:10.1016/j.drudis.2018.06.016. PMID 29936244. S2CID 49418479.
- ↑ Ghasemi, Pérez-Sánchez; Mehri, fassihi (2016). “The Role of Different Sampling Methods in Improving Biological Activity Prediction Using Deep Belief Network”. 《Journal of Computational Chemistry》 38 (10): 1–8. doi:10.1002/jcc.24671. PMID 27862046. S2CID 12077015.
- ↑ Gawehn E, Hiss JA, Schneider G (January 2016). “Deep Learning in Drug Discovery”. 《Molecular Informatics》 35 (1): 3–14. doi:10.1002/minf.201501008. PMID 27491648. S2CID 10574953.
외부 링크
[편집]- “Deep Belief Networks”. Deep Learning Tutorials.
- “Deep Belief Network Example”. Deeplearning4j Tutorials. 2016년 10월 3일에 원본 문서에서 보존된 문서. 2015년 2월 22일에 확인함.