1. 완전연결 계층

지금까지 본 신경망은 인접하는 계층의 모든 뉴런과 결합되어 있었다. 이를 완전연결(fully-connected)이라고 한다.

1.1. 완전연결 계층의 장점

• 인접 계층의 모든 뉴런과 결합되어 있기 때문에 모든 특징의 조합을 고려할 수 있다.
• 입력 데이터에 대한 어떠한 가정도 필요하지 않다. (위의 특징으로 인한 장점)

1.2. 완전연결 계층의 단점

• 훈련데이터의 모든 특징을 고려하기 때문에 과대적합의 가능성이 크다.
• 모든 입력 데이터를 동일 계층의 뉴런으로 바꾸면서 공간 정보(데이터의 형상)가 소실된다.

1.3. 완전연결 신경망의 구조

완전연결 신경망은 Affine 계층(완전연결 계층)과 활성화 함수 계층의 조합으로 구성되어있다. Affine 계층에서는 입력 데이터*가중치+편향을 계산한다.