학습이란, 더 정확한 결과를 도출하는 방향으로 매개변수 가중치를 자동으로 조정하는 것
2장에서 단층 퍼셉트론으로 게이트를 만들 때, 직접 뉴런의 가중치를 설정하여 우리가 원하는 결과가 나오도록 했다. 그러나 층이 깊어지면 모든 가중치를 사람이 설정하는 것은 불가능하다. 따라서 자동으로 신경망의 가중치를 설정하는 신경망 학습 과정이 필요하다.
기존의 기계학습은 우리가 인식하고자 하는 대상의 중요한 특징을 찾아내고, 인풋 데이터가 이 특징을 가지고 있는지 없는지를 판단하여 정답을 구분하는 방식이었다. 이 때, 어떤 특징을 가지고 있으면 특정 범주일 확률이 높아지는지는 기계가 데이터로부터 학습을 하지만, 각 범주의 특징은 오로지 사람이 추출해야 했다. 즉 기존의 기계학습은 사람의 개입이 필수적으로 필요하였다.
그러나 딥러닝은 이러한 특징 추출이 필요없이, 각 노드들의 가중치를 조정해가며 스스로 학습을 한다. 즉, 처음부터 끝까지 사람의 개입이 필요 없는 end-to-end 학습이다.
신경망 모델이 학습이 얼마나 잘 되었는지는 손실함수를 이용하여 평가한다.