03-01_손실 줄이기: 반복 방식

이번 포스트에서는 머신러닝 모델이 어떤 방식으로 손실을 줄이는지 다뤄보도록 하겠습니다. 머신러닝은 기본적으로 주어진 데이터를 여러번 학습하는 반복 학습 방식을 통해 예측의 정확성을 높입니다.

반복 방식

머신러닝의 기본적인 학습 방법인 반복 방식은 입력된 특징(Feature)들을 임의의 가중치(Weight)와 편향(Bias)로 예측 값을 산출하여 실제 값(Label)과 비교하여 그 차이(Loss)를 0 또는 최소화가 되게 하는 가중치와 편향 값을 찾는 방식 입니다.

위의 그림은 머신러닝에서 반복 방식이 동작하는 과정을 나타낸 그림입니다. 그 과정을 풀이하면 다음과 같습니다.

1. 임의의 가중치과 편향이 설정된 모델(Model)에 특징(Feature)를 넣습니다.
   
2. 모델의 예측 함수(y' = b + wx)를 통해 산출된 예측 값(Prediction)을 실제 결과(Label)과 차이를 계산하여 손실을 알아냅니다.
3. 가중치(Weight)와 편향(Bias)를 재설정하여 모델을 새롭게 만듭니다.
4. 손실이 0 또는 최소가 될 때까지 위의 과정을 반복합니다.

이런 반복 과정을 통해 전체 손실이 변하지 않거나 느리게 변하게 되면 이때 모델이 수렴했다고 말합니다.

반복 방식: 초기에 임의로 가중치와 편향을 설정하고 예상 손실 값이 가장 적은 가중치와 편향을 학습할 때까지 매개변수를 조정하는 방식