J's Study log

Least Square 먼저 이번 글을 통해 Least Square 방식에 대해서 알아보자! 우선 우리가 Least Square를 수행하는 목적은 아래 가설함수(Hypothesis)의 Cost function을 최소화 하는 것이다.(이전 글 참고) Cost 함수 J의 실제 그래프가 아래와 같다 가정을 해보자. 우리는 Least Square을 사용해서 아래 사진과 같이 Cost Function이 가장 낮게 나오는 (𝜃1,𝜃2) 값을 찾아볼 것이다. 최소제곱법에서는 이 Cost 함수를 최소화하는 𝜃1와 𝜃2를 찾기 위해 미분을 사용한다. 아래와 같이 미분을 통해 Cost 함수의 기울기가 0이 되는 지점, 즉 최소값을 갖는 지점을 찾을 수 있다. 그리고 이 값들이 바로 최적의 𝜃1와 𝜃2, 즉 우리가 찾고자 ..