[Machine Learning] 선형 모델과 비선형 모델

선형모델과 비선형모델의 구분

선형 모델 vs 비선형 모델

 

선형 모델과 비선형 모델의 구분이 헷갈려 추가로 작성해놓았다.

 

우선, 아래 그림에서 왼쪽이 선형모델일까? 오른쪽이 선형모델일까?

출처 : https://brunch.co.kr/@gimmesilver/18

 

 

정답: 둘 다 선형모델로 표현이 가능하고, 선형모델이 될수있다.

 

선형모델의 정의부터 알아보자.

 

1. 선형모델이란?

• 선형모델이란 "머신러닝 공식에서 계수들이 선형결합의 관계에 있을 때의 모델"을 말한다. 
• 선형결합이란 "두개의 벡터의 합"을 의미한다. 
• 또한, 선형모델은 언제나 직선모양으로 그려지지 않는다. 위에서 언급한대로 가중치들이 선형결합을 하고 있으며, 선형모델이 되기 때문에 곡선인 그래프가 그려질수도 있다.

즉,'가중치가 어떻게 결합되어 있는지에 따라서 선형이 되고 안되고 결정된다'라고 정의 할 수 있습니다.

 

2. 비선형모델이란?

• 비선형 모델이란 "데이터를 어떻게 변형하더라도 파라미터를 선형 결합식으로 표현할 수 없는 모델"을 말합니다.

비선형 모델에 대한 예를 들어보자.

비선형 모델 예시

위 식의 경우 β0에 대해 편미분을 하였을 때, '∂f/∂β0 = 1'로 상수이므로 모형식이 β0에 대해서는 선형이다.

하지만 β1 ,β2에 대한 미분 결과는 미분대상(ex.β1에 대한 미분)이 아닌 계수들을 변수로 여전히 포함하고 있으므로 β1, β2에 대해서는 전체적으로 비선형모델이 됩니다.

비선형 모델의 각 계수들에 대한 미분 결과

 

3. 간단한 O, X퀴즈로 개념을 정리해보자

1. 선형은 변수 x의 1차 다항식을 의미하는 것이 아니다. 
2. 선형모델은 모두 직선으로만 그려진다. 
3. 곡선으로 그려진 그래프는 선형모델이 될 수 없다.
4. 선형과 비선형을 나누는 기준은 계수들의 결합에 따라서 달라진다. 

정답

정답 : O, X, X, O

 

비선형 모델을 사용하는 이유

비선형 모델을 사용하면 복잡하고 비선형적인 데이터 패턴이나 모델을 더 이해하기 쉽고 해석이 가능한 형태로 변환하는 것이 가능하다.

예시) 비선형 함수의 효과