기본 원리
단순 선형회귀는 y = a + bx 형태의 직선을 데이터에 맞춰요. 실제 값과 예측값 차이(잔차)의 제곱합이 가장 작아지도록 a와 b를 구하는 것이 최소제곱법이에요. 회귀계수 b는 x가 1 늘 때 y가 평균적으로 얼마나 변하는지를, 결정계수 R²는 모형이 y의 변동을 몇 % 설명하는지를 뜻해요. '회귀'라는 이름은 골턴이 키 큰 부모의 자녀 키가 평균 쪽으로 돌아가는 현상을 '평균으로의 회귀'라 부른 데서 왔어요.
종류와 주의점
여러 변수를 함께 넣는 다중회귀는 다른 요인을 통제한 효과를 추정하고, 합격/불합격 같은 이분형 결과에는 로지스틱 회귀를 써요. 회귀계수가 유의해도 인과관계를 보장하지 않으며, 빠진 변수, 다중공선성, 이상치, 데이터 범위 밖 예측에 주의해야 해요. 잔차의 퍼짐은 표준편차로 요약돼요. 오늘날 머신러닝의 기초이기도 해요.
자주 묻는 질문
- R²가 높으면 좋은 모형인가요?
- 설명력이 높다는 뜻이지만, 변수를 많이 넣으면 저절로 올라가 조정 R²를 함께 봐야 해요.
- 엑셀로도 할 수 있나요?
- 네. 데이터 분석 도구나 LINEST 함수로 가능해요.
출처 검토일: 2026-10-26
관련 글: 무엇이 자살생각을 높이고 낮출까? 스트레스, 우울, 자아존중감 변수로 SPSS 회귀분석 보고서 쓰기 · 무엇이 위험을 높이고 무엇이 지켜 줄까: 자살생각 영향요인을 SPSS 상관분석과 회귀분석으로 보고서에 정리하는 법
참고문헌
- Galton, F. (1886). Regression towards mediocrity in hereditary stature. Journal of the Anthropological Institute, 15, 246–263.
- James, G., Witten, D., Hastie, T., & Tibshirani, R. (2021). An Introduction to Statistical Learning (2nd ed.). Springer.
- Wooldridge, J. M. (2019). Introductory Econometrics (7th ed.). Cengage.