반응형

추정 2

Linear Regression :: Least Square Method(최소제곱법, 최소자승법) :: 회귀 계수 추정

선형 회귀분석에서 회귀 계수(모수) 추정하는 방법 : 최소제곱법, 최소자승법 Linear Regression은 x(독립변수)로 y(종속변수)를 가장 잘 설명할 수 있는 선형식을 찾아 y값을 예측할 수 있는 모델을 만드는 기법이다.x변수의 갯수가 n개라 할 때 추정되는 선형식은 다음과같다. $$\hat{y}=\beta_0+\beta_1x_1+\beta_2x_2+...+\beta_nx_n$$ 이 때 저 $\beta$들을 회귀 계수라 부르며, 이를 추정하는 방법을 최소제곱법(=최소자승법=Least Square Method)이라 한다.  최소제곱법의 기본 원리는 잔차(관측값과 예측값의 차이) 제곱 합을 최소화 하는 회귀계수를 찾는 것이다.  $x$변수가 1개인 단순 선형 회귀라 가정 할 때 아래 식을 최소화하는..

[기초통계] 통계적 추론방법 :: 구간추정(Interval Estimation), 신뢰구간이란? 신뢰수준의 의미, 해석

이전 포스팅에서 통계적 추론 방법 중 점추정에 대해 알아보았다. >> 통계적 추론 방법 :: 점추정 바로가기 이번에는 구간추정에 대해 알아보겠다. (2) 구간추정 (Interval Estimation) 점추정은 말 그대로 모수를 하나의 수치로 추정하고자 하는 것이다. 반면 구간추정은 하나의 수치를 구하는 것이 아니라, 추정량의 분포를 이용하여 표본으로부터 모수 값을 포함하리라고 예상되는 구간을 제시하는 것이다. 이 때 제시되는 구간을 신뢰구간(confidence interval)이라 부른다. 신뢰구간은 대개 (L, U)의 형태로 이루어지며, L과 U는 표본으로부터 계산된다. 즉, 매 표본마다 계산되는 신뢰구간이 서로 다를 수 있다. 만약 어떤 모평균에 대한 신뢰구간으로 (-∞, ∞)가 주어진다면, 어떤 ..

AI/기초통계 2019.10.29
반응형