한눈에 보기
f(x) = 0을 푸는 게 목표인데, 손으로는 답이 안 나오는 방정식이 많아요. 예를 들어 x^2 - 2 = 0의 답은 \sqrt{2}인데, 이 값을 소수로 어떻게 구할까요? 뉴턴의 방법(Newton's method)은 컴퓨터가 이런 근을 숫자로 찾아가는 방법이에요. 답을 대충 하나 찍은 다음, 접선을 이용해 조금씩 더 정확한 값으로 반복해서 갱신해요.
- 방정식 f(x) = 0의 근을 수치적으로(숫자로) 찾기
- 반복공식 x_{n+1} = x_n - \dfrac{f(x_n)}{f'(x_n)}
- 몇 번만 반복해도 자릿수가 팍팍 늘어나는 빠른 수렴(과 실패하는 경우)
먼저 알아야 할 것
개념 설명
접선으로 근 좁히기
곡선 y = f(x)가 x축과 만나는 점(근)을 바로 찾긴 어려워요. 그래서 꾀를 내요. 근처의 점 하나 x_n을 골라, 그 점에서 곡선에 접선을 그어요. 접선은 직선이라 x축과 만나는 점을 쉽게 계산할 수 있죠. 그 교점을 새 후보 x_{n+1}로 삼아요.
곡선이 그 점 근처에서 접선과 거의 비슷하게 생겼으니, 접선의 근은 진짜 근에 더 가까워요. 이 과정을 반복하면 후보가 점점 진짜 근으로 다가가요. "곡선을 접선(직선)으로 대신 본다"는 게 2.9의 선형근사 그대로예요.
왜 저 공식이 나오나
점 (x_n, f(x_n))에서의 접선은 기울기가 f'(x_n)이에요. 이 접선이 x축(y = 0)과 만나는 x좌표를 구하면, 그게 바로 다음 공식이에요. 접선의 근을 구하는 것뿐이라, 나눗셈 한 번이면 끝나요.
수식 하나하나 뜯어보기
여기서 f'(x_n)이 분모라, 기울기가 0이면 안 돼요(접선이 수평이면 x축과 안 만나요). 이게 뒤의 실패 사례로 이어져요.
손으로 따라가는 예제
\sqrt{2}를 소수로 구해 봅시다. \sqrt{2}는 x^2 = 2, 즉 f(x) = x^2 - 2 = 0의 양의 근이에요. 도함수는 f'(x) = 2x이니 공식은 이렇게 돼요.
시작값을 대충 x_0 = 2로 잡을게요(2는 \sqrt2보다 큰 걸 아니까요).
- 1회: x_1 = 2 - \dfrac{2^2 - 2}{2 \cdot 2} = 2 - \dfrac{2}{4} = 1.5
- 2회: x_2 = 1.5 - \dfrac{1.5^2 - 2}{2 \cdot 1.5} = 1.5 - \dfrac{0.25}{3} \approx 1.41667
- 3회: x_3 \approx 1.41667 - \dfrac{1.41667^2 - 2}{2 \cdot 1.41667} \approx 1.414216
진짜 값은 \sqrt{2} = 1.41421356\ldots예요. 세 번 만에 소수 다섯째 자리까지 맞았어요. 반복마다 정확한 자릿수가 대략 두 배씩 늘어나는데, 이 무서운 속도를 "이차 수렴"이라고 불러요. 컴퓨터가 루트를 순식간에 뽑는 비결이 이거예요.
흔한 헷갈림
핵심 정리
- 뉴턴의 방법 = f(x) = 0의 근을 접선으로 좁혀가며 숫자로 찾는 반복법이에요.
- 반복공식은 x_{n+1} = x_n - \dfrac{f(x_n)}{f'(x_n)} — "함숫값 나누기 기울기"만큼 빼기예요.
- 잘 될 때는 반복마다 자릿수가 배로 느는 아주 빠른 수렴을 보여요(\sqrt{2}를 3회 만에).
- 단, 시작값과 f' = 0 근처를 조심해야 해요(발산·진동).
- 뒤에서 다시 만나는 곳: 이 "미분값으로 방향을 잡아 반복한다"는 발상이 최적화 수치해법의 뼈대예요. 머신러닝에서 손실을 최소화하는 뉴턴법·경사하강법이 모두 여기서 자라나요.