728x90
태일러 급수를 이용해 2차까지 정리하면
L(h)를 최소화 하는 h가 뉴턴 방법의 해
뉴턴 방법 정리
- 아래의 이차 함수에서 A가 양 확정 행렬이면 반복 1회만에 최저점에 도달
* 양 확정 행렬 positive definite matrix은 역행렬이 존재
뉴턴 방법으로 최저점 찾기
경사하강 방법과 뉴턴 방법의 차이
- 경사 하강 방법에서 여러번 반복이 수행됨
- 뉴턴 방법에는 1번만에 최소자에 도착
* 뉴턴 방법은 시작 점에 따라서 잘 수렴되지 않을 수 있음.
300x250
'수학 > 선형대수, 최적화' 카테고리의 다른 글
| 최적화 - 14. 쿼시 뉴턴 방법 (0) | 2020.07.26 |
|---|---|
| 최적화 - 13. 레벤버그 마쿼트 감쇄 뉴턴 방법 (0) | 2020.07.26 |
| 최적화 - 11. 켤래 경사를 이용한 하강 방향 탐색 - 켤래 경사법 (0) | 2020.07.26 |
| 최적화 - 10. 직선 탐색 (0) | 2020.07.26 |
| 최적화 - 9. 경사를 이용한 하강방향 탐색 - 경사하강법 (0) | 2020.07.26 |