집밖은 위험해

평균 변화율과 순간 변화율, 법선

- 평균 변화율 = 할선 scant line의 기울기 slope of secant

- 순간 변화율 = 접선 tangent line 의 기울기 slope of tangen

- 법선 normal line: 접선과 수직인 선

평균값 정리

- 함수 y = f(x)가 닫힌 구간 [a, b]에서 연속이고 (a, b)에서 미분 가능한 경우 아래의 식을 만족하는 c가 (a, b) 사이에 적어도 한개가 존재

$\frac{f(b) - f(a)} {b - a}$ = f'(c) 

극댓값, 극솟값, 극값

1. 극댓값 local maximum

 -열린구간 I에서 f(c)가 최대값인 경우 f(c)는 극댓값, x = c에서 f(x)는 극댓값 가짐

2. 극솟값 local maximum

 - 열린구간 I에서 f(c)가 최소값인 경우 f(c)는 극속값, x = c에서 f(x)는 극솟값이됨

3. 극값 local extrema

 - 극솟값 혹은 극댓값

=> 아래의 그림은 전역 극대점, 전역 극소점, 지역 극대점, 지역 극소점을 나타냄

최적화 문제

- 최대값이나 최소값을 구하는 문제

최소 자승법 least square method : LSM

- 에러 제곱 합 sum of squared error을 최소로하는 해를 구하는 방법

 => 점과 직선사이에 오차가 가장 작도록 하는 직선을 구할 시 사용

미소 증분과 선형 근사

- 미소 증분 $\Delta x$가 충분히 작다면 dx(미분)이 되며, 아래와 같이 정리 가능

  $\Delta_y$ = f(a + $\Delta_x$) - f(a) $\approx$ f'(a) $\Delta$ x

- a + $\Delta_x$ = x로 하면 다음과 같이 x = a에서의 직선의 방정식을 선형 근사하여 얻을 수 있다.

f(x) $\approx$ f'(a) (x - a) + f(a)

 => 직선이 아닌 n차에 대한 근사로 테일러 전개가 있음.

수치미분 numerical defferential

- 미분 공식으로 도함수를 얻을수 있으나, 미분 계수 근사값만으로도 충분할수도 있음.

- x = a에서의 미분 계수와 미소 증분이 충분히 작은 경우 평균 변화율(할선의 기울기)과 순간 변화율(점선의 기울기)은 비슷

순간 변화율(미분 계수) : f'(a) = $lim_{\Delta x -> 0} \frac{f(a + \Delta x)  - f(a) } {\Delta x}$

평균 변화율(미소 증분이 작은 경우) : f'(a) $\approx$ $\frac{f(a + \Delta x) - f(a)} {\Delta x}$

뉴턴 방법 netwon method

- 4차 방정식부터 근의 공식이 존재하지 않음

- n차 함수 f(x) = 0인 경우의 해를 어떻게 구할까?

1. x= a1에서 접선을 구함. 이 접선의 x 절편을 a2

   y - $f(a_1) = f'(a_1) (x - a_1)$

   $a_2$ = $a_1$ - $\frac{f(a_1)} {f'(a_1)}$

2. x = a2에서 접슨을 구함. 얻은 접선의 x절편 a3

....

=> f(x) $\approx$ 0인 x를 구하게 됨.

   $a_{n + 1}$ = $a_{n}$ - $\frac{f(a_n)} {f'(a_n)}$

$lim_{n -> \infty} a_n$ = $\alpha$

- f($\alpha$) = 0

- 아래는 뉴턴 방법으로 f(x) = 0이되는 x= $\alpha$를 뉴턴 방법으로 구하는 과정

경사법 gradient method

- 목적 함수, 비용 함수를 정의하여 이 비용이 최소(극소)가 되는 방향으로 내려가는 방법

- 보폭크기 $\alpha$만큼 경사 방향으로 내려감

1. 미분

미분 derivative

- 변화하는 정도. 즉, 기울기

평균 변화율 average rate of change

- y = f(x)가 주어질때 x = $x_0$, x = $x_1$ 사이에서의 평균 변화율. 아래와 같이 정의

 => 두 점을 지나는 직선의 기울기

$\frac{\Delta y}{\Delta x} = \frac{f(x_1) - f(x_0)} {x_1 - x_0}$

미분 계수 differential coefficient

- 함수 y = f(x)가 주어질때, x = a에서의 미분계수는 다음과 같이 정의

$lim_{\Delta x -> 0}  \frac{f(a + \Delta) - f(a)} {\Delta x}$

- 위 비분계수가 수렴하는 경우 극한값은 f'(a)

 => x = a에서 미분 가능함.

미분 계수와 미소 증분

- 미소 증분 increment $\Delta x$: x가 0에 가깝지만 0이 아닌, 아주 작은 값의 증가.

- x = a에서 증분 값 $\Delta x$가 0에 가까워질때 평균 변화율은 순간 변화율이 되어 f'(a)로 표기

도함수 derivative

- 함수 y = f(x)가 주어질때, f(x)의 도함수를 아래와 같이 정의

f'(x) = $\frac{dy}{dx}$ = $\frac{df}{dx}$ = $lim_{\Delta x-> 0} \frac{f(x + \Deta x) - f(x)}{\Delta x}$

상미분 ordinary derivative

- 일변수 함수 y = f(x)에 대해, 함수 f를  독립 변수 x에 대한 도함수

- 도함수와 동일

f'(x) = $\frac{dy}{dx}$ = $\frac{df}{dx}$ = $lim_{\Delta x-> 0} \frac{f(x + \Deta x) - f(x)}{\Delta x}$

편미분 particial derivative

- 다변수 함수 y = f(x, y)가 주어질때, 함수 f에 대해 독립변수 x와 y 각각에 대한 도함수

$\frac{\sigma f}{\sigma x}$, $\frac{\sigma f}{\sigma y}$

접선의 방정식

- y = f(x)에서 x = a에서 미분 가능한 경우, 접선의 방정식

y = f'(a)(x - a) + f(a)

2. 미분 법칙 

함성 함수의 미분 - 연쇄법칙

- z = f(y),  y = g(x)가 주어질때 z를 x에 대해서 미분하면. 즉, z = f(g(x))의 x에 대한 미분

$\frac{dz}{dx}$ = $\frac{dz}{dy}$ $\frac{dy}{dx}$ = f'(g(x)) g'(x)

로피탈 정리

- f(0) = g(0) = 0이고, f'(0)과 g'(0)이 존재하면 아래의 식이 성립

$lim_{x->0} \frac{f(x)}{g(x)}$ = $lim_{x -> 0} \frac{f'(x)}{g'(x)}$

1. 수열

수열 sequence

- 자연수 N 집합을 정의역, 실수 전체 집합 R을 공역으로 하는 함수

 => f : N -> R

- 보통 수열은 a(n)으로 표기되어 f(n) = $a_n$이 됨

- 함수와 구별되도록 아래와 같이 표기

$a_1$, $a_2$, . . . = {$a_n$}

무한 수열 infinite sequence

- 정의역 N이 무한한 대응 관계를 갖는 함수

등차 수열

- 이웃하는 두 항의 차가 d로 일정한수열

$a_n$ = $a_1$ + (n-1)d

등비 수열

- 이웃하는 두 항의 비가 r인 수열

$a_n$= $a_1$ $r^{n-1}$

수렴 Convergence

- 수열 $a_n$에서 n이 증가함에 따라 $a_n$이 일정 값 $\alpha$에 가까워지는 현상

      => 수열 $a_n$은 $\alpha$에 수렴

- n이 무한대에 가까워질때 $a_n$이 $\alpha$로 수렴 하는것을 다음과 같이 표현

     => n -> $\inf$, $a_n$ -> $\alpha$ or lim$a_n$ = $\alpha$

발산 divergence

- 수열 $a_n$ 이 수렴하지 않는 경우

- 무한대로 갈수록 하나의 값에 가까워지지 않고, 매우 커지거나 매우 작아짐 

=>   n -> $\inf$ => $a_n$ -> $\inf$ or lim $a_n$ = $\inf$ {=$-\inf$}

진동 osillate

- 여러 값에 가까워지기는 하지만 한개의 값에 수렴하지는 않는 경우

 => 진동도 발산

수렴 수열과 경계

- 수렴하는 수열은 절대값이 유계(한계가 존재, bounded)

- 충분히 큰 실수 M이 존재하고, 모든 자연수에 대해 다음이 성립

|$a_n$| <= M

단조 증가 수열과 단조 감소 수열

- 단조 증가 monotone increasing : 수열 $a_n$이 아래의 조건을 만족하면서 계속 증가하는 경우

$a_n$ <= $a_{n+1}$

- 단조 감소 monotone decreasing : 수열 $a_n$이 아래의 조건을 만족하면서 계속 감소하는 경우

$a_n$ >= $a_{n+1}$

2. 급수

무한 급수 infinite series

- 무한 수열 $a_n$의 모든 항을 합한 식

$\sum_{k = 1}^{\infty}a_k$ = $\lim_{n -> \infty} \sum_{k = 1}^{n}a_k$

무한 등비 급수

- 일반 항이 $a_n$ = $a r^{n-1}$인 무한 등비수열의 급수

=> S = a + ar + a$r^2$ + . . . 

양항 수열과 양항 급수

- 양항 수열 : 모든 항 $a_n$이 0이상인 수열

- 양항 급수 : 양항 수열의 무한 급수

교대 급수

- 단조 감소하는 양항 수열 $a_n$이 존재할때, 교대 급수는 아래와 같다.

 $\sum_{n=1}^{\infty}$ $(-1)^{n-1} a_n$

- 위 교대 급수가 수렴하기위한 필요충분 조건은 아래와 같다.

$\lim_{n -> \infty}$ $a_n$ = 0

3. 함수의 극한

극한

- 함수 f(x)에서 x가 a로 가까워질때 f(x)가 상수 b로 가까워지는 현상

 => x가 a로 수렴할 때, f(x)는 b로 수렴함

- 이를 아래와 같이 표기

     1. $\lim_{x->a} f(x) = b$ 

     2. x -> a    =>    f(x) -> b

극한 값 존재 여부

- x가 a로 가까위질때, + 방향에서 가까워짐과 동시에 -방향에서도 가까워지는 값이 동일하면 극한 값이 존재한다고 한다.

  * 임의의 수 a에서 함수 f(x)가 끝어져, +방향과 -방향에 따라 f(x)서로 다른 값으로 수렴할수 있기 때문

$\lim_{x -> a^{-}} f(x) = b$ = $\lim_{x -> a^{+}} f(x)$ = $\lim_{x -> a} f(x)$ = b

4, 함수의 연속

함수의 연속

- 다음의 세 조건을 만족하면 f(x)는 x = a에서 연속함

 1. x = a에서 f(a)가 존재

 2. $\lim_{x -> a}$ f(x)도 존재

 3. $\lim_{x -> a}$ f(x) = f(a)

함수와 연속

- 함수 f(x)가 특정 구간에서 모든 점에 대해 연속일 떄 => f(x)는 그 구간에서 연속 continuous

- 모든 점에서 연속이지 않은 경우 => f(x)는 그 구간에서 불연속  discontinuous

최대 최소 값 정리 extreme value theorem

- 닫힌 구간 [a, b]에서 f(x)가 연속이면, 반드시 이 구간에서 최대 최소값을 가짐

 * 닫힌 구간 [a, b] : a ~ b사이 범위. a와 b 포함

 * 열린구간 (a, b) : a ~ b사이 범위이나 a와 b는 불포함

중간값 정리 intermediate value theorem

- 아래의 조건을 만족할 떄

 1. 닫힌 구간 [a, b]에서 f(x)가 연속

 2. f(a) < f(b)

- 중간값 정리 : f(c) = u인 c가 닫힌 구간 [a, b]에서 적어도 하나는 존재

수학

- 현실의 문제를 추상화하여 해결하기 위한 과학적 언어

수학의 종류

- 대수학 algebra : 수학의 일반적인 성질을 연구하는 분야

- 해석학 analysis : 미분과 적분을 이용하여 함수의 연속성을 탐구하는 학문

- 기하학 geometry : 공간에 존재하는 도형의 성질(ex. 치수, 모양, 상대적 위치) 등을 다루는 학문

                       => 다루는 대상으로 점, 선, 면, 도형, 공간 등 존재

- 위상수학 topology : 연결성이나, 연속성, 작은 변화에 의존하지 않는 기하학적 성질을 다룸

- 이산수학 discrete mathematics : 정수, 그래프, 논리 연산 처럼 연속되지 않은 서로 구분되는 값을 다루는 학문

- 확률론 probability theory : 확률에 대해 연구하는 분야. 통계학의 기초

                           => 비결정론적인 현상 nondeterminsitic phenomenon을 수학적으로 표현하기 위함.

- 통계론 statistics : 산술적인 방법을 이용하여 다량의 데이터들을 관찰하고, 정리 분석하는 분야

컴퓨터 과학의 분야들

- 계산 이론 theory of computation : 어떤 문제들을 푸는게 가능한지. 어떻게 효율적으로 푸는지 다루는 학문.

                          => 계산 가능성 이론과 계산 복잡도 이론으로 나뉨 + 추상 기계(튜링 머신)을 다룸

- 시스템 아키텍처 system architecture : 시스템 구조, 행위 등을 정의하는 개념적인 모델링하는 학문

- 컴퓨터 그래픽스 Computer Graphics : 컴퓨터를 이용해 실제 영상을 조작하거나 새로운 영상을 만드는 기술

- 계산 과학 : computational science : 과학/공학 문제를 수치적 방법과 컴퓨터로 푸는 분야

     => 계산 과학에서 주로 사용하는 방법들 : 수치 해석, 룽게 쿠타방법, 몬테카를로 방법, 퓨리에 변환, 뉴턴 방법 등

집합 set

- 서로 구별할수 있고 명확히 정의된 것들의 모임

원소 element

- 집합을 구성하는 요소들

원소의 표기법

- 원소 나열법 : 집합과 원소들 전체를 나열한 것

- 조건 제시법 : 집합에 속하는 원소들에 대한 조건을 써서 보여주는 방법

- 아래의 그림은 원소 나열법의 예시(패턴인식). 특징 벡터 X의 원소로 x1, x2, ...., xn이 존재하는데 원소나열법으로 표기

부분집합

- 일부 원소들의 모임

- 위 그림의 예시를 들자면 x1 ~ x3까지의 원소들이 Y라는 집합을 구성한다고 하자 Y는 집합 X(특징 벡터)의 부분집합임

* 내가 넣고 싶은 내용만 넣다보니 생략한것도 많습니다.

확률

- 특정한 사건이 발생할 가능성을 나타내는 척도

고전적 의미의 확률

- 표본 공간 sample에서 사건 event에 속하는 원소들이 차지하는 비율

=> P(A) = 사건 A의 원소 갯수 / 표본 공간에 존재하는 전체 워소의 갯수

함수

- 두 집합에 속하는 원소간의 관계

- ex. y = f(x)

함수 관련 표기

- 집합 X에서 Y로의 함수 f => f : X -> Y

    * 즉 함수 f는 집합 X에서 Y로 대응 관계를 가짐 => x값을 주면 y값으로 바꿔준다 ! ==  y = f(x)

    * 위 개념은 선형 대수나 공업 수학 등에서 많이 나오는 형태이므로 꼭기억하자

    * 생긴건 되게 간단하고 뭔뜻인지 알거같은데 정확하게는 몰라서 힘들었다 ...

정의역 치역 공역

- 위에서 집합 X에서 Y로의 함수 f에 대한 표기 f : X -> Y를 살펴보았는데

- 여기서 집합 X를 정의역, Y를 공역이라 한다.

 * 정의역은 함수 f의 입력이 되는 집합, 치역은 x를 입력했을때 함수 f의 출력이 되는 집합!!

- 정의역 X의 원소가 함수 f를 통해 대응되는 집합 Y 원소들의 모임(부분집합)을 치역이라 부름

전사, 단사, 전단사, 역함수

기함수 우함수

- 우함수 even function : f(-x) = f(x) => 좌우 대칭인 함수

- 기함수 odd function : f(-x) = -f(x) => 좌우 상하 대칭인 함수

초월함수 transcendental function

- 시간에 따라 선형적으로 증가가 아니라 갑자기 증가하는 형태를 가짐

- 아래의 그림은 초월 함수의 예시들

대수함수 algebraic function

- +, -, *, /과 같은 대수연산으로 이루어진 함수

수학 mathmetics

- 수학은 현실의 문제를 추상화하여 해결할수 있도록 문제를 정의할수 있는 과학의 언어

수학의 연구

- 고대 그리스 시대부터 본격적으로 연구

 -> 플라톤이 기하학을 모르면 공부하러 오자말라고 할정도

- 유클리드의 "element"가 과거 수학의 교과서 역활 함

- 17세기서 페르마, 데카르트, 파스칼, 뉴턴 등의 수학자들이 나옴

뉴턴과 라이프니츠의 업적

- 미적분학 등 해석학의 발전에 기여

 -> 수학은 추상화 일반화 경향이 커짐.

수학의 분류

- 순수 수학 : 추상화된 문제를 해결하기 위한 이론 세움

- 응용 수학 : 물리학, 공학, 사회과학 에서 필요

        -> 순수 수학으로 얻은 이론을 현실 문제에 적용. 문제를 추상화하여 현실에 적용

쾨니히스베르크의 다리문제

- 두 섬과 육지 사이 7개 다리를 한번에 건널수 있는 길 찾기

 => 찾지 못함. NP완비와 관련

- 오일러는 이걸 한붓 그리기 문제로 단순화하여 산책로가 없음을 증명

쾨니히스베르크의 다리문제로 얻을수 있는 통찰과 수학을 이용한 문제 해결

1. 오일러는 다리 문제 추상화

2. 한붙 그리기 문제로 변환

3. 한붓 그리기가 가능한지 수학적 정리로 적용

4. 불가능함을 증명

수학을 이용한 현실 세계와 추상적 세계의 관계

- 현실 세계 -> 추상화, 문제화 -> 추상적세계

- 현실 세계 <- 해결, 적용 <- 추상적 세계

정의 theorem이란?

- 추상화된 문제는 수학자들이 발견한 중요한 결과. 수학적 정리로 해결.

- 정리 : 사전에 옳다고 정의

   => 정리는 특정 사실(가정)을 옳다고 생각하면 결론이 참이 된다라는 명제의 형태를 띔

- 명제 :  P이면 Q이다.

- 대우명제 : Q가 아니면 P가 아니다와 같이 명제의 반대화된 경우를 말함

수학적 명제의 증명 방법들

1.  연역법

     - 일반적으로 알려진 이론을 어떠한 현상에 대입시켜 이에 대한 결론을 도출해내는 방법

2. 귀류법

     -  명제의 참을 증명하기 힘들때, 명제가 거짓이라 가정하고 그 명제가 모순됨을 보임

          => 원 명제가 참이라 할수 있음. 간접 증명법

3. 수학적 귀납법 mathmetical induction

    - 특정 명제가 참임을 증명하고, 다음 명제가 참임을 보여주고, 모든 겨우에 참임을 증명하는 식

    => 이미 알려진 것을 논리적으로 다시 증명하는 방법

집합 set

- 특정 규칙을 따르는 원소들의 모임

체 or 장(field. -> ex. vector field, likelihood field)

- 실수의 기본 성질들을 만족하는 집합

구간 interval

- 구간의 양 끝점을 포함하느냐에 따라 달림

- 열린 구간 open interval : 끝점을 포함하지 않는 구간

      => 표현 : a < x < b      (a, b)

- 닫힌 구간 closed interval : 끝 점을 포함하는 구간

      => 표현 : a <= x <= b      [a, b]   

상항, 하한(상계, 한계)

- 상한, 상계 upper bound : x <= a에서의 a

- 하한, 한계 lower bound : a <= x에서의 a

좌표계와 방정식

- 좌표계 : 수가 주어질때 수들의 순서쌍을 좌표상에 나타내는 공간

- 방정식 : x, y 수들의 대응 관계를 표현한 수식

1. 데카르트 좌표계(직교 좌표계, 카티지안 좌표계)

 - 일반적으로 사용하는 x, y좌표계

 - 직교 좌표계, 카티지안 좌표계라고도 하며 수학자 데카르트가 제안한 좌표계

2. 방정식(그래프) equation

 - 직선의 그래프(선형)

 - 곡선의 그래프, 원그래프(비선형) 등 다양한 그래프들이 존재

최근 컴퓨터 비전과 패턴 인식 학습을 하면서

확률적 로봇공학과 마찬가지로

공업수학을 배운 이후가 배우기 전에 봤을때와

이해할수 있는 정도가 확실히 달랐다.

하지만 여전히 수식 각각의 의미는 알겠지만

수식들이 연결되어 알고리즘을 이루어지는 형태가 잘 눈에 익지는 않는다.

그래서 공학 분야에서 수학 전반을 정리해볼 필요가 있을것 같아

대학수학을 정리하고자 한다.

이제 슬슬 실습도 필요하긴 한데,

실습을 시작하기전에 잠시

이론적인 내용들을 다루는 시간을 더 갖고자 한다.

대학 수학, 통계, 확률론 정도 빠르게 정리하고 나서

실습 내용들을 넘어가면

지금 바로 실습 정리하는것 보다 훨씬 완성도 있게 글을 쓸수 있을것 같다.

우선 지금 할 내용들은 대학 수학의 전반에 대해서

당장 재정리할 부분만 빠르게 보고 넘어가려고 한다.

대학 수학의 구성

1 수학의 기초

2. 집합과 함수

3. 수열과 극한

4. 미분

5. 적분

6. 행렬과 벡터

7. 연산

등으로 정리할수 있을것같다.

수학이 왜필요한가

현대 자연/사회 과학 등의 분야들은 다 수학의 개념들을 기반으로 발전했고

수학이란 언어를 통해서 연구를 제시하고 문제를 해결할 능력을 키울수 있게 되었다.

전문적인 수학의 한 분야 처럼 깊이 있지는 않더라도

우리가 배워야할 부분, 알아야할 부분이 어디까지 있겠는지 생각을 정리할수 있으면

이번 대학 수학 정리를 마무리 할수있을것같다.

수치 해석 전반 정리

1. 수치해석 시작

수치해석은 무엇? 왜 해야하는가? 어떻게해서 수학문제릃 해결할수 있는가?

-> 오차 -> 알고리즘

2. 변수가 하나인 비선형 방정식

이것의 솔루션 해를 찾기 힘들면

어떤 수치적인 방법을 찾을수 있겠는가 소개

bisection method, secant method, newton's method, muller's method 등 봄

3. 이산 데이터를 다항식으로

이러한 해를 찾는 방법들이 끝나면

실험이나 자현현상의 데이터는 끊어짐 연속되지 않은 이산적인 데이터

이산 데이터를 어떻게 스무스한 커브로 만들까?

-> largrange polynomial, divided difference

hermit interpolation, spline

4. 실제에 가까운 값 구하기

미분이 가능한 도함수 경우만 다룸

적분 역시원시함수로 정적분값을 정확한 가질수 있었음.

위와 같이 정확한 값을 못구하는 경우 어떻게 최대한 true value에 가까운 값을 구할수있는 방법

5. 초기치가 주어진 미분방정식을 해석적 방법으로 풀수 없는 경우

이후 공헙 수학, 미분방정식 문제를 다룸

특히 초기치가 주어진 미방 문제가 있을떄

해석 해 analytic solution, 미방 해를 손으로 풀수 없는 경우 어떻게 풀까?

taylor method나 runge-kutta method, predictor-crrector method 등 여러 방법들을 서로 비교하여

장/단점을 비교해보자

6. 연립일차 방정식 수치 해 구하는 방법 - 직접법

선형 대수와 관련된

선형 시스템, 연립일차 방정식

변수가 두개, 방정식이 두개인 경우 손으로 풀수 있으나

많아지면 손으로 풀수 없음.

연립일차방정식의 솔루션을 찾는 수치적 방법들을 소개

첫번째. direct method 직접법, 반복적 연산이 아니라 바로 해를 찾을수 있는 방법

-> 가우스 소거법

가우스 소거법을 할때 더 정확한 해를 구하기 위해 하는 pivot, inverse matrix를 구해서 하는 방법, factorization

연립 일차방정식에서 주어진 행렬 A를 어떻게 나누고 해를 찾을수 있겟는가 하는 방법들을 소개

특별한 행렬들은 쉽개 해를 찾을수 있는 방법이 없을까 찾아봄

7. 반복법

direct method에 알고리즘을 넣으면 바로 해가 나옴

-> 다른 반복해서 해를 찾는 방법을 소개

norm이라는 개념이 필요

iterative method 소개

행렬이 특별한 성질을 가진 행렬이라고한다면 좀더 iterative method가 없는지 함깨 소개

8.  근사 approximation

문제들이 주어졌을떄 얼마만큼 거기에 유사한 가까이에 해를 찾는가 하는 방법

연립일차방정식에 해가없다고 풀지 못하는게 아니라 근사한, 해와 유사한 역활을할수 있는 근사값을 찾는 방법 소개

9. 고유값, 고유벡터 구하는 문제

고유값과 고유벡터를 구하는데 결적적인 역활을 하는 분해 방법들이 있음.

대각화 diagonalization

수학적 이론상 중요한 역활을하는 jordan canonical form

수치적 방법으로 유명한 schur decomposition

decomposition 중에서 아주 인기가 높아지는 singular value decomposition

앞에서 예기한 고유값을 어떻게 수치적으로 찾을수 있겠는가

householder, QR method까지 소개함

10. 비선형 방정식의 해를 찾는 방법들

- 하나인 경우 bisection method나 newton's method썻으나 변수가 여러개, 방정시고도 여러개

- 이러한 것들을 시스템이라고 하면, 비선형 시스템에 대한 솔루션을 구하는 방법

-> newton's method, quasi-newton method

11. 미분방정식 문제중 경계치가 주어진 경우(boundary value problem)

- linear shooting method, nonlinear shooting method 등 장단점 비교

12. 편미분 방정식

- 해석 솔루션을 찾을수 없다면 어떻게 수치적인 방법으로 근사해를 찾을수 있을까

- 유명한게 finite difference method, finite element method

-----------------------------------------------------------------------------------------------

수학이란 무엇인가

1. 수치 해석을 하기 전에 선수 과목

선형 대수, 미적분, 미분방정식(공업 수학)

+ MATLAB 같은 코딩 언어

2. 수학 이란 무엇일까?

 우리는 평생 수학을 공부했지만 왜 공부한지 잘모름

산업 발전에서 중요한 역활, 과학의 언어

--------------------------------------------------------------------------------------------------

수치 해석이란 무엇인가

1. 사전적 정의

근사 approximation,

오차 error

근사값과 에러만 구하는 학문 ? 부족함.

수치적 방법을 이용한 수학적 한 분야 ? 이해하기엔 부족

Llyod Trefethen(옥스포드 대)

- 수치해석의 정의 : continuos mathmatics 연속적인 수학문제를 다루는 알고리즘을 개발해서 함께 공부하는 과목

2. 오차, 에러란?

x라는 참값이 존재

x*는 x에 대한 근사값. 여러개 존재가능

근사값을 하나를 선택 시 차 -> 절대적 오차 absolute error(참값과 선택된 근사값의 차)

절대 오차를 참값의 절댓값으로 나누는 경우 -> 상대적 오차 relative error

무슨 에러가 좋은가? 둘다 장단점을 가지고 있어서 사용됨

절대 오차의 장점

- 계산하기 쉬움, 얼마만큼 틀린지 정확히 눈에 보임

상대오차의 장점

- 상대적인 에러의 크기를 알 수 있음. 

100 - 1, 10 - 1 -> 두 경우다 절대 오차는 1이나 상대 오차는 1/100, 1/10이 됨 오차의 영향을 알 수 있음

3. 근사

참값을 알고 있으면 참값을 쓰면 되나, 

오차 계산은 실제 참값을 아는 문제를, 수치적 방법으로 근사값을 구하여 비교

참값을 모르는 문제가 있을때 어떻게 할까?

참값을 아는 문제로 개발한 방법으로

참값을 모르는 문제에 적용하여 해를 구하면 에러가 어느정도 안에 들어갈것이다 생각하고 문제 품.

=>참값을 모르더라도 수치적인 방법으로 근사값을 구해 사용

4. 수학적 모델

 참 값을 모르더라도 오차는 적은게 좋음

에러가 어디에서 발생하는가? 파악하면 오차를 줄일수 있지않을까? -> 수학적 모델 이용

5. 알고리즘

- 알고리즘을 구현하여 근사값을 구하려고함.

- 알고리즘 고안 시 중요한 것은 알고리즘이 stable 한지 unstable한지 확인해야힘.

- 인풋 데이터의 에러로 알고리즘이 수학적으로 안정적이고 참이나 unstable할 수 있음.

- 알고리즘을 버리기 보다는 조건을 주면 안정적이지 않을까 고민해야 함.

6. 반복법 iterative method

- 반복법을 이용하여 해를 찾을것임 -> 해로 수렴하는가 안하는가는 매우 중요함

- 수렴성 뿐만아니라 얼마나 빨리 수렴하느냐 rate of convergence도 매우 중요함

-------------------------------------------------------------------------------

수치해석의 영역 - 수치해석은 어디에 있는가?

 중학교에서 처음 집합을 만남

집합들 사이 원소간의 관계 -> 대응 correspondence

의미 있는 대응들 =>함수 function

 대학교 1학년때 극한을 배움

- 연속인지 알야야 함 -> 미분 -> 도함수

 직선은 1차원. 차수가 낮음 but 우리가 사는 공간은 3차원, +시간을 한다면 4차원

=> 함수는 몇차원으로 주어짐

 우리가 모르는 미래를 방정식을 세워 예측해야함

- 자연 현상을 수학적으로 표현하면 미분이 들어감.

-> 미래를 예측하기 위해 미분 방정식이됨

=> 미분 방정식은 이 세상을 표현하는데 매우 유용함.

 수치해석은 미분 방정식을 해결함

- 미분 방정식을 어떻게 수치적으로 푸는것인가가 중요

 미분의 개념이 없다면 비선형 방정식 뿐일 것

함수들 중에 linear 선형성을 가진 함수를 고려해야함

- 행렬로 표현하여 연립 일차 방정식을 어떻게 풀까?

행렬로 고유값과 고유벡터는 어떻게 될까?

행렬을 어떻게 분해하여 활용할수 있을까?

함수를 이용해서 차원과 함꼐 설명하면 무엇을 하는지 설명이 가능해짐

방정식의 해법

1. 시작법

2. 이등분법

3. 가위치기법

4. 수정 가위치기법

근에 가까운 시작접을 잡는것과 하지 않는 것의 차이

- 반복법 사용시 오차를 최대한 줄일 수 있음

시작점

- 반복법으로 방정식의 근을 구하기 위해 대략적으로 추측한 근사값 x0에서부터 시작대로 x1, x2 ..를 구해가는 기법으로 x0를 시작점이라 함.

- 시작점 x0을 어떻게 잡느냐에 따라 -> x1, x2, ...가 근에 -> 수렴하는 속도가 빠르거나/느리거나 발산하는 경우가 존재

=> 가능한 주어진 함수의 성질로 근에 가까운 시작점 x0을 잡는 것이 바람직함.

* x_0가 근에 멀리 떨어진 값이라면 x_100의 근을 취하더라도 큰 오차 발생 가능

반복법

- 어떤 정해진 과정을 차례대로 되풀이하여 구하는 방법

- x0부터 시작하여 x1, .. 를 정해진 방법으로 구하여 최대한 오차를 줄여가면서 방정식의 근을 구하는것

반복법 사용 예시

- f(x) = 13.42 x^2 - 14.21x + 34.45 = 0

 ->근의 공식으로 쉽게 구할 수 있음.

- f(x) = 3x^8 + 5x^5 + 7x - 21 = 0

- f(x) = e^x ln x + sin x - 1.2 = 0

 -> 구하기 어려운 방정식의 근은 반복법으로 구함

 -> 위 방정식의 근을 구하는 공식이 없음

매트랩으로 시작점 구하기

clc;
clear all;


N=5;
x0 = -2;

y(1) = x0*x0;
x(1) = x0;
z(1) = x0/2 + 2;
x1(1) = x0;

for n=1:4
	x(n+1) = x(n) + 1;
    y(n+1) = x(n+1) * x(n+1);
end
plot(x, y);
hold on

for n=1:4
	x1(n+1) = x1(n) + 1;
    z(n+1) = x1(n+1)/2 +2;
end
plot(x1,z);

- 두 곡선 사이 교점은 -2과 -1 사이 하나와 1과 2 사이 하나가 존재함

-> 시작점은 -1, 2

이등분법에서 중간값 정리를 사용하는 이유

- 폐구간 함수일 경우 구간에 적어도 근이 하나 존재한다고 함

이등분법

- 구간 (a, b)를 P점을 포함하도록 계속 이등분 하는것

- 아래의 가정이 필요

 1. 구간 (a, b)에서 연속 함수 f(x)가 주어지고, f(a), f(b)가 반대 부호를 갖는다고 가정

 2. 중간값 정리에 의해 f(p)=0을 만족하는 점 P가 a, b 사이에 존재함

 3. 구간 (a, b)안에 2개 이상의 근이 있는 경우도 있으나 근이 한개만 있다고 가정

중간값 정리

- f(x)가 폐구간 [a, b]에서 연속일 때 f(a) < f(b)라 하면, f(a) < a< f(b)인 임의의 값 a에 대하여 f(c) = a가 되는 c가 구간 (a, b)에 적어도 하나 존재한다고 하는 정리

이등 분법 bisection method

- p1 = (a1 + b1)/2라 하고, f(p1) = 0이면, p=p1이고 f(p1) != 0이면 f(p1)은 f(a1)이나 f(b1)중 하나와 같은 부호를 가짐

- f(p1)이 f(a1)과 같은 부호를 갖는 경우 -> p는 p1과 b1사이에 존재하게 되므로 a2= p1, b2=b1라 가정

- f(p1)이 f(b1)과 같은 부호를 가지는 경우 -> p는 a와 p1 사이에 존재하므로, a2 = a1, b2 = p1이라 놓고 구간 (a2, b2)에서 앞의 과정을 반복

멈춤 과정

-매트랩을 이용할 때 시행되는 반복 횟수에 대한 조건을 결정하는 것이 좋음

- 코딩을 잘못한 경우 무한번 반복 시행에 대한 가능성을 제거하기 위해 N은 최대 한계치를 결정하고 횟수를 더 초과하면 멈춤 과정을 실시함

매트랩으로 근사해 구하기

- f(x) = x^2 - 4

clc;
clear all;
f='x^2 - 4';
n =0;
a=1;
b=2;
c = (a+b)/2;
eps = 0.000001;
fprintf(' n a b c f(c) \n');

while b-c >= eps
	n = n + 1;
    x = b;
    fb = eval(f);
    x = c;
    fc = eval(f);
    if fb * fc <= 0
    	a = c;
        c = ( a + b)/2;
    else
    	b=c;
        c = (a+b)/2;
    end
    fprintf("%2.0f %2.10f %2.10f %2.10f %2.5f \n", n, a, b, c, fc);
end

1. 분할차분법

2. 보간 다항식의 오차

3. 뉴턴의 전향 차분 공식

4. 접촉 보간법

분할 차분표를 사용하는 이유

- 뉴턴 공식에 있는 모든 분할 차분을 간단하게 구할수 있기 때문

분할 차분법의 개념

- 서로다른 n+1개의 점 x0, x1, ... xn에 대해서 함수 f(x)와 함수 값이 같은 n차 이하의 다항식 P_n(x)가 다음과 같이 주어질때(뉴턴 형이라 부름)

- x 값에 따라 상수 항들을 순서대로 구할 수 있게 됨

중복된 계산식(예 : x1-x0)을 줄이기 위해, 분할 차분 기호 사용

분할 차분표의 일반화

- n차 분할 차분 공식을 이용하여 분할차분표라는 표를 제작

분할 차분표를 사용하면?

- 뉴턴 공식에 있는 모든 분할 차분을 간단한 방법으로 구할 수 있음

- 뉴턴 공식을 사용하여 P_n(x)를 구할 때, 분할 차분표의 각 열에서 처음 항들이 그 다항식의 계수가 됨

보간 다항식 오차의 발생 원인

- 실제 함수를 알수없는 상황에서 임의의 점에 대한 값을 얻기 위해 사용하는 보간 다항식은 실제 함수와 달라 오차 발생

보간 다항식의 오차

- f(x)가 폐구간 [a, b]에서 정의된 함수이고, x0, x1, ... xn을 구간에 있는 n + 1개의 서로 다른 점이라할때

- 차수 n보다 크지않은 다항식 P_n(x)를 점 x0, ... xn에서 f(x)의 보간 다항식이라 한다면

=> 오차 = 실제 함수 - 보간 다항식

- bar_x를 주어진 점 x0, x1, ... xn이 아닌 임의의 점이며

- 차수가 n+1보다 크지 않은 다항식 p_(n+1)(x)를 점 x0, x1, ..xn, bar_x 에서 f(x)의 보간 다항식이라 한다면

뉴턴 공식에 따라 아래와 같이 정리됨.

앞에서 나온 식을 통해 bar_x != x0, x1, ... xn 인 경우에 대해

-> 임의의 점 bar_x에 대한 보간 다항식 오차

=> f(bar_x)를 알아야 e_n(bar_x)를 구할 수 있음

f(bar_x)를 모르면 e_n(bar_x)를 구할수 없는가?

- 함수 f(x)가 구간 [a,b]에서 정의된 함수이고 (a, b)에서 k차 미분 가능하다고 할때, x0, .. xk가 [a,b] 안에 있는 (k+1)개의 서로 다른 점이라면

를 만족하는점 epsilon in (a, b) 가 존재한다.

보간 다항식의 오차 2

- 함수 f가 폐구간 [a, b]에 정의된 함수

- 개구간 (a, b)에서 (n+1)차 미분 가능

-> P_n(x) 차수가 n보다 크지 않고 [a, b] 안에 있는 n+1개의 점 x0, x1 ..., xn에 대해 f(x)의 보간 다항식이라 한다면 [a, b]안의 임의의 점 bar_x에 대해

=> epsilon in (a,b) 가 존재

epsilon은 bar_x에 따라 결정되고 공식을 사용하려면?

- epsilon과 f(x)의 (n+1)차 도함수 f^(n+1) (x)를 일아야함

- epsilon은 구간 (a, b)안에 있는 어떤 점이라는 사실만 알고 실제로는 정확한 epsilon을 알 수 없음.

- f^(n+1) (x)도 모르는 경우가 많음

=> [a, b]에서 |f^(n+1) (x)|의 상계 (upper bound)를 알면 보간 다항식 오차의 한계를 구할 수 있음.

뉴턴의 전향 차분 공식

- [a, b] 안의 점 x0, ... xn에서 함수 f(x)의 보간 다항식 Pn(x)

- 분할 차분 f([x0, ..., xn]을 계싼하고 뉴턴 공식 사용

- 소구간들의 길이가 같은 경우 분할 차분보다 더 간단한 전향 차분을 사용하여 보간 다항식 P_n(x)를 구하는 방법

=> 점 a = x0 < x1 < x2 ... < xn = b에 의해 만들어 지는 각 소구간의 길이가 같다고 가정

=> 구간 [a, b]를 N등분 하고 h= (b-a)/N으로 놓으면?

각 점에서 함수 값을 안다고 가정하면

[a, b]에 있는 임의의 점 x를 x0 + sh로 나타낼수 있으므로

- 선형 변수 변환 공식을 사용하여, 차수가 n인 x의 다항식 -> 차수 n인 s의 다항식

전향 차분은 다음과 같이 정의

전향 차분과 분할 차분의 관계

P_n(x)를 점 x_k, x_k+1, ..., x_(k+n)에서 f(x)의 보간 다항식 이라면

위 식을 뉴턴 공식에 대입하면

아래의 식에 따라

보간다항식은 다음과 같이 정리가 된다.

이항 함수 binomial function을 이용

- 임의의 실수 y와 임의의 정수 i >= 0 에 대해 이항함수 (y; i)를 다음과 같이 정의

=> y가 양의 정수면 (y; i)는 이항 계수 binomial coefficient가 됨

뉴턴의 전향 차분 공식

- 점 x_k + i h (i = 0, 1, ..., n)에서 f(x)의 보간 다항식에 대한 뉴턴의 전향 차분 공식 (Forward difference formula)라 부름.

뉴턴의 전향 차분 공식 예시

- k = 0인경우, 보간 점을 x_0, x_1, ..., x_n일 때

- 위 식의 계수는 전향 차분표로 쉽게 구할 수 있음

function y = NewtonDiff(xd, yd, x)

  nd = length(xd);
  F = zeros(nd, nd);
  F(:, 1) = yd(:);

  for j = 2:nd
      for i= 1:nd-j+1
			F(i,j) = (F(i+1, j-1) - F(i, j-1))/(xd(i+j-1)-xd(i));
      end
  end


  y = F(1, 1);
  ytemp = 1;

  for j=2:nd
      ytemp = ytemp*(x - xd(j-1));
      y = y + F(1, j)*ytemp;
  end

end

x = [2 3 4 5 6];
y =[4.8 9.4 19.2 36.6 58];

NewtonDiff(x, y, 2.5)

접촉 보간

- 앞에서 보간 다항식을 구할 떄 구간 [a, b]안에 있는 점 x0, x1, x2 , .. xn이 서로 다른 경우에만 고려

- 점들이 서로 다른점이라 가정하지 않고 보간 다항식을 구하는 방법

- 점 x0, ... xk가 구간 [a, b]에서 서로 다른 점일때 -> f(x)의 k차 분할 차분 f[x0, .. xk]를 차수가 k보다 크지않은 보간 다항식 p_k(x)의 최고차 계수 (x^k의 계수) 계수로 정의

서로 같은 점들이 있는 경우 P_k(x_i) = f(x_i)의 의미

- 점 x0, ..., xk 중 m번째 나타나는 점 x - f^(j) (x) = g^(j) (x) => j = 0, 1, ..., m-1

- f(x), g(x)는 점 x0, x1, ... xk에서 같다고 정의 

=> 보간 다항식이 한 점 c에서 f(x)와 (m+1)번 접촉(m번 같을 때) 접촉 보간

스플라인

- 매끄러운 곡선을 그리기위해 제도하는 도구에서 유래

- 급격하게 변하는 데이터를 나타내는데 적합한 방법

- 두 점 사이의 각 구간에 대해 스플라인으로 불리는 낮은 차수의 다항식을 이용하여 점들을 연결