집밖은 위험해

1. 방정식의 근 찾기

f(x) = 0일때 x

2. 선형 대수 방정식

아래의 a, c가 주어질때 x에 대해서 풀기

3. 최적화 문제

최적의 f(x)를 구하는 x 찾기

4. 커브 피팅 curve fitting

5. 적분

함수 f(x)가 주어질때 아래의 넓이를 구하기

6. 상미분방정식 ordinary differential equation 풀기 

아래의 상미분 방정식이 주어질때 t에 대한 함수로 y를 구하기

7. 편미분 방정식 partial differential equation 풀기

- 다음의 편미분 방정식이 주어질때 x, y에 대한 함수로 u를 구하기

수치 해석

- 자연 과학, 공학, 의학, 사회과학 등에서 발생하는 문제들 중에서 수학적인 문제로 표현할 수 있는 문제들을 컴퓨터로 해결하고자 하는 수학의 응용분야

수치 해석에서 문제 해결 과정

1. 수학적 모형화

- 해결할 문제를 역학, 생물학 등의 기본 가설이나 법칙들로 상 및 편미분 방정식, 대수방정식 등의 수학적 문제로 변형

2. 수학적 분석

- 수학적 모형화와 과정을 거쳐 생성된 수학적 문제를 미분방정식, 함수해석학, 기하학 및 대수학 등 가능한 수학 이론들을 적용하여 해의 유일성, 존재성, 정착성 등 분석

3. 수치적 분석

- 좁은 의미의 수치해석

- 앞의 수학적 분석 단계에서 다루어진 문제의 해가 존재하면, 이 해를 어떻게 컴퓨터로 구할지 수치적 알고리즘을 개발

- 이 알고리즘을 적용하여 구한 해의 수렴성 판정 및 오차 분석 등을 수행

4. 수치 실험

- 실제로 가장 효율적인 수치 알고리즘을 프로그램으로 만들어 문제를 해결

문제의 해를 구하는 방법

- 직접 방법 direct method : 알고리즘을 사용하여 해를 구함

- 이산화 discretization : 연속 문제를 이산 문제로 바꾸어 시도하는 것

- 반복법 iteration method : 하나의 추측 guess에서 시작하여 해에 수렴하는 성공적인 근사치 approximation를 찾음

* 직접 방법이 존재하더라도 반복법이 더 효율적이라 선호되는 경우가 있음.

수치해석 numerical analysis

- 수치 해석은 연속수학 contiuous mathematics 문제를 해결하기 위한 알고리즘 연구하는 학문

수치 해석의 범위

- 실수 변수나 복소 변수 방정식

- 실수나 복소 평면에서의 수치 선형 대수

- 미분 방정식의 해

- 물리과학과 공학 관련 문제들

수치해석과 알고리즘

- 연속 수학에서 몇몇 문제들은 알고리즘으로 해결 될 수 있음

-> 직접 방법 direct method라고 함

ex. 선형 시스템 방적식 system of linear equation을 풀기하기 위한 가우시안 제거 gaussian elimation와 선형 프로그래밍linear programming에서 단체법 simplex method

* 단체법 simplex method : 선형 계획법에서 선형 계획 문제의 최적해를 구하는 알고리즘

=> 그러나 대부분의 문제에서 직접 방법은 존재하지 않음

수학의 필요성

- 역사적으로 과학의 발달은 논리적 사고 쳬계 확립과 이를 표현하기 위한 기호의 논리에 근간을 두어 기호가 양을 표현할때 수학은 이들 사이의 관계를 이해하는데 필수적.

- 물리, 화학, 생물학 등 자연 과학과 기계, 전자, 전산 등 응용과학 등 모든 분야의 기초 이론에 응용됨

수학의 세부 분류

1. 대수학 algebra

- 가환대수, 표현론, 대수기하학, 결합론, 정수론

2. 기하학 geometry/ 위상수학 topology

- 퍼지수학, 리만 기하학, 엽층이론

3. 해석학 analysis

- 적분론, 편미분장정식, 복소함수론

4. 확률/ 통계학

- 수리 통계학, 화귀분석, 확률론, 확률미방

5. 응용수학/ 수리물리

- 통계역학, 동력학계, 유체역학

6. 이산수학/ 전산수학

- 조합론, 수치해석, 암호론

어떤 환자가 HIV virus가 걸린것으로 의심되면 혈액의 항체를 검사하는 ELISA test를 한다.

H를 HIV virus를 가진 사건으로 $\bar{H}$를 가지지 않은 사건.

Pos를 테스트에서 양성으로 나온 사건, Neg는 음성으로 나온 사건

이 때 test에서 양성으로 나온 환자가 HIV 바이러스를 가질 확률 P(H | pos)를 구하자

이때 아래의 확률을 가정한다

베이즈 정리에 따라 다음과 같이 구할수 있다.

우도 likelihood

- 어떤 가설 hypothesis H에 대한 우도 likelihood란 어떤 시행의 결과 evidence E가 주어질때, 가설 H가 참이라면 결과 E가 나올 정도가 얼마나 되는가

-> 결과 E가 나온 경우, 이 결과가 나올수 있는 여러 가설들을 평가할수 있는 측도가 우도

베이즈 정리와 우도

- 전문가 시스템의 불확실성을 평가하기 위해 베이즈 정리가 사용

- 사전 확률에 새로운 증거를 대입하여 사후확률을 얻으나 사전 확률 부여에 자의성을 배제하기 어려움

-> 우도를 사용하여 자의성을 벗어나 용이하게 사전확률 계산이 가능

최대 우도의 원리 principle of maximum likelihood

- 어떤 가설에 대한 우도를 주어진 데이터가 그 가설을 지지하는 정도로 해석한다면

 -> 우도가 최대가 되는 가설을 선호하게 됨.

- 그 가설이 어떤 모집단의 모수 population parameter에 관한 가설이라면, 그 추정치를 해당 모집단에서 가장 적절한 추정치로서 선호할 수 있음

=> 어떤 모수에 관한 가장 적절한 추정치 estimate를 구하는 방법을 최대 우도 방법 method of maximum likelihood이라 함.

나이브 베이지안 분류 naive bayesian classification

- naive basyesian classification은 일명 idiot's bayes, idot라는 의미를 가지며, 단순 확률적 분류법이다.

- 더 정확한 묘사는 independent feature model

- 실제로 생길수 없는 강한 독립 가정을 포함하여 naive(순진한, 고지식한)라는 말을 사용

나이브 베이지안 분류의 활용

- 확률 모델의 정밀성으로 나이브 베이즈 분류기는 지도학습에서 효율적으로 훈련됨.

- 나이브 베이즈 모델을 위한 인수 추정은 최대 우도법을 사용

=> 베이지안 확률이나 다른 베이지안 방법대신 나이브 베이지안 모델로 작업 가능

베이지안 네트워크 bayseian network

- 믿음 네트워크 belief network, 인과 네트워크 caual network는 다 같은 의미

- 베이지안 네트워크는 변수를 표현하는 노드와 변수간 의존관계를 포현하는 호의 방향성 비순환 그래프 directed acycle graph

부모 노드

- 노드 A에서 노드 B까지 호가 있는 경우

-> A는 B의 부모 노드

증거 노드 evidence node

- 노드에 값이 주어진 경우

노드

- 측정값, 인수, 숨겨진 latent 변수, 가설 등 어떤 종류의 변수로 제약이 없음

베이지안 네트워크와 확률 분포

- 그래프 상에 노드에 의해 표현되는 모든 변수에 대한 결합 확률 분포 joint distribution

- 변수 : X(1), ... X(n)

- parants(A)는 노드 A의 부모라 하자.

=> X(n)을 통한 X(1)의 결합확률분포는 i가 1부터 n까지일떄, 확률분포 p(X(i) | parents(X(i))의 곱으로 표현

-> X가 부모를 갖지 않는 경우 이 확률분포는 비조건부 unconditional이며, 부모가 있는 경우 조건부 conditional이 된다.

베이지안 네트워크 활용

- 의약

- 엔지니어

- 텍스트 분석

- 이미지 처리

- 결정 제안 시스템

베이즈 정리 bayes theorem

- 조건부 확률에서 새 정보를 알았을때 확률의 개선이 일어남

-> 실험 결과로 나온 정보로 어느 사건의 처음 확률이 개선 가능

- 처음 확률을 사전 확률 prior probability, 개선된 확률 posterior probabililty

-> 확률의 개선을 베이즈정리라 함.