집밖은 위험해

함수 function

- f: X -> Y 집합 X의 원소이 집합 Y의 원소에 대응하는 관계

선형 변환 linear transformation

- m x n 행렬 A이 열벡터 x를 n차원 벡터 공간에서 m차원의 벡터 공간으로 선형 변환(차원 변환)시킨다.

어파인 변환 affine transform

- 직선의 평행 이동

행렬 matrix

- 수 들의 m 행 n 열 모임

전치 행렬 transpoise matrix

- 행렬 A의 (i, j)성분들을 (j, i)성분으로 바꾼 행렬

대각 행렬 diagonal matrix

- 주 대각 성분 principal diagonal component 이외의 모든 성분들이 0 인 행렬

단위 행렬 identity matrix

- 주 대각 성분이 1인 대각 행렬들

대칭 행렬 symmetric matrix

- 행렬 A가 A의 전치행렬과 같은 경우

교대 행렬 antisymmetric matrix

- 행렬 A가 A의 전치 행렬에 -를 곱한 것과 동일한 경우. 행렬 A는 교대 행렬

양 확정 행렬과 양 세미확정 행렬

- 대칭 행렬 A가 주어질때, 모든 n차원 벡터에서

- 다음 과 같은 경우 행렬 A는 양 확정 행렬 positive deifinite matrix

- 아래와 같은 경우 행렬 A는 양 세미확정 행렬 positive semidefinite matrix

역행렬과 특이행렬

- 행렬 A가 주어질때, AB = I를 만족하는 행렬 B가 존재하는 경우

- 정칙행렬 비특이행렬 nonsingular matrix : 행렬 A

- 역행렬 inverse matrix : 행렬 B

+ 비 정칙 행렬, 특이 행렬 singular matirx : 정칙 행렬이 아닌 행렬. 즉, 역행렬이 존재하지 않는 행렬

행렬의 랭크

- 선형 독립인 벡터의 개수

- 행렬 A의 벡터 2개가 선형 독립이라면 -> rank(A) = 2

- 행렬 A의 벡터 5개가 선형 독립이라면 -> rank(A) = 5

기저 basis

- 아래의 벡터 공간과 벡터가 다음의 관계를 가지고

- 기저 : 아래의 조건들을 만족할때의 벡터

 -> span(S) = 벡터 공간, 벡터가 1차 독립인 경우

- 기저의 예시

내적 inner product

- 두 벡터의 곱 연산 중 하나로 차원이 줄어들어 스칼라 결과가 나옴. 스칼라 곱 or 점곱이라고도 부름

노름 norm

- 벡터의 크기를 의미

벡터 사이의 거리

- 두 벡터가 주어질때, 두 벡터 차의 노름으로 벡터 사이의 거리를 구할 수 있다.

코시-슈바르츠 부등식

- 두 벡터 a, b에 대하여 둘의 내적 값은 각각의 놈(norm)의 곱보다 작거나 같다는 부등식.

두 벡터 사이의 각 구하기

- 코시 슈바르츠 부등식으로 두 벡터 간 각을 얻을 수 있다.

두 벡터가 수직 인 경우

- 두 벡터 사이의 각이 90도 인 경우 내적은 0이 되며 아래와 같이 표기한다.

벡터 공간 vector space

- 아래의 집합이 주어질때, 덧셈과 스칼라 곱 연산이 가능하는 경우 => 아래의 집합 = 벡터 공간

벡터 공간의 예시

- 2차원 평면

- 3차원 공간

부분 공간 subspace

- 집합 A가 벡터 공간 집합의 부분 집합인 경우, A는 부분 공간

선형 결합 linear combination

- 선형 결합 : 다음의 벡터 집합과 실수 집합이 아래의 결합 관계를 가지는 경우

- 생성 span : 다음의 벡터와 실수의 모든 선형 결합

선형 독립과 선형 종속

- 아래의 선형 결합이 주어질 때

- 선형 독립 linear independent : 모든 실수(계수)가 0인 경우에만 해가 존재하는 경우 

- 선형 종속 linear dependent : 모든 실수가 0 이외에도 해가 존재하는 경우

최적화 이론 optimization theory

- 아래와 같이 함수 f(x)가 주어질때, f(x)가 최소 값이 되는 x지점을 찾는 이론

- 하지만 함수가 복잡해지면, 해를 직접 구하기 힘듬

 => 초기값을 정하여 최소 지점으로 접근해나가는 방법으로 풀어나감

배워야 할 내용들

1. 선형 대수

2. 1변수 함수와 최대 최소 이론

3. 다변수 함수와 비용 함수 cost function + 테일러 전개(매우 중요)

4. 컨벡스 함수 convex funciton

5. 최적화 기법들

- gradient descent

- line search

- newton search ...

6. 라그랑주 승수법

*  기호

확률 변수 random variable

- 사건 X

확률 probaility

- 사건 X1이 일어날 확률

=> P(X= x1)

기대값 expectation

- 확률 변수 X가 주어질떄 X에 대한 평균

- E(X)로 표기

분산 variation

- 모든 [(각 확률변수 - 해당 확률변수의 기대값)의 제곱]의 합/경우의 수

=> 평균에서 멀어진 정도

표준 편차 standard varaition

- 분산의 제곱근 

확률 분포 probability distribution

- 확률들의 분포 형태

- 이산 확률 분포와 연속 확률 분포로 분류

이산 균일 분포 discrete uniform distribution

- 모든 공간에 균일한 분포

- 1/경우의 수

이항분포 binomial distribution

- 일정 확률 p를 독립 시행 n번 할때 확률 분포

다항 분포 multinomial distribution

- 이항 분포를 일반화 한것

- 이항분포에서 결과가 참 거짓 2가지 뿐인것과는 달리 k개가 존재

연속 균일 분포 continuous unitform distribution

- 이산 균일분포와 동일하나 연속공간에서 정의

정규 분포 normal distribution

- 종 형태의 확률 분포로 많이 사용

이외 확률분포는 생략

- 역감마분포

- 포아송분포

- 지수분포

일반 통계학에서의 확률

- 주사위에서 1이 나올 확률이 1/6

베이즈 통계학에서의 확률

- 약속 시간에 늦을 확률 1/2

 => 개인적인 믿음 정도(주관주의 확률)를 확률로 정의하는 통계학

베이즈 통계학

- 주관주의 확률을 다루는 통계학

일반 통계학과 베이즈 통계학에서의 차이

1. 일반 통계학

 - 모집단에서 n개의 샘플을 추출

 - 표본 집단으로 기대값 x1을 구함.

 - 다른 표본 집단으로 기대값 xn을 구하고 반복함.

 - 전체 기대값(x1 + ... + xn)/반복 횟수 T

   => 추정값을 구할 수 있음.

2. 베이즈 통계학

- 가설을 세움

- 모집단에서 표본을 추출하여 

- 베이즈 정리

  => 추정값과 그 추정값에 대한 주관적인 확률을 구함.

자연 과학에서 유용하게 사용되는 도함수

- 기울기 벡터, 발산, 회전

기울기 벡터 gradient

- 스칼라 함수 f가 주어질때 grad f가 기울기 벡터

방향 도함수 directional derivative

- 스칼라 함수 f의 a 방향 변화율

- D_a f는 a 방향의 변화율로 theta 값에 따라 i방향과 j방향 성분을 구할수 있음.

 -> 방향도 함수는 편미분을 임의의 방향으로 나타낸 개념

기울기 벡터의 의미

- 스칼라 함수 f의 기울기 벡터는 다음의 방향을 가리킨다.

포텐셜 potential과 보존장 conservative field

- 아래의 식이 주어질때 스칼라 함수를 기울기 벡터의 포텐셜, 기울기 벡터를 보존장

등위 곡선과 법선 벡터

- 곡선 f(x, y) = c가 곡면 z = (x, y)의 등위 곡선일때, 곡면의 매개변수 벡터함수 r(t) = [x(t), y(t)]로 정의

- 곡선 f(x, y) =c 를 시간 t에 대해서 미분하면 다음과 같다.

=> 법선 벡터는 스칼라 함수 f가 가장 급격히 증가하는 기울기 벡터

스칼라 함수 scalar function

- 함수의 크기만을 구하는 함수

벡터 함수 vector function

- 크기와 방향을 동시에 가지는 함수

- 스칼라 값들을 요소로 가짐

벡터장 vector filed

- 벡터 함수의 크기와 방향을 함께 그린 그래프

ex. 속도장 velocity field, 힘장 force filed, 자기장 magnetic field

다변수 함수 개요

- 대부분의 현상과 공학 문제는 다변수 함수로 표현됨

1변수 함수 single variable funtion

- y = f(x)와 같이 하나의 독립 변수만을 가지는 함수

도함수(미분)

- 1변수 함수에서 함수 y의 x에 대한 변화율

다변수 함수 mutiple variable function

- f(x, y) = z와 같이 독립 변수가 2개 이상인 함수

등위 곡선 level curve

- 2변수 함수에 z = c 로 얻을수 있는 곡면

상미분 ordinary derivative

- 1변수 함수 y = f(x)의 도함수(미분)

편미분 partial derivative

- 다변수 함수에서 종속변수의 한개의 독립변수에 대한 변화율