집밖은 위험해

기울기 벡터(그라디언트) gradient vector

- 다변수 함수에 각 변수들에 대한 편미분

자코비안 행렬 Jacobian matrix

- 아래와 같이 다변수 함수들이 주어질때

- 다변수 함수들의 변수들에 대한 편미분들의 모음 -> 자코비안

다변수 함수 multi variable function

- 독립 변수가 한개인 일변수 함수와 달리 독립 변수가 여러개 존재하는 함수

함수

- 하나 또는 여러개의 정의역 원소 (독립변수)가 하나의 공역 원소(종속변수)에 대응하는 관계

이차 형식 quadratic form

- 중간에 행렬과 앞 뒤로 두 벡터의 곱으로 이루어진 함수 형태

- 3변수, ..., n 변수 함수도 이차 형식으로 표현 가능

다변수 함수의 의미

- 다변수 함수는 보통 다음의 형태가 됨.

편미분 partial deriavative

- 1변수에서의 미분인 상미분과는 달리, 다변수 함수에서 한 변수에 대한 부분(partial)적인 미분이라 할 수 있다.

전미분 total derivative

- 함수의 모든 변수에 대한 편미분과 미소 증분의 곱들의 합

미분(도함수) derivative

- 함수 f : (a, b) -> R이 주어질때 아래의 극한값

상미분 ordinary derivative

- 일변수 함수의 미분

고차 미분 high order derivative

- 함수 f(x)가 주어질때 여러번 미분한 것

평균값 정리 mean value theorem

- 구간 [a, b]에서 미분 가능한 함수 f(x)가 존재할때, 그 사이에서의 기울기 값들도 존재

테일러 급수 talyor series

- 함수 f(x)가 주어질 때, x*에서 미분 가능한 경우 무한 다항식의 합으로 정리할수 있음

 * 거듭 제곱 급수를 정리하여 구할 수 있음.

용어 정리

- 최소자 minmizer : f(x)를  최소로 하는 x

- 최소값 minimum : 최소인 f(x)

- 임계지점 critical point : f'(x) = 0인 지점 -> 임계점에서 함수 f(x)는 최소값 or 최대값이 됨

- 전역 최소자 global minimizer : 모든 범위에서의 최소값

- 지역 최소자 local minimizer : 일부 구간에서의 최솟값

물체의 움직임 motion

- 3차원 공간상에서 움직임(모션)은 평행이동 translation과 회전 rotation으로 이루어짐.

- 회전은 각 축에 대해서 수행되며 3 x 3 행렬의 형태가 됨.

- 모든 회전을 나타내는 행렬 R은 하나의 군이라고도 할 수 있으며 SO_3(R)의 원소가 됨.

오일러각

- 각 축에 대한 \theta 만큼의 회전을 오일러 각이라고 함.

- 각 축에서의 오일러각 회전 행렬은 아래와 같음

군 이론 group theory

- 컴퓨터 비전과 컴퓨터 그래픽스에서 자주 등장하며, 다음과 같은 군들이 있다.

군 이란?

- 집합 G가 이항 연산자 *에 대해 다음 조건들을 만족하는 경우의 집합. 

 => (G, *)은 군 group이 됨.

1. 결합 법칙

2. 항등원, 역원의 존재

3. 아래와 같이 교환법칙이 성립하는 경우 -> (G, *)는 가환 군 commutative group

군의 종류

1. 가환군 commutative group

2. 비가환군

- 공간상 물체의 평행 이동을 의미하는 군

- 행렬식이 0이 아닌 행렬의 집합 : general linear group

- 위 집합의 부분군이며, 회전을 나타내는 집합

3차원 벡터 공간에서의 직교 행렬

- 직교행렬 orthogonal matrix : 다음의 경우를 만족하는 행렬

- 직교행렬의 모임은 아래와 같다.

직교 행렬의 성질

1. 정규 직교 행렬의 거리(노름)은 불변

 - 정규 직교 행렬 U와 벡터 x이 주어질때 노름을 구하면 다음과 같다.

2.  직교행렬 U의 열 벡터 U1, U2, U3는 3차원 벡터 공간의 정규 직교 기저 orthnormal basis

 -  O_3(R)은 직교군 orthogonal group

 - U가 O_3(R)의 원소라면, 정규직교 기저로 이루어진 직교행렬들은 다음과 같은것들이 존재함.

외적 outer product

- 두 벡터 x, y가 주어질때 외적은 아래와 같다.

- x간의 외적은 대칭 행렬이며, 양의 준확정행렬이 된다.

마할라노비스 거리

- 다음의 샘플 데이터들이 있을때

유클리디안 거리 euclidean distance

- 아래의 두 벡터 x, y가 주어질때 두 벡터 사이의 거리는 다음과 같으며, 이를 유클리디안 거리라 한다.

내적과 거리

- 거리는 벡터의 내적에서 나온 것임

내적의 행렬 표현

- 위에서 벡터 x와 y의 내적을 행렬로 바꾸면

양의 확정 행렬 positive definite matrix을 이용한 내적의 정의

- 위의 내적의 행렬 표현에서 단위 행렬 I 대신 양의 확정 행렬 A로 내적과 노름, 거리는 아래와 같다.

 => 단위 행렬 I로 내적을 정의한 경우 I-내적, 양의 확정행렬 A로 내적을 정의하면 A-내적이 된다.

그람-슈미트 직교화 과정 gram-schmidt orthogonalization process

- n 벡터 공간에서 선형 독립인 벡터 u1, ..., uk로 서로 직교인 벡터 v1, ..., vk를 만드는 과정.(k <= n)

3 벡터 공간에서 그람 슈미트 직교화 과정

- 다음과 같이 선형 독립인 3개의 벡터가 주어질때, 서로 직교인 벡터 u1, u2, u3을 구해보자

- v1 = u1으로 하고, v2는 u2에서 u1으로 투영한 벡터로 한다.

- v3은 u3을 v1, v2 평면에 사영한 벡터가 된다.

대각화 diagonalization

- 3 x 3 행렬과 선형 독립인 고유 벡터 3개가 주어질때

직교 고유벡터

- 대칭 행렬의 두 고유 벡터의 내적은 0으로 두 고유 벡터는 직교한다.

 => 직교 고유 벡터 orthogonal eigenvector

대칭 행렬의 직교 고유벡터 예시

고유치와 고유 벡터

- n차원에서 n차원으로 n x n 형태의 선형 변환 행렬 A가 주어질때, n차원 벡터 v사이 다음 관계가 성립할때

고유치와 고유 벡터 구하기 예시