2020-07-17

2020-07-17

• 지난 시간에는 최적화를 본격적으로 다루기에 앞서 선형 대수를 복습하면서 기존에 알고 있던 내용들은 다시 확인하고, 확실하게 정리되지 않았던 벡터 공간과 고유치,고유벡터, 분해, 그리고 그림 슈미트 직교화 등에 대해서 살펴보면서 조금씩 조금씩 부족하게 알고 있던 내용들을 채워나갈수 있는 기회였습니다. 이후 공간에서 회전을 다루는 군과 행렬에 있어서의 분해 방법들을 보면서 선형대수를 마무리하고, 실제 최적화 방법들을 다루기 전에 필요한 함수들에 대한 다양한 개념들을 살펴보면서 학습을 마무리하였습니다. 단 이번에는 블로그 상에 올리지는 못한채로 정리하였습니다.
• 우선 지난번에 살펴본 군은 어느 이항 연산자와 관련된 연산들을 만족하는 집합을 군이라고 불렀는데, 이러한 군중에서 공간상에서 물체의 회전에 대한 군들을 살펴보았습니다. 이때 회전 군은 3차원 행렬을 하나의 원소로 하고 있는데, 이러한 회전 군으로 대표적으로 오일러 각이 있었습니다. 오일러 각은 각 축에 대한 회전량 만큼을 행렬로 나타내고 있어, 즉 X축에 대한 회전행렬, Y축에 대한 회전행렬, Z축에 대한 회전 행렬로 구성이 되어있으며, 가장 이해하기 쉬운 회전 표현이지만 자유도가 사라지게 되는 짐벌락 현상의 문제로 오일러각을 대체하는 쿼터니언이라는 방식이 있습니다. 쿼터니언은 합이 1인 4개의 숫자로 오일러 각에 비해서 회전 형태를 이해하기는 힘들수는 있으나 짐벌락 현상이 발생하지 않으며, 컴퓨터 연산을 고속으로 할수 있는 장점을 가지고 있었습니다.
• 그 다음으로 특이값 분해와 촐래스키 분해에 대해서 간단히 살펴보았습니다. 특히, 특이값 분해는 이전에 영상 처리를 공부하면서 잠시 살펴본 적이있었는데, 당시 이런 선형대수에 대한 배경지식없이 단편적인 특이값 분해를 보았을때 도저히 이해할수가 없었습니다. 하지만 앞선 행렬로부터 대각 성분을 분해하여 이차 형태를 만드는 과정을 살펴보고 난 이후여서인지 조금 수월할수 있었습니다. 특이값 분해에서는 주어진 행렬을 두 직교 행렬과 특이값들로 이루어진 하나의 대각 행렬로 분해하여 이차 형태를 만드는 방법임을 확인하고, 특이 값 분해로 추정을 하기 전에 선형 시스템을 잠시 살펴보았는데, 선형 시스템은 변수의 개수와 방정식의 수에 따라서 소거법으로 해를 구할수 있으나, 정확한 해를 구하지 못하는 경우도 존재합니다. 그 때 오차가 최소가 되도록 하는 근사 해를 최소 제곱법을 이용하여 구하여야 하는데 이때 특이값 분해를 이용해서 근사해를 구하는 과정을 살펴보았습니다. 이후 행렬이 양 확정행렬일때 사용하는 촐레스키 분해에 대해간단히 살펴보면서 선형대수 복습을 마무리 하였습니다.
• 다음으로 최적화를 다루기에 앞서 다양한 함수들을 살펴보았는데, 우선 가장 간단한 경우인 일변수 함수에 대해서 알아보았습니다. 이 개념은 공업 수학에서 이미 살펴보았기 때문에, 일변수 함수의 미분(도함수)인 상미분 정의를 살펴보고 빠르게 지나갔으며, 중간값 정리, 거듭 제곱 급수에서 계수를 정리하여 구한 테일러 급수를 알아보았습니다.
• 이후에는 이 테일러 급수에서 1차 미분을 0으로 하여 최대값을 찾는 2차 미분 테스트를 알아보고, 최적화에서 사용되는 함수에서의 최소 지점인 최솟값과 최솟값을 찾는 변수 x의 값인 최소자 그리고, 전역과 지역에 따라 전역 최소자와 지역 최소자, 그리고 기울기가 0인 임계 점등의 개념들을 살펴보았습니다.
• 마지막으로 다변수 함수 개념에 대해서 보았는데, 이 또한 공업 수학에서 살펴본 덕분에 간단하게 알아보았습니다. 우선 다변수 함수는 n 벡터공간에서 m 벡터공간으로 정의하는 함수로서 대표적으로 이변수 함수가 있는데, 여기서 2변수 함수를 이용한 행렬 형태를 이차 형식이라고도 합니다. 여기서 이차 형식은 선형대수를 다루면서 종종 볼 수 있었고, 이 외에도 삼변수, n변수 함수로 분류하기도 합니다.이후 내용은 이전과 마찬가지로 다변수 함수에서의 테일러급수를 살펴보면서 마무리하였습니다.