Linear combination of vectors : 선형결합 선형결합이 무엇인지 먼저 알 필요가 있다. u 라는 벡터가 있다고 하자. 이때 u라는 벡터가 v1, v2, ... ,vN(다른 벡터들)의 선형결합으로 표현될 수 있다는 얘기이다. u = a1v1+a2v2+ ... + aNvN 이는 v1,v2,...,vN의 벡터들을 선형결합하여 벡터 u를 표현했다고 말할 수 있다. 예시를 통해 살펴보자. (5, -3, -4)라는 벡터 u가 있을 때, 이는 (1,1,0) 벡터 v1, (3,0,1) 벡터 v2, (0,1,3) 벡터 v3의 선형결합으로 표현될 수 있는가? 이를 풀기 위해 이때까지 배워왔던 AX=B system을 푸는 방식을 적용하게 된다. kA는 A의 element에 k를 곱한 것이므로 a(1,1..

우선 연립방정식을 system이라고 표현함을 기억하자. 그렇다면 homogeneous system이란 무엇일까? AX=B 에서 B=0인 특이한 구조를 뜻한다. 즉 AX=0 수학에서 어떠한 구조를 따로 정의한다는 것은 중요하다는 말이다.(괜히 따로 정리하고 그러는게 아님) homogeneous system은 우선 consistent하다(해가 존재한다.) - 왜냐하면 일단 X=0, 즉 x1=0, x2=0, ... , xN=0 이라면 식이 성립하므로 이미 1개는 존재. (해가 1개일지 여러개일지는 모름) - X=0 인 solution(해) 를 trivial solution 이라고 하는데 한국어로는 진부한, 당연한 해 라는 뜻이다. 기존에 AX=B 의 solution을 구하는 방법은 UX=C로 치환하는 것이다...

이전 글에서는 matrix 개념, matrix를 Systems of linear algebraic equations에서 사용하는 이유를 알아보았다. 이제 AX=B 가 무엇을 의미하는지 안다고 생각한다. 결국 우리는 해를 구하기 위해 방정식을 세우는 것인데, 그렇다면 해는 어떻게 구하나? 그때 solution이 가우스 소거법(Gaussian elimination)이다. 가우스 소거법: AX=B 를 UX=C로 치환한다. 이때 U는 Upper triangle matrix의 약자이다. - 법칙 1: Ri 와 Rj는 서로 interchange 가능 (R은 Row를 의미. 아래첨자는 i-th, j-th를 의미.) - 법칙 2: Ri = a*Ri + b*Rj (단 a != 0) 쉽게 말하면 연립방정식 풀때 한 수식을..

선형대수 방정식 : a1x1 + a2x2 + ... + aNxN = bN 기본 상식 : N개의 미지수(x)가 존재할 경우, 해당 방정식을 풀기 위해서는 N개의 방정식이 존재해야한다. a11x11 + a12x12 + ... + a1Nx1N = b1N a21x21 + a22x22 + ... + a2Nx2N = b2N ... aN1xN1 + aN2xN2 + ... + aNNxNN = bNN 이렇게 N개의 방정식을 일일이 다 쓰려면.. 너무 힘들다 matrix를 사용하여 표기하면 매우 편리해지는데, 이 때문에 행렬을 배우고 행렬을 사용하는 것이다. Let A,X,B matrix : 행렬을 이용하면 N개의 방정식을 일일이 작성할 필요 없이 AX=B라고 표시할 수 있게 된다! (행렬을 사용하는 이유) 또한 방정식에..

AI를 공부하다보면 논문을 읽을 일이 매우 많다. 한국에서만 공부할게 아니라면 세계 공용언어인 영어로 된 표현을 익혀야만 한다. Linear Algebra 는 한국어로 선형대수학 Systems of linear algebraic equations 는 한국어로 연립방정식이다. ++ 선형대수학의 기초개념 matrix. 우선 notation과 간단한 표현만 숙지하고 지나가자. (공학계열 기준 remind용) Notation. 1. 행렬은 대문자로 표기한다 -> Let A matrix 2. 원소는 소문자로 표기하고 행,렬 순서로 아래첨자를 표기한다. -> aij(i 는 행, j는 열) 3. 행은 row, 열은 column으로 표현. Let A, B matrix. A=B, A+B, A-B, kA(k는 상수) : ..

둘 다 class classification 할 때 사용하는 거지만 간단하게 말하자면 binary(이중) 분류 -> sigmoid function 사용 multi(다중) 분류 -> softmax function 사용 일단 이렇게만 알아두어도 충분하다. 각각 function이 어떻게 작동하는지 알아보려면 더 deep하게 들어가야한다. 반드시 이렇게만 사용해야하는 것은 아니고, 여러 확장된 함수들이 존재하므로 기존 배경지식으로 이정도만 기억하는 것이 좋을 것 같다.