본문 바로가기
반응형

선형 변환2

[선형대수] A의 역행렬이 존재하지 않을 때, AB와 BA의 역행렬이 존재하지 않음을 보이시오. "If A is singular matrix, AB and BA are also singular." 위 명제 때문에 한참을 고민했다.. 그러나 결국 나온 증명은 좀 허무한 듯 싶다. 물론 확실히 맞는지는 모르겠지만,, 고등학교 때 행렬 진위형 그렇게 많이 풀었었는데, 제대로 증명을 기억해서 풀 지는 않았던 것 같다. 물론 그 때는 선형 대수 개념도 몰랐을 때니깐... 쨋든 본론으로 들어가자면, A가 비가역적, 즉 역행렬이 존재하지 않다는 것은, A의 rank가 n보다 작다는 걸 의미하고, 이는 A의 열벡터 중 선형 종속인 벡터가 존재한다는 것이며 이는 Ax = 0를 만족하는 0벡터가 아닌 벡터 x가 존재한다는 걸 의미한다. 여기서 우선 위 식, Ax = 0의 양 변에 n x n 행렬 B를 곱해보자. (여.. 2020. 5. 3.
positional encoding이란 무엇인가 Transformer model을 살펴보면, positional encoding이 적용된다. 다음 그림은 transformer 모델에 대한 구조도 인데, positional encoding을 찾아볼 수 있다. 출처는 https://www.tensorflow.org/tutorials/text/transformer 이다. transformer 모델에 대해 공부하면서, 가장 이해가 안 갔던 부분이 이 positional encoding이었는데, 한 블로그를 통해 이해에 도움을 얻을 수 있었다. 해당 블로그는 다음 링크를 통해 들어갈 수 있으며, 본 포스팅은 해당 블로그의 글에 대한 약간의 번역과 필자의 이해가 담겨있다. https://kazemnejad.com/blog/transformer_architectu.. 2020. 2. 20.
반응형