본문 바로가기
반응형

study_life18

[논문 리뷰] 자연어 처리(이해), 이대로 옳은가? - ACL2020 Best theme paper ACL 2020에 올라온 논문에 관한 리뷰입니다. 리뷰할 논문은 ACL 2020에서 Best theme paper로 선정된 논문이다. "ClimbingtowardsNLU: OnMeaning,Form,andUnderstandingintheAgeofData"- Emily M. Bender and Alexander Koller 논문을 리뷰하기로 한 이유ACL 2020 홈페이지를 살펴보면, 제출된 논문, 통과된 논문들에 대한 통계가 나와 있다. 이 통계 정보에 따르면, 대부분의 논문이 Machine Learning for NLP에 관한 내용을 다룬다고 한다. 이 논문은 기계학습과 관련한 특정 모델링에 관한 내용이 아닌, 현재 무수히 진행되고 있는 기계학습과 관련한 연구들 BERT나 GPT 시리즈 같은 여러 대단.. 2020. 8. 11.
[알고리즘] 백준. ATM #11399, 검문 #2981 단계적으로 풀기에서 그리디 알고리즘 파트의 문제인 "ATM"과 수학3 파트 문제인 "검문"을 풀어보았다. ATM 예를 들어 다음과 같이 사람들이 ATM 앞에서 업무를 처리하기 위해 줄을 섰다고 하자. 그리고 밑의 숫자는 각 사람들이 업무를 보는 데 걸리는 시간이다. 각 사람들이 자신의 업무를 마치는 데까지 걸리는 시간은 다음과 같다. 이를 단순화 시켜보면, "기다리는 시간+자신의 업무 시간"만큼의 시간이 걸린다. 문제에서 요구하는 것은 모든 사람이 자신의 업무를 마치는 데 걸리는 시간을 최소화 시키도록 사람들을 줄 세우고 싶은 것이고, 그렇게 줄을 섰을 때 마지막 사람이 자신의 업무를 마칠 때까지 걸린 시간을 구하고자 하는 것이다. 위에서 "기다리는 시간+자신의 업무 시간"을 살펴보면, 결국 우리가 줄일.. 2020. 6. 28.
[선형대수] 대각 행렬 다음 행렬을 대각화 해보자. 대각화를 위해선 eigen value(고유값)을 구해야 한다. $Ax$ = $\lambda x\ 에서 $\lambda$를 구해보자. 우변을 좌변으로 옮긴 후, x로 묶어준다. $(A-\lambda I)x$ = 0 에서 0이 아닌 x(non-trivial solution, x=0인 경우는 항상 성립함)를 구하기 위해선 $(A-\lambda I)x$ 가 역행렬이 존재하지 않아야 한다. 이는 $(A-\lambda I)$의 determinant(행렬식) 값이 0이라는 뜻이다. 이를 이용해서 $\lambda$를 구할 수 있다. $(A-\lambda I)$의 행렬식을 charateristic determinant, characteristic polynomial(특성 행렬식, 특성 방정식.. 2020. 6. 13.
[블로그] 카카오 AdFit(애드핏) 최근 콘텐츠가 부족합니다. 필자는 5/30에 AdFit 승인 신청을 했었다. 그러나... 3번 심사 보류 통보를 받았다. 30일부터 1일 1글쓰기를 실천하고 있었지만, 사유는 매번 '최근 컨텐츠가 부족합니다.' 였다.... 애드핏은 애드센스에 비해 쉽게 통과한다는 글이 많았는데,, 필자에겐 애드핏도 어려웠다.. ㅠ 5/30일날 글 개수가 49개? 정도 였고(물론 비공개 글도 있었다.), 2월에 10개 정도, 3, 3월에 5개, 4월에 1개로 점차 업로드 수가 줄었었다. 그리고 5월도 5개 정도로 띄엄띄엄 올렸었다. 이 상태에서 그냥 전체 글 개수만 믿고 심사를 하니 어찌보면 당연히 보류될 만도 했다. 최근 컨텐츠 부족에 대해 구글링을 해보니깐, 보통 승인된 사람들은 심사 전까지 꾸준하게 글을 올렸고, 나보다 전체 글 수가 적더라도.. 2020. 6. 11.
[선형대수] A의 역행렬이 존재하지 않을 때, AB와 BA의 역행렬이 존재하지 않음을 보이시오. "If A is singular matrix, AB and BA are also singular." 위 명제 때문에 한참을 고민했다.. 그러나 결국 나온 증명은 좀 허무한 듯 싶다. 물론 확실히 맞는지는 모르겠지만,, 고등학교 때 행렬 진위형 그렇게 많이 풀었었는데, 제대로 증명을 기억해서 풀 지는 않았던 것 같다. 물론 그 때는 선형 대수 개념도 몰랐을 때니깐... 쨋든 본론으로 들어가자면, A가 비가역적, 즉 역행렬이 존재하지 않다는 것은, A의 rank가 n보다 작다는 걸 의미하고, 이는 A의 열벡터 중 선형 종속인 벡터가 존재한다는 것이며 이는 Ax = 0를 만족하는 0벡터가 아닌 벡터 x가 존재한다는 걸 의미한다. 여기서 우선 위 식, Ax = 0의 양 변에 n x n 행렬 B를 곱해보자. (여.. 2020. 5. 3.
[선형대수] 열 랭크(column rank)와 행 랭크(row rank) 선형 대수를 공부하던 중에 이 명제가 쉽게 와닿지 않았다. "열 랭크와 행 랭크는 항상 같다." 뭔가 해보면 그런거 같기는 한데, 정확히 왜 그런걸까? 그럴 수밖에 없는 이유가 뭘까? 우선 랭크(rank)에 대해 알아보자. 선형 독립(linearly independent)의 개념과 연관지어서 설명하자면, mxn행렬 A의 열벡터 중 선형 독립인 최대 벡터들의 개수이다. -wikipedia, rank 필자는 선형 독립을 배우기 전에 rank의 개념을 배웠기에 행렬에 소거법을 적용하고 그 결과 남게되는 사다리꼴 행렬(row echelon form)에서 0이 아닌 행의 개수가 곧 A의 rank라고 배웠다. 물론 이 소거법(가우스, 혹은 가우스-조던 소거법)자체가 선형 종속인 행 벡터들을 제거하는 거라 결국은 선.. 2020. 5. 3.
반응형