Diary for Memorizing (5) 썸네일형 리스트형 [2022-07-11] 새롭게 나아가기 위한 준비 보호되어 있는 글입니다. [2022-06-18] 다시 시작의 어려움 보호되어 있는 글입니다. [2022-05-15] NLP 대회(ODQA) 진행에 대한 반성 및 고찰 약 3주간 네이버 부스트캠프에서 ODQA 대회를 진행하였다. 팀원들이 열심히 달려준 덕분에, 내부에서 1등이라는 좋은 성적을 거둘 수 있었다. 겉으로는 굉장히 좋은 결과였지만, 개인적으론 스스로에 대한 부족함을 여실히 들어낸 많은 아쉬움이 남는 대회였다. 솔직하게 얘기하면 여러 가지 사정 및 악재가 겹친 것은 부인할 수 없다. 하지만 그럼에도 불구하고 대회의 전반적인 협업 및 참여에 있어 개인적으로 많이 부족했었던 것 역시 변함이 없다. 따라서, 그러한 부분을 최대한 잘 정리하여 기억하고 다시는 반복하지 않기를 위해 이 글을 작성하기로 마음 먹었다. 1. 모르는 부분에 대한 완전히 해결한 상태에서 프로젝트 진행하기 먼저, 초기에 개인적인 사정으로 열심히 참여하지 못하여, 초중반부터 열심히 달렸다. 그렇다.. [2022-05-04] MRC 대회에 대한 오해 멘토링 시간에, ODQA 논문에 대한 얘기가 나왔다. MRC 논문들 위주로 탐색했었을 때에는 논문들이 잘 나오지 않았다. 그래서 원래 잘나오지 않는 것인가 이했었다. 사실상 ODQA TASK는 본문에서 답을 찾아내는 MRC TASK 뿐만 아니라 가장 유사한 문서를 찾아오는 Document Retrieval 및 Information Retrieval 분야가 함께 결합된 태스크이다. 그래서 MRC 태스크 만으론 논문을 찾기가 어려웠던 것이다. 이번부터라도 좀더 IR, DR 관련 논문을 보면서, 어떻게 유사한 문서들 잘 Retrieval할 지 고민해봐야겠다. [22-05-03] UniVL Eval_epoch 함수 내 Torch 관련 코드 복기 torch 데이터를 transpose torch.transpose( data, dim0, dim1 ) 유사도 matrix에서 유사도가 높은 상위 K개 원소 가져오기 torch.topk( sim_matrix, k) torch matrix 간 곱셈 toch.matmul() torch개체 안에 들어있는 여러개 matrix concat torch.cat( torch개체, axis) torch개체 내 행 또는 열 기준 정규화 torch.nn.functional.normalize( ) 인진이가 작성한 Eval_epoch 함수 오류 찾아내려다, 결국 찾아내질 못했다. 대신에, 코드를 뜯어보면서 나도 모르게 헷갈렸거나 잘몰랐던 Torch 함수 관련 내용을 정리해볼 수 있었다. 매번 볼 때마다 새로운데, 이제는 제대로 .. 이전 1 다음
