국문과 유목민

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) GIT 특강_2회차 오늘은 이고잉님의 '지옥에서 온 Git' 2회차 시간이었다. 초반부는 아는 내용이었지만 중후반부로 넘어갈 수록 reset이나 rebase cherrypick과 같은 심화적인 내용을 다뤄주셨다. 하지만 제대로 너무 만만하게 봤다가 놓친 부분이 있어서 좀 아쉬웠다. 따라서 다음 주쯤에 녹화본이 올라오면 조금 더 해당 부분에 대해서 강의를 들을 계획이다. 추가적으로 이번 강의에서 들었던 내용들은 내일 중으..

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) 2차 Finetuning Test 어제 진행한 실험에 더해서 추가적인 실험을 진행했다. 크게 두 가지를 진행했는데 하나는 1차 Finetuning을 진행할 때 Epoch을 3으로 늘려서 진행을 한 것이고, 다른 하나는 이전 1차 Finetuning(epoch_1) 모델에 대해서 2차 Finetuning 시 learning_rate를 낮추는 실험이었다. 우선 첫 번째 Epoch을 3으로 늘린 1차 Finetuning의 결..

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) Korquad Fine-tuning 팀원 분들께서 QA단계에서 KorQuAD관련 모델에 대한 정보(ODQA 중 QA에 활용할 모델을 찾고자)를 찾으시다가 다음과 같은 자료[Techtonic 2020] Track 1. AI의 한국어 이해, 어디까지 왔나?(KorQuAD 1.0성능개선 Know-how) 를 발견하셨다고 하셨다. KorQuAD학습을 진행하기 전 유사 한글 데이터를 통해 1차 Fine-tuning을 진행하고, ..

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) Reducing Training Bias 모델을 Training하는 과정에서는 다양한 Bias가 존재할 수 있다. 넓게는 학습할 때 과적합을 막거나 사전 지식을 주입하기 위해 특정 형태의 함수를 선호하는 것이나 어떤 식으로 만들어서 어떤 식으로 동작되면 좋겠다 하는 것도 Bias(Inductive Bias)라고 할 수 있다. 그리고 현실 세계의 편향된 상황이 반영되는 경우로 Historical Bias나 성별과 직업 간..

1) 강의 복습 내용 [일일리포트] Day 67 (MRC Basic) [일일리포트] Day 67 (MRC Basic) 해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 cold-soup.tistory.com [일일리포트] Day 68 (Retrieval Basic) [일일리포트] Day 68 (Retrieval Basic) 해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 cold-soup.tistory.com [일일리..