목록부스트캠프_AITech_3기 (111)

국문과 유목민

[일일리포트] Day 75 (Git특강2)

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) GIT 특강_2회차 오늘은 이고잉님의 '지옥에서 온 Git' 2회차 시간이었다. 초반부는 아는 내용이었지만 중후반부로 넘어갈 수록 reset이나 rebase cherrypick과 같은 심화적인 내용을 다뤄주셨다. 하지만 제대로 너무 만만하게 봤다가 놓친 부분이 있어서 좀 아쉬웠다. 따라서 다음 주쯤에 녹화본이 올라오면 조금 더 해당 부분에 대해서 강의를 들을 계획이다. 추가적으로 이번 강의에서 들었던 내용들은 내일 중으..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 5. 6. 22:42
[일일리포트] Day 74 (Lelvel2_MRC_5)

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) 2차 Finetuning Test 어제 진행한 실험에 더해서 추가적인 실험을 진행했다. 크게 두 가지를 진행했는데 하나는 1차 Finetuning을 진행할 때 Epoch을 3으로 늘려서 진행을 한 것이고, 다른 하나는 이전 1차 Finetuning(epoch_1) 모델에 대해서 2차 Finetuning 시 learning_rate를 낮추는 실험이었다. 우선 첫 번째 Epoch을 3으로 늘린 1차 Finetuning의 결..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 5. 4. 21:38
[일일리포트] Day 73 (Level2_MRC_4)

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) Korquad Fine-tuning 팀원 분들께서 QA단계에서 KorQuAD관련 모델에 대한 정보(ODQA 중 QA에 활용할 모델을 찾고자)를 찾으시다가 다음과 같은 자료[Techtonic 2020] Track 1. AI의 한국어 이해, 어디까지 왔나?(KorQuAD 1.0성능개선 Know-how) 를 발견하셨다고 하셨다. KorQuAD학습을 진행하기 전 유사 한글 데이터를 통해 1차 Fine-tuning을 진행하고, ..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 5. 3. 22:27
[일일리포트] Day 72 (Bias / Level2_MRC_3)

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) Reducing Training Bias 모델을 Training하는 과정에서는 다양한 Bias가 존재할 수 있다. 넓게는 학습할 때 과적합을 막거나 사전 지식을 주입하기 위해 특정 형태의 함수를 선호하는 것이나 어떤 식으로 만들어서 어떤 식으로 동작되면 좋겠다 하는 것도 Bias(Inductive Bias)라고 할 수 있다. 그리고 현실 세계의 편향된 상황이 반영되는 경우로 Historical Bias나 성별과 직업 간..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 5. 2. 22:57
[일일리포트] Day 71 (Level2_MRC_2)

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) Sweep 구현 하이퍼파라미터 튜닝을 위해 Sweep 구현을 진행했다. 이전 프로젝트에서 한 번 구현을 했었기 때문에 비교적 수월하게 구현을 할 수 있었다. 또한, 이전에 정리했던 포스팅([WandB] Huggingface 라이브러리에서 Sweep 사용하기)에서 추가적으로 알게 된 부분에 대해서 별도로 정리했다. 이번에 하이퍼파라미터 튜닝을 구현하면서 다음 Task에 대해 생각했는데 아직 어떤 파라미터를 튜닝해야하는지에..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 4. 29. 21:29
[일일리포트] Day 70 (Level2_MRC_1)

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) Validataion Tracking Setting 베이스라인 코드에서는 Validation 데이터가 나눠져는 있지만, Train과 동일하게 진행되지 않아서 Validation 확인이 안된다. 따라서 Validation의 loss 등을 확인하기 위해 Train과 Validation이 동시에 진행되도록 해야 했다. 따라서 Train과 Validation이 동시에 진행될 수 있도록 세팅하고자 한다. 그리고 협업 툴(Wand..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 4. 28. 22:07
이전 Prev 1 ··· 3 4 5 6 7 8 9 ··· 19 Next 다음