목록부스트캠프_AITech_3기 (111)

국문과 유목민

[일일리포트] Day 42 (NLP 개괄, 전처리, BERT)

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) 인공지능과 자연어 처리 (NLP Overview) 해당 내용은 별도의 포스팅으로 정리했습니다. 다음 포스팅 참조 [NLP OVERVIEW (Word2Vec to Transformer)] 자연어 전처리 원시 데이터를 기계 학습 모델이 학습하는데 적합하게 만드는 프로세스를 의미한다. 데이터 자체가 문제가 있다면 좋은 성능을 기대하기 어렵기 때문에 자연어 전처리는 Task의 성능을 가장 확실하게 올릴 수 있는 방법이다. 자연..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 3. 21. 23:01
[NLP과제] 함수 정리 (chain, Pythonic)

부스트캠프_AITech 8주차에 진행되었던 과제를 풀고 Solution을 보면서, Pythonic하게 만들어진 코드를 보고서 기억해두면 좋을 것 같아서 정리하고자 한다. 해당 과제의 문제를 올리지는 않고, 주어진 문제에 대해서 어떻게 코드를 간결하게 짰는지에 대해서만 정리하고자 하며, 추가적으로 새로 알게 된 좋은 함수들을 정리하고자 한다. 기본과제3_Subword_level_Language_Model Subword_level_Language_Model을 만들기 위해서 BPE Vocabulary를 만드는 함수를 구현하는 문제였다. 해당 문제에서 chain함수와 Counter 객체를 활용해 연산에 필요한 변수를 간결하게 정의할 수 있었다. from itertools import chain from coll..
IT 견문록/함수 및 코드 (디지털치매 대비) 2022. 3. 19. 18:47
[9주차] 개인 회고

1) 강의 복습 내용 Day 37 [일일리포트] Day 37 (Transformer1) 해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 cold-soup.tistory.com Day 38 [일일리포트] Day 38 해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 cold-soup.tistory.com Day 39 [일일리포트] Day 39 (Transformer2) 해당 일일리포트에서는 네이버 커넥트에서 진행하는 '..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 3. 18. 22:47
[일일리포트] Day 41

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) 마스터 클래스 정리 (NLP Recent Trends 정리) 금일 진행한 주재걸 교수님의 마스터 클래스 주제가 NLP의 최근 트렌드에 대한 것이었기에 간단히 정리하고자 한다. 강의가 1년 전에 찍은 거였기에, 그 이후 새로 생긴 기술동향에 대해 설명을 해주셨다. 1시간이라는 짧은 시간동안 진행되었기에 깊이 있는 내용은 다루지 못했지만, 최근 관심있는 기술이나 모델들에 대해서 개괄적으로 볼 수 있었다고 생각한다. Ques..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 3. 18. 21:56
[일일리포트] Day 40 (Recent Trend in NLP)

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) Recent Trendes in NLP 기존 Transformer에서 Self-Attention block을 6개만 쌓아다면 이제는 더 많이 쌓고 있다. Self-supervised Learning framework를 통해 깊게 쌓인 Transformer를 TransferLearning으로 학습해 다양한 NLP Task의 성능을 상당히 발전시킬 수 있었다. 해당 모델로는 BERT, GPT-3, XLNet, ALBERT,..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 3. 17. 15:57
[일일리포트] Day 38

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) Git 특강 오늘은 '생활코딩'으로 유명하신 '이고잉'님께서 GIt에 대한 강의를 8시간 동안 진행해주셨다. 내 경우 이전에 생활코딩을 통해서 Git을 혼자 공부해본 적이 있었기 때문에 크게 새로운 내용은 아니었다. 하지만 처음 듣는 입장에서는 굉장히 좋은 강의였겠다는 생각을 했다. 오늘 배운 내용은 이전에 멘토링 시간을 통해 정리한 Git 명령어 정리와 유사한 부분이 많았다. 하지만 해당 강의는 VSCode를 통해서 ..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 3. 15. 22:33
이전 Prev 1 ··· 9 10 11 12 13 14 15 ··· 19 Next 다음