국문과 유목민

서론 (생략 가능) WandB를 활용하면 실험 기록 등을 기록하는데 간편하고, 특히 팀프로젝트 등을 진행할 때 실험 관리를 하기 매우 수월하다. 또한, 한국어 Document도 지원하기 때문에 처음 사용하는 사람들도 쉽게 사용할 수 있다고 생각한다. 하지만 비교적 최근에 생긴 Tool이다 보니 공식 Document이외에 정보가 매우 한정적이었다. 이번에 내가 겪었던 문제도 Huggingface에서 Sweep을 하고자 하니 정보가 많이 부족해서 생겼다. 우선, 공식 Document의 Sweep을 보면 Sweep에 대한 설명이 자세하게 잘 되어있다. 사용법과 간략한 예시 코드도 꽤 잘 정리되어 있다. 따라서 만약 Huggingface를 사용하지 않는 사용자라면 공식 Document만 봐도 잘 할 수 있을 것..

해당 포스팅은 Hugging Face Transformers에서 제공하는 Huggingface library에서 wandb를 사용하는 간단한 방법에 대해 다루고 있습니다. 아주 기초적인 사용법에 대해서 다루고 있기 때문에 위의 공식 Documents를 확인하시는 것이 가장 좋음을 미리 알려드립니다. 소개 팀프로젝트나 개인 실험을 함에 있어서 wandb를 사용하면, 실험 관리나 공유가 쉽다. 이전에 팀과제를 수행할 때도 wandb를 사용했을 때 만족도가 높아서 이번 팀 과제를 수행할 때도 사용하고자 했다. 하지만 이번 과제의 경우 베이스라인 코드가 HuggingFace Transformer 라이브러리로 구현되어 있어서 어떻게 사용해야 될 지 몰라서 검색을 좀 했다. 문제를 해결하기는 했는데, 검색을 하면서..

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다.▶ Today I Learned (핵심 요약 정리)피어세션 (과제 1정리) 2주차 과제를 풀고 팀원들과 피어세션을 가지면서 이전에 생각해보지 못했던 부분들을 더 찾아보고, 조금 더 이해하게 된 부분이 있었다. 개념을 이해할 때 도움이 됐던 사이트의 링크를 남겨본다.Hook: Hook의 경우 모듈, 텐서 등에 따라서 사용할 수 있는 hook 메소드가 달라지고, foward, backward, pre_forwrad 등 한 번에 많은 개념을 배우다보니 개념이 섞였던 것 같다. ..