목록U_stage (4)

국문과 유목민

[일일리포트] Day 36

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) LSTM Temperature RNN Based Language Model 기본과제를 진행하다가 문장 생성하는 코드에서 Temperature 하이퍼파라미터 값에 대해서 어떤 의미가 있는 지에 대해서 물어보셨다. 해당 파라미터의 의미를 자세히 몰랐기에 검색을 해서 알게 된 내용을 정리하고, 멘토님의 해답에 대한 내용도 같이 정리해서 올리고자 한다. Temperature는 문장 생성 시 다양성을 조정하는데 사용되는 하이퍼파..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 3. 11. 18:51
[일일리포트] Day 35 (Seq2Seq, BEAM)

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) Sequence-to-Sequence 단어의 Sequence를 입력으로 받아 다른 Sequence를 출력하는 모델을 Sequence to Sequence (Seq2Seq)모델이라고 한다. Encoder와 decoder구조로 이루어져 있다. 와 라는 토큰을 활용해서 Sequence를 파악한다. Machine Trasnlation에서 사용되는 방법으로, RNN Type 중 many to many에 해당된다. Sequence..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 3. 10. 13:13
[일일리포트] Day 34 (RNN, LSTM)

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) RNN Sequence data가 주어질 때, 매 time step마다 입력을 받아 현재 time step바로 전까지의 계산결과를 이용해 현재의 time step을 계산한다. RNN은 공통된 모듈 A를 계속 재귀적으로 호출하기 때문에 Recurrent Neural Network라는 이름이 붙게 되었다. 우리가 많이 본 아래 그림은 RNN의 Unrolled된 버전이다. $$h_t = f_W(h_{t-1}, x_t)$$ -..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 3. 8. 23:59
[일일리포트] Day 33 (NLP Basic)

해당 일일리포트에서는 네이버 커넥트에서 진행하는 '부스트캠프 AI Tech 3기'에서 배운 내용을 다루고 있습니다. 저작권 이슈 때문에 관련 자료를 올릴 수는 없기에 핵심 이론과 코드를 요약해서 올리고 있기에 내용이 부족할 수 있습니다. ▶ Today I Learned (핵심 요약 정리) NLP Task - Low-level parsing: Tokenization Stemming(어근 추출) - Word and phrase level: Named entity recognition(NER): 고유명사 인식 task Part-of-speech(POS) tagging: 품사 알아내는 task Noun-phrase chunking, dependency parsing, coreference resolution -..
IT 견문록/2022_부스트캠프 AITech 3기(100일) 2022. 3. 7. 23:59
Prev 1 Next