본문 바로가기
반응형

Natural Language Processing10

Stanford CS224U Natural Language Understanding 강의요약 - XCS224U: NLU I Information Retrieval, Part 1: Guiding Ideas I Spring 2023 이전 강의 - XCS224U: NLU I Intro & Evolution of Natural Language Understanding, Part. 1 I Spring 2023 이전 강의 - XCS224U: NLU I Course Overview, Part. 2 I Spring 2023 이전 강의 - XCS224U: NLU I Contextual Word Representations, Part. 1: Guiding ideas I Spring 2023 이전 강의 - XCS224U: NLU I Contextual Word Representations, Part. 2: The Transformer I Spring 2023 이전 강의 - XCS224U: NLU I Contextual Word Representat.. 2023. 9. 4.
Stanford CS224U Natural Language Understanding 강의요약 - XCS224U: NLU I Contextual Word Representations, Part 8, 9,10: Seq2Seq, Distillation, Warp-up I Spring 2023 이전 강의 - XCS224U: NLU I Intro & Evolution of Natural Language Understanding, Part. 1 I Spring 2023 이전 강의 - XCS224U: NLU I Course Overview, Part. 2 I Spring 2023 이전 강의 - XCS224U: NLU I Contextual Word Representations, Part. 1: Guiding ideas I Spring 2023 이전 강의 - XCS224U: NLU I Contextual Word Representations, Part. 2: The Transformer I Spring 2023 이전 강의 - XCS224U: NLU I Contextual Word Representat.. 2023. 9. 3.
Stanford CS224U Natural Language Understanding 강의요약 - XCS224U: NLU I Contextual Word Representations, Part 5, 6, 7: BERT, RoBERTa, ELECTRA I Spring 2023 이전 강의 요약 - XCS224U: NLU I Intro & Evolution of Natural Language Understanding, Part. 1 I Spring 2023 이전 강의 요약 - XCS224U: NLU I Course Overview, Part. 2 I Spring 2023 이전 강의 요약 - XCS224U: NLU I Contextual Word Representations, Part. 1: Guiding ideas I Spring 2023 이전 강의 요약 - XCS224U: NLU I Contextual Word Representations, Part. 2: The Transformer I Spring 2023 이전 강의 요약 - XCS224U: NLU I Contextual W.. 2023. 9. 2.
Stanford CS224U Natural Language Understanding 강의요약 - XCS224U: NLU I Contextual Word Representations, Part 4: GPT I Spring 2023 이전 강의 요약 - XCS224U: NLU I Intro & Evolution of Natural Language Understanding, Part. 1 I Spring 2023 이전 강의 요약 - XCS224U: NLU I Course Overview, Part. 2 I Spring 2023 이전 강의 요약 - XCS224U: NLU I Contextual Word Representations, Part. 1: Guiding ideas I Spring 2023 이전 강의 요약 - XCS224U: NLU I Contextual Word Representations, Part. 2: The Transformer I Spring 2023 이전 강의 요약 - XCS224U: NLU I Contextual W.. 2023. 9. 2.
Stanford CS224U Natural Language Understanding 강의요약 - XCS224U: NLU I Contextual Word Representations, Part 3: Positional Encoding I Spring 2023 이전 강의 요약 - XCS224U: NLU I Intro & Evolution of Natural Language Understanding, Part. 1 I Spring 2023 이전 강의 요약 - XCS224U: NLU I Course Overview, Part. 2 I Spring 2023 이전 강의 요약 - XCS224U: NLU I Contextual Word Representations, Part. 1: Guiding ideas I Spring 2023 이전 강의 요약 - XCS224U: NLU I Contextual Word Representations, Part. 2: The Transformer I Spring 2023 강의영상 : https://www.youtube.com/watch?v.. 2023. 9. 2.
Stanford CS224U Natural Language Understanding 강의요약 - XCS224U: NLU I Contextual Word Representations, Part 2: Transformer I Spring 2023 이전 강의 요약 - XCS224U: NLU I Intro & Evolution of Natural Language Understanding, Part. 1 I Spring 2023 이전 강의 요약 - XCS224U: NLU I Course Overview, Part. 2 I Spring 2023 이전 강의 요약 - XCS224U: NLU I Contextual Word Representations, Part. 1 I Spring 2023 강의영상 : https://www.youtube.com/watch?v=yqV_YfBBtK0&list=PLoROMvodv4rOwvldxftJTmoR3kRcWkJBp&index=5 강의자료 : https://web.stanford.edu/class/cs224u/slides/.. 2023. 9. 1.
Stanford CS224U Natural Language Understanding 강의요약 - XCS224U: NLU I Contextual Word Representations, Part 1: Guiding Ideas I Spring 2023 이전 강의 요약 - XCS224U: NLU I Intro & Evolution of Natural Language Understanding, Pt. 1 I Spring 2023 이전 강의 요약 - XCS224U: NLU I Course Overview, Pt. 2 I Spring 2023 강의영상 : https://www.youtube.com/watch?v=J52Dtu40esQ&list=PLoROMvodv4rOwvldxftJTmoR3kRcWkJBp&index=2 강의영상 https://www.youtube.com/watch?v=FEFeeRONEdw&list=PLoROMvodv4rOwvldxftJTmoR3kRcWkJBp&index=4 강의자료 : https://web.stanford.edu/class/cs.. 2023. 8. 30.
Stanford CS224U Natural Language Understanding 강의요약 - XCS224U: NLU I Course Overview, Part 2-1 I Spring 2023 이전 강의 요약 - XCS224U: NLU I Intro & Evolution of Natural Language Understanding, Pt. 1 I Spring 2023 강의영상 : https://www.youtube.com/watch?v=J52Dtu40esQ&list=PLoROMvodv4rOwvldxftJTmoR3kRcWkJBp&index=2 강의자료 : http://web.stanford.edu/class/cs224u/slides/cs224u-intro-2023-handout.pdf 65페이지부터 강의자료 : https://web.stanford.edu/class/cs224u/slides/cs224u-contextualreps-2023-handout.pdf (다음 강의부터) Better and.. 2023. 8. 29.
Stanford CS224U Natural Language Understanding 강의요약 - XCS224U: NLU I Intro & Evolution of Natural Language Understanding, Pt. 1 I Spring 2023 3일 전, Stanford에서 따끈따끈하게 NLU강의를 풀어주셨다. 본 강의는 CS224N이 아닌 CS224U라는 점을 참고바란다. CS224N은 Natural Language Processing with deep learning이며, CS224N은 Natural Language Understanding이라는 과목이다. 이 CS224U를 듣기 위해서는 선수과목으로 CS224N을 수강해야하는데, 나는 CS224N을 듣진 않았지만, 차근차근 들으면서 정리를 해볼 예정이다. 강의자료: http://web.stanford.edu/class/cs224u/slides/cs224u-intro-2023-handout.pdf 참고자료: https://web.stanford.edu/class/cs224u/backgroun.. 2023. 8. 23.
논문 읽기[Seq2Seq] - Sequence to Sequence Learning with Neural Networks Abstract - DNN은 레이블된 학습 데이터 셋을 쓸 때 성능이 좋음. 하지만 Sequence to sequence를 mapping 하는데 사용 불가능 - 고정된 차원 벡터의 Input LSTM(Encoder), Output을 출력하는 또 다른 LSTM(Decoder)로 구성. - English to French 번역인 WMT'14 데이터 셋 사용, *BELU Score는 34.8 - pharse-based SMT system의 BELU score는 33.3, LSTM에 SMT system을 적용시 BELU Score 36.5 - 입력 문장을 뒤집는 방법을 통해 LSTM의 성능 상승. 입력 문장과 출력 문장의 단기 의존도가 생겨 최적화가 쉬워짐. * BELU Score : 변역의 퀄리티를 평가하는 .. 2022. 8. 13.
반응형