LSTM is dead. Long Live Transformers!
Seattle Applied Deep Learning · 4 개의 HN 추천
동영상 Q&A
AI에게 현재 장면을 설명하거나 동영상 전체를 요약해 달라고 할 수 있습니다. 답변에 타임스탬프가 있으면 선택해 해당 장면으로 이동하세요.
질문 예시: 여기서 발표자는 무엇을 설명하고 있나요?
Google 로그인이 필요합니다. 확정 전에 최대 사용 크레딧을 확인할 수 있습니다.
Leo Dirac explains how transformer models have replaced LSTMs in NLP. He gives background from bag of words through RNNs and LSTMs, then a technical deep dive into multi-headed self-attention and positional encoding, with sample code.
HN에서 추천하는 이유: Recommended as a clear explanation of why RNNs fall short and how transformers solve it.
“has gotten tons of compliments and keeps people watching year after year” HN 토론 읽기 ↗