[NLP] Transformer와 BERT 다시 보기
지금의 NLP를 만든 두 모델, Transformer와 BERT의 구조를 처음부터 다시 짚어봅니다.
Recent posts
[CS] 멀티스레드 vs 멀티프로세싱, 그리고 Context Switching
프로세스와 스레드는 무엇이 다르고, 왜 멀티 프로세스 대신 멀티 스레드를 쓰는지 알아봅니다.
[NLP] 주식 뉴스 요약 메일링 프로그램
다양한 NLP 태스크를 간단하게 구현할 수 있는 Pororo를 사용해, 관심 뉴스 종목의 요약문을 메일로 받는 프로그램을 colab 환경에서 구현합니다
[NLP] Longformer: the long-document Transformer
기존 transformer의 input sequence 길이의 한계를 극복하고자 하는 시도인 longformer를 알아봅니다.
[General ML Train set] batch 1. MLE와 MAP
MLE(Maximum Likelihood Estimation)와 MAP(Maximum a Posteriori)