All Stories

Transformer (Attention Is All You Need) 구현하기 (1/3)

Transformer (Attention Is All You Need) 구현하기 (1/3)

Transformer는 자연어처리에서 가장 중요한 논문이라고 생각이 됩니다. 이유는 2019년 12월 현재 각종 Benchmark 에서 가장 좋은 성능을 내고 있는 모델들이 Transformer 기반의 Pretrained 모델이기 때문 입니다.

cchyun cchyun
19 Dec 2019
Naver 영화리뷰 감정분석 데이터 전처리 하기

Naver 영화리뷰 감정분석 데이터 전처리 하기

Naver 영화리뷰 감정분석 데이터를 다운로드 하고 Sentencepiece를 활용해 Vocab 만들기에서 생성된 vocab을 활용해 이후 학습하기 좋은 형태로 미리 작업을 해 놓는 과정 입니다.

cchyun cchyun
18 Dec 2019
Sentencepiece를 활용해 Vocab 만들기

Sentencepiece를 활용해 Vocab 만들기

Google SentencePiece를 이용하여 Vocab을 만드는 과정에 대한 설명 입니다.

cchyun cchyun
12 Dec 2019