Transformer 의문점 정리
Transformer 의문점 정리
Recent Posts
밑바닥 까지 다 파보는 GAN 리뷰
Paper Review GAN Generative Adversarial Nets
1108_data_제작
brief OT 데이터 제작의 중요성 데이터 구축 과정과 설계 기초 자연어처리 데이터
review ODQR
ODQR paper
implement_DPR
hard negative는 batch 밖에서 bm25로 유사도가 높은 문서이지만 정답은 없는 문장이다. query 1개당 하나씩 만들어서 negative sample로써 현재 배치 전체에 동일하게 적용. 그래서 만약 배치 크기가 8이면, 8개의 새로운 negative 들이 각각의 ...