핑퐁팀 ML 세미나, 그 네번째

핑퐁팀 ML 리서치 사이언티스트들의 시즌 4 세미나 발표 자료를 공유하는 글입니다. 2020년 1월과 2월에 걸쳐 매주 진행된 세미나에서는 "Embedding"과 "Transformer"를 중심으로 한 다양한 논문들이 다루어졌습니다.

특히, "Reformer: The Efficient Transformer" 논문을 소개하며 기존 Transformer 모델의 메모리 및 계산 복잡도 문제를 Locality-Sensitive Hashing (LSH)과 Chunking 기법을 활용하여 효율적으로 개선한 내용을 설명합니다. 이는 기계가 사람의 언어를 이해하는 기술에 대한 팀의 높은 관심을 보여줍니다.