Chain-of-Draft(CoD): 더 적게 쓰고 더 빠르게 생각하면서 LLM 추론 성능을 높이는 기법에 대한 연구 (feat. Zoom)

본문은 LLM의 추론 성능을 향상시키는 새로운 프롬프팅 기법인 Chain-of-Draft(CoD)를 소개합니다. 기존의 Chain-of-Thought(CoT) 기법은 단계별 추론 과정으로 정확도를 높이지만, 장황한 출력과 높은 연산 비용을 유발하는 단점이 있습니다.

CoD는 인간의 사고방식처럼 핵심 정보만을 간결하게 담은 초안(draft)을 작성하는 방식으로, CoT보다 효율적으로 추론을 수행합니다. 연구 결과 CoD는 CoT와 동등하거나 더 높은 정확도를 유지하면서도 토큰 사용량과 지연 시간을 크게 줄이는 것으로 나타났습니다.

이는 수학, 상식, 기호 추론 등 다양한 벤치마크에서 검증되었습니다. CoD는 LLM의 효율성과 속도를 개선하는 실용적인 기법으로 주목받고 있습니다.