Python에서 Golang으로: 에이닷 에이전트 Workflow Engine 전환기

이 글은 Python으로 구축된 에이닷 에이전트 워크플로우 엔진을 Golang으로 재구현한 경험을 공유합니다. GIL 제약과 동기식 웹 프레임워크의 한계를 극복하고 비동기 구조로 전환하여 처리량과 응답 시간을 크게 개선하는 데 성공했습니다.

Golang 전환 후 TTFB는 평균 48%, TTLB는 평균 26% 단축되었으며, 운영 서버 대수는 85% 감소하고 서버당 CPU 사용률은 45% 감소하는 등 인프라 효율성도 크게 향상되었습니다. LLM 기반 에이전트 워크플로우는 단일 요청 처리 시간이 길고 중간 결과 스트리밍, 에이전트 호출의 직/병렬 연결 등 특성이 있어 Golang의 효율적인 리소스 사용과 비동기 처리 능력이 강점을 보였습니다.

Python의 빠른 프로토타이핑 장점에도 불구하고, 에이전트 워크플로우의 특성을 고려했을 때 Golang 전환은 성능 및 효율성 측면에서 매우 성공적인 선택이었습니다.