메모리 모델 입문 - Sequential Consistency와 Total Store Order 이해하기

이 글은 CPython 스터닝에서 발표된 내용을 바탕으로 메모리 모델의 기초를 설명합니다. 특히 Sequential Consistency(SC)와 Total Store Order(TSO)라는 두 가지 메모리 모델을 다룹니다.

SC는 명령이 작성된 순서대로 실행되는 프로그래머의 직관에 부합하는 모델이며, TSO는 x86, ARM, RISC-V 등에서 사용되는 모델입니다. 글쓴이는 PEP 703과 관련하여 CPython의 참조 카운트 구현을 읽다가 메모리 모델 관련 키워드를 접하게 되었고, 이를 계기로 스터디를 시작하게 되었다고 밝힙니다.

PEP 703이 멀티 스레드 환경에서 PyTorch의 DataLoader 성능 향상에 기여할 가능성을 언급하며, 딥러닝 업무와의 연관성도 시사합니다. SC와 TSO를 형식화하여 이해하는 과정을 통해 독자 스스로 메모리 모델에 대해 생각해 볼 기회를 제공하고자 합니다.