CUDA 메모리 구조(1)

오랜만에 쓰네요. 여기는 CUDA관련해서 들어오시는 분들이 제일 많군요..;;
잠깐 검색해봤는데 해가 지났는데 아직 CUDA관련한 한글자료는 잘 없는 편이군요.
국내에 어느정도 보급은 된거 같은데 정보공유는 어떻게들 하시는지 모르겠습니다.
nvidia싸이트 가봐도 그다지 활성화되어 있는거 같지는 않구요.

이번 글은 CUDA 메모리 구조 관련한 정리 입니다.
2.0은 안봐서 모르겠는데 이전버전에서의 CUDA는 메모리 구조를 숙지하고 있었어야 했기 때문에 그냥 그럴거라 생각하고 메모리구조에 대한 정리부터 이어갑니다.

우리가 CUDA를 쓰려고하는 이유는 GPU를 사용하여 연산속도의 향상을 얻기 위함입니다.
GPU가 CPU연산보다 빠른 이유가 CPU보다 많은 ALU를 보유하고 있기 때문입니다.
 위 그림에서 보시면 GPU가 CPU보다 월등히 많은 ALU를 가지고 있다는 것을 알 수 있습니다.
저 ALU를 어떻게 잘 사용하느냐가 속도향상의 관건입니다.
CPU에서는 특정 ALU를 이용하는걸 프로그래머가 지정해주지 않지만 CUDA에서는 저 ALU하나하나를 모두 프로그래머가 제어해 주어야 합니다. 여기에 CUDA프로그래밍의 어려움이 있는 것입니다.
저 ALU구성은 큰 구조는 같지만, 하드웨어에 따라서 전체 ALU의 개수나 ALU에서 사용하는 GPU의 내장메모리 용량이 틀려지기 때문에 그러한 사항들을 감안해서 프로그래밍을 해주어야 속도향상이라는 결과를 얻을 수 있습니다.
그렇기 때문에 GPU 메모리 구조에 대한 이해가 수반되어야 하는 겁니다.