[tbd] 병렬 컴퓨팅 Parallel Computing

CPU와 GPU 간의 성능 차이가 존재하는 이유는 두 가지 칩이 근본적으로 상이한 목적을 염두에 두고 설계되었기 때문이다. CPU는 순서대로 실행되는 일련의 명령어를 처리하도록 설계되었다. 멀티쓰레딩(Multithreading) 기능과 다중 코어의 출현으로 CPU에서도 상당한 수준의 병렬 처리가 가능하나, 엔비디아나 AMD가 비디오 인코딩 같은 특정 애플리케이션들에 대해 갖는 병렬 처리에 비하면 미미한 수준이다.

 

원래 수 천 개의 다각형을 그리고 실감나는 컴퓨터 그래픽을 위해 질감을 매핑하기 위해 사용되던 GPU는 동시에 여러 개의 작업을 처리할 수 있도록 설계된 병렬 프로세서이다. 개개 GPU 프로세서 코어는 CPU 코어보다 더 단순하고 덜 강력하지만 코어 i7 960 상에는 겨우 4개의 코어가 들어있는데 비해 엔비디아의 최신 GPU에는 코어가 수 백 개나 들어있다. 동시에 수 백 개의 작업을 처리할 수 있는 능력으로 인해 GPU는 병렬 처리의 이점을 확보할 수 있게 됐다.

 

GPU Computing

 

프로세스 중 연산집약적인 부분을 GPU로 넘기고 나머지 코드만을 CPU에서 처리. GPU 가속 컴퓨팅

GPU: 병렬 처리용, 소형, thousands of cores

CPU: multiple cores. 직렬처리용

 

 

nVidia CUDA (Compute Unified Device Architecture)

 

CUDA®: parallel computing platform & programming model

GPGPU 기술: CUDA GPU 안의 명렬셋과 대용량 병렬 처리 메모리 접근 가능하게 함. 대량의 데이터에 한 가지 연산을 적용하는 경우가 많아 단순화된 코어를 다량 탑재.

SIMD(Single Instruction Multiple Data) 형태 병렬화 가능한 연산

GPU 전용 함수 (커널) 를 CPU에서 호출하는 식

 

- nVidia GTX graphic card CUDA Core 개수

 

 

OpenMP (Open Multi-Processing)

 

공유 메모리 다중 처리 프로그래밍 API

병렬 프로그래밍 하이브리드 모델

성능/확장성/이식성/표준성

표준 스펙