1GB 넘는 메모리 할당이 실패하는 경우를 만나다니…

이미지 리샘플링 정도로는 1GB가 넘는 대용량을 할당받는 경우는 만나지 않을 줄 알았다.

그런 경우는 보기 드문 특이한 경우라고 생각했다…

 

그런데, \(10,000 \times 10,000\) 이미지를 막상 만나보니 그렇게나 특이한 경우가 아니었다.

 

일단 이미지는 픽셀당 4개의 요소(RGBA)로 구성되어 있다.

즉, \(10,000 \times 10,000 \times 4 = 400,000,000 = 400MB\) 개로 구성되어 있다.

 

그리고, 내가 쓰는 리샘플링 코드는 float 단위에서 SIMD2를 사용해서 처리한다.

따라서, \(400MB \times sizeof(float) = 400MB \times 4 = 1.6G\)를 사용한다.

 

Visual Studio에서 이렇게 큰 메모리를 사용할 때는 큰 주소 처리(LARGEADDRESSAWARE) 옵션을 켜야 한다.

프로젝트 속성에서 링커 - 시스템에서 아래와 같이 설정하면 된다.