메모리

2026.04.19 - [CS공부/컴퓨터 구조] - 컴퓨터가 이해하는 정보와 핵심 부품

메인 메모리: CPU가 실행할 대상을 저장하는 부품으로 휘발성 저장장치이다. 메인 메모리 역할을 하는 하드웨어에는 RAM과 ROM이 있다.

보조기억장치: 보관할 대상을 저장하는 부품으로 비휘발성 저장장치이다.

• CPU는 보조기억장치에 저장된 프로그램을 바로 가져와 실행할 수 없다. 보조기억장치에서 메인 메모리로 복사해와야 실행 가능하다.
• RAM의 용량이 작으면 보조기억장치로부터 실행할 프로그램을 가지고 오는 횟수가 잦아져 실행 시간이 길어지지만, RAM의 용량이 충분히 크면 보조기억장치에서 많은 데이터를 가져와 미리 RAM에 저장할 수 있기 때문에 많은 프로그램을 동시에 실행하는 데 유리하다.
  하지만, RAM의 용량이 필요 이상으로 크다고 컴퓨터의 성능이 비례해서 향상되는 건 아니다.

RAM(Randon Access Memory, 임의 접근 메모리)

임의 접근(=직접 접근): 저장된 요소에 순차적으로 접근할 필요 없이 임의의 위치에 곧장 접근 가능한 방식

- 예를 들어 100번지에 있는 데이터에 접근하고자 할 때, 1번지, 2번지, ..., 100번지 순으로 접근할 필요 없이 곧장 100번지로 접근 가능하다.

- 즉, 데이터가 메모리 상 어디에 위치하든 데이터 접근 시간이 동일하다.

순차 접근: 특정 위치에 저장된 요소에 접근하기 위해 처음부터 순차적으로 접근하는 방식으로, 어떤 위치에 접근하느냐에 따라 데이터 접근 시간이 다르다.

RAM 종류

1. DRAM(Dynamic RAM)

시간이 지나면 저장된 데이터가 동적으로 변하는(사라지는) 특성을 가진 RAM이다.

• 데이터의 소멸을 막기 위해 일정 주기로 데이터를 재활성화(다시 저장)해야 한다.
• 소비 전력이 낮고, 저렴하며, 집적도가 높아 메모리를 대용량으로 설계하기 용이하다.

2. SRAM(Static RAM)

시간이 지나도 저장된 데이터가 변하지 않는(사라지지 않는) 특성을 가진 RAM이다.

• 저장된 데이터가 사라지지 않는다고 비휘발성 저장장치라는 건 아니다. SRAM도 전원이 공급되지 않으면 저장된 내용이 소실된다.
• 속도는 DRAM보다 빠르지만, 소비 전력이 크고, 비싸고, 집적도도 낮다. 대용량으로 만들 필요는 없지만 속도가 빨라야 하는 저장장치(ex: 캐시 메모리)에서 사용된다.

❓ '집적도가 높다'의 의미
집적도가 높다는 것은 더 작고 빽빽하게 만들 수 있다는 의미이다.
1비트 저장 공간을 만드는데 DRAM은 트랜지스터가 1개가 필요하지만, SRAM은 트랜지스터가 4개 필요하다.
- 트랜지스터: 데이터를 읽고 쓰기 위해 특정 커패시터에 연결하는 것을 담당해 Access Transistor라고 한다.
- 커패시터: 전하가 저장되어 있는지, 저장되어 있지 않은지에 따라 데이터 0과 1을 저장하는 메모리 소자

 

3. SDRAM(Synchronous Dynamic RAM)

클럭 신호와 동기화된, 보다 발전된 형태의 DRAM이다.

• 클럭  타이밍에 맞춰 CPU와 정보를 주고받을 수 있는 DRAM이다.

4. DDR SDRAM(Double Data Rate SDRAM)

대역폭을 넓혀 속도를 빠르게 만든 SDRAM으로, SDRAM이 한 클럭당 한 번씩 CPU와 데이터를 주고 받을 수 있다면, DDR SDRAM은 두 배의 대역폭으로 한 클럭당 두 번씩 CPU와 데이터를 주고 받을 수 있다.

즉, DDR SDRAM은 SDRAM보다 전송 속도가 두 배 가량 빠르다.

- 한 클럭당 하나씩 데이터를 주고받을 수 있는 SDRAM은 SDR SDRAM(Single Data Rate SDRAM)부르기도 한다.

대역폭(data rate): 데이터를 주고받을 길의 너비

 

DDR2 SDRAM은 DDR SDRAM보다 대역폭이 두 배 넓은 SDRAM을 의미하고, DDR3 SDRAM은 대역폭이 DDR2 SDRAM보다 두 배 넓고, SDR SDRAM보다 여덟 배 넓은 SDRAM이다.

최근에 흔히 볼 수 있는 메모리는 DDR4 SDRAM이다.

---

메모리에 바이트를 밀어 넣는 순서 - 빅 엔디안과 리틀 엔디안

현대의 메모리는 데이터를 바이트 단위로 저장하고 관리한다. 하지만 메모리는 CPU로부터 데이터를 바이트 단위가 아닌 4바이트(32비트), 8바이트(64비트)인 워드 단위로 받아들인다.

여러 바이트로 구성된 데이터를 여러 주소에 걸쳐 저장한다. 즉, 한 주소에 1바이트씩 저장하는 메모리는 4바이트의 데이터를 4개의 주소에 저장하고, 8바이트의 데이터를 8개의 주소에 저장한다.

ex) 16진수 1A2B3C4D는 1A, 2B, 3C, 4D로 난워 4개의 주소에 저장된다. (16진수 하나를 저장하는 데 4비트가 필요하다. 16진수 2개를 저장하는 데 8비트인 1바이트가 필요하다.)

 

메모리에 바이트를 저장하는 방식은 연속해서 저장해야 하는 바이트를 어떤 순서로 저장하는지에 따라 빅 엔디안과 리틀 엔디안으로 나눈다.

MSB(Most Significant Bit): 숫자의 크기에 가장 큰 영향을 미치는 유효 숫자인 가장 왼쪽에 있는 비트
LSB(Least Significant Bit): 숫자의 크기에 가장 적은 영향을 미치는 유효 숫자인 가장 오른쪽에 있는 비트
ex) 10진수 123에서 MSB는 1이고, LSB는 3이다.

 

빅 엔디안(big endian)

낮은 번지의 주소에 상위 바이트부터 저장하는 방식이다.

ex) 16진수 1A2B3C4D에서 가장 큰 수, 즉 최상위 바이트는 1A이다. 낮은 번지에 최상위 바이트 먼저 저장한다.

• 일상적으로 숫자 체계를 읽고 쓰는 순서와 동일하기 때문에 메모리 값을 직접 읽거나, 디버깅할 때 편하다.

빅 엔디안 저장 방식

리틀 엔디안(little endian)

낮은 번지의 주소에 하위 바이트부터 저장하는 방식이다.

ex) 16진수 1A2B3C4D에서 가장 작은 수, 즉 최하위 바이트는 4D이다. 낮은 번지에 최하위 바이트 먼저 저장한다.

• 메모리 값을 직접 읽고 쓰기는 불편하지만, 수치 계산하기 편리하다.
  ex) 123+456 덧셈을 할 때, 가장 작은 값인 일의 자릿수 3과 6부터 계산해 나가듯 가장 작은 값부터 저장되어 있는 데이터의 시작점에서 수치 계산해 나가거나 자리올림할 수 있다.

리틀 엔디안 저장 방식

---

캐시 메모리

CPU는 프로그램 실행 과정에서 자주 메모리에 접근해야 한다. 하지만 CPU가 메모리에 접근하는 속도는 CPU가 레지스터에 접근하는 속도보다 느리기 때문에 CPU의 연산 속도가 아무리 빨라도 메모리에 접근하는 속도가 느리면 CPU의 빠른 연산 속도는 아무런 효용이 없다.

이를 보완하기 위해 나온 것이 '캐시 메모리'이다.

 

캐시 메모리(cache memory)는 CPU의 연산 속도와 메모리 접근 속도의 차이를 줄이기 위해 탄생한 저장장치로, CPU와 메모리 사이에 위치한 SRAM 기반의 저장장치이다.

 

- 메모리에서 CPU가 사용할 일부 데이터를 미리 캐시 메모리로 가져와 활용한다.

- 코어와 가장 가까운 캐시 메모리를 L1 캐시, 그 다음으로 가까운 캐시 메모리를 L2 캐시, 그 다음으로 가까운 캐시 메모리를 L3 캐시라고 한다.

- 일반적으로 L1 캐시와 L2 캐시는 코어 내부에, L3 캐시는 코어 외부에 위치해 있다. 캐시 메모리의 크기: L1 < L2 < L3, 속도: L3 < L2 < L1

- CPU가 메모리 내에 데이터가 필요하다고 판단하면 우선 L1 캐시 메모리에 해당 데이터가 있는지 알아보고, 없다면 L2, L3 캐시 메모리 순으로 데이터를 검색한다.

- 멀티 코어 프로세서의 경우, 일반적으로 L1 캐시 메모리와 L2 캐시 메모리는 코어마다 고유한 캐시 메모리로 할당하고, L3 캐시는 여러 코어가 공유하는 형태로 구현된다.

멀티 코어 프로세서

 

- L1 캐시 메모리는 명령어만 저장하는 L1I 캐시와 데이터만 저장하는 L1D 캐시로 구분되기도 한다. 이러한 유형을 분리형 캐시라고 한다.

분리형 캐시

캐시 히트와 캐시 미스

캐시 메모리는 메인 메모리보다 용량이 작기 때문에 메모리에 있는 모든 내용을 캐시 메모리에 가져와 저장할 수 없다. 메모리가 보조기억장치의 일부를 복사해 저장하는 것처럼 캐시 메모리도 메모리의 일부를 복사해 저장한다.

캐시 메모리는 CPU가 사용할 법한 것을 저장한다.

캐시 히트: 캐시 메모리가 예측해 저장한 데이터가 CPU에 의해 실제로 사용되는 경우

캐시 미스: 자주 사용될 것으로 예측해 캐시 메모리에 저장했지만 틀린 예측으로 인해 CPU가 메모리로부터 필요한 데이터를 직접 가져와야 하는 경우

캐시 적중률: 캐시가 히트되는 비율

$$캐시 적중률 =  \frac{캐시 히트 횟수}{(캐시 히트 횟수 + 캐시 미스 횟수)}$$

참조 지역성의 원리

캐시 메모리는 참조 지역성의 원리라는 특정한 원칙에 따라 메모리로부터 가져올 데이터를 결정한다.

참조 지역성의 원리: CPU가 메모리에 접근할 때 보이는 다음과 같은 주된 경향을 의미한다.

• 시간 지역성: CPU는 최근에 접근했던 메모리 공간에 다시 접근하려는 경향이 있다.
• 공간 지역성: CPU는 접근한 메모리 공간의 근처에 접근하려는 경향이 있다.

시간 지역성

최근에 접근했던 메모리 공간에 다시 접근하려는 경향

ex) 프로그래밍 언어의 변수이다. 변수에 저장된 값은 한 번만 사용되지 않고, 프로그램이 실행되는 동안 여러 번 사용된다.

즉, CPU는 최근에 접근했던 (변수가 저장된)메모리 공간에 여러 번 다시 접근할 수 있다.

 

공간 지역성

접근한 메모리 공간의 근처에 접근하려는 경향

ex) 배열

const matrix = Array.from({ length: 20000 }, () => Array.from({ length: 20000 }, () => 0));

// 한 열의 모든 행을 순회하고, 그 다음 열의 모든 열을 순회하는 방식으로 2차원 배열 접근
for (let i = 0; i < 20000; i++) {
    for (let j = 0; j < 20000; j++) {
        matrix[i][j] = 1;
    }
}

// 한 행의 모든 열을 순회하고, 그 다음 행의 모든 열을 순회하는 방식으로 2차원 배열 접근
for (let i = 0; i < 20000; i++) {
    for (let j = 0; j < 20000; j++) {
        matrix[j][i] = 1;
    }
}

 

첫 번째 이중 반복문과 두 번째 이중 반복문의 메모리 접근은 공간 지역성 측면에서 차이가 존재해 실제 실행 속도가 크게 차이난다.

캐시 메모리의 쓰기 정책과 일관성

CPU가 캐시 메모리에 데이터를 쓸 때는 캐시 메모리에 새롭게 쓰여진 데이터와 메모리 상의 데이터가 일관성을 유지해야 한다.

 

ex) 현재 메모리 1000번지에 200이라는 값이 저장되어 있고, 이 값이 캐시 메모리에도 저장되어 있을 때, CPU가 이 값을 200에서 300으로 바꾸고 싶은 경우

CPU가 메모리 1000번지로 가서 300을 바꾸는 방식은 옳지 않다. 그 이유는 캐시 메모리가 1000번지 값을 참조하고 있기 때문에 데이터 불일치 문제가 발생할 수 있다.

- 명령어 1: 1000번지 값을 300으로 바꾸기 → 메모리 1000번지 값: 300, 캐시 메모리 내의 값: 200

- 명령어 2: 1000번지 값 출력 → 캐시 메모리 읽어 들일 경우 여전히 200 출력

 

위와 같은 문제를 방지하기 위해 캐시 메모리 쓰기 정책 2가지가 존재한다.

1. 즉시 쓰기(write-through)
   캐시 메모리와 메모리에 동시에 쓰는 방법
   장점: 메모리를 항상 최신 상태로 유지하여 캐시 메모리와 메모리 간의 일관성이 깨지는 상황 방지
   단점: 데이터를 쓸 때마다 메모리를 참조해야 하므로 버스의 사용 시간과 쓰기 시간이 늘어남
2. 지연 쓰기(write-back)
   캐시 메모리에만 값을 써 두었다가 추후 수정된 데이터를 한 번에 메모리에 반영하는 방법
   장점: 메모리 접근 횟수를 줄일 수 있어 즉시 쓰기보다 속도가 빠름
   단점: 메모리와 캐시 메모리 간의 일관성이 깨질 수 있음

캐시 메모리는 메모리와의 불일치 문제 뿐만 아니라, 다른 코어가 사용하는 캐시 메모리와의 불일치도 발생할 수 있다. 즉, 캐싱을 한다는 것은 데이터 접근에 있어 어느 정도 빠른 성능을 보장할 수 있지만, 그와 동시에 데이터의 일관성을 유지하기 위한 책임이 따르는 방식이다.

 

---

참고 사이트

이것이 취업을 위한 컴퓨터 과학이다.