[혼자 공부하는 컴퓨터 구조+운영체제] 06. 메모리와 캐시 메모리

RAM의 특성과 종류

주기억장치의 종류에는 크게 RAM(휘발성)과 ROM(비휘발성) 두 가지가 있고, '메모리'라는 용어는 그 중 RAM을 지칭하는 경우가 많음

CPU는 메모리로부터 명령어와 데이터를 가져와 실행함. RAM은 실행할 대상 저장하고 전원이 꺼지면 사라지는 휘발성 저장 장치임. 따라서 보조기억장치라는 전원이 꺼져도 데이터를 저장할 수 있는 대용량 비휘발성 저장장치가 필요함.

 

RAM의 용량과 컴퓨터 성능

RAM 용량이 작은 경우(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

RAM 용량이 작은 경우, 새로운 프로그램을 실행할 때마다 보조기억장치에서 데이터를 가져와야하므로 성능이 떨어짐

 

RAM 용량이 큰 경우(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

RAM 용량이 극단적으로 큰 경우, 보조기억장치에 있는 데이터 전부를 RAM에 복사해두어서 프로그램 새롭게 실행할 때마다 바로 가져와서 실행 가능함

 

RAM의 종류

DRAM(Dynamic RAM)

저장된 데이터가 동적으로 사라지는 RAM

• 콘덴서(Capacitor)의 전하 충전 상태를 이용해 데이터를 저장해 시간이 지나면 방전됨
• 데이터 소멸을 막기 위해 주기적으로 재활성화 해야함
• 일반적으로 메모리로 사용되는 RAM으로, 상대적으로 소비전력이 낮고 저렴하고 집적도가 높아 대용량으로 설계하기 용이함

SRAM(Static RAM)

저장된 데이터가 정적인(사라지지 않는) RAM

• 플립플롭(Flip-Flop) 회로 이용해 데이터 저장함
• DRAM보다 일반적으로 더 빠름
• 일반적으로 캐시 메모리에 사용되는 RAM으로, 상대적으로 소비전력이 높고 가격이 높고 집적도가 높아 '대용량으로 설계할 필요는 없으나 빨라야 하는 장치'에 사용

	DRAM	SRAM
재충전	필요	필요 X
속도	느림	빠름
가격	저렴함	비쌈
집적도	높음	낮음
소비 전력	적음	높음
사용 용도	주기억장치(RAM)	캐시 메모리

 

SDRAM(Synchronous DRAM)

특별한(발전된 형태의) DRAM으로, 클럭 신호와 동기화된 DRAM

• 클럭 신호 한 번에 하나의 데이터만 주고 받을 수 있음

DDR SDRAM(Double Data Rate SDRAM)

특별한(발전된 형태의) SDRAM

• 최근 가장 대중적으로 사용하는 RAM
• 클록의 상승 엣지(Rising edge)와 하강 엣지(Falling edge) 모두에서 데이터 전송
• 대역폭을 넓혀 속도를 빠르게 만든 SDRAM
• 주고받을 수 있는 데이터가 2배임
• DDR2 SDRAM: 주고받을 수 있는 너비(대역폭)가 DDR SDRAM보다 2배 넓은 RAM → 길이 4개
• DDR3 SDRAM: 주고받을 수 있는 너비(대역폭)가 DDR2 SDRAM보다 2배 넓은 RAM → 길이 8개
• DDR4 SDRAM: 주고받을 수 있는 너비(대역폭)가 DDR3 SDRAM보다 2배 넓은 RAM → 길이 16개

SDR SDRAM과 DDR SDRAM(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

---

메모리의 주소 공간

메모리 주소 체계에는 논리 주소와 물리 주소가 존재함

 

CPU와 실행 중인 프로그램은 메모리 몇 번지에 무엇이 저장되어 있는지 다 알지 못함 → 메모리에 저장된 값들은 시시각각 변함

• 새롭게 실행되는 프로그램은 새롭게 메모리에 적재
• 실행이 끝난 프로그램은 메모리에서 삭제됨
• 같은 프로그램을 실행하더라도 실행할 때마다 적재되는 주소는 달라짐

이러한 점을 극복하기 위해 메모리 주소 체계를 논리 주소와 물리 주소로 나눔

물리 주소와 논리 주소

물리 주소: 메모리 입장에서 바라본 주소로, 말 그대로 정보가 실제로 저장된 하드웨어상의 주소(물리 주소에서 0번지는 하나임)

논리 주소: CPU와 실행 중인 프로그램 입장에서 바라본 주소로, 실행 중인 프로그램 각각에게 부여된 0번지부터 시작하는 주소

논리 주소와 물리 주소(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

물리 주소와 논리 주소 간의 변환

MMU(메모리 관리 장치)라는 하드웨어에 의해 변환됨

- CPU가 이해하고 실행하는 주소는 모두 논리 주소임. 메모리로부터 명령어나 데이터를 가져올 때는 물리 주소임

MMU(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

MMU는 논리 주소와 베이스 레지스터 값(프로그램의 기준주소/시작주소)을 더해 논리 주소를 물리 주소로 변환

베이스 레지스터: 프로그램의 가장 작은 물리 주소(프로그램의 첫 물리 주소)를 저장하는 셈

즉, 논리주소는 실제(물리주소)로 저장된 프로그램이 시작주소로부터 얼마나 떨어져있는지를 나타냄

MMU 과정 예시(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

• 컴파일 타임 주소 바인딩을 사용하는 시스템에서는 프로그램 내부의 논리 주소와 실제 메인 메모리의 물리 주소가 완전히 일치하게 고정됨
• 실행시간 주소 바인딩 방식을 사용하면 프로그램이 실행 도중 메모리 내에서 다른 위치로 이동하더라도 MMU 내부의 레지스터 값만 변경하면 되므로 주소 재배치가 용이함

메모리 보호

논리주소와 물리주소의 메모리 안전X(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

위 그림과 같은 명령어 실행은 안전하지 않음! 

'메모장 1500번지에 숫자 100을 저장하라!' → 논리주소 1500번지에 숫자 100을 저장

MMU(메모장 시작주소: 1000번지)  → 논리주소 1500번지 + 메모장 시작주소 1000번지 = 2500번지에 숫자 100을 저장

물리 주소  → 2500번지는 인터넷 브라우저에 숫자 100을 저장하게 됨! 즉, 다른 프로그램 영역 침범하게 됨

 

이런 문제(다른 프로그램 영역 침범)는 '한계 레지스터(limit register)' 특별한 레지스터를 통해 메모리 보호해야 함

• 프로그램 영역을 침범할 수 있는 명령어의 실행을 막음
• 베이스 레지스터가 실행 중인 프로그램의 가장 작은 물리 주소를 저장한다면, 한계 레지스터는 논리 주소의 최대 크기를 저장
• 베이스 레지스터 값 <= 프로그램의 물리 주소 범위 < 베이스 레지스터 + 한계 레지스터 값

CPU가 접근하려는 논리 주소는 한계 레지스터가 저장한 값보다 커서는 안됨! CPU가 한계 레지스터를 넘어서는 논리 주소에 접근하는 명령어는 막아줌

 

즉, CPU는 메모리에 접근하기 전 접근하고자 하는 논리 주소가 한계 레지스터보다 작은지를 항상 검사함

→ CPU가 접근하려는 논리 주소의 값이 한계 레지스터에 저장된 크기(해당 프로세스의 최대 크기)보다 크면, 하드웨어적인 트랩(Trap)이 발생하여 운영체제가 해당 프로세스를 강제 종료함

 

▶︎ 실행 중인 프로그램의 독립적인 실행 공간 확보 & 하나의 프로그램이 다른 프로그램을 침범하지 못하게 보호

---

캐시 메모리(cache memory)

CPU가 메모리에 접근하는 시간 <<<< CPU 연산 속도

저장 장치 계층 구조

각기 다른 용량과 성능의 저장 장치들을 계층화해 표현한 구조

1. CPU와 가까운 저장 장치는 빠르고, 멀리 있는 저장 장치는 느림
2. 속도가 빠른 저장 장치는 저장 용량이 작고, 가격이 비쌈

저장 장치 계층 구조(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

캐시 메모리

CPU와 메모리 사이에 위치한, 레지스터보다 용량이 크고 메모리보다 빠른 SRAM 기반의 저장 장치

캐시 메모리 위치(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

• CPU의 연산 속도와 메모리 접근 속도의 차이를 조금이나마 줄이기 위해 탄생함
  → CPU가 매번 메모리에 왔다 갔다 하는 건 시간이 오래 걸리므로, 메모리에서 CPU가 사용할 일부 데이터를 미리 캐시 메모리로 가지고 와서 쓰는 것

캐시 메모리 여부(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

 

계층적 캐시 메모리(L1-L2-L3 캐시)

계층적 캐시 메모리(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

 

용량: L1 캐시 < L2 캐시 < L3 캐시

속도: L1 캐시 > L2 캐시 > L3 캐시

일반적으로 L1 캐시와 L2 캐시는 코어 내부에, L3 캐시는 코어 외부에 위치함

 

멀티코어 프로세서의 캐시 메모리

멀티코어 프로세서의 캐시 메모리(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

 

멀티코어 프로세서의 캐시 메모리는 데이터의 일관성이 깨질 수 있기 때문에 동일한 내용을 갖게끔 싱크를 맞춰주어야 함

 

분리형 캐시 메모리

L1 캐시를 더 빠르게 만들기 위해 명령어만 담고 있는 캐시(L1I)와 데이터만 담고 있는 캐시(L1D)로 나눈 캐시 메모리

분리형 캐시 메모리(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

 

계층적 캐시 메모리까지 반영한 저장 장치 계층 구조

계층적 캐시 메모리까지 반영한 저장 장치 계층 구조(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

참조 지역성의 원리

캐시 메모리는 메모리보다 용량이 작기 때문에, 메모리의 모든 내용을 저장할 수 없음!

따라서 CPU가 자주 사용할 법한 내용을 예측해 저장해야함

 

캐시 히트(cache hit): 예측이 들어맞을 경우(CPU가 캐시 메모리에 저장된 값을 활용할 경우)

캐시 히트(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

 

캐시 미스(cache miss): 예측이 틀렸을 경우(CPU가 메모리에 접근해야 하는 경우)

• 갈등 미스(Conflict Miss): 사상 방식의 한계로 인해 서로 다른 데이터가 캐시의 동일한 라인에 할당되려고 하다가 쫓겨나는 현상

캐시 미스(출처: https://www.youtube.com/watch?v=kFWP6sFKyp0&t=15578s)

 

$$캐시 적중률 = \frac{캐시 히트 횟수}{(캐시 히트 횟수 + 캐시 미스 횟수)}$$

캐시 메모리를 잘 활용하기 위해서는 캐시 적중률을 높여야 함!(=CPU가 사용할 법한 데이터를 잘 예측해야 함)

 

참조 지역성의 원리: CPU가 사용할 법한 데이터를 예측하는 방법으로, CPU가 메모리에 접근할 때의 주된 경향을 바탕으로 만들어진 원리

1. CPU는 최근에 접근했던 메모리 공간에 다시 접근하려는 경향이 있다.

최근에 접근했던 메모리 공간에 다시 접근하는 경향

 

2. CPU는 접근한 메모리 공간 근처를 접근하려는 경향이 있다.(=공간 지역성)

접근한 메모리 공간 근처 접근하는 경향

캐시 쓰기 정책

1) 즉시 쓰기(Write-Through) 방식: 캐시에 데이터를 쓸 때 메인 메모리에도 동시에 데이터를 기록하는 방식

• 캐시와 메모리의 데이터 일관성이 항상 유지됨
• 쓰기 속도가 느림

2) 나중 쓰기(Write-Back) 방식: 캐시에만 데이터를 먼저 쓰고, 해당 캐시 블록이 새로운 블록으로 교체(Evict)되어 나갈 때 비로소 변경된 내용을 메인 메모리에 기록하는 방식

• 캐시와 메모리의 데이터 일관성이 항상 유지되지는 않음