[컴퓨터 구조] 캐시 메모리

저장 장치 계층 구조

저장 장치 계층 구조는 컴퓨터 시스템 내에서 데이터와 프로그램을 저장하는 다양한 계층으로 구성된 구조입니다. 이 계층 구조는 접근 속도와 용량의 트레이드오프를 고려하여 설계되었습니다.

저장 장치 계층 구조 표

계층	특징	속도	용량
레지스터	CPU 내부 레지스터	매우 빠름	매우 작음
L1 캐시	작은 용량, 빠른 속도	매우 빠름	작음
L2 캐시	L1 캐시 대비 큰 용량	빠름	중간
L3 캐시	여러 코어가 공유하는 용량	중간	큼
주 메모리	주 컴퓨터 메모리	중간	큼
보조 메모리	하드 디스크, SSD 등	느림	큼

캐시 메모리

컴퓨터 시스템의 성능을 향상시키기 위해 사용되는 고속의 작은 용량 메모리입니다. 주로 CPU와 주 메모리 사이에 위치하여 데이터와 명령어를 빠르게 접근할 수 있도록 합니다. 캐시 메모리는 레지스터와 주 메모리 사이의 계층적인 저장 장치로서, 주 메모리보다 빠르게 접근할 수 있어 CPU의 대기 시간을 줄이고 성능을 향상시킵니다.

L1 캐시

L1 캐시는 프로세서 내부에 위치한 작은 용량의 고속 캐시 메모리입니다. 주로 명령어와 데이터를 임시로 저장하여 프로세서의 접근 속도를 향상시킵니다.

L2 캐시

L2 캐시는 L1 캐시보다 큰 용량의 캐시 메모리로, L1 캐시의 부족한 부분을 보완하며 더 넓은 범위의 데이터를 저장합니다.

L3 캐시

L3 캐시는 L1 및 L2 캐시보다 더 큰 용량을 가진 고속 캐시 메모리로, 다수의 코어가 공유하여 사용하는 경우가 많습니다.

참조 지역성 원리

컴퓨터 시스템에서 데이터나 명령어가 한 번 접근되었을 때 근접한 주변 데이터나 명령어에 대해서도 높은 확률로 접근할 것이라는 원리입니다. 이러한 지역성은 프로그램의 실행 흐름이나 데이터 접근 패턴에 기인한 것으로, 캐시 메모리의 효율적인 활용을 가능하게 합니다.

캐시 히트 (Cache Hit)

데이터나 명령어가 캐시 메모리에 이미 저장되어 있는 상태에서 접근되는 경우를 말합니다. 이는 프로세서가 원하는 데이터를 빠르게 가져올 수 있는 경우입니다.

캐시 미스 (Cache Miss)

데이터나 명령어가 캐시 메모리에 없어서 주 메모리나 다른 레벨의 캐시에서 데이터를 가져와야 하는 경우를 말합니다. 캐시 미스가 발생하면 추가적인 지연이 발생할 수 있으며, 데이터 접근 속도가 저하됩니다.

캐시 적중률 (Cache Hit Rate)

캐시 메모리에서 데이터를 효과적으로 찾아내는 비율을 나타냅니다. 캐시 적중률이 높을수록 캐시 메모리의 성능이 향상됩니다.

공간 지역성 (Spatial Locality)

공간 지역성은 특정 데이터에 접근한 뒤 근접한 주변 데이터에 다시 접근할 확률이 높은 특성을 말합니다. 이로 인해 캐시 메모리에서 데이터를 미리 가져오는 것이 효과적입니다.

참조 지역성 원리를 이용하여 데이터를 적절히 캐시 메모리에 저장하면 캐시 히트를 증가시키고 프로세서의 접근 속도를 향상시킬 수 있습니다.