Interconnect란? CPU·메모리·장치가 서로 데이터를 주고받는 고속 연결 구조 쉽게 이해하기
Interconnect는 CPU·Memory·GPU 등 구성 요소를 잇는 고속 연결 구조입니다. Bandwidth·Latency·NUMA·Coherence·PCIe·Communication Bound까지 초보 기준으로 정리합니다.
CPU·Memory·GPU·Storage·NIC가 데이터를 주고받으려면 연결 통로가 필요합니다. 다중 CPU 환경에서는 CPU끼리도 빠른 연결이 필요합니다. 이처럼 구성 요소 사이에서 데이터를 전달하는 연결 구조를 Interconnect(인터커넥트)라고 합니다. 도시의 도로망처럼, 부품이 빨라도 통로가 좁으면 데이터가 늦게 도착할 수 있습니다.
CPU ↔ Memory CPU ↔ CPU CPU ↔ GPU / NIC / SSD
Bus · Point-to-Point · Bandwidth
Bus는 여러 장치가 공용 통로를 공유하는 형태입니다. Point-to-Point는 장치 사이 전용 연결입니다. Core·장치 수가 늘면 공유 Bus만으로는 병목이 되기 쉽습니다. Interconnect에서도 Latency와 Bandwidth가 중요합니다. Latency는 도착까지 시간, Bandwidth는 초당 전달량입니다.
NUMA · Coherence · Contention
NUMA에서 Remote Memory Access는 Interconnect를 거칩니다. Remote 요청이 많으면 Link Traffic이 늘고 포화될 수 있습니다. 여러 Core가 Cache를 맞추는 Coherence Message도 Interconnect를 탑니다. 같은 Cache Line을 번갈아 수정하면 Ping-Pong·False Sharing으로 통신이 폭증할 수 있고, Socket이 다르면 비용이 더 커질 수 있습니다. 결국 Interconnect도 Resource Contention의 대상입니다.
Local: CPU → Local Memory Remote: CPU → Interconnect → Remote Memory Coherence / False Sharing → Interconnect Traffic↑
On-Chip · Mesh · NoC · Queue
Chip 안에서도 Core·L3·Memory Controller·I/O가 연결됩니다. Ring은 고리형, Mesh는 격자형으로 Core가 많을 때 경로를 나눕니다. Chip 내부 Network 형태를 Network-on-Chip(NoC)라고도 합니다. Congestion이 생기면 Buffer·Queue가 늘고 Latency가 오릅니다. 서버의 Queueing 원리가 하드웨어에도 반복됩니다. Chiplet Package도 Die 사이 Interconnect 성능이 확장성을 좌우할 수 있습니다.
PCIe · GPU · Communication Bound
PCIe는 GPU·NVMe·NIC를 잇는 대표 I/O Interconnect입니다. 세대·Lane(x1~x16)에 따라 Bandwidth가 달라집니다. AI에서 CPU↔GPU 복사가 잦으면 PCIe가 병목이 될 수 있어 GPU Memory Locality가 중요합니다. GPU 간 통신이 느리면 Communication Bound가 됩니다. Compute Bound·Memory Bound와 구분합니다. Scale Up은 서버 안 Interconnect, Scale Out은 여러 서버를 Network·Fabric으로 연결합니다. 서비스를 잘게 나누면 통신 비용이 늘 수 있어 마이크로서비스 아키텍처도 같은 원칙과 맞닿습니다.
작은 메시지 다수 → Latency·Overhead 중요 대용량 복사 → Bandwidth 중요 작은 Batch ↔ 큰 Batch = Latency ↔ Throughput Trade-off
언제 보나 · 어떻게 줄이나
일반 홈페이지는 우선순위가 낮습니다. Multi-Socket·NUMA·GPU·HPC·고성능 DB에서 확인합니다. GPU·CPU 사용률이 낮고 Node Traffic·Remote Access·Communication Time 비율이 높으면 의심합니다. 해결은 이동량 감소·Locality·Batch·Partition·Topology·필요 시 하드웨어 업그레이드입니다. 먼저 측정합니다. Compute 9.5초·Communication 0.5초면 Interconnect 개선 효과는 작을 수 있습니다. SEO 전용 개념은 아닙니다. Cache·Memory·GPU·서버 간 이동은 모두 비용입니다. 데이터를 계산하는 곳 가까이에 두고 불필요한 이동을 줄인다는 Locality 원칙이 반복됩니다. 부하 분산만으로 Link 포화가 해결되지 않을 수 있습니다.
자주 묻는 질문
Interconnect란?
CPU·Memory·GPU 등 구성 요소가 데이터를 주고받는 연결 구조입니다.
Bus와 같나?
Bus도 한 형태입니다. 현대에는 Point-to-Point·Ring·Mesh 등 더 넓은 Interconnect를 씁니다.
NUMA와 관계는?
Remote Memory Access가 Interconnect를 거쳐 Local보다 비용이 클 수 있습니다.
PCIe도 Interconnect인가?
네. GPU·NVMe·NIC를 잇는 대표 I/O Interconnect입니다.
작은 웹에서도?
대부분 우선순위가 낮습니다. Multi-Socket·GPU·고성능 계산에서 더 중요합니다.
SEO와 관련있나?
SEO 전용 개념은 아닙니다. 하드웨어·시스템 성능 구조에 관한 개념입니다.
정리
Interconnect = 구성 요소 사이 데이터 고속도로입니다. Latency·Bandwidth·Contention 한계가 있고, Compute가 빨라도 통로가 느리면 Communication Bound가 됩니다. 「CPU가 얼마나 빠른가」뿐 아니라 「데이터와 얼마나 빠르게 연결되는가」도 봅니다. 여러 Core가 같은 값을 Cache에 두고 한쪽만 바꾸면 서로 다른 값을 볼 수 있습니다. 따라서 CPU는 여러 Cache의 같은 데이터가 모순되지 않도록 관리해야 합니다. 이처럼 여러 Core Cache에 있는 같은 데이터가 일관된 상태를 유지하도록 만드는 원리를 Cache Coherence(캐시 일관성)라고 합니다.