BufferPool

BufferPool 뜻

메모리 버퍼를 미리 확보해 재사용함으로써 할당 비용과 데이터 복사를 줄이는 관리 기법이다

다른 언어 표기와 설명

日本語BufferPool

メモリ領域を再利用する仕組みで、頻繁な確保と解放の負荷を減らす

EnglishBufferPool

Memory management pattern that reuses preallocated buffers to reduce allocation overhead and improve data transfer efficiency

관련 용어

• 통합 메모리 아키텍처CPU와 GPU 같은 처리 장치가 별도 메모리 대신 하나의 메모리 풀을 공유하는 컴퓨터 설계
• 공유 메모리여러 프로세스가 동시에 접근하여 데이터를 읽거나 쓸 수 있도록 운영체제가 제공하는 메모리 영역을 의미한다.
• 오프로딩 전략연산이나 데이터를 GPU, CPU, 저장장치 등 다른 자원으로 분산하는 실행 방식
• 통합 메모리CPU와 GPU 등 서로 다른 프로세서가 동일한 메모리 공간을 공유하여 데이터 전송 효율을 높이는 메모리 아키텍처
• Zero-copy데이터를 메모리 간에 복사하는 과정을 생략하여 시스템 효율과 로딩 속도를 높이는 데이터 전송 기술이다.
• 니어 메모리프로세서와 메모리 사이의 거리를 좁혀 데이터 전송 시 발생하는 병목 현상과 전력 소모를 줄이는 설계 방식
• 컴퓨트 인 메모리데이터 저장 장치 내에서 직접 연산을 수행해 처리 속도를 높이고 데이터 이동에 따른 전력 소모를 줄이는 컴퓨팅 아키텍처
• ZeRO메모리 효율을 높이기 위해 모델의 상태를 여러 GPU에 분산 저장하여 대규모 모델 학습을 가능하게 하는 최적화 기법이다.
• Nagle 알고리즘작은 TCP 패킷을 묶어 네트워크 전송 효율을 높이는 알고리즘
• 레이어 단위 오프로딩추론이나 학습 중 필요에 따라 모델 레이어를 GPU와 CPU 메모리 사이로 옮겨 GPU 메모리 사용량을 줄이는 기법입니다.
• COMMON blocksFortran에서 여러 서브루틴이 같은 메모리 영역을 공유하도록 만드는 전역 데이터 구조다
• fallocate파일에 필요한 디스크 공간을 미리 할당해 쓰기 작업의 지연과 단편화를 줄이는 시스템 기능