AI 용어
Memory-Centric Computing
Memory-Centric Computing 뜻
데이터 이동 비용과 메모리 위치를 중심에 두고 메모리 배치와 연산 구조를 함께 설계하는 컴퓨팅 방식입니다.
다른 언어 표기와 설명
- 日本語メモリー中心コンピューティング
- データの配置と移動コストを基準に、メモリーと演算装置を設計する計算方式です。
- EnglishMemory-Centric Computing
- A computing design approach that places data location and memory access costs at the center of system planning.
관련 용어
- 지속성 메모리세션이 종료되거나 시간이 지나도 데이터가 사라지지 않고 정보를 장기적으로 저장하여 재사용할 수 있게 하는 메모리 시스템이다.
- SLC Caching낸드플래시의 일부 영역을 SLC(셀당 1비트 저장)처럼 사용하여 데이터 쓰기 속도를 일시적으로 향상시키는 기술
- 영속 메모리시간이 지나도 보존되어야 하는 지식과 산출물을 저장하는 메모리 계층
- 맥락 압축방대한 정보 중에서 AI 모델이 당면한 작업을 수행하는 데 꼭 필요한 핵심 데이터만을 추려내어 효율성을 높이는 기법.
- 희소 어텐션모든 정보가 아닌 중요한 데이터에만 집중하여 연산 효율성을 높이고 계산 비용을 줄이는 메커니즘
- 토큰 캐싱대규모 언어 모델에서 최근 처리된 입력 데이터의 연산 결과를 저장해 두었다가 재사용함으로써 처리 속도를 높이고 비용을 절감하는 기술이다.
- RAG 아키텍처언어 모델이 답변을 만들기 전에 외부 지식 저장소에서 관련 정보를 검색해 활용하는 설계 방식
- 추론 노력모델이 문제 해결을 위해 내부적으로 연산 자원과 시간을 투입하는 정도를 조절하는 기능