산술 강도

산술 강도 뜻

시스템 내 메모리 접근량 대비 연산 수행량의 비율을 의미하며 하드웨어 성능 최적화의 핵심 지표.

다른 언어 표기와 설명

日本語演算強度

メモリからのデータ読み込み量に対する計算量の比率。ハードウェアが帯域幅制限か計算能力制限のどちらにあるかを決定する指標。

EnglishArithmetic Intensity

The ratio of floating-point operations performed by an algorithm to the number of data bytes accessed from memory, used to determine performance bottlenecks.

관련 용어

• 부동소수점 연산컴퓨터가 실수를 표현하고 계산하는 방식인 부동소수점을 이용한 산술 연산
• FLOPs컴퓨터가 1초 동안 처리할 수 있는 부동소수점 연산 횟수로, AI 모델의 연산 능력과 복잡도를 측정하는 주요 지표
• Peak FLOPS컴퓨팅 시스템이 이론적으로 낼 수 있는 최대 부동소수점 연산 성능임
• 텐서 코어 활용률엔비디아 GPU 내에서 행렬 연산 가속을 담당하는 특수 하드웨어 장치인 텐서 코어가 전체 가용 시간 중 실제 연산에 얼마나 활발히 사용되는지를 나타내는 지표
• Gflop/s초당 10억 회의 부동소수점 연산을 수행할 수 있는 컴퓨터의 연산 처리 속도 단위
• 컴퓨트 인 메모리데이터 저장 장치 내에서 직접 연산을 수행해 처리 속도를 높이고 데이터 이동에 따른 전력 소모를 줄이는 컴퓨팅 아키텍처
• AI 가속기인공지능의 학습 및 추론에 필요한 복잡한 연산을 효율적으로 처리하도록 설계된 특수 하드웨어 장치이다.
• BF16AI 훈련에 표준적으로 쓰이는 16비트 부동소수점 데이터 형식
• FP8데이터를 8비트 부동소수점 형식으로 처리하여 연산 속도를 높이고 메모리 사용량을 줄이는 기술
• JIT프로그램이 실행되는 시점에 실시간으로 기계어로 번역하여 실행 속도를 높이는 컴파일 방식이다.