AI 용어
서비스형 추론
Inference-as-a-service
서비스형 추론 뜻
API를 통해 호스팅된 모델의 예측 기능을 제공하는 서비스 방식
다른 언어 표기와 설명
- 日本語推論サービス
- ホストされた機械学習モデルをAPI経由で実行し、予測結果を返すサービス形態
- EnglishInference-as-a-service
- Cloud service model that provides hosted machine-learning predictions through an API instead of self-managed infrastructure
관련 용어
- 서버리스 추론사용자가 서버를 직접 운영하지 않고 모델 실행 결과를 요청해 받는 배포 방식
- GPUaaS클라우드를 통해 GPU 연산 자원을 서비스 형태로 빌려주는 컴퓨팅 자원 공유 모델
- 초대형 AI 데이터센터대규모 연산과 저장 수요를 처리하도록 설계된 AI용 데이터센터
- 추론 프로필AI 모델 호출 시 데이터의 라우팅 경로와 처리 리전 등 구체적인 추론 설정을 정의한 구성 정보
- 서버리스 컴퓨팅개발자가 서버 인프라를 직접 관리할 필요 없이 클라우드 제공업체가 코드를 실행하고 필요한 자원을 자동으로 할당하는 컴퓨팅 모델이다.
- X-as-a-Service모든 IT 자원과 기능을 클라우드 서비스를 통해 이용 가능한 형태(기능형 서비스)로 표준화하여 제공하는 방식