클라우드 GPU 가이드

기능별

Filter cloud GPU providers by platform features like spot instances, serverless GPU, Kubernetes, NVLink, and billing granularity.

이 그룹 내

API 또는 CLI 인터페이스를 통해 GPU 인스턴스를 프로그래밍 방식으로 프로비저닝, 관리 및 해제할 수 있습니다 — 이는 MLOps 파이프라인, 자동화된...

도커 지원을 통해 사전 설치된 프레임워크, CUDA 버전 및 종속성이 포함된 자체 환경을 가져올 수 있어 개발과 운영 간 재현성을...

Jupyter 노트북은 데이터 과학 및 머신러닝 연구에서 널리 사용되는 대화형 개발 환경을 제공합니다. 클라우드 GPU 인스턴스에 Jupyter가 사전 구성되어 있으면...

쿠버네티스는 대규모 ML 학습 및 추론 작업을 오케스트레이션하는 표준이 되었습니다. GPU 인식 쿠버네티스 클러스터는 자동 스케줄링, 자원 관리 및 Kubeflow,...

단일 노드의 메모리 용량을 초과하는 모델을 학습하려면 빠른 노드 간 네트워킹을 갖춘 다중 노드 GPU 클러스터가 필요합니다. 다중 노드 지원은...

NVLink(최대 900 GB/s) 및 InfiniBand(최대 400 Gb/s)와 같은 고대역폭 GPU 인터커넥트는 효율적인 다중 GPU 및 다중 노드 학습에 필수적입니다. 빠른...

초 단위 과금은 정확히 사용한 컴퓨팅 시간만 비용을 지불하게 하여, 짧은 실험, 반복적인 개발, 몇 분 내에 완료되는 추론 작업에...

영구 스토리지는 데이터셋, 모델 체크포인트 및 학습 결과가 인스턴스 재시작 및 종료 시에도 유지되도록 보장합니다. 영구 스토리지가 없으면 새로운 GPU...

서버리스 GPU는 사용하지 않을 때 추론 엔드포인트를 자동으로 0으로 축소하여 유휴 비용을 제거하고, 요청이 도착하면 GPU 인스턴스를 필요에 따라 즉시...

스팟 또는 선점형 GPU 인스턴스는 수요가 높은 기간 동안 중단될 가능성이 있는 대신 온디맨드 가격 대비 50-90%의 비용 절감을 제공합니다....

SSH 액세스는 GPU 인스턴스에 대한 전체 루트 권한을 제공하여 맞춤 소프트웨어 설치, 문제 디버깅, 파일 관리 및 장기 실행 프로세스...

이그레스 요금 — 클라우드 외부로 데이터를 전송할 때 부과되는 비용 — 은 모델 가중치 내보내기, 추론 결과 제공 또는 공급자...