SageMaker Inference prend désormais en charge Multi-Instance GPU pour maximiser l'utilisation du GPU pour les points de terminaison de modèles.
· Synthèse assistée par IA · approuvée par Reinventy Solutions Corp.
Amazon SageMaker Inference prend désormais en charge le partitionnement GPU avec NVIDIA Multi-Instance GPU, divisant un GPU en partitions matériellement isolées pour exécuter différents modèles ou fractions d'accélérateur dimensionnées de manière optimale.

Amazon SageMaker Inference prend désormais en charge le partitionnement GPU avec NVIDIA Multi-Instance GPU, divisant un GPU en partitions matériellement isolées pour plusieurs points de terminaison de modèle.
Read the original source at Archive · 2026-11-07 · AWS Machine Learning Blog ↗
