Reinventy Solutions Corp. · Technology intelligencePrivate control
ReinventyHERALD
Daily technology news digest
← Front pageArtificial Intelligence

SageMaker Inference prend désormais en charge Multi-Instance GPU pour maximiser l'utilisation du GPU pour les points de terminaison de modèles.

· Synthèse assistée par IA · approuvée par Reinventy Solutions Corp.

Amazon SageMaker Inference prend désormais en charge le partitionnement GPU avec NVIDIA Multi-Instance GPU, divisant un GPU en partitions matériellement isolées pour exécuter différents modèles ou fractions d'accélérateur dimensionnées de manière optimale.

SageMaker Inference now supports Multi-Instance GPU to maximize GPU utilization for model endpoints

Amazon SageMaker Inference prend désormais en charge le partitionnement GPU avec NVIDIA Multi-Instance GPU, divisant un GPU en partitions matériellement isolées pour plusieurs points de terminaison de modèle.

Read the original source at AWS Machine Learning Blog ↗