SageMaker Inference supporta ora Multi-Instance GPU per massimizzare l'utilizzo della GPU per gli endpoint dei modelli.
· Sintesi assistita da IA · approvata da Reinventy Solutions Corp.
Amazon SageMaker Inference supporta ora il partizionamento GPU con NVIDIA Multi-Instance GPU, suddividendo una GPU in partizioni hardware-isolate per eseguire modelli diversi o frazioni di acceleratore dimensionate correttamente.

Amazon SageMaker Inference supporta ora il partizionamento GPU con NVIDIA Multi-Instance GPU, dividendo una GPU in partizioni hardware-isolate per più endpoint di modelli.
Read the original source at Archive · 2026-11-07 · AWS Machine Learning Blog ↗
