Reinventy Solutions Corp. · Technology intelligencePrivate control
ReinventyHERALD
Daily technology news digest
← Front pageArtificial Intelligence

SageMaker Inference supporta ora Multi-Instance GPU per massimizzare l'utilizzo della GPU per gli endpoint dei modelli.

· Sintesi assistita da IA · approvata da Reinventy Solutions Corp.

Amazon SageMaker Inference supporta ora il partizionamento GPU con NVIDIA Multi-Instance GPU, suddividendo una GPU in partizioni hardware-isolate per eseguire modelli diversi o frazioni di acceleratore dimensionate correttamente.

SageMaker Inference now supports Multi-Instance GPU to maximize GPU utilization for model endpoints

Amazon SageMaker Inference supporta ora il partizionamento GPU con NVIDIA Multi-Instance GPU, dividendo una GPU in partizioni hardware-isolate per più endpoint di modelli.

Read the original source at AWS Machine Learning Blog ↗