Répartir la charge : comment Salesforce a atteint le Multi-AZ HA avec les composants SageMaker Inference
· By Antonio Sedino, CTRO · Published by Reinventy Solutions Corp.
Learn how Salesforce used Amazon SageMaker AI Inference Component placement (the SchedulingConfig parameter) to distribute model copies across multiple Availability Zones, meeting their Multi-AZ high availability compliance requirements without sacrificing the cost efficiency of multi-model co-hosting.
Apprenez comment Salesforce a utilisé le placement Amazon SageMaker AI Inference Component (le paramètre SchedulingConfig) pour distribuer des copies de modèle sur plusieurs Availability Zones, respectant leurs exigences de conformité Multi-AZ haute disponibilité sans sacrifier l'efficacité coûteuse du multi-model co-hosting.