// Το Karmada v1.19 μπορεί να βάλει ολόκληρο PyTorchJob, master και workers, σε ένα member cluster. Τέσσερα kind clusters με ψεύτικες GPU δείχνουν τις τέσσερις προϋποθέσεις που χρειάζεται και τι γίνεται όταν λείπει η καθεμία: το job τρέχει τρεις φορές, ο scheduler δεν βρίσκει χώρο με 16 ελεύθερες GPU, και ένα job καταλήγει εκεί όπου οι workers του δεν θα ξεκινήσουν ποτέ.
posts tagged #Gpu
// Το KEP-4671 έφερε το gang scheduling σε beta στο Kubernetes 1.37, πίσω από ένα feature gate που είναι κλειστό by default. Ένα Kind cluster τεσσάρων nodes με έξι ψεύτικες DRA GPUs δείχνει το partial-placement deadlock, το ένα field που το λύνει, και τα δύο όρια που δεν τεκμηριώνει κανείς: το field του Job κόβεται σιωπηλά αν λείπει ένα δεύτερο, alpha gate, και το workload-aware preemption δεν μπορεί να ανακτήσει DRA devices.
// Το δεύτερο μέρος της σειράς για το fleet inference με το Modelplane, αφιερωμένο στο layer πάνω από τον scheduler. Το ModelService είναι routing policy και όχι load balancer, το spec.stack Dynamo αλλάζει ολόκληρο τον μηχανισμό του gang scheduling, και τέσσερα τεκμηριωμένα gotchas θα σου φάνε από ένα απόγευμα το καθένα.
// Μια hands-on γνωριμία με το Modelplane, το control plane για AI inference πάνω σε fleet από GPU clusters, χτισμένο σε Crossplane. Δύο regions σε Kind με ψεύτικες DRA GPU, το contract ανάμεσα σε platform team και developers γραμμένο στο λεξιλόγιο του ίδιου του DRA, drain σε επίπεδο fleet, και η παγίδα στο release που σου κοστίζει δύο APIs.