// Το Karmada v1.19 μπορεί να βάλει ολόκληρο PyTorchJob, master και workers, σε ένα member cluster. Τέσσερα kind clusters με ψεύτικες GPU δείχνουν τις τέσσερις προϋποθέσεις που χρειάζεται και τι γίνεται όταν λείπει η καθεμία: το job τρέχει τρεις φορές, ο scheduler δεν βρίσκει χώρο με 16 ελεύθερες GPU, και ένα job καταλήγει εκεί όπου οι workers του δεν θα ξεκινήσουν ποτέ.
posts tagged #Platform-Engineering
// Το Kubernetes αποσύρει το SPDY streaming transport πίσω από τα kubectl exec, attach, cp και port-forward και περνάει σε WebSockets. Εδώ θα βρεις ένα audit που μπορείς να τρέξεις στα clusters σου αυτή την εβδομάδα, για να εντοπίσεις το hop που θα σπάσει πριν το εντοπίσει το upgrade για λογαριασμό σου.
// Τι αλλάζει στην πράξη στο πώς κάνεις build, rollout και rollback ένα Kubernetes node όταν το λειτουργικό του έρχεται ως OCI image αντί για ένα σύνολο πακέτων, με το bootc και ένα μικρό πρακτικό παράδειγμα που λέγεται Corium.
// Το KEP-4671 έφερε το gang scheduling σε beta στο Kubernetes 1.37, πίσω από ένα feature gate που είναι κλειστό by default. Ένα Kind cluster τεσσάρων nodes με έξι ψεύτικες DRA GPUs δείχνει το partial-placement deadlock, το ένα field που το λύνει, και τα δύο όρια που δεν τεκμηριώνει κανείς: το field του Job κόβεται σιωπηλά αν λείπει ένα δεύτερο, alpha gate, και το workload-aware preemption δεν μπορεί να ανακτήσει DRA devices.
// Το δεύτερο μέρος της σειράς για το fleet inference με το Modelplane, αφιερωμένο στο layer πάνω από τον scheduler. Το ModelService είναι routing policy και όχι load balancer, το spec.stack Dynamo αλλάζει ολόκληρο τον μηχανισμό του gang scheduling, και τέσσερα τεκμηριωμένα gotchas θα σου φάνε από ένα απόγευμα το καθένα.
// Μια hands-on γνωριμία με το Modelplane, το control plane για AI inference πάνω σε fleet από GPU clusters, χτισμένο σε Crossplane. Δύο regions σε Kind με ψεύτικες DRA GPU, το contract ανάμεσα σε platform team και developers γραμμένο στο λεξιλόγιο του ίδιου του DRA, drain σε επίπεδο fleet, και η παγίδα στο release που σου κοστίζει δύο APIs.
// Το Choragos τρέχει μια ομάδα από AI coding agents με πραγματικό καταμερισμό εργασίας: έναν orchestrator που σχεδιάζει και αναθέτει, workers με δικό τους context, μοντέλο και credentials, και ένα πρωτόκολλο delegate/work-done που μεταφέρει τη δουλειά ανάμεσά τους. Μια περιήγηση στο v0.11.2, με συνταγές configuration για πραγματικές ομάδες.