posts tagged #Crossplane

~/posts/modelplane-beyond-placement-routing-dynamo-gotchas.el 24 min · 4959 words

$ Modelplane πέρα από το placement - Routing policy, το Dynamo stack και τέσσερα gotchas

// Το δεύτερο μέρος της σειράς για το fleet inference με το Modelplane, αφιερωμένο στο layer πάνω από τον scheduler. Το ModelService είναι routing policy και όχι load balancer, το spec.stack Dynamo αλλάζει ολόκληρο τον μηχανισμό του gang scheduling, και τέσσερα τεκμηριωμένα gotchas θα σου φάνε από ένα απόγευμα το καθένα.

~/posts/modelplane-fleet-inference.el 32 min · 6599 words

$ Modelplane - Fleet inference σε πολλά clusters, demo χωρίς ούτε μία GPU

// Μια hands-on γνωριμία με το Modelplane, το control plane για AI inference πάνω σε fleet από GPU clusters, χτισμένο σε Crossplane. Δύο regions σε Kind με ψεύτικες DRA GPU, το contract ανάμεσα σε platform team και developers γραμμένο στο λεξιλόγιο του ίδιου του DRA, drain σε επίπεδο fleet, και η παγίδα στο release που σου κοστίζει δύο APIs.