posts tagged #Image-Volumes

~/posts/kubernetes-image-volumes-model-weights.el 11 min · 2251 words

// Το Kubernetes 1.36 έκανε GA τα image volumes, οπότε τα model weights μπορούν να ταξιδεύουν μέσα από το ίδιο registry με τα containers σου. Τα μέτρησα απέναντι σε downloads από το Hugging Face, σε ένα HTTP mirror μέσα στο cluster και σε ένα PVC γεμισμένο από πριν, με vLLM σε kind: στα warm nodes η παράδοση δεν κοστίζει τίποτα, στα cold nodes είναι 2.5 έως 4 φορές πιο αργά από ένα απλό download.