Blog
Notizen aus der Plattform.
Was wir beim Bau souveräner Plattformen lernen, geschrieben von den Engineers, die die Arbeit machen, nicht von einem Content-Team.
Neu
Kubernetes bietet Namespaces oder dedizierte Cluster pro Mandant. Wir betrachten die Isolationsmuster zwischen diesen beiden Extremen.
·
Dominik Heilbock
·
Max Körbächer
Vier Tage im SAP Innovation Center Potsdam: Hacking an souveräner Inferenz und AI Engineering mit ApeiroRA und NeoNephos.
·
Jakob N.
Ein Praktikumsprojekt: ein lokaler KI-Chatbot, der vollständig auf dem eigenen Rechner läuft, und was hinter ChatGPT wirklich passiert.
·
Lino Deppe
vLLM-Deployment-Strategien im Vergleich: standalone, KServe und BentoML, mit Canary-Rollouts und ihrer Rolle in einer LLMOps-Plattform.
·
Mohit Gupta
Namespace pro Team ist der Standard, um GPU-Cluster zu teilen. Und der falsche Weg. So sieht echte Mandantenfähigkeit in Terraform aus.