Was muss sich bei Open-Source-AI-Coding ändern?

Open-Source-Modelle wie Kimi K2 oder DeepSeek v3 sind prinzipiell gut genug für die ernsthafte Code-Generierung. Das wird deutlich, wenn man sie ausprobiert.

Das Problem beginnt jedoch bereits bei der Inferenz. Kimi K2 hat 1 Billion Parameter, DeepSeek v3 über 600 Milliarden. Das läuft nicht auf Consumer-Hardware, weshalb eine lokale Nutzung unsinnig ist. Eine Alternative wäre, über Open Router oder direkt über die API zu zahlen, aber die Modelle sind nicht so gut, dass ich dafür Geld ausgeben würde.

Somit sind wir auf die vertikalen Stacks der Anbieter angewiesen, denn Claude Max funktioniert nur über Claude Code, Gemini nur über Google-Tools und Copilot nur in der Microsoft-Welt. Open-Source-CLI-Tools wie Aider, Continue oder Open Interpreter können an diese Abonnements nicht andocken.

Damit sich das ändert, brauchen wir Modelle mit 3 bis 7 Milliarden Parametern, die lokal laufen und trotzdem auf Opus-Niveau coden. Ob das in absehbarer Zeit passiert, weiß ich nicht. Bis dahin bleiben Open-Source-Tools eine Nische für Enthusiasten. Ich jedenfalls werde weiterhin meine Claude-Max-Subscription mit Claude Code nutzen. Wenn ich damit nicht zufrieden bin, wechsle ich mit meiner Subscription auf eine andere CLI-Plattform. Mehr ist nicht möglich.