Inhalt: Drei Pain Points · Rechenleistungs-Matrix · Drei-Jahres-TCO · Stabilität & Sicherheit · Sechs Schritte · Kennzahlen · Kauf-Zusammenfassung
Drei Fehlurteile, bevor Sie auf M5 warten
1. NPU-Specs jagen, Unified Memory ignorieren: M5 soll laut Leaks etwa 20–30 % GPU-Uplift liefern — ein 7B-Q4-Modell belegt jedoch nur 4–5 GB. Der Engpass ist, ob 24 GB gleichzeitig Inferenz plus RAG-Indexierung tragen — nicht der Peak-TFLOPS-Wert im Datenblatt. 2. Cloud-API-Kosten als «gratis» behandeln: Fünfzig mittellange Dialoge pro Tag auf GPT-4o-Klasse kosten schnell über 120 €/Monat. 7B–14B lokal auf M4 kostet inklusive Strom und Abschreibung oft weniger als ein Drittel. 3. Auf Gerüchte warten, Projekte pausieren: Das M5-Mac-mini-Fenster bleibt unsicher. Drei bis sechs Monate Leerlauf bedeuten einen verlorenen Agent- oder RAG-Iterationszyklus. M4 mieten und Workloads validieren schlägt Wetten auf Keynote-Termine.
- MLX: Apple-natives Framework — höchste M4-GPU-Auslastung bei Batch-Inferenz.
- Ollama: Ein-Befehl-Modellpulls — schnellster Weg zu einem lauffähigen 7B-Baseline.
- llama.cpp server: Niedrige Latenz — bevorzugtes OpenAI-kompatibles API-Gateway.
- 24 GB Sweet Spot: 7B und 14B Q4 mit Reserve für OS und Vektor-Index.
AI-Rechenleistungs-Matrix: M4 vs M5 für lokale Inferenz
Stand Juni 2026 — sechs Kernmetriken im Direktvergleich (Schätzwerte M5 basierend auf Leaks und M-Serie-Trends).
| Metrik | Mac mini M4 (10C) | Mac mini M5 (geschätzt) | Einfluss auf lokales LLM |
|---|---|---|---|
| Unified-Memory-Bandbreite | 120 GB/s | ~150 GB/s (+25 %) | KV-Cache-Lese-/Schreibgeschwindigkeit bei langem Kontext |
| GPU-Kerne | 10 Kerne | ~12–14 Kerne | Direkter tokens/s-Einfluss auf Chat-UX |
| 7B Q4 tokens/s | 65–80 | ~80–95 (geschätzt) | M4 erfüllt interaktiven Dialog bereits |
| 14B Q4 Lauffähigkeit | Flüssig mit 24 GB | Flüssig mit 24 GB | Speicherkapazität schlägt Chip-Generation |
| 32B+ Modelle | Q2 / Layer-Offload nötig | Etwas besser; weiter memory-bound | 48 GB+ Node mieten statt blind kaufen |
| Einstiegspreis (DE) | ~649 € | ~749 €+ (geschätzt) | M4-Rabatte verbessern Value weiter |
Drei-Jahres-TCO: M4 kaufen, M5 abwarten oder LlmMac mieten
| Option | Kosten Jahr 1 | TCO 3 Jahre | Flexibilität | Preis-Leistung |
|---|---|---|---|---|
| M4 24 GB kaufen | ~950 € (inkl. RAM-Upgrade) | ~1.050 € | Niedrig — Hardware gebunden | 4/5 |
| Auf M5 warten | 0 € + 3–6 Mon. Leerlauf | ~1.150 €+ | Mittel | 3/5 |
| LlmMac M4 mieten | 49–79 €/Monat | Nach Nutzung | Sehr hoch | 5/5 |
| Nur Cloud-API | 120–400 €/Monat | 4.000 €+ | Hoch, aber teuer | 2/5 |
Stabilität & Sicherheit: Inference-Stack auf M4 (90-Tage-Feldwerte)
Welcher Stack hält unter Dauerlast auf Bare-Metal-M4 — und welcher Zugriffsmodus minimiert Ausfallzeiten?
| Stack | RAM-Empfehlung | tokens/s-Stabilität | Datenschutz | 90-Tage-Abbruchrate |
|---|---|---|---|---|
| MLX + 7B Q4 | 16–24 GB | Sehr hoch — P95-Varianz <8 % | Voll lokal, kein Cloud-Egress | <3 % |
| Ollama + 14B Q4 | 24 GB | Hoch — Warm-Start nach Modellwechsel | Lokal; Modell-Hashes prüfbar | ~5 % |
| llama.cpp API-Gateway | 24–48 GB | Hoch bei fester Quantisierung | TLS + lokale Logs auditierbar | ~4 % |
| RAG + Vektor-Index parallel | 32–48 GB remote | Mittel — Speicher-Spitzen | Daten verbleiben auf Miet-Node | ~8 % ohne dedizierten Node |
Vertiefung: M4 llama.cpp vs Ollama Matrix · M4 vs M5 Architektur-Kauf · MLX Batch KV-Cache Matrix
Sechs Schritte — lokale LLMs diese Woche produktiv betreiben
1. Modell-Tier festlegen: Persönliche Experimente: 7B Q4. Team-RAG: 14B Q4 auf 24 GB. Über 32B: 48 GB+ Node mieten statt Hardware blind kaufen. 2. Inference-Stack wählen: Apple-nativ: MLX. Schnelle Validierung: Ollama. Externe API: llama.cpp server mit OpenAI-kompatiblen Endpoints. 3. LlmMac M4-Node bereitstellen: 24 GB / 512 GB per SSH in Minuten — Homebrew und Spiegel vorkonfiguriert, Umgebungs-Overhead entfällt. 4. tokens/s benchmarken: Festen Prompt 100 Runden laufen lassen, P50/P95-Latenz protokollieren und mit Cloud-API-Subjektivgefühl vergleichen. 5. Monatsrechnung gegenrechnen: Liegt lokale Miete unter 50 % der Cloud-API und Latenz akzeptabel — M4 festlegen; sonst Hybrid-Routing. 6. Kaufen vs. verlängern entscheiden: Erst nach ≥6 Monaten stabiler Last Kauf prüfen; bis dahin monatliche Miete minimiert Hardware-Risiko.
Zitierbare Kennzahlen für Ihr 2026 LLM-Budget
- Bandbreiten-Gesetz: Lokale LLM-Leistung korreliert stark mit Unified-Memory-Bandbreite. M4 mit 120 GB/s liegt ~50 % über M2; M5 schätzungsweise +25 % — absolut kleiner als ein RAM-Upgrade von 16 auf 24 GB.
- Quantisierungs-Sweet-Spot: 7B Q4 ~4,5 GB, 14B Q4 ~8,5 GB; auf 24 GB bleiben 12 GB+ für OS, RAG-Vektor-Index und parallele Requests.
- Miet-Schwelle: LlmMac M4 24 GB ab 49 €/Monat inkl. SSH/VNC, optional feste IP, keine Hardware-Kaution — ideal für PoC und kurze Agent-Experimente.
- M5-Inferenz-Uplift: Geschätzt 15–25 % tokens/s — bei möglichem 100 €+ Preisaufschlag und unsicherem Launch lohnt Warten selten gegen sofortiges M4-Deployment.
Zusammenfassung: M4 zuerst mieten, dann über M5 entscheiden
Der M4-vs-M5-AI-Streit ist kein «Wer ist minimal schneller?», sondern wer liefert diese Woche 7B–14B lokal zum niedrigsten TCO. M5 bringt Schätzungen zufolge ~15–25 % Inferenz-Gewinn, aber höheren Einstiegspreis und Launch-Unsicherheit. Für die meisten Entwickler, Solo-Creator und KMU-Teams bleibt Mac mini M4 24 GB der Preis-Leistungs-König für lokale LLMs 2026.
Mieten Sie einen Mac mini M4 auf LlmMac: per SSH einloggen, Ollama oder MLX sofort starten, tokens/s und Monatskosten gegen Cloud-API messen — ohne Hardware-Wette auf M5. Bei stabiler Last nach sechs Monaten Kauf prüfen; bei Burst-Workloads monatlich pausieren.
Empfohlene Aktion: Öffnen Sie LlmMac Kaufen und reservieren Sie Mac mini M4 (24 GB / 512 GB) als lokaler LLM-Node mit SSH/VNC-Zugang in Minuten, oder vergleichen Sie Monats- und Stundenpläne für Ollama-, MLX- und RAG-Workloads. Erst validieren, dann kaufen oder auf M5 warten — null Hardware-Risiko.