Lokale KI aus Deutschland für Einsteiger. Ein Praxisleitfaden, nach dem viele in der vorigen Dr. DSGVO Umfrage gefragt hatten.
Transparenzhinweis: Dieser Artikel ist kein gesponserter Beitrag. Es besteht keinerlei geschäftliche oder redaktionelle Absprache mit Mittwald. Die hier geäußerten Einschätzungen sind die alleinige Meinung des Autors auf Basis öffentlich verfügbarer Informationen.
Wer heute KI-gestützte Anwendungen entwickeln möchte, steht vermeintlich vor einer unbequemen Abwägung: Leistung auf der einen Seite, Datenschutz auf der anderen. ChatGPT, Azure OpenAI, Google Gemini – die Marktführer residieren in den USA, verarbeiten Daten auf Servern, die dem US-amerikanischen Recht unterliegen, und hinterlassen datenschutzrechtliche Fragezeichen, die für viele Unternehmen und Behörden ein echtes Problem darstellen.
Seit einiger Zeit bietet der deutsche Webhoster Mittwald mit seinem AI Hosting-Produkt eine Alternative, die zumindest für einen großen Teil der Anwendungsfälle ernsthaft in Betracht gezogen werden sollte. Dieser Artikel beleuchtet das Angebot nüchtern – mit seinen echten Stärken und seinen klaren Grenzen.
Was ist Mittwald AI Hosting?
Mittwald ist ein im westfälischen Espelkamp ansässiger Hosting-Anbieter, der seit Jahrzehnten als zuverlässiger Partner für Agenturen und Entwickler gilt. Mit dem AI Hosting bietet das Unternehmen seit Anfang 2026 Zugang zu leistungsfähigen Open-Source-Sprachmodellen über eine OpenAI-kompatible API – gehostet ausschließlich in Deutschland, ohne Umwege über US-amerikanische oder irische Rechenzentren.
Das Prinzip ist denkbar einfach: API-Key beantragen, loslegen. Keine eigene GPU-Infrastruktur, keine komplizierte Installation, kein lokaler Betrieb von KI-Komponenten.
Die Vorteile: Was wirklich überzeugt
1. Datenschutz aus Deutschland
Das gewichtigste Argument ist gleichzeitig das einfachste: Alle Anfragen werden ausschließlich innerhalb der Mittwald-Infrastruktur in Deutschland verarbeitet. Es findet kein Datentransfer in Drittstaaten statt – kein USA-Transfer, kein Microsoft, kein Azure, kein irisches Rechenzentrum. Eingaben werden nicht zum Training der Modelle verwendet und nach der Verarbeitung verworfen.
Für Unternehmen, die mit personenbezogenen Daten arbeiten, ist das ein fundamentaler Unterschied zu den großen US-Anbietern. Kein Standardvertragsklausel-Geflecht, keine Transfer Impact Assessments, keine Abwägung von Schrems-II-Risiken. Keine US-Spionagegesetze wie Cloud Act, EO 12333, FISA 702 oder SCA. Der Auftragsverarbeitungsvertrag bleibt im europäischen Rechtsraum und basiert auf deutschem Rechtsverständnis.
2. Extrem niedriger Einstiegspreis
Schon für 9 Euro pro Monat (zzgl. USt.) steht ein vollwertiger API-Zugang zur Verfügung – inklusive 5 Millionen Tokens monatlich, aller verfügbaren Modelle und unbegrenzter API-Keys. Zum Vergleich: Allein das Volumen einer durchschnittlichen GPT-4-Nutzung kostet bei OpenAI ein Vielfaches davon.
Dieser Bericht ist nicht von Mittwald gesponsert!
Er basiert ausschließlich auf den öffentlichen Informationen von Mittwald.
Der empfohlene Pro-Tarif für 39 Euro monatlich umfasst bereits 75 Millionen Tokens – das reicht für rund 250.000 Chat-Nachrichten, 12.500 PDF-Analysen (10 Seiten) oder ca. 417 Stunden Audiotranskription pro Monat. Die 39 Euro sind allerdings nicht mehr ganz so günstig, wenn man bedenkt, dass sich die KI Engineaufgrund von Preisstruktur und Modellen hauptsächlich für den privaten oder semiprofessionellen Einsatz eignet. Das teuerste Paket lohnt sich gar nicht mehr: Ein eigener KI-Server kann managed bereits für ca. die Hälfte monatlich gemietet werden, ohne jedes Nutzungslimit!
3. Leistungsfähige Open-Source-Modelle
Entgegen dem Vorurteil, dass Open-Source-Modelle proprietären Systemen grundsätzlich unterlegen seien, hat sich die Qualität in den letzten Jahren dramatisch verbessert. Mittwald bietet nach aktuellem Stand (19. Mai 2026) folgende Modelle an:
- OSS-120B (OpenAI, Apache 2.0) – Ein starkes General-Purpose-Modell mit sehr guten Reasoning-Fähigkeiten
- Qwen3.5-122B / Qwen3.6-35B – Mixture-of-Experts-Modelle von Alibaba, optimiert für Chat, Analyse und agentische Workflows; das 35B-Modell unterstützt auch Vision-Aufgaben
- Devstral-Small-2-24B – Spezialisiert auf Code-Generierung, Debugging und agentische Programmieraufgaben
- Ministral-3-14B – Europäisches Modell, optimiert für Text, Chat und Vision in Web-Projekten
- Qwen3-Embedding-8B – Für semantische Suche, RAG-Setups und Empfehlungssysteme
- Whisper-Large-V3-Turbo – Hochpräzise Spracherkennung in zahlreichen Sprachen (Audio in Text umwandeln, besser als mit Microsoft Teams)
4. Schnellstart ohne DevOps-Overhead
Ein nicht zu unterschätzender Vorteil: Es muss rein gar nichts installiert werden. Keine CUDA-Treiber, keine Python-Environments für die KI-Infrastruktur selbst, kein Kubernetes, kein Docker-Swarm. API-Key generieren, fertig. Zusätzlich lässt sich mit wenigen Klicks eine Open-WebUI-Instanz starten, um die Modelle direkt über eine grafische Oberfläche zu testen.
Die OpenAI API ist in ihrem Aufbau technischer Standard.
Weiter unten schauen wir uns allerdings an, wie man mit Python die Mittwald KI API ansteuern kann. Wer das nicht tun möchte, kann immerhin die API als Drop-In Replacement für OpenAI API Calls nutzen.
Die Grenzen: Was man realistisch einschätzen muss
Begrenzte Modellauswahl
Die Auswahl ist für viele Standardanwendungsfälle ausreichend – aber für spezialisierte Einsatzgebiete wird sie eng. Wichtige Modellkategorien fehlen noch: Es gibt keine Bildgenerierung, kein dediziertes Reasoning-Modell auf dem Niveau von o3, keine fein abgestimmten Domänenmodelle für Medizin, Recht oder Finanzen. Wer auf bestimmte Fähigkeiten angewiesen ist, die nur proprietäre Modelle bieten, kommt hier schnell an Grenzen.
Token-Kontingente begrenzen den Einsatz in professionellen Projekten
Das ist der entscheidende Engpass: Die monatlichen Token-Limits machen das Angebot in seiner aktuellen Form nicht geeignet für produktive, hochvolumige Anwendungen. Ein SaaS-Produkt mit 1.000 aktiven Nutzern, ein Kundenservice-Bot mit nennenswertem Aufkommen, ein automatisierter Dokumentenverarbeitungs-Workflow – das sprengt die Kontingente schnell.
Zur Orientierung: Das Pro-Paket mit 75 Mio. Tokens klingt großzügig, aber ein einzelner agentischer Workflow, der mehrfach die API aufruft, kann schnell 50.000–100.000 Tokens verbrauchen. Bei komplexen, automatisierten Pipelines ist das Business-Paket (300 Mio. Tokens, 149 €/Monat) schnell das Minimum.
Für semiprofessionelle Anwendungen – interne Tools, kleinere Kundenportale, Prototypen, Pilotprojekte – ist das Angebot hingegen hervorragend geeignet.
Einige Use Cases nur eingeschränkt abbildbar
Aufgaben wie die automatisierte, qualitativ hochwertige Langtext-Generierung in der Breite, komplexe multimodale Workflows oder spezialisierte juristische bzw. medizinische Analysen sind zwar grundsätzlich möglich, stoßen aber ohne fine-getunte Modelle und höhere Kontingente an ihre Grenzen. Das Angebot ermöglicht solide Grundfunktionen – für professionellen, regulierten Einsatz sind weitere Maßnahmen erforderlich.
Mittwald AI Hosting vs. eigener KI-Server: Was ist der Unterschied?
Mittwald AI Hosting ist bewusst als einfacher, verwalteter Einstieg konzipiert – kein Betriebsaufwand, keine Infrastruktur, schneller Start. Wer jedoch ernsthaft mit KI arbeiten möchte, sollte wissen, wo die strukturellen Grenzen liegen und was eine Alternative bietet.
Der eigene KI-Server (hosted in Deutschland)
Ein dedizierter Server mit GPU, bei einem deutschen Hoster betrieben, kostet mehr als ein Mittwald-Tarif – ist aber im Vergleich zu US-Cloud-Diensten immer noch überraschend günstig. Der entscheidende Unterschied liegt nicht im Preis, sondern in der Flexibilität:
Beliebige Modelle. Auf einem eigenen Server lässt sich jedes verfügbare Open-Source-Modell betreiben – aktuelle Llama-Versionen, Mistral, Phi, spezialisierte Fein-Tuning-Varianten für Recht, Medizin oder Technik, Bildgenerierung, multimodale Modelle. Man ist nicht auf die Auswahl eines Anbieters beschränkt.
Unbegrenzte Anfragen. Kein monatliches Token-Kontingent, keine Request-Limits, kein Drosseln bei hoher Last. Wer eine Anwendung mit vielen Nutzern oder automatisierten Verarbeitungspipelines betreibt, kann das ohne Budgetplanung pro Anfrage tun.
Vollständiger KI-Stack auf einer Maschine. Ein eigener Server kann gleichzeitig alle Komponenten betreiben, die für ein professionelles KI-System notwendig sind:
- Vektordatenbank (z. B. Qdrant, Weaviate) für semantische Suche und RAG-Setups
- KI-Frameworks wie LangChain oder LlamaIndex für komplexe Pipelines
- Warteschlange (z. B. Redis, Celery) für asynchrone Verarbeitung und Lastverteilung
- Web-Applikation oder Benutzeroberfläche für Endanwender
- Vor- und Nachverarbeitung der Ein- und Ausgaben für optimale Ergebnisqualität – etwa Dokumentenextraktion, Chunking, Re-Ranking oder Formatierung
Diese Integration ist bei Mittwald AI Hosting nur eingeschränkt möglich, da die Modellinfrastruktur vollständig durch Mittwald verwaltet wird und kein Zugriff auf den darunterliegenden Stack besteht.
Wann lohnt sich welcher Ansatz?
| Mittwald AI Hosting | Eigener KI-Server | |
|---|---|---|
| Einstieg / Prototyp | ✅ Ideal | ❌ Zu viel Aufwand |
| Semiprofessionelle Anwendungen | ✅ Gut | ✅ Möglich |
| Hohes Anfragevolumen | ⚠️ Kontingente beachten | ✅ Unbegrenzt |
| Individuelle Modellauswahl | ❌ Begrenzt | ✅ Beliebig |
| Vollständiger KI-Stack | ❌ Nicht möglich | ✅ Vollständig |
| Unternehmen ab ~20 Mitarbeitern | ⚠️ Nur für Einzelfälle | ✅ Empfohlen |
| Betriebsaufwand | ✅ Keiner | ⚠️ Administration nötig |
Für Unternehmen ab etwa 20 Mitarbeitern, die KI nicht nur ausprobieren, sondern produktiv und skalierbar einsetzen möchten, empfiehlt sich ein eigener, in Deutschland gehosteter KI-Server. Mittwald AI Hosting bleibt dabei ein sinnvoller Einstieg – oder eine ergänzende Lösung für leichtgewichtige Anwendungsfälle neben einer größeren Infrastruktur.
Fazit: Wann ist Mittwald AI Hosting die richtige Wahl?
| Anwendungsfall | Geeignet? |
|---|---|
| Interne Tools, Chatbots für kleine Teams | ✅ Sehr gut |
| Prototypen und Proof-of-Concepts | ✅ Sehr gut (ohne Massentests!) |
| Automatisierte Inhaltserstellung (moderate Menge) | ✅ Gut |
| Audiotranskription (Meetings, Podcasts) | ✅ Gut |
| Verarbeitung personenbezogener Daten | ✅ Datenschutz aus Deutschland |
| SaaS-Produkte mit vielen Nutzern | ⚠️ Kontingente prüfen |
| Hochvolumige Produktionssysteme | ❌ Business/Enterprise nötig |
| Bildgenerierung | ❌ Nicht verfügbar |
| Spezialmodelle (Medizin, Recht) | ❌ Noch nicht vorhanden |
Das Mittwald AI Hosting ist kein vollständiger Ersatz für eine dedizierte KI-Infrastruktur – aber es ist für viele Unternehmen die schnellste und günstigste Möglichkeit, DSGVO-konforme KI-Funktionen in eigene Anwendungen zu integrieren. Der Einstieg ist so niedrigschwellig wie kaum irgendwo sonst.
Die KI-API vom eigenen Rechner aus nutzen
Die Mittwald AI Hosting API ist über das Internet erreichbar – das bedeutet: Sie können KI-Anfragen direkt von Ihrem eigenen Computer aus stellen, ohne dass etwas auf einem Server installiert werden müsste. Ihr Rechner sendet eine Anfrage an die Mittwald-Infrastruktur in Deutschland, die KI verarbeitet sie dort, und die Antwort kommt zurück. Die Daten verlassen dabei zu keinem Zeitpunkt den deutschen Rechtsraum.
Der praktischste Weg, diese API anzusprechen, ist Python – eine Programmiersprache, die für Einsteiger verständlich und gleichzeitig leistungsfähig genug für professionelle Anwendungen ist. Python ist zudem die Nummer 1 Programmiersprache im KI-Umfeld.
Wer bislang nicht programmiert: Jetzt ist ein guter Zeitpunkt, damit anzufangen. Python ist eine der am leichtesten erlernbaren Programmiersprachen, und für KI-Anwendungen ist sie der De-facto-Standard. Alternativ können Sie einen Spezialisten beauftragen, der eine konkrete Funktionalität für Sie entwickelt – das ist sinnvoll, wenn Sie ein spezifisches Ergebnis brauchen, ohne selbst programmieren zu wollen.
Schnellstart: Python einrichten und die API nutzen
Der folgende Abschnitt richtet sich an Einsteiger, die noch keine Erfahrung mit Python haben.
Schritt 1: Python installieren
Windows:
- Rufen Sie die Seite python.org/downloads und laden Sie die aktuelle Python-Version herunter
- Starten Sie den Installer und aktivieren Sie unbedingt die Option „Add Python to PATH"
- Klicken Sie auf „Install Now"
- Öffnen Sie die Eingabeaufforderung (
Win + R, danncmd) und prüfen Sie die Installation:python --version
Linux (Debian/Ubuntu):
sudo apt update
sudo apt install python3 python3-pip
macOS:
brew install python
Schritt 2: Benötigte Bibliothek installieren
Öffnen Sie die Eingabeaufforderung (Windows) oder das Terminal (Linux/macOS) und installieren Sie die OpenAI-kompatible Python-Bibliothek:
pip install openai
Da Mittwald eine OpenAI-kompatible API anbietet, können Sie die verbreitete openai-Bibliothek direkt verwenden – Sie müssen lediglich die base_url anpassen.
Schritt 3: API-Key bei Mittwald generieren
- Melden Sie sich im mStudio an
- Navigieren Sie zu Ihrem Projekt → AI Hosting
- Erstellen Sie einen neuen API-Key
- Kopieren Sie den Key – er wird nur einmal angezeigt
Schritt 4: Erstes Python-Programm schreiben
Erstellen Sie eine neue Datei, zum Beispiel ki_test.py, mit folgendem Inhalt (Achtung: Python erfordert wohldefinierte Einrückungen, die entweder per Leerzeichen oder per Tabulator am Zeilenanfang entstehen):
from openai import OpenAI
# Konfiguration: API-Key und Mittwald-Endpunkt
# Dokumentation: https://developer.mittwald.de/de/docs/v2/platform/aihosting/api-endpoints/supported-endpoints/
client = OpenAI(
api_key="HIER_IHREN_MITTWALD_API_KEY_EINTRAGEN",
base_url="https://llm.aihosting.mittwald.de/v1"
)
# Anfrage an das Modell
antwort = client.chat.completions.create(
model="gpt-oss-120b", # oder: "ministral-3-14b-instruct-2512"
messages=[
{
"role": "system",
"content": "Du bist ein hilfreicher Assistent. Antworte auf Deutsch."
},
{
"role": "user",
"content": "Erkläre in zwei Sätzen, was der Unterschied zwischen einem Large Language Model und einer klassischen Suchmaschine ist."
}
]
)
# Antwort ausgeben
print(antwort.choices[0].message.content)
Schritt 5: Programm ausführen
python ki_test.py
Das war es. Sie haben soeben eine sichere KI-Anfrage aus Deutschland gestellt – ohne US-Server, ohne Cloud-Transfer, ohne Datenschutzrisiko. Selbst wenn Mittwald Spionage betreiben wollte, so wie es US-Behörden und -Dienste über Microsoft und andere US-Dienstleister tun: Mittwald hätte gar nicht genügend Daten und auch gar keinen Abnehmer für die Daten, um Spionage sinnvollerweise betreiben zu können!
Alle verfügbaren API-Endpunkte (Chat, Embeddings, Audio-Transkription, Vision, Function Calling) sind im Mittwald Developer Portal vollständig dokumentiert. Dort finden sich auch Modellbeschreibungen, Beispielanfragen und Hinweise zu Abweichungen von der OpenAI-Spezifikation.
Hinweis zur Sicherheit: Tragen Sie Ihren API-Key niemals direkt in den Code ein, wenn Sie das Programm weitergeben oder veröffentlichen möchten. Verwenden Sie stattdessen Umgebungsvariablen:
import os
from openai import OpenAI
# Dokumentation: https://developer.mittwald.de/de/docs/v2/platform/aihosting/api-endpoints/supported-endpoints/
client = OpenAI(
api_key=os.environ.get("MITTWALD_API_KEY"),
base_url="https://llm.aihosting.mittwald.de/v1"
)
Setzen Sie die Variable dann in der Kommandozeile:
# Windows
set MITTWALD_API_KEY=ihr_key_hier
# Linux/macOS
export MITTWALD_API_KEY=ihr_key_hier
Weiterführende Schulung: Lokale KI professionell einsetzen
Das Mittwald AI Hosting ist ein hervorragender Einstieg – aber es ist nur der erste Schritt auf dem Weg zu einer vollständig souveränen KI-Infrastruktur.
Wer tiefer einsteigen möchte, hat die Möglichkeit, an unserem Kurs „Lokale KI: Setup und Praxis" mit Dr. Meffert teilzunehmen.
Kursinhalt
Der Kurs richtet sich an Einsteiger und Fortgeschrittene, die ein eigenes lokales KI-System unter Windows oder Linux aufsetzen möchten – vollständig unabhängig von externen Cloud-Diensten.
Im Kurs enthalten:
- 📄 Schritt-für-Schritt-Anleitungen für Windows und Linux
- 📚 Lernmaterialien zum Nachschlagen und Vertiefen
- 💻 Beispielprojekte zum Nachbauen und Weiterentwickeln
- 🚀 Einführungsveranstaltung: Gemeinsames Setup – am Ende der Session läuft Ihr System
- ✉️ Fragen per E-Mail (Fair Use): Direkter Kontakt bei Problemen und Rückfragen
- 🎙️ FAQ-Session mit Dr. Meffert: Ihre offenen Fragen werden live besprochen
Dieser Kurs ist für alle geeignet, die die Kontrolle über ihre KI-Infrastruktur vollständig in die eigenen Hände nehmen wollen – aus Datenschutzgründen, aus wirtschaftlichen Überlegungen oder aus purem Interesse an der Technologie.
Kontaktieren Sie uns für weitere Informationen und Termine.
Neutralitätshinweis: Dieser Artikel entstand auf Basis öffentlich zugänglicher Informationen des Mittwald AI Hosting-Angebots. Preise und Modellverfügbarkeit können sich ändern – bitte prüfen Sie aktuelle Konditionen direkt auf mittwald.de/mstudio/ai-hosting. Für diesen Artikel wurden keine Absprachen mit Mittwald gesprochen. Mittwald weiß nicht einmal, dass dieser Artikel geschrieben wurde.
Im einem der nächsten Beiträge wird gezeigt, wie man lokal auf seinem eigenen PC oder Notebook ein KI-Modell betreiben kann. Und zwar so, dass ebenfalls eine OpenAI-kompatible (lokale) API entsteht – statt Mittwald AI.
KI-Beratung, KI-Lösungen
Leistungsangebot:
- Erstberatung inkl. Machbarkeitsaussagen
- Schulungen und Workshops für Führungskräfte, Berufsgeheimnisträger, Angestellte, Entwickler
- KI-Lösungen mit und ohne ChatGPT/Azure. Cloud oder eigener KI-Server

gekennzeichnet.

Mein Name ist Klaus Meffert. Ich bin promovierter Informatiker und beschäftige mich seit über 30 Jahren professionell und praxisbezogen mit Informationstechnologie. In IT & Datenschutz bin ich auch als Sachverständiger tätig. Ich stehe für pragmatische Lösungen mit Mehrwert. Meine Firma, die 