KI-Buch für Kinder KI-Buch für Jugendliche KI-Buch für Familien Neue Reihe Kennen Sie schon unsere Buchreihe? KI für Kinder, Jugendliche und Erwachsene Bücher entdecken

n8n + Ollama: KI-Workflows lokal betreiben ohne API-Kosten

n8n ollama lokale-ki

Für viele KMU beginnt KI-Automatisierung mit Make.com, Zapier oder ähnlichen Cloud-Diensten, die pro API-Aufruf abrechnen. Jede E-Mail-Zusammenfassung, jede Klassifizierung eines Support-Tickets, jede automatische CRM-Aktualisierung erzeugt Kosten. Bei moderatem Volumen summiert sich das schnell auf dreistellige Monatsbeträge, und jedes verarbeitete Dokument verlässt das Firmennetzwerk.

In der Self-Hosted-AI-Community hat sich 2026 eine Alternative etabliert, die beides löst: n8n als Workflow-Automatisierungsplattform kombiniert mit Ollama als lokaler LLM-Laufzeitumgebung. Beide Tools laufen vollständig auf eigener Hardware. Das bedeutet: keine Cloud-API-Gebühren, kein Drittanbieter-Vertrag, und alle verarbeiteten Inhalte bleiben im eigenen Netzwerk.

Was n8n ist, und warum es für KMU relevant ist

n8n ist ein Open-Source-Workflow-Automatisierungstool mit visuellem Editor. Es funktioniert ähnlich wie Zapier oder Make.com, wird aber selbst gehostet und bietet native Unterstützung für KI-Knoten. Über vorgefertigte Integrationen lassen sich Hunderte von Diensten verbinden: E-Mail-Postfächer, CRM-Systeme, ERP-Exporte, Kalender, Ticketsysteme, Slack, RSS-Feeds und mehr.

Das n8n-Team hat auf GitHub ein Self-Hosted AI Starter Kit veröffentlicht, das n8n, Ollama, PostgreSQL und Qdrant für Vektorsuche in einem Docker-Compose-Stack bündelt. Ollama stellt einen OpenAI-kompatiblen REST-Endpunkt auf Port 11434 bereit, den n8n ohne Zusatzkonfiguration nutzt. Laut Community-Berichten ist der Stack in unter einer Stunde produktionsbereit.

Das Ergebnis: KI-gestützte Workflows, die ausschließlich auf der eigenen Infrastruktur laufen. Kein Byte an Kundendaten, Vertragstext oder internen Dokumenten verlässt das Firmennetzwerk.

Typische Anwendungsfälle für den Mittelstand

E-Mail-Triage und Priorisierung

Ein Workflow liest eingehende E-Mails, schickt sie an das lokale Modell und extrahiert Priorität, Thema und empfohlene Antwort. Das Ergebnis landet in einem Kanban-Board, CRM oder Postfach des zuständigen Mitarbeiters. Mit Llama 3.1 8B, laut Community-Erfahrungsberichten das empfohlene Modell für zeitkritische Workflows, liegt die Latenz im niedrigen Sekundenbereich, was Echtzeit-Verarbeitung ermöglicht.

Dokumenten-Routing und -Klassifizierung

Rechnungen, Verträge, Lieferscheine, Angebote: ein n8n-Workflow kann eingehende Dokumente lesen, klassifizieren und automatisch an die richtigen Ordner oder Postfächer weiterleiten, ohne dass Dateiinhalte jemals eine externe API erreichen. Für Branchen mit vertraulichen Unterlagen, Steuerberatung, Recht, Gesundheitswesen, ist das ein substanzieller Compliance-Vorteil.

Support-Ticket-Vorverarbeitung

Eingehende Support-Anfragen werden zusammengefasst, kategorisiert und mit einem Antwortvorschlag angereichert. Die Mitarbeiterin entscheidet final, das Modell übernimmt die Vorarbeit. Laut Community-Berichten reduziert dieser Ansatz die durchschnittliche Bearbeitungszeit pro Ticket um 30-50 %. Die Zahlen variieren je nach Ticket-Komplexität und Modell.

Vertrags- und Dokument-Extraktion

Ein Qwen2.5 7B-Modell kann strukturierte Daten aus Verträgen extrahieren, Parteien, Laufzeiten, Zahlungsmodalitäten, Kündigungsfristen, und direkt in ein ERP oder eine Datenbank schreiben. Kombiniert mit dem Whisper-Modell für Spracherkennung lassen sich auch Meetings transkribieren und automatisch dokumentieren. Mehr dazu in unserem Beitrag zur lokalen Spracherkennung und Datensouveränität.

CRM-Anreicherung und Lead-Scoring

Wenn ein Kontaktformular ausgefüllt wird, kann n8n den Text automatisch an das lokale Modell schicken, eine Branchenklassifizierung und einen Dringlichkeits-Score generieren und das CRM entsprechend aktualisieren, bevor ein Mitarbeiter das Ticket auch nur gesehen hat.

Empfohlene Modelle für Automatisierungs-Workflows

Nicht jede Aufgabe braucht ein Frontier-Modell. Für die meisten KMU-Automatisierungen reichen kleinere, schnelle Modelle:

  • Llama 3.1 8B (Meta, Apache 2.0): Standard-Empfehlung laut Community-Berichten für zeitkritische Workflows. Berichteter Durchsatz auf Mac Mini M4 mit 16 GB: 30-60 Tokens/Sekunde.
  • Qwen2.5 7B (Alibaba, Apache 2.0): Stärke bei mehrsprachigen Texten, besonders für deutsche und spanische Dokumente. Ähnliche Hardware-Anforderungen wie Llama 3.1 8B.
  • Mistral 7B (Mistral AI, Apache 2.0): Gut für strukturierte Extraktion und JSON-Ausgabe, die n8n direkt weiterverarbeiten kann.
  • Llama 3.3 70B (Meta, Apache 2.0): Für komplexe Analysen, lange Dokumente und schwierige Klassifizierungen. Benötigt 64-96 GB Unified Memory; sinnvoll auf Mac Studio M3 Ultra oder einem GPU-Server.

Alle Modelle werden über Ollama verwaltet: ollama pull llama3.1:8b lädt das Modell in wenigen Minuten herunter.

Kosten: Cloud-Automatisierung vs. lokaler Stack

Ein realistischer Vergleich für ein KMU mit rund 500 KI-gestützten Automatisierungsschritten täglich:

Cloud-Stack (Make.com Business + GPT-4o mini)

  • Make.com Business: ~€29/Monat
  • OpenAI API, ~500 Aufrufe/Tag, je ~600 Tokens: laut Community-Kostenberechnungen ~€80-130/Monat
  • Gesamt über 3 Jahre: ca. €3.900-5.800

Lokaler Stack (n8n Self-Hosted + Ollama + Mac Mini M4)

  • Mac Mini M4 16 GB: ~€900 einmalig
  • Strom (~40 W, 10 Stunden/Tag): ~€2,50/Monat
  • n8n Community Edition: kostenlos
  • Gesamt über 3 Jahre: ca. €990

Die Amortisationszeit liegt bei moderatem Workload laut Community-Erfahrungen unter zwölf Monaten. Bei steigendem Automatisierungsvolumen wächst der Vorteil weiter, weil API-Kosten linear skalieren, Hardware-Kosten nicht.

DSGVO-Vorteil: Datenschutz durch Architektur

Bei cloudbasierten Automatisierungs-Diensten fließen Kundendaten, Vertrags- und Rechnungsinhalte sowie interne Prozessdokumente regelmäßig an US-Anbieter. Das erfordert Auftragsverarbeitungsverträge (AVV), ggf. Transfer-Impact-Assessments nach DSGVO Art. 46, und das Vertrauen in die Serverstandort-Versprechen des Anbieters, was bei Unterauftragnehmern schnell komplex wird.

Mit einem lokalen n8n + Ollama-Stack entfällt das strukturell. DSGVO Art. 25 (Datenschutz durch Technikgestaltung) ist nicht durch Vertrag, sondern durch die Architektur selbst erfüllt: Es gibt schlicht keinen Netzwerk-Pfad, über den Daten nach außen abfließen könnten.

Für die Transparenzpflichten nach EU AI Act Art. 50, verbindlich ab 2. August 2026, kann mit einem lokalen Stack lückenlos dokumentiert werden, welches Modell welche Ausgabe erzeugt hat, ohne auf Protokolle eines Drittanbieters angewiesen zu sein. Die vollständige Übersicht zu EU AI Act Pflichten für Betreiber finden Sie in unserem Beitrag zu Betreiberpflichten und lokaler KI.

Einstieg: Was es braucht

Hardware

  • Mac Mini M4 (16 GB): ~€900, ausreichend für Llama 3.1 8B, Qwen2.5 7B, Mistral 7B
  • Mac Studio M3 Ultra (192 GB): für Llama 3.3 70B und parallele schwere Aufgaben

Software

  • Docker Desktop (kostenlos für Einzelnutzer und KMU unter bestimmten Bedingungen, AGBs prüfen)
  • n8n Self-Hosted AI Starter Kit (MIT-Lizenz)
  • Ollama (MIT-Lizenz)

Zeitaufwand Laut Community-Berichten dauert die Ersteinrichtung 1-3 Stunden bis zur ersten produktiven Automatisierung. n8n bietet eine wachsende Bibliothek von Workflow-Vorlagen mit Ollama-Integration, die als Ausgangspunkt dienen.

Modell-Download ollama pull llama3.1:8b, Download ~4,7 GB, läuft danach vollständig lokal.

Nächste Schritte

Wenn Sie KI-Automatisierungen bisher als zu teuer, zu datenschutzkritisch oder zu komplex abgehakt haben, lohnt ein zweiter Blick. Der lokale Stack adressiert alle drei Einwände gleichzeitig: er senkt die laufenden Kosten auf nahezu null, löst das DSGVO-Problem durch Architektur statt durch Vertragswerk, und der Einrichtungsaufwand ist mit Docker und vorgefertigten Templates überschaubar.

Gerne besprechen wir mit Ihnen, welche Ihrer aktuellen Workflows sich als erstes für eine lokale KI-Automatisierung eignen. Melden Sie sich für ein kostenloses Erstgespräch.