KI-Software einkaufen: was der Anbietervertrag regeln muss

Welche Punkte muss ein Vertrag mit einem KI-Anbieter absichern? Mindestens einen Auftragsverarbeitungsvertrag nach Artikel 28 der Datenschutz-Grundverordnung, sobald der Anbieter personenbezogene Daten für Sie verarbeitet, und bei einem Hochrisiko-System zusätzlich die Betriebsanleitung nach Artikel 13 des AI Act. Alles Weitere baut auf diesen beiden Pflichtstücken auf.

Stand: 2026-09-22

Die meisten Betriebe unterschreiben beim KI-Einkauf das, was der Anbieter vorlegt. Das ist verständlich, denn das Angebot klingt fertig und der Preis stimmt. Aber die Standardbedingungen eines Anbieters sind für den Anbieter geschrieben, nicht für Sie, und die rechtliche Verantwortung für den Einsatz der KI bleibt beim einkaufenden Unternehmen. Wer das übersieht, kauft ein Werkzeug und erbt ein Risiko.

Warum die Standardbedingungen des Anbieters nicht reichen

Sobald Sie eine KI-Software im Betrieb einsetzen, sind Sie in zwei Rollen zugleich. Datenschutzrechtlich sind Sie der Verantwortliche, weil Sie über Zweck und Mittel der Verarbeitung entscheiden. Nach der Verordnung (EU) 2024/1689, dem AI Act, sind Sie in aller Regel der Betreiber, weil Sie das System unter eigener Verantwortung nutzen. Beide Rollen bringen Pflichten mit, und beide Pflichten können Sie nur erfüllen, wenn der Anbieter Ihnen dafür liefert, was Sie brauchen.

Genau das leisten Standardbedingungen selten. Sie regeln Haftungsbeschränkung, Verfügbarkeit und Zahlung, also die Interessen des Anbieters. Ob Ihre Kundendaten die EU verlassen, ob das System für Modelltraining ausgewertet wird und ob Sie im Streitfall die Dokumentation bekommen, die eine Aufsichtsbehörde von Ihnen verlangt, steht dort oft gar nicht oder in einer Form, die Ihnen nicht hilft. Der Vertrag ist die einzige Stelle, an der Sie diese Punkte vor der Unterschrift festzurren können. Danach verhandeln Sie aus einer schwächeren Position.

Der Auftragsverarbeitungsvertrag ist Pflicht, nicht Kür

Verarbeitet der Anbieter in Ihrem Auftrag personenbezogene Daten, und das tut fast jede KI, die mit E-Mails, Verträgen, Personalunterlagen oder Kundenanfragen arbeitet, dann verlangt Artikel 28 der Datenschutz-Grundverordnung einen schriftlichen Auftragsverarbeitungsvertrag. Fehlt er, ist die Verarbeitung selbst dann angreifbar, wenn technisch alles sauber läuft.

Der Vertrag muss Gegenstand, Dauer, Art und Zweck der Verarbeitung benennen, dazu die Arten der Daten und die Kategorien der betroffenen Personen. Artikel 28 Absatz 3 listet darüber hinaus acht Pflichtpunkte, die jeder Auftragsverarbeitungsvertrag enthalten muss. Der Auftragsverarbeiter verarbeitet Daten nur auf Ihre dokumentierte Weisung. Die eingesetzten Personen sind zur Vertraulichkeit verpflichtet. Es gelten technische und organisatorische Sicherheitsmaßnahmen nach Artikel 32. Unterauftragnehmer werden nur mit Ihrer Genehmigung und unter denselben Pflichten eingesetzt. Der Anbieter unterstützt Sie bei Anfragen betroffener Personen. Er unterstützt Sie bei Datenpannen, Datenschutz-Folgenabschätzungen und behördlichen Konsultationen. Am Ende des Vertrags löscht oder retourniert er alle Daten. Und er hält Nachweise für Prüfungen bereit und meldet Ihnen, wenn eine Ihrer Weisungen aus seiner Sicht gegen das Datenschutzrecht verstößt.

Diese Liste ist kein Wunschzettel, sondern geltendes Recht, in Kraft seit dem 25. Mai 2018. Prüfen Sie den vorgelegten Vertrag Punkt für Punkt dagegen. Fehlt einer, ist der Vertrag unvollständig, und die Lücke fällt im Ernstfall auf Sie zurück, nicht auf den Anbieter.

Die heikelste Frage: Trainiert der Anbieter mit Ihren Daten?

Das ist die Frage, die Geschäftsführungen als Erstes stellen, und sie hat eine klare rechtliche Kante. Nach Artikel 28 Absatz 3 Buchstabe a darf ein Auftragsverarbeiter Ihre Daten allein auf dokumentierte Weisung hin verarbeiten. Die eigenen Modelle des Anbieters mit Ihren Eingaben zu verbessern, ist keine Verarbeitung in Ihrem Auftrag, sondern ein eigener Zweck des Anbieters. Ohne ausdrückliche Grundlage im Vertrag ist das gemäß unserem Verständnis nicht gedeckt.

Verlassen Sie sich hier nicht auf ein beruhigendes Gespräch, sondern auf den Wortlaut. Sinnvoll ist eine Klausel, die ein Training mit Ihren Inhalten standardmäßig ausschließt und nur nach gesonderter, widerrufbarer Vereinbarung erlaubt. Dazu gehört die Frage, wo die Daten liegen, denn ein Transfer in ein Drittland öffnet ein eigenes Kapitel an Nachweispflichten. Und dazu gehört, wie lange Eingaben gespeichert werden und ob sie nach der Verarbeitung wirklich gelöscht werden. Bei vielen Cloud-Diensten hängt die Antwort am gebuchten Tarif: der geschäftliche Tarif mit Auftragsverarbeitungsvertrag behandelt Daten anders als der frei zugängliche Dienst. Was gilt, entscheidet der Vertrag, den Sie unterschreiben, nicht die Marketingseite.

Was der AI Act zusätzlich verlangt

Bis hierher ging es um Datenschutz. Der AI Act legt eine zweite Ebene darüber. Setzen Sie ein Hochrisiko-System nach Anhang III ein, etwa zur Bewertung von Bewerbungen oder zur Kreditwürdigkeit, dann verpflichtet Artikel 13 den Anbieter, eine Betriebsanleitung mitzuliefern. Sie muss klar und vollständig die Eigenschaften, die Fähigkeiten und die Grenzen des Systems beschreiben, dazu die Kontaktdaten des Anbieters. Das ist kein Beiwerk. Ihre eigenen Betreiberpflichten aus Artikel 26, das System weisungsgemäß zu nutzen, eine geeignete menschliche Aufsicht zu bestellen und die automatisch erzeugten Protokolle mindestens sechs Monate aufzubewahren, können Sie ohne diese Angaben schlicht nicht erfüllen. Verlangen Sie die Betriebsanleitung deshalb als Vertragsbestandteil, nicht als spätere Beigabe.

Für Systeme unterhalb der Hochrisiko-Schwelle greift meist Artikel 50, die Transparenzpflicht, die seit dem 2. August 2026 gilt. Ein Chatbot muss sich als Maschine zu erkennen geben, KI-erzeugte Inhalte müssen maschinenlesbar markiert sein. Klären Sie im Vertrag, wer diese Markierung technisch umsetzt, der Anbieter über das Produkt oder Sie im eigenen Auftritt. Eine Rolle sollten Sie dabei im Blick behalten: Wer ein zugekauftes System wesentlich umbaut oder unter eigenem Namen weitergibt, kann selbst zum Anbieter werden und erbt dessen deutlich schwerere Pflichten. Wann diese Weiche umspringt, haben wir in Betreiber oder Anbieter beschrieben.

Die Klauseln, die kein Gesetz vorschreibt und die trotzdem zählen

Über die gesetzlichen Pflichten hinaus entscheiden ein paar Klauseln darüber, ob der Einkauf in drei Jahren noch trägt. Legen Sie den Speicherort der Daten fest, am besten innerhalb der EU, weil das die Datenschutzprüfung strukturell vereinfacht. Vereinbaren Sie eine Vorlaufzeit, bevor der Anbieter das zugrunde liegende Modell wechselt, denn ein stiller Modellwechsel kann eingespielte Abläufe über Nacht verändern. Sichern Sie sich einen sauberen Ausstieg, mit Export Ihrer Daten in einem gängigen Format und einer klaren Löschbestätigung. Und regeln Sie die Haftung für Rechte Dritter, falls die Ausgaben der KI fremde Inhalte enthalten.

Keine dieser Klauseln ist gesetzlich erzwungen, und keine ist teuer, solange sie vor der Unterschrift verhandelt wird. Nach der Unterschrift sind sie oft gar nicht mehr zu bekommen. Das ist der eigentliche Grund, den Vertrag ernst zu nehmen, bevor das Produkt gefällt.

Der kürzeste Vertrag ist der, den Sie nicht brauchen

Jede dieser Klauseln adressiert dasselbe Grundproblem: Ihre Daten liegen bei einem Dritten, und Sie müssen vertraglich zurückholen, was Sie mit der Übergabe abgeben. Läuft die KI dagegen auf Ihrer eigenen Hardware, entfällt der größte Teil dieser Vertragsfläche, weil kein Auftragsverarbeiter im Spiel ist, dessen Verhalten Sie absichern müssten. Lokale KI verlagert die Kontrolle vom Vertragstext zurück in Ihr eigenes Netzwerk, und die Frage nach dem Training mit Ihren Daten beantwortet sich von selbst. Mehr dazu auf unserer Seite zur Datensouveränität.

Dieser Text ordnet die Rechtslage gemäß unserem Verständnis ein und ersetzt keine Rechtsberatung im Einzelfall. Welche Klauseln Ihr konkreter Einkauf braucht, prüfen wir am besten anhand des tatsächlichen Angebots in einem Pilotprojekt.