Woran man ein vertrauenswürdiges KI-Tool erkennt

Hinter vielen KI-Tools steckt dieselbe KI

Wer heute ein KI-Tool kauft, kauft selten eine eigene KI. Die meisten Anbieter bauen eine Oberfläche und fragen im Hintergrund eines der wenigen großen Sprachmodelle an, etwa von OpenAI, Google oder Anthropic. Technisch ist daran nichts auszusetzen. Für den Datenschutz heißt es aber: Ihr Dokument geht nicht nur an das Tool, sondern weiter an einen Konzern, mit dem Sie keinen Vertrag haben, oft in die USA.

Welche Regeln dort gelten, bestimmen dessen Nutzungsbedingungen. US-Unternehmen können außerdem verpflichtet werden, Behörden auch Daten auszuhändigen, die in europäischen Rechenzentren liegen. Ein Datenschutzversprechen ist deshalb nur so viel wert wie das schwächste Glied in dieser Kette. Wirklich halten kann nur ein Versprechen, das niemand geben muss, weil die Daten nie gesammelt und nie weitergegeben wurden.

Wo Ihre Daten landen

Daten gehen selten durch einen spektakulären Angriff verloren. Meistens tauchen sie einfach dort auf, wo beim Bau einer Funktion niemand hingeschaut hat:

• Bei fremden Nutzern: Ein Fehler in ChatGPT zeigte im März 2023 manchen Nutzern die Titel fremder Unterhaltungen, einem kleinen Teil der zahlenden Kunden sogar Teile fremder Zahlungsdaten (Engadget).
• In einer offenen Datenbank: Im Januar 2025 stießen Sicherheitsforscher auf eine frei zugängliche Datenbank von DeepSeek mit über einer Million Protokollzeilen, darunter Chatverläufe (Wiz).
• In der Google-Suche: Mitte 2025 ließen sich tausende per Link geteilte ChatGPT-Unterhaltungen über Google finden, manche mit Namen und persönlichen Angaben. OpenAI hat die Funktion daraufhin abgeschaltet (TechRadar).
• Im Training: Seit Herbst 2025 trainiert Anthropic seine Modelle mit Chats aus den Privatkundentarifen, sofern Nutzer das nicht abschalten, und bewahrt diese Chats bis zu fünf Jahre auf (Anthropic).
• Beim Anbieter, endgültig: Samsung-Ingenieure kopierten 2023 internen Quellcode in ChatGPT, um Fehler zu finden. Zurückholen ließ er sich nicht mehr, Samsung verbot daraufhin generative KI auf Firmengeräten (Bloomberg).

Böse Absicht war in keinem dieser Fälle nötig. Ein Programmfehler, ein falsch eingestellter Server, ein bequemer Teilen-Knopf, eine geänderte Voreinstellung. Bei vertraulichen Unterlagen reicht das.

Was „gelöscht“ tatsächlich heißt

Löschen versprechen fast alle. Spannend ist, was damit gemeint ist.

Oft verschwindet ein gelöschter Chat zunächst nur aus Ihrer Ansicht. In Protokollen, Sicherungen und Überwachungssystemen überdauern Kopien mitunter Wochen oder Monate. Und über jede Löschregel kann sich ein Gericht hinwegsetzen: 2025 musste OpenAI auf Anordnung eines US-Gerichts monatelang auch Unterhaltungen aufbewahren, die Nutzer längst gelöscht hatten, als Beweismittel in einem Urheberrechtsstreit (OpenAI).

Wirklich sicher sind nur Daten, die gar nicht erst gespeichert werden. Was nicht existiert, kann weder abfließen noch beschlagnahmt noch länger aufbewahrt werden als versprochen.

Und das Ergebnis selbst?

Vertrauen hat zwei Seiten. Neben der Frage, was mit Ihren Daten geschieht, steht die Frage, ob die Antwort stimmt. Ehrlich gesagt: nicht immer. Sprachmodelle liefern die wahrscheinlichste Antwort, keine geprüfte, und klingen dabei stets gleich überzeugt. Was das für Zahlen in einem Finanzmodell bedeutet, steht in Warum schneller nicht immer besser ist.

Ein vertrauenswürdiges Tool behauptet deshalb gar nicht erst, seine KI liege immer richtig. Es verlangt nicht einmal, dass Sie ihr vertrauen.

Sieben Fragen an jeden KI-Anbieter

Bevor Sie etwas Vertrauliches hochladen, lohnen sich diese Fragen. Wer sie nicht klar beantworten kann, hat damit auch schon geantwortet.

• Welches Modell steckt hinter dem Tool, und wer betreibt die Server, auf denen es läuft?
• Wo werden meine Daten verarbeitet und gespeichert, und welches Recht gilt dort?
• Werden meine Daten für das Training genutzt? Ist das von vornherein ausgeschaltet, oder muss ich selbst widersprechen?
• Wie lange bleiben meine Daten liegen, auch in Protokollen und Sicherungen, und was passiert, wenn ich sie lösche?
• Wer kann darauf zugreifen: Ihre Mitarbeitenden, Ihre Dienstleister, der Modellanbieter?
• Gibt es einen Vertrag zur Auftragsverarbeitung, in dem alle Unterauftragnehmer stehen?
• Wie prüfe ich ein Ergebnis an seiner Quelle nach?

Wie wir das lösen

Kurz gesagt: Bei modelflow müssen Sie sich um all das keine Gedanken machen.

• Kein Anbieter im Hintergrund: Wir betreiben europäische Open-Weight-Modelle auf eigenen GPUs in der EU. Weder OpenAI noch Google, Anthropic oder ein anderer KI-Anbieter bekommt Ihre Dokumente zu sehen.
• Nichts, was abfließen könnte: Dokumente liegen nur während Ihrer Prüfung im Arbeitsspeicher und sind danach weg. Auf einer Festplatte, in einem Protokoll oder in einer Datenbank landen sie nie.
• Kein Training, keine Weitergabe: Mit Ihren Dokumenten wird kein Modell trainiert, und niemand sonst bekommt sie.
• Nachweis ohne Inhalt: Das Änderungsprotokoll hält zehn Jahre lang fest, wer welchen Wert von welcher Seite freigegeben hat. Das Dokument erkennt es an seinem Fingerabdruck, Inhalte oder Zahlen speichert es nicht.
• Jeder Wert geprüft: In Ihr Modell kommt nichts, was nicht ein Mensch an seiner Fundstelle gesehen hat.

Der Vertrag zur Auftragsverarbeitung ist Teil unserer AGB.