Alle Neuigkeiten

20. November 2026 · Haftung · Qualitätskontrolle · Recht

Ungeprüfte KI-Texte: Gerichte ziehen jetzt Konsequenzen

Der Bundesgerichtshof und der Europäische Gerichtshof für Menschenrechte zeigen, was ungeprüfte KI-Texte kosten können. Die Lehre daraus gilt für jeden Betrieb, der Angebote, Gutachten oder Briefe mit KI entwirft.

Zwei Gerichte, eine klare Linie

Der Bundesgerichtshof hat in einem Beschluss vom 13. Oktober (Az. 3 StR 350/26) klargestellt: Eine Revisionsbegründung, die mit KI erstellt und vom Anwalt nicht maßgeblich inhaltlich kontrolliert wurde, kann unzulässig sein. Das Gesetz verlangt, dass der Verteidiger an der Begründung gestaltend mitwirkt und die volle Verantwortung für den Inhalt übernimmt. Im konkreten Fall fielen den Richtern allgemeine, schablonenhafte Passagen auf, die kaum auf das angefochtene Urteil eingingen. Der Senat ließ den Schriftsatz zwar gerade noch gelten und verwarf die Revision dann in der Sache als unbegründet. Die Warnung an die Anwaltschaft ist trotzdem deutlich.

Härter traf es eine rumänische Anwältin in Straßburg. Der Europäische Gerichtshof für Menschenrechte hat sie für zwei Jahre davon ausgeschlossen, dort Mandanten zu vertreten. Ihr mit KI erstellter Schriftsatz enthielt nach Feststellung der Kammer erfundene Präzedenzfälle und ausgedachte Absätze aus echten Urteilen. Ein kurzer Blick in die Datenbank des Gerichts hätte das offengelegt. Laut einer Sprecherin des Gerichts ist es das erste Mal, dass dort sogenannte Halluzinationen bestraft wurden. So nennt man es, wenn ein Sprachmodell plausibel klingende, aber falsche Angaben erzeugt.

Warum KI-Fehler so schwer auffallen

Ein Experiment, über das heise berichtet, zeigt das Grundproblem. KI-Agenten für die Qualitätssicherung von Software erhielten eine Fehlermeldung zu einem Programmteil, den es gar nicht gibt. In zehn von zehn Durchläufen lieferten sie ordentlich formatierte Testfälle, ohne ein einziges Mal nachzufragen. Fehlte dagegen nur ein Anhang, wiesen sie dieselbe Meldung jedes Mal zurück. Lücken erkannten die Agenten also zuverlässig, falsche Inhalte dagegen nicht.

Für den Alltag heißt das: KI liefert Texte, die sauber aussehen. Gerade diese gute Form verleitet dazu, nur noch zu überfliegen. Wer ein Ergebnis freigibt, weil es professionell wirkt, prüft das Falsche.

Prüfen wird zur Kernaufgabe

Dazu passt ein Video des Kanals Everlast AI über den schwierigen Berufseinstieg junger Akademiker. Der Sprecher beruft sich auf eine Studie der Universität Stanford: KI ersetze vor allem Wissen, das sich aus Lehrbüchern und festen Abläufen lernen lässt. Erfahrungswissen aus der Praxis werde dagegen eher gestärkt. Beim Menschen bleiben nach Aussage des Videos vor allem Urteilsvermögen, das Prüfen von Ergebnissen und die Verantwortung dafür, dass am Ende etwas funktioniert.

Für Betriebe folgt daraus eine zweite Aufgabe. Wenn KI einfache Entwürfe übernimmt, die früher Auszubildende oder Berufseinsteiger geschrieben haben, fehlt diesen eine Übungsfläche. Kritisches Lesen und Fehlersuchen entstehen dann nicht mehr nebenbei, sondern müssen bewusst geübt werden.

Was das für Betriebe außerhalb der Justiz bedeutet

Die beiden Entscheidungen betreffen Anwälte. Das Muster dahinter trifft aber jeden Betrieb. Wer ein Angebot, eine Mängelrüge, ein Gutachten, einen Einspruch beim Finanzamt oder einen Brief an eine Behörde mit KI entwirft, unterschreibt am Ende selbst. Die Verantwortung für den Inhalt bleibt bei dem, der abschickt. Das ist keine neue Regel. Neu ist, dass Gerichte sie jetzt ausdrücklich auf KI-Texte anwenden.

Besonders heikel sind Angaben, die nach harten Fakten klingen: Paragrafen, Aktenzeichen, Normen, Preise, technische Werte und Fristen. Solche Angaben waren im Straßburger Fall erfunden, und sie lasen sich genauso glatt wie echte. Ein zweites Risiko zeigt der Fall vor dem Bundesgerichtshof: Texte, die richtig klingen, aber nicht zum konkreten Vorgang passen.

KI deshalb zu meiden, ist nicht die Antwort. Ein Teil der gesparten Zeit gehört aber in die Prüfung, bevor etwas den Betrieb verlässt.

Dieser Artikel wurde mit KI erstellt. Er fasst die genannten Quellen zusammen und ordnet sie für Betriebe ein. Verantwortlich: David Klotz, KI Trier.

Wollen Sie wissen, was davon in Ihrem Betrieb Zeit spart?

Erstgespräch anfragen