Transparenzpflichten ab dem 2. August

In wenigen Tagen, am zweiten August, greift eine Regel, die fast jeden betrifft, der in den letzten zwei Jahren mit künstlicher Intelligenz angefangen hat. Und mit am Feuer sitzt wie jede Woche Frank Wichert. Schön, dass du da bist, Frank.

Sehr gern, Tina. Ich sage gleich, warum mir das wichtig ist. Das Thema wird gerade fast überall als Formalie behandelt, als etwas, das man der IT hinüberschiebt. Das halte ich für einen Irrtum. Wer offenlegen muss, wo die Maschine mitgeschrieben hat, muss vorher wissen, wer im Haus dafür geradesteht. Das ist keine Formalie. Das ist Führung.

Dann das Lagebild. Am zweiten August gelten die Transparenzpflichten der europäischen KI-Verordnung, festgehalten in Artikel fünfzig. Dahinter stehen drei Anforderungen. Erstens: Wenn ein Mensch mit einem KI-System spricht, muss er das erfahren. Der Chatbot auf der Website muss sich also zu erkennen geben. Zweitens: Inhalte, die eine KI erzeugt hat und die echte Personen nachbilden, müssen gekennzeichnet sein. Drittens: KI-erzeugte Texte zu Fragen von öffentlichem Interesse müssen offengelegt werden.

Wichtig ist, was nicht gilt. Es wurde viel über den sogenannten Digital Omnibus berichtet, über das Aufschieben von Pflichten. Das stimmt, betrifft aber die Hochrisiko-Anforderungen, die auf Dezember zweitausendsiebenundzwanzig verschoben sind. Die Transparenzpflichten wurden davon ausdrücklich ausgenommen. Zur Umsetzung hat die Europäische Kommission am zehnten Juni einen freiwilligen Verhaltenskodex veröffentlicht, samt fertiger Kennzeichnungs-Symbole.

Und jetzt eine Zahl, bei der ich widersprechen muss. In vielen Beiträgen der letzten Wochen steht, es drohten fünfunddreißig Millionen Euro oder sieben Prozent vom weltweiten Jahresumsatz. Das ist für Artikel fünfzig falsch. Dieser Rahmen gilt nur für die verbotenen Praktiken. Für Verstöße gegen die Transparenzpflichten gilt Artikel neunundneunzig Absatz vier: bis zu fünfzehn Millionen Euro oder drei Prozent. Für kleine und mittlere Unternehmen gilt ausdrücklich der niedrigere Wert.

Eine zweite Zahl, und die ist frisch. Am einundzwanzigsten Juli, also vergangene Woche, hat Forrester Consulting im Auftrag des Softwareanbieters Boomi eine Befragung von vierhundertneun Entscheidern veröffentlicht. Nur vierunddreißig Prozent der Unternehmen vertrauen den Entscheidungen ihrer eigenen KI-Systeme. Dort, wo es klare Zuständigkeiten gibt, sind es fünfundfünfzig Prozent. Wo diese Ordnung fehlt, nur zweiundzwanzig.

Diese beiden Zahlen gehören zusammen, und darin steckt die eigentliche Nachricht dieser Folge. Die Pflicht kommt von außen, an einem festen Datum. Das Vertrauensproblem dagegen ist hausgemacht. Zweiundzwanzig gegen fünfundfünfzig Prozent, das ist mehr als eine Verdopplung, und der Unterschied ist nicht die Technik. Es ist dieselbe Technik. Der Unterschied ist, ob jemand festgelegt hat, wer was darf und wer dafür geradesteht.

Ich habe in den letzten Wochen mit einigen Geschäftsführern darüber gesprochen, und die erste Reaktion ist fast immer: Das ist Sache der IT. Ich verstehe den Reflex, aber er führt in die Irre. Die IT baut Ihnen den Hinweis in den Chatbot, das ist eine halbe Stunde Arbeit. Was sie Ihnen nicht abnehmen kann, ist die Frage, an welchen Stellen Ihr Unternehmen nach außen spricht, ohne dass ein Mensch den Satz vorher gelesen hat. Diese Landkarte hat in den meisten Häusern niemand.

Deshalb sage ich etwas, das ich sonst selten sage: Ich halte diese Regel für nützlich. Nicht wegen des Bußgeldes, sondern weil diese Landkarte eine Führungsaufgabe erzwingt, die längst überfällig war.

Dann frage ich nach, und ich fange naheliegend an. Viele denken jetzt: Wir haben einen kleinen Chatbot, der beantwortet Öffnungszeiten. Betrifft uns das wirklich?

Ja, ohne Ausnahme für kleine Anwendungen. Die Verordnung fragt nicht, wie klug Ihr Chatbot ist, sondern ob ein Mensch mit einem System spricht und das nicht sofort erkennt. Aber ich drehe die Frage gern um. Der Chatbot ist gar nicht die interessante Stelle, weil ihn jeder im Kopf hat. Interessant sind die anderen: der Newsletter aus dem Textgenerator, die Produktbilder im Shop, die Ansage in der Telefonanlage. Es sind selten weniger als fünf Stellen, und die Geschäftsführung kennt zwei davon.

Dann die kritische Frage. Reicht nicht ein Satz im Impressum, dass wir künstliche Intelligenz einsetzen und dass die Fehler machen kann?

Nein, und das ist der teuerste Irrtum in dieser Debatte. Zwei Gründe. Der erste steht in der Verordnung: Der Hinweis muss dort erscheinen, wo der Kontakt stattfindet, spätestens beim ersten Kontakt. Ein Satz, den jemand im Impressum suchen müsste, erfüllt das nicht. Der zweite Grund wiegt schwerer. Ein Hinweis, dass KI Fehler machen kann, ist kein Transparenzhinweis, das ist ein Haftungsversuch. Sie sagen damit: Wir setzen etwas ein, für dessen Ergebnisse wir nicht einstehen wollen.

Jetzt die praktische Frage, die in jeder Geschäftsführung zuerst kommt. Was kostet das, und wer macht das?

Der Hinweistext kostet nichts, das sind ein paar Sätze an drei oder vier Stellen. Aufwand kostet die Landkarte davor, und die veranschlage ich mit einem halben bis einem Tag. Sie brauchen drei Personen an einem Tisch: Marketing, IT und Service. Erstellen darf es jeder, entscheiden muss die Geschäftsführung. Denn die eigentliche Entscheidung ist nicht technisch. Sie lautet: Hier lassen wir eine Maschine in unserem Namen sprechen, und dieser Mensch steht dafür ein.

Und jetzt die unbequeme Frage. Was passiert, wenn ein Unternehmen es einfach lässt? Der zweite August vergeht, und niemand kommt vorbei.

Ganz ehrlich: Am dritten August passiert bei den allermeisten gar nichts. Es wird keine Behörde durch die Republik fahren und Chatbots prüfen. Nur ist das die falsche Frage. Das Risiko kommt nicht von der Aufsicht. Es kommt von einem verärgerten Kunden, von einem Wettbewerber, von einem Verband, der abmahnt. Und dann sitzen Sie nicht in einer Compliance-Diskussion, sondern in einer Vertrauensfrage.

Genau so ist es in dem Fall gelaufen, über den wir jetzt sprechen. Das Oberlandesgericht Hamm hat am zwölften Mai ein Urteil gesprochen, das jede Geschäftsführung kennen sollte. Ein Anbieter von Schönheitsbehandlungen hatte einen KI-Chatbot auf der Website. Der erzählte Interessenten, die Geschäftsführer seien Fachärzte für plastische und ästhetische Chirurgie. Das stimmte nicht. Zwei der Bezeichnungen gibt es als Facharzttitel überhaupt nicht. Niemand hatte sie eingegeben, die Maschine hat sie erfunden. Ein Verband hat geklagt.

Das Unternehmen hat sich verteidigt, so wie ich es ständig höre: Das haben wir nicht gesagt, das war die KI, und wie die zu ihren Antworten kommt, kann von außen niemand nachvollziehen. Das Gericht ist dem nicht gefolgt. Entscheidend sei, dass der Betreiber den Tätigkeitsrahmen des Systems festlegt und Einfluss darauf hat. Den Beweis hatte das Unternehmen selbst geliefert: Als der Fehler aufflog, hat es den Chatbot problemlos umprogrammieren lassen. Wer etwas abstellen kann, hätte es vorher steuern können.

Und der Satz, der mich am meisten beschäftigt hat, betrifft die Disclaimer. Das Gericht hat festgehalten, dass ein allgemeiner Hinweis, künstliche Intelligenz könne Fehler machen, nicht zuverlässig vor der Haftung schützt. Damit ist das Feigenblatt weg. Zur Fairness gehört: Das Urteil ist noch nicht rechtskräftig, die Revision zum Bundesgerichtshof ist zugelassen. Ob ich mein Unternehmen darauf ausrichten würde, dass der Bundesgerichtshof das anders sieht? Ganz sicher nicht.

Und weil das leicht gesagt ist, wenn es die anderen betrifft, schauen wir auf uns selbst. Auf unserer Website läuft ein KI-Assistent. Wer ihn öffnet, liest als Erstes: Hallo, ich bin DARION-AI, Ihr KI-Assistent, Antworten automatisiert generiert. Darüber steht dauerhaft ein Hinweisband: Sie kommunizieren mit einem KI-System, nicht mit einem Menschen. Das steht dort, wo das Gespräch anfängt, und nicht im Impressum. An dieser Stelle sind wir sauber.

Aber dieses Hinweisband endet mit einem Halbsatz, den ich bewusst vorlese: Wir haften nicht für Vollständigkeit oder Richtigkeit der Ausgaben. Nach dem Urteil aus Hamm schützt uns genau dieser Halbsatz nicht. Er erfüllt die Transparenzpflicht, aber er nimmt uns die Verantwortung nicht ab. Ich sage das offen, weil es meine These belegt: Die Kennzeichnung ist der leichte Teil. Der schwere ist die Frage dahinter. Wer bei uns liest gegen, bevor dieser Assistent einem Interessenten etwas über unsere Leistungen erzählt? Das ist meine Aufgabe, nicht die des Entwicklers.

Wenn ich das zusammenziehe, Frank, dann sagen das Urteil und die Verordnung dasselbe, nur mit anderen Worten. Die Maschine spricht, aber sie verantwortet nicht.

Genau da liegt es. Deshalb ist die Kennzeichnungspflicht für mich keine Bürokratie, sondern die ehrlichste Regel, die bisher aus Brüssel kam. Sie zwingt uns, sichtbar zu machen, wo die Maschine mitgeschrieben hat. Und sobald das sichtbar ist, lässt sich die Frage nicht mehr umgehen, wer dafür geradesteht. Der zweite Chef sitzt längst mit am Tisch. Wir schreiben jetzt endlich seinen Namen auf das Schild.

Drei Schritte für diese Woche, ohne einen Euro. Erster Schritt: die Landkarte. Setzen Sie Marketing, IT und Service eine Stunde an einen Tisch und schreiben Sie jede Stelle auf, an der Ihr Unternehmen nach außen spricht, ohne dass ein Mensch den Text vorher gelesen hat. Chatbot, Newsletter, soziale Kanäle, Produkttexte, Bilder, Telefonansage. Der erste Handgriff ist der Termin. Machen Sie ihn heute in den Kalender, nicht die Liste.

Zweiter Schritt: die Kennzeichnung. Für jede Stelle ein Satz, dort, wo der Kontakt beginnt. Beim Chatbot in der Begrüßung, nicht im Impressum. Unter dem Text, nicht in den Nutzungsbedingungen. Der erste Handgriff ist, diesen Satz jetzt zu formulieren und überall gleich zu halten. Die Kommission stellt seit Juni fertige Symbole bereit, Sie müssen nichts erfinden.

Dritter Schritt, und das ist der eigentliche. Hinter jede Zeile Ihrer Liste gehört ein Name. Ein Mensch, der für das einsteht, was dort herauskommt. Nicht eine Abteilung. Ein Name. Der erste Handgriff ist Ihre nächste Führungsrunde: Liste durchgehen, Namen ins Protokoll. Wenn Sie nur einen der drei Schritte schaffen, nehmen Sie diesen. Die ersten beiden erfüllen eine Pflicht. Der dritte bringt Sie von den zweiundzwanzig auf die fünfundfünfzig Prozent.

Ein letzter Gedanke, und der geht an mich selbst. Sie hören mich als KI-Stimme, und Tina sagt das zu Beginn jeder Folge. Ich habe eingewilligt, es sind meine Worte und meine Gedanken. Trotzdem steht der Hinweis dort, und er muss dort stehen. Nicht die Einwilligung ist entscheidend, sondern dass Sie wissen, womit Sie es zu tun haben. Verändern und optimieren, wenn man kann, nicht erst, wenn man muss. Sie haben noch ein paar Tage. Das reicht für einen Termin und drei Namen.