Was wir Kunden zur EU-KI-Verordnung sagen
Die meisten KI-Funktionen der Unternehmen sind nicht hochriskant. Die Dokumentationspflicht bleibt — und entsteht leichter beim Bauen als danach.
Jedes Kundengespräch über die KI-Verordnung beginnt an einem von zwei Punkten: völlige Panik oder völlige Abwehr. Beides ist falsch, und die Korrektur ist jeweils dieselbe — finden Sie heraus, in welcher Risikoklasse Ihre Funktion tatsächlich liegt, bevor Sie entscheiden, wie besorgt Sie sein müssen.
Das meiste, was Unternehmen ausliefern, ist begrenztes Risiko: ein Support-Assistent, eine Zusammenfassungsfunktion, ein Klassifikator, der Tickets zuordnet. Die Pflichten dort sind Transparenzpflichten. Sagen Sie den Menschen, dass sie mit einer Maschine sprechen, kennzeichnen Sie synthetische Inhalte, und erklären Sie, was das System tut.
Hochriskant ist enger, als die Schlagzeilen nahelegen, aber nicht exotisch. Alles, was Personalauswahl, Kreditwürdigkeit, Zugang zu wesentlichen Diensten oder Beschäftigtenmanagement berührt, landet dort — und das trifft eine Menge ganz gewöhnlicher HR- und Fintech-Software.
Die praktische Arbeit ist in beiden Fällen dieselbe, weshalb wir sie standardmäßig erledigen. Eine Modellkarte, die beschreibt, wofür das System da ist und wofür nicht. Eine Aufzeichnung der Daten, gegen die es bewertet wurde. Menschliche Aufsicht, dokumentiert als Mechanismus statt als Satz. Protokollierung, mit der sich eine Entscheidung Monate später rekonstruieren lässt.
Nichts davon ist exotische Ingenieursarbeit. Es sind der Evaluationsrahmen und die Ablaufprotokolle, die wir ohnehin bauen — nur aufgeschrieben. Der Unterschied zwischen einem konformen und einem nicht konformen System ist meist nicht das Modell, sondern ob jemand aufgeschrieben hat, was ohnehin schon galt.
Unser Rat ist unromantisch: Gehen Sie davon aus, dass Sie es belegen müssen, erzeugen Sie den Beleg als Nebenprodukt des Bauens, und lassen Sie Ihre Risikoklasse anwaltlich bestätigen. Wir übernehmen die technische Hälfte; Rechtsberatung geben wir nicht — und Ihr KI-Dienstleister sollte es auch nicht.