Transparenz ist kein Siegel

Die Verordnung (EU) 2024/1689, die EU-KI-Verordnung (AI Act), ist zu einer Standardvokabel für „verantwortungsvolle KI“ in Beschaffungsprozessen geworden. Das ist nützlich, wenn er klare Fragen erzwingt: Wofür wird das System eingesetzt? Wer trifft die Entscheidung? Was geschieht, bevor eine KI-generierte Ausgabe Bestandteil offizieller Dokumentation wird? Problematisch wird es, wenn daraus lediglich eine Reihe von Siegeln und Konformitätsbekundungen entsteht: „AI-Act-konform“ - als wäre Software in der Konformitätsbewertung dasselbe Regelungsfeld wie CE-Kennzeichnung nach dem Hochrisiko-Kapitel des Gesetzes.

Für Benannte Stellen, die technische Dokumentation unter Verordnung (EU) 2017/745 bewerten, galt der höhere Standard bereits: qualifiziertes Urteilsvermögen, Nachverfolgbarkeit und Qualitätssysteme. Serie F definierte, was Human-in-the-Loop bei einem Konformitätsurteil bedeuten muss (Human-in-the-Loop, neu definiert). Dieser Essay ergänzt die KI-Verordnung als rechtlichen Rahmen für KI-gestützte Bewertungsinfrastruktur.

Ein oberflächlicher Human-in-the-Loop-Ansatz und eine leere „AI-Act-Konformität“ teilen denselben Fehlermodus: glatte Oberflächen, die verschleiern, wer die Schlussfolgerung verantwortet.

„KI in medizinischen Produkten“ - Zwei grundlegend unterschiedliche Sachverhalte

Serie E trennte KI als Produktfunktion von generativen Werkzeugen zur Dokumentationserstellung (Die Beschleunigungslücke der KI). Für Werkzeuge innerhalb der Konformitätsbewertung gilt eine parallele Unterscheidung: Software, die Mitarbeitende Benannter Stellen bei der Prüfung von Herstellerdossiers unterstützt, ist nicht automatisch ein Medizinprodukt, eine Sicherheitskomponente eines Produkts oder ein Hochrisiko-System nach Anhang III - allein deshalb nicht, weil schlechte Unterstützung indirekt die Patientensicherheit beeinflussen könnte.

Dieser indirekte Pfad ist eine echte Risikomanagement-Frage und ein MDR-/Qualitätsthema für Benannte Stellen. Er bedeutet jedoch - nach nüchterner Lesart der geschlossenen Hochrisiko-Listen des Gesetzes - nicht, dass jedes System, das Sicherheitsergebnisse beeinflussen kann, nach Artikel 6 hochriskant ist. Der bestimmungsgemäße Zweck zählt. Ebenso die Ehrlichkeit darüber, was die Software nicht tut: Sie zertifiziert nicht, sie ersetzt keine Benennung, und sie erbt keine institutionelle Verantwortung durch Marketingtexte.

Transparente Klassifizierung

Für professionelle Unterstützung bei Bewertungsaufgaben (Entwürfe von Analysen, Bereitstellung von Belegen, Unterstützung im Auditor-Chat) ist die primäre Artikel-6-Einschätzung, die wir öffentlich dokumentieren, nicht Hochrisiko: kein Anhang-I-Produkt, das als SaMD eine Konformitätsbewertung durch eine dritte Partei erfordert, und kein in Anhang III aufgeführter Anwendungsfall wie Bonitätsprüfung, Strafverfolgung oder richterliche Entscheidungsfindung. Benannte Stellen sind Konformitätsbewertungsstellen unter dem MDR; sie sind keine Justizbehörden, und die Durchsicht der Herstellerunterlagen durch Mitarbeiter der Benannten Stelle ist nicht dieselbe Tätigkeit wie die in Anhang III genannten Beispiele, für die diese Liste geschaffen wurde.

Weit gefasste alternative Lesarten existieren, die „öffentliche Dienste“ oder „Recht auf Sachverhalte anwenden“ so dehnen, dass sie jede behördennahe Tätigkeit erfassen. Anbieter sollten Kommissionsleitlinien und die rechtliche Debatte beobachten, ihre Art.-6-Begründung dokumentieren und Marketing vermeiden, das nach automatisierter Zertifizierung klingt. Klassifizierung ist kein einmaliges Etikett; ein Ausufern des Funktionsumfangs zu autonomen Schlussfolgerungen oder Entscheidungen auf Patientenebene würde die Analyse brechen.

Was gilt, wenn man „nicht Hochrisiko“ ist

Verordnung (EU) 2024/1689 gilt weiterhin. KI-Kompetenz für Anbieter- und Einsatzorganisationen (Artikel 4) ist bereits in Kraft. Verbotene Praktiken (Artikel 5) erfordern eine Prüfung verbotener Praktiken und Änderungssteuerung beim Einsatz neuer Funktionen. Und seit dem 2. August 2026 gilt die Transparenzpflicht nach Artikel 50 für viele realitätsnahe Systeme: Nutzer, die unmittelbar mit KI interagieren, müssen darüber informiert werden; KI-generierte Texte und entsprechende Ausgaben müssen gegebenenfalls - soweit technisch umsetzbar - gekennzeichnet und mit Metadaten versehen werden - nicht nur wenn ein System ein Hochrisiko-Label trägt.

• Artikel 50 Absatz 1: Für Auditoren vorgesehene Chats und Assistenten sollten die KI-Interaktion offenlegen; „offensichtlich für einen Experten“ ersetzt nicht den Nachweis in Beschaffungsprozessen.
• Artikel 50(2): Entwürfe, Zusammenfassungen und Bildbeschreibungen, die in Prüfungen verwendet werden, sollten in der Benutzeroberfläche und, wo verhältnismäßig, in gespeicherten Aufzeichnungen als maschinell erzeugtes Material identifizierbar sein.
• Paralleles Recht: DSGVO, Cybersicherheit, Verträge und Herstellergeheimhaltung in technischen Unterlagen warten nicht auf die Risikostufe.

Transparenz als Produktdesign

Artikel 50 wird oft als Frist diskutiert. Für Bewertungsinfrastruktur ist er besser als Designvorgabe zu lesen, die Serie F bereits in institutioneller Sprache formuliert hat: Assistierte Ausgabe ist Material für die fachliche Prüfung, bis eine qualifizierte Person die Disposition dokumentiert; die Grundlage muss nachprüfbar sein; Schweigen oder automatisches Überführen in den Nachweis ist Vereinnahmung, keine Aufsicht.

Ein Banner mit „KI-gestützt“ am ersten Login-Tag - und nie wieder - ist keine Transparenz. Ebenso wenig ein Modell, das unbelegte Rechtsverweise produziert oder über fehlender Evidenz selbstsicher formuliert. Die Produktverhaltensweisen, die skeptische Gutachter überzeugen - Quellenverknüpfung, bearbeitbare Entwürfe, Dispositions-Schranken, nachvollziehbare Verarbeitungsläufe -, sind dieselben, die Artikel 50 prüfbar machen.

MDR-Benannte Stellen sind nicht dasselbe wie AI-Act-Benannte Stellen

Kapitel III des AI Acts schafft Konformitätsbewertungswege für Hochrisiko-KI-Systeme, einschließlich der nach diesem Regime als Benannte Stellen ausgewiesenen Organisationen. MDR-Benannte Stellen, die Geräte von Herstellern bewerten, sind Kunden und Betreiber von Bewertungswerkzeugen - nicht dieselbe rechtliche Rolle. Öffentliche Websites, die für NB-Unterstützungssoftware eine CE-Kennzeichnung nach dem AI Act nahelegen oder die beiden Begriffe „Benannte Stelle“ vermischen, verlieren die Zielgruppe, die regulatorische Benennung korrekt einordnen kann.

Freiwillige Strenge, wenn der Absatz nicht anwendbar ist

Artikel 9-15 (Risikomanagement, Datengovernance, technische Dokumentation, Protokollierung, menschliche Aufsicht und Genauigkeit) sind der rechtliche Kern von Hochrisiko-KI. Für nicht-hochrisikobehaftete professionelle Tools sind sie nicht automatisch in vollem Umfang verpflichtend. Sie sind dennoch ein sinnvoller Plan, wenn generative Tools beeinflussen können, ob Nichtkonformitäten erkannt werden, bevor Geräte Patienten erreichen.

Artikel 95, Verhaltenscodes, laden genau dazu ein: ausgewählte Hochrisikopraktiken verhältnismäßig zu übernehmen. Das ist keine bloße Nachahmung von Konformität; es ist Übereinstimmung zwischen Recht, Ethik und dem Missionsargument der Serie G: Infrastruktur für Urteilsvermögen, nicht Automatisierung der Zertifizierung (Infrastruktur für Urteilsvermögen).

• Strikte menschliche Schranken vor der finalen Disposition in den Bewertungsunterlagen.
• Bewertung bei Modell- oder Prompt-Änderungen, nicht nur bei Marketing-Einführungen.
• Sichtbare Einschränkungen und KI-Kompetenzvermittlung für Einsatzorganisationen.
• Sorgfalt beim Einsatz von GPAI-Modellen entlang der Lieferkette.
• Verankerung im Qualitätssystem der Benannten Stelle – inklusive Nachvollziehbarkeit, wie und wo KI in prüfbaren Bewertungsunterlagen zum Einsatz kam.

Haltung für Beschaffung - kein Siegel

Wir veröffentlichen eine EU-KI-Verordnung-Haltung für TDVeriX Med: bestimmungsgemäßer Zweck, primäre Klassifizierung, anwendbare Artikel, Produktkontrollen, explizite Nicht-Ansprüche und das Zusammenspiel von MDR und KI-Verordnung. Es ist Engineering- und Governance-Sprache für Qualitäts-, Rechts- und Sicherheitsprüfung - keine Rechtsberatung und kein Ersatz für Kundenvereinbarungen.

Die EU-KI-Verordnung ersetzt nicht das Urteil Benannter Stellen. Sie fragt, ob KI-Unterstützung dieses Urteil nachvollziehbarer macht - oder weniger verantwortbar.