(TL). Am 1. August trat das lange diskutierte KI-Gesetz der Europäischen Union, der sogenannte AI Act, in Kraft. Dieses Gesetz soll den rechtlichen Rahmen für die Nutzung und Entwicklung von Künstlicher Intelligenz (KI) in der EU definieren. Doch was bedeutet das konkret für die Programmiererinnen und Programmierer, die täglich mit diesen Technologien arbeiten? Ein Forscherteam unter der Leitung von Professor Holger Hermanns von der Universität des Saarlandes und der Juraprofessorin Anne Lauber-Rönsberg von der TU Dresden hat sich intensiv mit dieser Frage beschäftigt und eine Studie verfasst, die im Herbst veröffentlicht wird.
Einschränkungen nur für Hochrisiko-Systeme
„Der AI Act zeigt, dass die Politik verstanden hat, dass KI potenziell gefährlich sein kann, insbesondere in sensiblen Bereichen,“ erklärt Holger Hermanns. Doch in der Praxis werden die meisten Entwickler kaum Veränderungen spüren. Sarah Sterz, Doktorandin am Lehrstuhl von Hermanns, fasst zusammen: „Hauptsächlich bei der Entwicklung sogenannter Hochrisiko-Systeme werden die Vorschriften des AI Acts relevant.“ Dazu gehören Systeme, die in Bewerbungsprozesse eingreifen, Kreditscoring betreiben oder im medizinischen Bereich eingesetzt werden. Diese Systeme unterliegen strengen Regeln, um sicherzustellen, dass sie fair und sicher funktionieren.
Ein zentrales Anliegen des AI Acts ist der Schutz der späteren Nutzer. KI-Systeme, die Entscheidungen treffen, die erhebliche Auswirkungen auf das Leben der Menschen haben, müssen sorgfältig entwickelt und überwacht werden. Ein Beispiel: Eine KI, die Bewerbungen sichtet und möglicherweise Bewerber aussortiert, bevor ein Mensch die Chance hat, diese zu überprüfen, fällt unter die strengen Vorschriften des neuen Gesetzes. Demgegenüber können Entwickler von KI in Videospielen weiterhin ungehindert arbeiten, da solche Anwendungen nicht unter den AI Act fallen.
Strenge Auflagen für Hochrisiko-Systeme
Die Regeln für Hochrisiko-Systeme sind umfangreich. „Zum einen müssen die Trainingsdaten so beschaffen sein, dass die KI ihre Aufgaben zuverlässig und fair erfüllen kann,“ erläutert Hermanns. Diskriminierung von Bewerbern oder anderen Gruppen aufgrund unzureichender Trainingsdaten muss vermieden werden. Darüber hinaus müssen solche Systeme protokollieren, welche Entscheidungen zu welchem Zeitpunkt getroffen wurden – ähnlich einer Black Box in Flugzeugen. Diese Nachvollziehbarkeit soll sicherstellen, dass das System korrekt arbeitet und eventuelle Fehler erkannt und behoben werden können.
Zusätzlich verlangt der AI Act eine umfassende Dokumentation der Funktionsweise des Systems sowie eine kontinuierliche Überwachung während der Nutzung. Die Anbieter von Hochrisiko-KI müssen den Betreibern alle nötigen Informationen bereitstellen, um eine ordnungsgemäße Überwachung zu ermöglichen.
Forschung bleibt unberührt
Trotz dieser strengen Vorschriften gibt es keinen Grund zur Sorge, dass Europa in der internationalen KI-Entwicklung zurückfallen könnte. Im Gegenteil, Hermanns und seine Kollegen loben das Gesetz als „einen vernünftigen Ansatz, KI zu regulieren“. Besonders beruhigend für Forscher und Entwickler: Solange KI-Systeme nicht auf den Markt kommen oder in Betrieb genommen werden, gibt es keine Einschränkungen für ihre Arbeit. Dies gilt sowohl für staatlich geförderte als auch für privat finanzierte Projekte.
Sarah Sterz bringt es auf den Punkt: „Die meisten Anwendungen werden nur sehr bedingt vom AI Act betroffen sein.“ Das Verbot von Technologien wie der Gesichtserkennung zur Interpretation von Emotionen bleibt bestehen, während unproblematische KI-Systeme, etwa für Videospiele oder Spam-Filter, weitgehend unbeeinträchtigt bleiben.
Ein europäisches Vorbild?
Europa hat mit dem AI Act das weltweit erste umfassende Gesetz geschaffen, das Künstlicher Intelligenz auf einem ganzen Kontinent einen rechtlichen Rahmen gibt. Dies ist ein bedeutender Schritt, um sicherzustellen, dass KI verantwortungsvoll und ethisch eingesetzt wird. „Der AI Act ist ein Versuch, KI auf vernünftige Weise zu regulieren, und das ist nach unserem Dafürhalten gut gelungen,“ resümiert Hermanns. Damit könnte Europa zum Vorbild für andere Regionen werden, die ähnliche Regelungen erwägen.
.gif)
