Kurze Leine für KI: EU beschließt "historisches" Regelwerk

Das EU-Parla­ment gibt grünes Licht für schär­fere Regeln für Künst­liche Intel­ligenz (KI) in der Euro­päi­schen Union. Die Parla­men­tarier stimmten heute in Straß­burg mehr­heit­lich für das Gesetz. Nach Angaben des Parla­ments handelt es sich um das welt­weit erste KI-Gesetz. Demnach sollen KI-Systeme künftig in verschie­dene Risi­kogruppen einge­teilt werden. Je höher die poten­ziellen Gefahren einer Anwen­dung sind, desto höher sollen die Anfor­derungen sein.

Regeln für Anwen­dungen auf Basis maschi­nellen Lernens

Die EU stimmt über ein neues KI-Gesetz ab (Symbolbild)
Bild: Image licensed by Ingram Image, AI Generative Künst­liche Intel­ligenz bezeichnet meist Anwen­dungen auf Basis maschi­nellen Lernens, bei denen eine Soft­ware große Daten­mengen nach Über­ein­stim­mungen durch­forstet und daraus Schluss­fol­gerungen zieht. Sie werden schon jetzt in vielen Berei­chen einge­setzt. Zum Beispiel können solche Programme Aufnahmen von Compu­ter­tomo­grafen schneller und mit einer höheren Genau­igkeit als Menschen auswerten.

Auch selbst­fah­rende Autos versu­chen so, das Verhalten anderer Verkehrs­teil­nehmer vorher­zusagen. Und Chat­bots oder auto­mati­sche Play­lists von Strea­ming-Diensten arbeiten eben­falls mit KI.

Bestimmte KI-Anwen­dungen sollen verboten werden

Das nun anste­hende Gesetz geht auf einen Vorschlag der EU-Kommis­sion aus dem Jahr 2021 zurück. Systeme, die als beson­ders risi­koreich gelten und beispiels­weise in kriti­schen Infra­struk­turen oder im Bildungs- und Gesund­heits­wesen einge­setzt werden, müssen demnach strenge Anfor­derungen erfüllen. Bestimmte KI-Anwen­dungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört beispiels­weise die Bewer­tung von sozialem Verhalten ("Social Scoring"). Damit werden die Bürge­rinnen und Bürger in China in Verhal­tens­kate­gorien einge­teilt. Und auch eine Emoti­ons­erken­nung am Arbeits­platz und in Bildungs­ein­rich­tungen soll es in der EU nicht geben.

Auch die Gesichts­erken­nung im öffent­lichen Raum - also zum Beispiel durch Video­über­wachung an öffent­lichen Plätzen - soll grund­sätz­lich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicher­heits­behörden sollen eine solche Gesichts­erken­nung im öffent­lichen Raum nutzen dürfen, um ganz bestimmte Straf­taten wie Menschen­handel oder Terro­rismus zu verfolgen.

EU-Kommis­sions­prä­sidentin Ursula von der Leyen sprach der nach Abstim­mung im Parla­ment von einem "wegwei­senden Rahmen für inno­vative KI". Europa werde damit eine Blau­pause für vertrau­ens­wür­dige KI in der ganzen Welt schaffen, schrieb sie auf der Platt­form X (vormals Twitter).

Die Verbrau­cher­zen­trale Bundes­ver­band begrüßte es, dass sich die EU-Insti­tutionen auf Regeln und Quali­täts­vor­gaben für Betreiber von KI-Systemen geei­nigt haben. Doch die Regeln würde Verbrau­che­rinnen und Verbrau­chern keinen ausrei­chenden Schutz bieten, kriti­sierte dessen Vorständin Ramona Pop in einer Mittei­lung. "Der deut­sche Gesetz­geber muss sicher­stellen, dass es effi­ziente Aufsichts­struk­turen gibt und Aufsichts­behörden ausrei­chend mit Personal und Know-how ausge­stattet sind." Bei der Kontrolle von KI-Systemen und dem Durch­setzen der Regeln müssten Verbrau­cher­inter­essen höchste Prio­rität bekommen.

Regel­werk kann in Kraft treten

Mit der Zustim­mung des Parla­ments kann das Regel­werk nun in Kraft treten. Zuvor hatten Unter­händler von Euro­papar­lament und EU-Ländern im Dezember nach langen Verhand­lungen eine Eini­gung über eine Regu­lie­rung erzielt. Anfang Februar stimmten auch Vertreter der EU-Staaten dem Vorschlag formell zu. Für die Mitglieds­staaten bedeutet das nun, dass sie zunächst schritt­weise verbo­tene Systeme außer Betrieb nehmen müssen. Nach zwei Jahren sollen alle Punkte des Gesetzes voll­ständig umge­setzt sein.

Die Mitglied­staaten müssen etwa Sank­tionen beschließen, wenn Unter­nehmen die Vorschriften nicht einhalten. Dies können Geld­strafen sein. Privat­per­sonen, die Verstöße gegen die Vorschriften entde­cken, können sich bei natio­nalen Behörden beschweren. Diese können dann Über­wachungs­ver­fahren einleiten und gege­benen­falls Strafen verhängen.

In einer weiteren Meldung lesen Sie: Neue KI-Soft­ware erkennt sofort, wenn sie getestet wird.