Künstliche Intelligenz: EU einigt sich auf schärfere Regeln

Nach zähen Verhand­lungen hat sich die EU auf schär­fere Regeln für Künst­liche Intel­ligenz (KI) geei­nigt. Es seien welt­weit die ersten Regeln für KI, teilten Euro­papar­lament und die EU-Staaten am Frei­tag­abend in Brüssel mit. Die wich­tigsten Fragen und Antworten.

Wie funk­tio­niert KI?

Unter Künst­licher Intel­ligenz (KI) versteht man den Versuch, mensch­liches Lernen und Denken auf den Computer zu über­tragen. Ziel ist es, komplexe Aufgaben erle­digen zu lassen, die norma­ler­weise mensch­liche Intel­ligenz erfor­dern. Gene­relle Problem­lösungs­maschinen (Arti­ficial General Intel­ligence) sind trotz aller Fort­schritte noch nicht in Sicht. Künstliche Intelligenz: Die EU hat sich auf schärfere Regeln geeinigt (Symbolbild)
Bild: dpa Aller­dings finden enger defi­nierte KI-Anwen­dungen in unserer heutigen Welt bereits breite Verwen­dung: Dazu zählen etwa auto­mati­sche Über­set­zungen, perso­nali­sierte Empfeh­lungen beim Online-Shop­ping, Gesichts­erken­nung am Handy, aber auch intel­ligente Ther­mostate oder Navis. Auch die Anwen­dungen der gene­rativen KI wie der Text-Roboter ChatGPT gehören zu den enger defi­nierten KI-Anwen­dungen.

Warum braucht es ein Gesetz dafür?

KI gilt als Zukunfts­tech­nologie. Experten vermuten, dass die Tech­nologie künftig prak­tisch alle Aspekte in der Wirt­schaft, aber auch im Alltag betreffen könnte und sich zum Beispiel der Arbeits­markt dadurch massiv wandeln wird: Manche Jobs werden sich verän­dern, andere werden viel­leicht ganz verschwinden. KI gilt aber auch als Tech­nologie, die Gefahren birgt. So warnte etwa der Chef des ChatGPT-Erfin­ders OpenAI, Sam Altman, vor Falsch­infor­mationen mit Hilfe Künst­licher Intel­ligenz und sprach sich deshalb für eine Regu­lie­rung aus.

Fotos oder Videos können durch KI leicht mani­puliert werden. Als Problem gilt auch, dass KI teil­weise mit verzerrten Daten­sätzen trai­niert wurden und damit Personen diskri­miniert werden. Auch der Einsatz in der Kriegs­füh­rung wird für möglich gehalten.

Worauf hat sich die EU nun verstän­digt?

Die nun vorge­legten Vorschriften legen Verpflich­tungen für KI auf Grund­lage ihrer poten­ziellen Risiken und Auswir­kungen fest. Als beson­ders riskant werden KI einge­stuft, die ein erheb­liches Scha­dens­poten­zial etwa für Gesund­heit, Demo­kratie, Umwelt oder Sicher­heit haben. Bestimmte Anwen­dungen werden komplett verboten, etwa biome­tri­sche Kate­gori­sie­rungs­sys­teme, die sensible Merk­male wie zum Beispiel die sexu­elle Orien­tie­rung oder reli­giöse Über­zeu­gungen verwenden. Auch das unge­zielte Auslesen von Bildern aus dem Internet oder aus Über­wachungs­auf­nahmen für Gesichts­erken­nungs­daten­banken soll nicht erlaubt sein.

Aller­dings wird es Ausnahmen für biome­tri­sche Iden­tifi­zie­rungen im öffent­lichen Raum in Echt­zeit geben, etwa bei der Gefahr eines Terror­anschlags oder bei der gezielten Suche von Opfern von Menschen­handel. Um diesen Punkt wurde intensiv gerungen, das EU-Parla­ment wollte eigent­lich ein komplettes Verbot.

Streit­punkt: Regu­lie­rung von Basis­modellen

Ein weiterer Streit­punkt war die Regu­lie­rung von soge­nannten Basis­modellen. Das sind sehr leis­tungs­fähige KI-Modelle, die mit einem breiten Satz an Daten trai­niert wurden. Sie können die Grund­lage für viele andere Anwen­dungen sein. Dazu zählt etwa GPT. Deutsch­land, Frank­reich und Italien hatten zuvor gefor­dert, dass nur konkrete Anwen­dungen von KI regu­liert werden sollten, nicht aber die Basis-Tech­nologie an sich. Nun einigten sich die Unter­händler auf bestimmte Trans­parenz­pflichten für diese Modelle.

Wie fallen die Reak­tionen aus?

EU-Kommis­sions­prä­sidentin Ursula von der Leyen begrüßte die Eini­gung und bezeich­nete das Gesetz als "welt­weites Novum". Svenja Hahn von der FDP zieht eine gemischte Bilanz: "In 38 Stunden Verhand­lung über drei Tage konnten wir eine massive Über­regu­lie­rung von KI-Inno­vation verhin­dern und rechts­staat­liche Prin­zipien beim Einsatz von KI in der Straf­ver­fol­gung veran­kern. Ich hätte mir mehr Freude an Inno­vation und noch stär­kere Bekennt­nisse zu Bürger­rechten gewünscht", sagte sie. Der rechts­poli­tische Spre­cher der CDU, Axel Voss, teilte mit, er sei nicht davon über­zeugt, dass dies der rich­tige Weg sei, um Europa im Bereich der KI wett­bewerbs­fähig zu machen. "Inno­vation wird immer noch anderswo statt­finden. Hier haben wir als Euro­päi­sche Union unsere Chance verpasst."

Die euro­päi­sche Verbrau­cher­schutz­orga­nisa­tion Beuc kriti­sierte, dass sich die EU zu sehr auf den guten Willen der Unter­nehmen zur Selbst­regu­lie­rung verlasse. "So werden beispiels­weise virtu­elle Assis­tenten oder KI-gesteu­erte Spiel­zeuge nicht ausrei­chend regu­liert, da sie nicht als Hoch­risi­kosys­teme gelten. Auch Systeme wie ChatGPT oder Bard werden nicht die notwen­digen Leit­planken erhalten, damit die Verbrau­cher ihnen vertrauen können", hieß es.

Zunächst müssen EU-Staaten und Euro­papar­lament dem Vorhaben noch offi­ziell zustimmen. Das gilt aber als Form­sache. Gelten soll das Gesetz dann zwei Jahre nach Inkraft­treten.

In einer weiteren News lesen Sie: BNetzA: Vorsicht vor smarten Geräten mit Spio­nage­funk­tion.