Europa folgt Deutschland in puncto Künstlicher Intelligenz (KI). Der alte Kontinent soll das globale Zentrum für vertrauenswürdige KI-Lösungen wie zum Beispiel in der Präzisionsonkologie werden. Dazu hat die Europäische Kommission am Mittwoch den nach eigenen Angaben weltweit ersten Rechtsrahmen für KI vorgelegt – und zieht darin die regulatorischen Daumenschrauben im Vergleich zu China oder auch den USA gehörig an.
Wie bereits im Vorfeld öfter bekundet, geht es nicht a priori um das technisch Machbare, sondern auch um das nach europäischem Verständnis ethisch Vertretbare. „Bei Künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk. Mit diesen wegweisenden Vorschriften steht die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen, die sicherstellen sollen, dass KI vertrauenswürdig ist“, kommentierte Exekutiv-Vizepräsidentin Margrethe Vestager dementsprechend bei der Vorstellung der europäischen KI-Leitplanken in Brüssel.
Investitionen in KI sollen beschleunigt werden
Folgerichtig werden – ebenfalls im Gegensatz zu China und den USA – starke KI-Systeme, die die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen bedrohen, verboten. Für schwache KI-Systeme mit hohem Risiko sollen strenge Vorgaben gelten, die erfüllt sein müssen, bevor sie auf den Markt gebracht werden.
Außerdem hat die EU-Kommission ihr europäisches Konzept zu Exzellenz in KI aktualisiert, mit dem Investitionen in KI beschleunigt werden sollen und das die neuen Herausforderungen, die sich unter anderem aus der Coronavirus-Pandemie ergeben, berücksichtigt.
Ergänzt wird dieses Konzept durch neue Vorschriften für Maschinen zur Anpassung der Sicherheitsvorschriften, um so das Vertrauen der Nutzer in die neue, vielseitige Produktgeneration zu stärken.
Abwägen zwischen Chancen und Risiken
Der für den Binnenmarkt zuständige EU-Kommissar Thierry Breton referenziert explizit auf den medizinisch-pflegerischen Kontext, in dem Experten jede Menge Chancen für KI-Lösungen sehen – bisher verläuft deren Einsatz im Versorgungsalltag unter anderem wegen haftungsrechtlicher Unklarheiten und des bisher niedrigen Akzeptanzniveaus noch eher zögerlich.
„Mit der heutigen Rechenleistung hat KI nun ganz neue Fähigkeiten. Dies bietet ein riesiges Potenzial in so verschiedenen Bereichen wie Gesundheit, Verkehr, Energie, Landwirtschaft, Tourismus oder Cybersicherheit. Die heutigen Vorschläge sollen die Position Europas als globales Zentrum für Exzellenz in der KI vom Labor bis zum Markt stärken. Außerdem sollen sie dafür sorgen, dass die KI in Europa unsere Werte und Regeln wahrt“, so Breton.
Die neuen Vorschriften sollen laut Kommission in eine KI-Verordnung münden, was – wie bei der novellierten Medizinprodukteverordnung – zur Folge hat, dass der Rechtsrahmen in allen Mitgliedstaaten direkt und in gleicher Weise Anwendung finden wird. Die Länder haben also, anders als bei einer Richtlinie bei der Auslegung keinen Gestaltungsspielraum haben.
Risikobasierter Ansatz
Die KI-Spielregeln folgen einem risikobasierten Ansatz:
- Unannehmbares Risiko: Hierzu zählen KI-Systeme, die als klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen gelten, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen, wie beispielsweise Spielzeug mit Sprachassistent, das Minderjährige zu gefährlichem Verhalten ermuntert, sowie Systeme, die den Behörden eine Bewertung des sozialen Verhaltens (Social Scoring) ermöglichen. Letztere setzt China ein.
- Hohes Risiko: Darunter sind KI-Systeme zu verstehen, bei denen ein hohes Risiko besteht. Dieses wird zum Beispiel gesehen, wenn KI-Technik in Bereichen wie kritischen Infrastrukturen, zu denen die Gesundheit zählt, eingesetzt wird. Auch Sicherheitskomponenten von Produkten sind hier tangiert – hier sind KI-Anwendungen für die roboterassistierte Chirurgie zu verorten – oder auch Dienstleistungen wie die Bewertung der Kreditwürdigkeit.
