Menschliche Regeln für künstliche Intelligenz

Wie sich der geplante neue EU-Rechtsrahmen im Gesundheitssektor auswirkt

Stefanie Heiß, freie Journalistin für Gesundheits- und Europapolitik

Der Entwurf wurde mit Spannung erwartet, denn er ist der Erste seiner Art: Die EU plant ein Gesetz für den Umgang mit künstlicher Intelligenz. Das Tempo, in dem sich diese Technologien derzeit entwickeln, ist rasant. Und: KI findet in immer mehr Lebensbereichen Anwendung, von der Industrie über Landwirtschaft, Bildung und Umweltsektor bis hin zu Justiz oder Kultur. Und – das hat vor allem die Covid-19-Pandemie überdeutlich gezeigt – natürlich auch im Gesundheitssektor.

Bislang hat sich weltweit noch keine legislative Instanz an das Thema herangetraut. Die EU geht das jetzt an: Sie will einen Rechtsrahmen für Künstliche Intelligenz schaffen. Dazu hat die EU-Kommission am 21. April 2021 einen Verordnungsvorschlag vorgelegt: den Artificial Intelligence Act (AIA). Und sie dreht dabei ein großes Rad, denn Einsatzbereiche und Anwendungsmöglichkeiten von Künstlicher Intelligenz (KI) sind ungefähr so vielfältig wie das Leben an sich. Diese enorme Bandbreite versucht die EU, durch einen horizontalen Ansatz zu adressieren: Die Regelungen im AIA sollen branchen- und bereichsübergreifend funktionieren.

Gleichwohl ist sich die EU bewusst, dass es den einen oder anderen besonders sensiblen Bereich gibt, auf den genauer geschaut und der spezifischer adressiert werden muss. Dazu gehören KI-Anwendungen, die die Grundwerte der Europäischen Union und die Grundrechte ihrer Bürger tangieren. Oder solche, die sich auf Fragen der inneren und äußeren Sicherheit auswirken. Und last, but not least: die öffentliche Gesundheit. Sie ist einer der Sektoren, auf die der Verordnungsvorschlag immer wieder explizit referiert.

Die folgende Analyse gibt einen Überblick über den grundlegenden Regulierungsansatz des AIA und zeigt die zentralen Referenzpunkte zum Gesundheitssektor auf. Zudem blickt sie auf die bislang erkennbaren Auswirkungen auf diesen Sektor, fasst die Reaktionen/Positionen der wichtigsten betroffenen Branchenverbände zusammen und gibt einen kurzen Überblick über die mit dem AIA verbundenen Initiativen der EU. Denn: Der Verordnungsvorschlag ist eingebettet in ein ganzes Paket an politischen und legislativen Maßnahmen zu KI. Sie alle sollen einzahlen auf vier große Ziele: Sicherheit, Vertrauen, Innovation und Exzellenz.

 

Balance von Potenzial und Risiko – Regulierungsprinzipien des AIA

Der AIA soll die Entwicklung, das Inverkehrbringen und die Nutzung von KI horizontal – also bereichs- und branchenübergreifend – regeln. Dazu soll zum einen eine technologieneutrale Definition von KI-Systemen im EU-Recht verankert werden. Zum anderen schlägt die Kommission flexible, risikobasierte Regeln für KI-Systeme vor. Die werden dazu in vier Risikostufen eingeordnet:

KI-Systeme, die ein inakzeptables Risiko darstellen, sollen verboten werden (Artikel 5 AIA). Dazu zählen insbesondere KI-Anwendungen, die gegen die Werte der EU verstoßen (z. B. soziale Bewertung durch Regierungen).

Für KI mit hohem Risiko (Artikel 6/7 AIA) sollen umfangreiche, regulatorische Anforderungen gelten (Artikel 8 bis 51 AIA). Diese Systeme sollen im Rahmen einer Konformitätsbewertung überprüft und in einer eigens zu schaffenden EU-Datenbank registriert werden. Damit will die EU ein gleichbleibend hohes Schutzniveau für die Sicherheit und die Grundrechte gewährleisten und Vertrauen in KI schaffen beziehungsweise stärken. Als hochriskant werden KI-Systeme eingestuft, die negative Auswirkungen auf die Sicherheit und Gesundheit der Menschen oder auf ihre Grundrechte haben. Diese Systeme sind in Annex III der Verordnung in Form klassifizierender Definitionen entsprechend der Einsatzbereiche von KI gelistet. Annex III soll permanent aktualisiert werden.

Für KI-Systeme mit begrenztem Risiko sieht der AIA lediglich Transparenzpflichten vor (Artikel 52 AIA). Insbesondere müssen KI-Systeme, die mit Menschen interagieren, diese darauf hinweisen, dass sie nicht mit einer natürlichen Person interagieren.

KI-Systeme mit geringem Risiko können in der EU frei – also ohne zusätzliche rechtliche Verpflichtungen – entwickelt und genutzt werden.

Damit bezieht sich der regulierende Rechtsrahmen durch den AIA letztlich ausschließlich auf die Hochrisiko-KI-Systeme. Neben der Begrenzung der potenziellen Risiken von KI verfolgt der AIA-Verordnungsvorschlag folgende weitere Ziele für alle auf dem Unionsmarkt in Verkehr gebrachten und verwendeten KI-Systeme:

  • Sicherheit der KI-Systeme
  • Grundrechts- und Wertekonformität der KI-Systeme
  • Förderung von Investitionen in KI-Systeme
  • Rechtssicherheit
  • Stärkung der Governance und wirksame Durchsetzung geltenden Rechts hinsichtlich Grundrechtskonformität von KI-Systemen und Sicherheitsanforderungen an KI-Systeme.
  • Erleichterung der Entwicklung eines Binnenmarkts für rechtskonforme, sichere und vertrauenswürdige KI-Anwendungen (insbesondere: Verhindern einer Marktfragmentierung).

Ebenfalls am 21. April 2021 stellte die Kommission einen überarbeiteten, koordinierten Plan für KI in Europa vor, der Ziele, konkrete Aktivitäten (politische sowie Legislativ-, Kooperations- und Fördermaßahmen) und einen Zeitplan für deren Umsetzung zusammenfasst. Beide Dossiers, der Verordnungsvorschlag und der koordinierte Plan, sind zentrale Elemente eines ganzen Pakets politischer und legislativer Maßnahmen zu KI, die in Europa für Sicherheit und Vertrauen sowie für Innovation und Exzellenz sorgen sollen. (zu den weiteren Bestandteilen des Pakets siehe unten: Gesamtkontext)

 

KI im Gesundheitssektor: Versorgung – Förderung – Regulierung

Potenziale von KI im Gesundheitssektor: Die EU-Kommission sieht in KI enorme Potenziale – auch und vor allem im Bereich Gesundheit. Der Gesundheitssektor ist einer der Bereiche, die die Kommission immer wieder ausdrücklich hervorhebt. Zum einen direkt im Verordnungstext: Obwohl der AIA die Entwicklung und den Einsatz von KI bereichsübergreifend regelt, verweist die Verordnung mehrfach explizit auf die Bedeutung von KI für den Gesundheitssektor. Zentrale Aspekte sind dabei:

  • Eine bessere, effizientere Gesundheitsversorgung, z.B. durch KI-basierte Diagnosesysteme oder autonome Roboter in der Pflege (AIA, Gründe 3, 28).
  • Der Schutz vor möglichen negativen/schädlichen Auswirkungen von KI-Systemen auf die Gesundheit (AIA, Gründe 1, 5, 13, 27, 28, 32, 34, 37, 43)
  • Die Verfügbarkeit und der Austausch qualitativ hochwertiger (und standardisierter) Datensätze (AIA, Grund 45) – unter anderem im Rahmen des europäischen Gesundheitsdatenraums. Letzterer soll einen diskriminierungsfreien Zugang zu Gesundheitsdaten erleichtern (zum Beispiel für das Training von KI-Algorithmen) und einen sicheren, transparenten und vertrauenswürdigen Umgang mit diesen Daten gewährleisten, einschließlich der Wahrung der Privatsphäre.

Auch in der umfangreichen begleitenden Kommunikation zur KI allgemein und zum AIA im Besonderen betont die Kommission immer wieder die Bedeutung von KI für den Gesundheitssektor. Sie verweist dabei insbesondere auf die Erfahrungen während der Corona-Pandemie: Bei der der Bekämpfung von COVID-19 habe KI dazu beigetragen, die geografische Ausbreitung der Krankheit vorherzusagen, die Infektion mit Hilfe von Computertomografie-Scans zu diagnostizieren und die ersten Impfstoffe und Medikamente gegen das Virus zu entwickeln. Zudem habe KI eine Vielseitigkeit bewiesen, die nur wenige andere Technologien bieten könnten.

Risiken von KI im Gesundheitssektor: Dass mit dem großen Potenzial von KI auch hohe Risiken einhergehen können, stellt die Kommission ebenfalls klar: „Dieselben Faktoren und Techniken, die für den sozioökonomischen Nutzen der KI sorgen, können aber auch neue Risiken oder Nachteile für den Einzelnen oder die Gesellschaft hervorbringen“, heisst es dazu in der Begründung des Verordnungserntwurfs. Zudem verweist der gesamte Verordnungstext in der Begründung/Legitimierung aller regulativen Eingriffe durchgängig auf den „Schutz der Gesundheit, der Sicherheit und der Grundrechte“, wobei die Gesundheit immer an erster Stelle steht.

Gesundheitsschutz als zentrale Legitimation für Regulierung: Für die Einordnung eines KI-Systems in die Kategorie der regulierten Hochrisiko-Systeme ist der Schutz von Gesundheit und Sicherheit ein grundlegendes Kriterium. Zwar werden Gesundheitssektor und/oder Medizinprodukte weder in den Klassifizierungsvorschriften für Hochrisiko-KI-Systeme (Artikel6 AIA) noch in Annex III (Liste der Hochrisiko-KI-Systeme/Einsatzbereich) ausdrücklich genannt. Allerdings ergibt sich aus Artikel 6 Abs. 1b auch, dass alle Produkte, für die im EU-Recht ohnehin eine Konformitätsbewertung vorgesehen ist, in die Hochrisiko-Kategorie fallen, wenn sie KI-Systeme sind bzw. KI-Systeme beinhalten. Die betreffenden Rechtsvorschriften sind in Annex II (Liste der Harmonisierungsrechtsvorschriften) gelistet. Darunter auch die Verordnungen über Medizinprodukte MDR (Medical Device Regulation, Verordnung (EU) 2017/745) und über In-vitro-Diagnostika (Verordnung (EU) 2017/746).

Experten schätzen deshalb, dass der überwiegende Teil der KI-Medizinprodukte in die Hochrisiko-Kategorie des AIA fallen wird und damit die strengen Anforderungen des geplanten EU-Rechtsrahmens für KI einhalten muss.

Darüber hinaus überträgt der AIA der EU-Kommission die Befugnis, durch delegierte Rechtsakte (also in Form von Erlassen und damit außerhalb eines regulären Gesetzgebungsverfahrens unter Beteiligung von Parlament und Rat) die Liste in Annex III durch weitere Hochrisiko-KI-Systeme zu ergänzen (Artikel 7 AIA). Zwar wird der Gesundheitssektor in Annex III derzeit nicht explizit genannt und die Kommission darf im Rahmen eines delegierten Rechtsakts auch keine weiteren Kategorien ergänzen. Allerdings ist durchaus denkbar, dass Gesundheitsanwendungen von KI innerhalb der bestehenden Kategorien des Annex III ergänzt werden. Zudem ist ein potenzielles Risiko der Gesundheitsschädigung eines der zentralen Bewertungskriterien bei der Ergänzung einer KI-Anwendung in Annex III.

Gesundheitsschutz als Legitimation für Ausnahmen: Entsprechend der insgesamt hohen Bedeutung, die der AIA dem Gesundheitssektor zuerkennt, ist der Schutz der öffentlichen Gesundheit nicht nur einer der zentralen Gründe zur Legitimation von regulierenden Eingriffen, sondern auch ein grundlegendes Kriterium für Ausnahmen von diesen Regulierungen. Dazu zählen insbesondere Ausnahmen von der Konformitätsbewertung für Hochrisiko-KI-Systeme (Artikel 47 AIA). Wenn außergewöhnliche Gründe etwa des Lebens-/Gesundheitsschutzes dies erfordern, kann ein Mitgliedstaat in seinem Hoheitsgebiet die Konformitätsbewertung aussetzen, um ein Hochrisiko-KI-System per Ausnahmegenehmigung zuzulassen. So kann es zum Beispiel in einem Krisenfall ermöglicht werden, unterstützende KI-Systeme schneller am Markt einzusetzen.

Innovationsförderung für KI-Systeme im Gesundheitssektor: Der durch den AIA zu schaffende Rechtsrahmen für KI soll innovationsfreundlich, zukunftstauglich und widerstandsfähig sein. Um wirtschaftliche Auswirkungen und potenzielle Innovationshemmnisse, die durch die Regulierung von Hochrisiko-KI-Systeme entstehen können, abzumildern, hat die EU-Kommission bereits begonnen, umfangreiche Fördermaßnahmen einzusetzen. Zwei konkrete Maßnahmen zur Innovationsförderung sind direkt im Verordnungstext des AIA geregelt:

  • KI-Reallabore (Artikel 53 und 54 AIA) sollen jeweils für eine begrenzte Zeit kontrollierte Testumgebungen (unter realen Bedinungen) für innovative Technologien schaffen. In solchen Reallaboren können unter bestimmten Bedingungen ausdrücklich auch personenbezogene Daten verarbeitet werden. Insbesondere wenn dies der öffentlichen Gesundheit dient – einschließlich der „Verhütung, Bekämpfung und Behandlung von Krankheiten“ (AIA, Artikel 54, Absatz (1) ii).
  • Kleine/mittlere Unternehmen (KMU) und Startups sollen vorrangig behandelt und zusätzlich gefördert werden. Innovative Technologien im Gesundheitssektor (wie auch in vielen anderen Anwendungsbereichen von KI) werden häufig in KMU oder von Startups entwickelt. Diese sind gleichzeitig oft mit hohen Markteintrittsbarrieren konfrontiert. Der AIA sieht deshalb dezidierte Maßnahmen für diese Unternehmen vor, die insbesondere den Verwaltungsaufwand reduzieren und den Marktzugang erleichtern sollen (Artikel 55 und 69 AIA). Dazu gehören der vorrangige Zugang zu Reallaboren, besondere Unterstützung in der Anwendung des AIA und die Reduzierung der damit verbundenen Kosten (etwa für die Konformitätsbewertung) sowie Unterstützung/Erleichterungen bei der Aufstellung freiwilliger Verhaltenskodizes (insbesondere hinsichtlich der Einhaltung der Regularien für Hochrisiko-KI auch für Systeme, die gemäß AIA nicht diese Kategorie fallen).

Finanzielle Förderung von KI-Systemen im Gesundheitssektor: Analog zur Bedeutung, die der KI im Gesundheitssektor zugeschrieben wird, gehören Forschungs- und Entwicklungsprojekte zu KI im Gesundheitswesen auch zu den Schwerpunkten der finanziellen Förderung durch die EU. Weitere Schwerpunkte sind: Landwirtschaft/Umwelt, Desinformation, Industrie, Energie, Mobilität. Der AIA selbst enthält zwar keine Regelungen zu finanziellen Fördermaßnahmen. Diese sind jedoch zentraler Bestandteil der EU-Gesamtstrategie zur KI (siehe Gesamtkontext). Ein im April 2021 veröffentlichtes Factsheet zu KI im Gesundheitssektor listet beispielhaft 10 Entwicklungsprojekte, die die EU aktuell mit einem Gesamtvolumen von rund 37 Millionen Euro fördert. Weitere rund 133 Millionen Euro fließen seit Mai 2020 in KI-Projekte zur Bekämpfung des Coronavirus.

 

Lob für den Ansatz – Kritik im Detail von Branchenverbänden

Seit der Veröffentlichung des AIA-Verordnungsvorschlags haben nahezu alle betroffenen Branchenverbände in Deutschland zum Legislativvorhaben der EU Stellung genommen. Grundsätzlich begrüßen die Verbände, dass die EU einen Rechtsrahmen für KI schaffen will. Ebenfalls positiv bewertet werden der risikobasierte Ansatz des AIA-Vorschlags und die Ziele, ein vertrauensvolles Umfeld für den Einsatz von KI und ein europäisches Exzellenz-Ökosystem für KI zu schaffen. Allerdings fordern die Vertreter aus Industrie und Technik auch weitgehende Anpassungen im Gesetzestext. Mit Blick auf den Gesundheitssektor sind insbesondere die Positionspapiere folgender Branchenverbände – direkt, teilweise indirekt – relevant:

  • acatec (Deutsche Akademie der Technikwissenschaften),
  • BITKOM (Bundesverband Informationswirtschaft, Telekommunikation und neue Medien),
  • BDI (Bundesverband der deutschen Industrie),
  • BDVA (Big Data Value Association),
  • BVmed (Bundesverband Medizintechnologie),
  • BVDS (Bundesverband Deutsche Startups),
  • VDE (DIN+DKE) (Verband der Elektrotechnik Elektronik und Informationstechnik),
  • VDMA (Verband Deutscher Maschinen- und Anlagenbau),
  • ZVEI (Zentralverband Elektrotechnik- und Elektronikindustrie),
  • vzbv (Verbraucherzentrale Bundesverband ).

Zentrale Kritikpunkte beziehungsweise Forderungen der Verbände sind:

  • Die Regulierung von KI durch den AIA dürfe die internationale Wettbewerbsfähigkeit der Unternehmen aus der EU nicht behindern. Der neue Rechtsrahmen und die darauf aufbauende Governance müssten deshalb klar formuliert und einfach zu handhaben sein.
  • Der AIA müsse noch mehr Raum für Innovationen sichern
  • Die Definition von KI im AIA sei zu weit und müsse enger gefasst werden, insbesondere um Überschneidungen mit konventioneller Software zu verhindern.
  • Die Kriterien für Hochrisiko-KI-Systeme seien zu pauschal und müssten nachgeschärft werden.
  • In Bereichen, wo andere EU- oder nationale Rechtsnormen die Anwendung von KI bereits regeln (z.B. deutsche Produktsicherheitsgesetze), müsse Über- und Doppelregulierung vermieden werden. Mit Blick auf den Gesundheitssektor betrifft dies insbesondere die EU-Verordnungen über Medizinprodukte (MDR) und In-vitro-Diagnostika.
  • Die Regelungen im AIA müssten stärker darauf ausgerichtet sein, zusätzlichen Aufwand und Bürokratie vermeiden – insbesondere mit Blick auf die sehr detaillierten Regularien, die Dokumentationspflichten, und die Anforderungen an die Konformitätsbewertung und das Risikomanagement von KI-Systemen
  • Der AIA dürfe keine Hemmnisse für heutige und für künftige Forschung und Entwicklung erzeugen. Dafür müsste stets eine zeitnahe Anpassung an Stand der Technik sichergestellt werden.
  • Standards und Rechtsgrundlagen, auf die im AIA Bezug genommen werde, sollten vor dem Inkrafttreten des AIA vereinheitlicht und auf Doppel-/Überregulierung geprüft werden.
  • Auch für den Zugang und die Verarbeitung von (insbesondere persönlichen/medizinischen) Daten sollten vorab einheitliche Rechtsgrundlagen geschaffen werden.
  • Die Ausgestaltung, Ausstattung und die Zuständigkeiten der Prüf-/Aufsichtsorgane und Behörden (EU und national) müsse (vorab) genauer definiert werden.
  • Für Verbraucher solle es im Hinblick auf den Einsatz/die Nutzung von Hochrisiko-KI-Systemen einen Rechtsanspruch auf Einzelaufklärung geben.
  • Die Prüfung der Governance/Rechtskonformität von Hochrisiko-KI-Systemen solle nicht weitgehend den Herstellern der Systeme überlassen bleiben, sondern durch unabhängige Stellen vorgenommen werden.

 

Das weitere Legislativverfahren für den AIA

Der Verordnungsvorschlag der Kommission wird im nächsten Schritt des Legislativverfahrens vom Europäischen Parlament und dem Rat (EU-Mitgliedstaaten) erörtert werden. Für die parlamentarische Arbeit ist der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) zuständig. Berichterstatter ist Brando Benifei (Fraktion S&D, Italien).

Im Rat haben die Verhandlungen zwischen den Mitgliedsstaaten begonnen. Ziel ist die Definition eines gemeinsamen Standpunkts zum AIA-Verordnungsvorschlag. Sobald Rat und Parlament jeweils ihre Standpunkte formuliert und verabschiedet haben, beginnen die Trilog-Verhandlungen zwischen Rat, Parlament und Kommission. Ziel ist eine konsensfähige Version des Verordnungstextes, der anschließend im Parlament verabschiedet werden kann.

Es gilt als sicher, dass der Verordnungsentwurf im Lauf des Verfahrens zum Teil noch weitreichend verändert und ergänzt werden wird. Sowohl im Europäische Parlament wie auch im Rat ist mit einem monatelangen, zähen Ringen, um den Verordnungstext zu rechnen.

 

KI – zentraler Baustein in der Strategie für Europas Digitale Dekade“

Die EU-Kommission ist überzeugt, dass KI die Art und Weise, wie Menschen leben und arbeiten, künftig enorm beeinflussen wird. Bereits im April 2018 hatte die Kommission eine europäische KI-Strategie vorgestellt, die eine zweigleisige Politik verfolgt: Zum einen soll die EU zu einem weltweit führenden Zentrum (Drehkreuz) für KI werden. Zum anderen soll KI strikt auf den Menschen ausgerichtet und damit vertrauenswürdig sein. Das im Februar 2020 veröffentlichte Weißbuch KI bekräftigt diese Vision: In Europa soll ein Ökosystem der Exzellenz und des Vertrauens für KI entstehen.

Zur Realisierung dieser Vision hat die EU-Kommission im April 2021 zwei entscheidende Schritte vorgestellt: den Verordnungsentwurfs für den Artificial Intelligence Act (AIA) und den überarbeiteten, konkreten koordinierten Plan für KI in Europa (Erstfassung: Dezember 2018). Beide Dossiers sind zentrale Elemente eines Pakets politischer und legislativer Maßnahmen zu KI, die in Europa für Sicherheit und Vertrauen sowie für Innovation und Exzellenz sorgen sollen. Zu diesem Gesamtpaket gehören folgende wesentliche Elemente:

Legislative Maßnahmen:

  • Vorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz, AIA (Vorschlag der Kommission vom 21. April 2021; 2021/206)
  • Vorschlag für eine Verordnung über Maschinenprodukte (Vorschlag der Kommission vom 21. April 2021; 2021/0105)

Nicht rechtsverbindliche Entschließungen des EP:

  • Regelung der zivilrechtlichen Haftung beim Einsatz künstlicher Intelligenz (Entschließung des EP vom 20. Oktober 2020; 2020/2014 (INL))
  • Rahmen für die ethischen Aspekte von künstlicher Intelligenz, Robotik und damit zusammenhängenden Technologien (Legislative Entschließung des EP vom 20. Oktober 2020; 2020/2012 (INL))
  • Rechte des geistigen Eigentums bei der Entwicklung von KI-Technologien (Entschließung des EP vom 20. Oktober 2020; 2020/2015 (INI)
  • Künstliche Intelligenz im Strafrecht und ihre Verwendung durch die Polizei und Justizbehörden in Strafsachen (Entwurf einer Entschließung des EP vom 8. Juni 2020; (2020/2016(INI))
  • Künstliche Intelligenz in der Bildung, der Kultur und dem audiovisuellen Bereich (Entschließung des EP vom 19. Mai 2021; 2020/2017 (INI)

Strategische / politische Maßnahmen

  • Strategie für KI (April 2018)
  • Koordinierter Plan für KI (Dezember 2018/Überarbeitete Fassung: April 2021)
  • Leitlinien für eine vertrauenswürdige KI (April 2019)
  • Weißbuch zur KI (Februar 2020) inkl. offene Konsultation zum Weißbuch und Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung (Februar 2020)

Institutionelle Maßnahmen:

  • Einsetzung Sonderausschuss KI (AIDA); (Beschluss des EP vom 18. Juni 2020)
  • Gründung Europäische KI-Allianz (Juni 2018; Politikbegleitendes Forum mit aktuell rund 4.000 registrierten Interessenträgern aus allen relevanten sozioökonomischen Bereichen)

Förderprogramme, die ganz oder teilweise in KI und Digitalisierung fließen sollen:

  • Recovery and Resiliance Facility (RFF): Förderprogramm für die wirtschaftliche und soziale Erholung nach der Coronavirus-Pandemie; 20 Prozent der Fördermittel von insgesamt 5 Milliarden Euro sollen in Maßnahmen des digitalen Wandels fließen
  • Digital Europe (DIGITAL): Finanzrahmen von 8,2 Milliarden Euro im langfristigen EU-Haushalt (2021-2027)
  • Horizon Europe: Rahmenprogramm für Forschung und Innovation (Gesamtbudget: 95,5 Milliarden Euro)
  • Cohesion Policy Program: Langfristiges Förder-/Investitionsprogramm (aktuelle Periode: 2021-2027) zur Stärkung des wirtschaftlichen, sozialen und territorialen Zusammenhalts in der EU. Politische Prioritäten: ökologischer und digitaler Wandel.

 

Zusammenfassung und Ausblick

Mit dem Artificial Intelligence Act (AIA) will die EU-Kommission den weltweit den ersten Rechtsrahmen für KI etablieren. Sie schlägt dazu einen flexiblen, risikobasierten Ansatz vor. Regulierende Eingriffe sollen weitgehend auf Hochrisiko-KI-Systeme beschränkt werden. Der Verordnungsvorschlag soll Entwicklung, Inverkehrbringen und Nutzung von KI bereichs- und branchenübergreifend regeln. Gleichzeitig wird einzelnen Bereichen wie dem Gesundheitssektor (neben Sicherheit, Grundrechten und Grundwerten) eine hervorgehobene Bedeutung zuerkannt. Verordnungsvorschlag und begleitende Maßnahmen referieren auf diese Bereiche explizit.

Insgesamt wird das Legislativvorhaben zur KI unter Experten und Branchenvertretern positiv bewertet. Kritische Stellungnahmen der betroffenen Akteure sowie Forderungen und Vorschläge zur Veränderung/Ergänzung des Verordnungsvorschlags zeigen jedoch auch, dass bis zur Verabschiedung des AIA noch einige Herausforderungen bewältigt werden müssen. Die Legislativorgane der EU müssen sicherstellen, dass die Regulierung von KI genug Freiraum für Innovationen lässt und gleichzeitig einen wirksamen Schutz vor potenziellen Risiken bieten (insbesondere in grundrechtssensiblen Bereichen). Zudem müssen die Regeln klar und durchsetzungsfähig gestaltet sein und damit auch KI-Anwendungen in alltäglichen Bereichen ermöglichen. Diese Faktoren werden entscheidend für den Erfolg des neuen Rechtsrahmens zur KI sein.

 

Literatur


© Observer Gesundheit


Alle politischen Analysen ansehen