Der europäische Rahmen

Die Europäische Kommission hat im April 2021 einen Vorschlag für eine Verordnung zur Festlegung Harmonisierter Vorschriften für künstliche Intelligenz (Artificial Intelligence Act, AI Act) vorgelegt. Ziel dieser Verordnung ist die Schaffung eines vertrauenswürdigen und innovativen KI-Ökosystems in der EU, um im globalen Wettbewerb bestehen zu können. Die Verordnung soll daher die Entwicklung und den Einsatz von künstlicher Intelligenz in der EU regeln, um die Nutzerinnen und Nutzer zu schützen und Innovationen zu fördern.

Der AI Act gilt für alle Akteure, die KI-Systeme in der EU anbieten oder nutzen, unabhängig davon, wo sie ansässig sind. Dies gilt auch für KI-Systeme, die außerhalb der EU entwickelt, aber in der EU eingesetzt werden. Damit soll der Schutz der Menschen in der EU auch dann gewährleistet werden, wenn sie mit KI-Systemen in Kontakt kommen, die außerhalb der EU entwickelt wurden.

Ein risikobasierter Ansatz für KI-Regulierung

Der risikobasierte Ansatz, dem der AI Act folgt, legt Anforderungen an KI-Systeme fest, die je nach dem Grad des Risikos, das sie darstellen, variieren. Dabei wird zwischen KI-Systemen mit inakzeptablem, hohem, begrenztem und geringem Risiko unterschieden. Je höher das Risiko, desto strenger die Vorschriften. So sind KI-Systeme, die ein inakzeptables Risiko darstellen (zum Beispiel Social Scoring), verboten. KI-Systeme, die ein hohes Risiko darstellen (zum Beispiel KI-Systeme in kritischen Infrastrukturen oder Sicherheitskomponenten von Produkten) unterliegen strengen Auflagen, bevor sie auf den Markt gebracht werden dürfen (Risikominderungssysteme, Aufzeichnungspflichten, …). Für KI-Systeme mit begrenztem Risiko sind besondere Transparenzverpflichtungen vorgesehen. Der AI Act ermöglicht jedoch den freien Einsatz von KI mit minimalem Risiko.

Neben Maßnahmen zur Risikominimierung sind im AI Act auch Maßnahmen zur Innovationsförderung vorgesehen. KI-Reallabore sollen die Entwicklung, Erprobung und Validierung innovativer KI-Systeme vor der Markteinführung unter regulatorischer Aufsicht ermöglichen. Kleine und mittlere Unternehmen sollen einen bevorzugten Zugang zu den KI-Reallaboren erhalten.

Aktueller Stand der Verhandlungen

Im Dezember 2022 legte der Rat der EU seine Position zum AI Act – die sogenannte „Allgemeine Ausrichtung“ – fest und im Juni 2023 einigten sich die Mitglieder des EU-Parlaments auf eine gemeinsame Position. Die Trilogverhandlungen konnten im Dezember 2023 erfolgreich beendet werden. Demnach wird der AI Act 2024 in Kraft treten. Nach einer Übergangsfrist von 24 Monaten wird die Verordnung 2026 wirksam werden. Kürzere Fristen sind u.a. bei verbotenen KI-Systemen und General Purpose AI Modellen vorgesehen.