Der KI die Zügel anlegen

25. Januar 2024

Künstliche Intelligenz spielt in unserem Leben eine immer größere Rolle – nicht erst seit dem Hype um ChatGPT. Aber neben vielen Chancen birgt KI auch diverse Risiken. Mit dem Artificial Intelligence Act (AIA) will die EU künstliche Intelligenz künftig regulieren. Im Dezember 2023 haben sich Europaparlament und EU-Mitgliedsstaaten auf eine vorläufige Fassung geeinigt. Anfang dieses Jahres soll die KI-Verordnung dann verabschiedet werden. Was sich mit dem AI Act ändert, erklärt TÜVIT-Experte Vasilios Danos.

Herr Danos, wie soll der AI Act künstliche Intelligenz in der EU künftig regulieren, also welche Änderungen bringt er mit sich?

Vasilios Danos: Für die Bürgerinnen und Bürger bringt der AI Act in erster Linie mehr Transparenz darüber, wo künstliche Intelligenz zum Einsatz kommt, und die Sicherheit, dass ihre Rechte durch sie nicht verletzt werden. Unternehmen, Anbieter, Behörden, die KI-Anwendungen einsetzen, in Verkehr bringen oder entwickeln, müssen sich künftig damit auseinandersetzen, welche Risiken und Auswirkungen diese Anwendungen haben können und wie sich diese Risiken minimieren lassen. Was dabei zu tun ist, richtet sich nach der Risikoklasse, in die ihre KI-Anwendung fällt.

Der AI Act unterscheidet hier zwischen vier Risikoklassen. Welche sind das konkret?

Die unterste Stufe bildet die Kategorie „Low Risk“, also minimales Risiko. Darunter fallen etwa Spam-Filter oder KI-Avatare in Videospielen. Es geht also um Anwendungen, bei denen keinerlei Risiko besteht, Menschen physisch zu gefährden, ihre Rechte zu verletzen oder ihnen finanziell zu schaden. Diese Anwendungen sind weitgehend von allen Anforderungen befreit. Die nächste Stufe nennt sich „Limited Risk“, also begrenztes Risiko. Darunter fallen zum Beispiel einfache Chatbots, also KI-Systeme, die mit den Nutzenden interagieren. Solche Anwendungen müssen den Nutzenden künftig eindeutig kenntlich machen, dass sie es gerade mit einer KI und nicht mit einem Menschen zu tun haben. Auch sogenannte Deepfakes – also etwa manipulierte Videos von Prominenten – und andere KI-generierte Inhalte müssen als solche gekennzeichnet werden. Als dritte Stufe folgt die „High Risk“-Kategorie. Darunter fallen biometrische Zugangssysteme, bei denen man sich etwa mittels Gesichtserkennung ausweist, oder KI-Anwendungen, mit denen Bewerbungen automatisch gesichtet werden. Hier muss entsprechend ausgeschlossen werden, dass Bewerberinnen und Bewerber etwa wegen ihres Namens diskriminiert und ausgeschlossen werden. Aber auch ein KI-gesteuerter Industrieroboter, der im Fehlerfall Menschen verletzen kann, und bestimmte kritische Infrastrukturen wie Telekommunikation, Wasser- und Stromversorgung fallen in diesen Hochrisikobereich. Für diese Risikostufe sieht der AI Act entsprechend viele und strenge Auflagen vor.

Zwecke eingesetzt werden können (auch „General Purpose AI“ oder kurz GPAI) und entsprechend auch einen großen Einfluss auf viele Menschen haben. Die Anbieter dieser Modelle müssen gemäß dem AI Act künftig weitreichende Transparenzforderungen umsetzen, etwa die Herkunft der Trainingsdaten offenlegen, und gegebenenfalls von unabhängigen Dritten auf ihre Sicherheit überprüfen lassen.

Wann soll der AI Act in Kraft treten?

Wenn alles nach Plan läuft und die endgültige Formulierung abgeschlossen ist, wird der AI Act in diesem Frühjahr verabschiedet. Dann gibt es eine Übergangsfrist, innerhalb der die Verordnung in die nationale Gesetzgebung gegossen wird. Die Verbote für unerlaubte KI sollen voraussichtlich bereits nach sechs Monaten greifen, die Anforderungen für ChatGPT und andere Basismodelle nach einem Jahr. Für die weiteren Risikoklassen ist eine Übergangszeit von zwei Jahren vorgesehen.

Wie müssen sich Unternehmen auf die neuen Auflagen vorbereiten?

Grundsätzlich gilt: Unternehmen bekommen keine Post von einer Behörde, die ihre KI-Anwendung in eine Risikoklasse einstuft. Sie sind vielmehr in der Pflicht, sich selbst korrekt einzustufen und entsprechende Maßnahmen zu ergreifen. Und zwar bevor die KI-Anwendung auf den Markt kommt oder verwendet wird. Fällt ein KI-System beispielsweise in den Hochrisikobereich, müssen umfangreiche Anforderungen erfüllt werden; dann müssen etwa die Robustheit und die Sicherheit der Systeme gegebenenfalls auch von unabhängigen Dritten wie TÜVIT geprüft werden. Außerdem müssen die Unternehmen ein KI-(Risiko-)Management implementieren, das die Anwendung über ihren kompletten Lebenszyklus erfasst: Wie wurde das KI-System entwickelt, welche Qualität hatten die Trainingsdaten, welche Risiken bringt es mit sich, wie wurde es validiert und geprüft? Für bestimmte Aspekte wie zum Beispiel ein KI-Managementsystem wurden bereits ISO-Standards veröffentlicht. (Prüf-)Standards für andere Aspekte wie Sicherheit oder Transparenz sind in Arbeit. Wir als TÜV NORD sind auch in den entsprechenden Gremien vertreten, wo die allgemeinen Anforderungen des AI Act für bestimmte Einsatzfelder konkretisiert werden. Für KI-Anwendungen im Maschinenbau, im Medizinbereich oder in der Telekommunikation gelten ja jeweils andere Gegebenheiten und Herausforderungen, was sich entsprechend auch in den Prüfungen niederschlagen muss.