Expert Interview
Unser Content Hub wächst und entwickelt sich weiter! Um unseren geschätzten Leserinnen und Lesern noch mehr hochwertige Expertise und relevante Inhalte bieten zu können, interviewen wir in regelmäßigen Abständen Expert:innen zu faszinierenden Themen rund um künstliche Intelligenz, Data Science, Machine Learning und verwandte Bereiche. Falls ihr euch als Expert:innen angesprochen fühlt, zögert nicht, euch bei uns zu melden. Wir sind stets auf der Suche nach neuen Möglichkeiten für Kooperationen und freuen uns darauf, gemeinsame Synergien zu entdecken, die zu einem spannenden Expert Interview führen können! Schreibt uns gerne unter: blog@statworx.com
Über William Fry 
William Fry ist eine der ältesten und größten Anwaltskanzleien Irlands. Mit Büros in Dublin, Cork, London, New York und San Francisco und einem globalen Kanzleinetzwerk ist sie eine führende internationale Wirtschaftskanzlei mit über 320 Rechts- und Steuerexperten und mehr als 470 Mitarbeiter:innen. Die Kanzlei wird von internationalen Verzeichnissen als führend in den Kernbereichen Gesellschaftsrecht und M&A, Bankwesen und Finanzen, Rechtsstreitigkeiten und Ermittlungen, Vermögensverwaltung und Investmentfonds, Immobilien, Versicherungen, Wettbewerb und Regulierung, Steuern, Projekte und Bauwesen, Beschäftigung und Sozialleistungen sowie Technologie eingestuft.
1. Bitte stelle dich kurz vor.
Mein Name ist Barry Scannell und ich bin ein leitender Anwalt in der führenden irischen Anwaltskanzlei William Fry, wo ich mich auf KI-Recht und die rechtlichen Auswirkungen von KI-Technologien spezialisiert habe. Vor kurzem wurde ich von der irischen Regierung in den irischen KI-Beirat berufen.
Der AI Advisory Council der irischen Regierung
Das KI-Beratungsgremium der Regierung der Republik Irland bietet unabhängige fachliche Beratung zur Politik im Bereich der künstlichen Intelligenz, wobei der Schwerpunkt auf der Schaffung von öffentlichem Vertrauen und der Förderung der Entwicklung vertrauenswürdiger, auf den Menschen ausgerichteter KI liegt. Seine erste Aufgabe ist es, auf spezifische Anfragen der Regierung hin fachliche Beratung, Erkenntnisse und Empfehlungen zu liefern. Die zweite Aufgabe besteht darin, einen eigenen Arbeitsplan für die Beratung der Regierung zu Fragen der Politik im Bereich der künstlichen Intelligenz zu entwickeln und zu erstellen und Einblicke in Trends, Möglichkeiten und Herausforderungen zu geben.
2. Bitte gib uns einen Überblick über die globalen KI-Regularien. Wer wird der EU als erstes folgen?
Es ist schwer zu sagen, wer die Ersten sein werden. Aus den weltweiten Versuchen, KI zu regulieren, wird deutlich, dass die gemeinsamen Themen Transparenz, menschliche Aufsicht, Datenverwaltung und Risikomanagement sind. Dies sind die Grundpfeiler der meisten Versuche, KI weltweit zu regulieren. Zwar liegt dem US-Gesetzgeber ein parteiübergreifendes Rahmenwerk vor, doch ist nicht klar, ob es sich durchsetzen wird – auch wenn es im Rahmen dieser vier Säulen frappierende Ähnlichkeiten mit dem AI Act aufweist. Die USA scheinen auf Bundesebene durch Bidens Executive Order zu KI die größten Fortschritte zu machen, und auf Ebene der einzelnen Bundesstaaten führen einzelne Staaten ihre eigenen KI-Vorschriften ein. Auch Kanadas KI-Gesetzgebung ähnelt der der EU, und wie die EU scheint auch Kanada eher einen Grundrechtsansatz zu verfolgen. Ich denke, der Brüsseler Effekt ist immer noch stark.
3. Welches Maß an Transparenz sollte eine solide KI-Regulierung erfordern?
Ich denke, das hängt von der Höhe des Risikos ab, und das wird im Grunde durch den AI Act abgedeckt. Generell erfasst das Gesetz KI-Systeme, die Entscheidungen treffen oder Maßnahmen ergreifen, die nicht nur große Auswirkungen auf das Leben der Menschen haben können, sondern auch große schädliche Auswirkungen auf das Leben der Menschen haben können. Ich denke, dass wir bei solchen Systemen die „Blackbox“-Falle der KI vermeiden und ein hohes Maß an Transparenz schaffen müssen, damit bei Bedarf eine sinnvolle menschliche Aufsicht ausgeübt werden kann.
4. Was sind die Stärken und Schwächen des AI Act aus einer globalen Perspektive?
Ich denke, die größte Stärke des AI Act ist, dass die Unternehmen eine Struktur und einen Rahmen haben, den sie anstreben können. In einigen Ländern, wie z. B. Großbritannien, in denen die Regulierung nicht so streng gehandhabt wird, kann es zu Unterschieden in Bezug auf verantwortungsvolle KI kommen. Die größte Schwäche des AI Act ist der Versuch, eine Technologie zu regulieren, die sich so schnell weiterentwickelt. Als die EU mit der Ausarbeitung des Gesetzes begann, gab es generative pre-trained Transformers (die GPTs, die die jüngste Explosion in der KI verursacht haben) noch gar nicht – sie wurden erst 2017 in einem Forschungspapier beschrieben. Mit der Technologie in Zukunft Schritt zu halten, wird wahrscheinlich die größte Herausforderung sein.
5. Welchen Beitrag leistet Explainable AI (XAI) deiner Meinung nach zur gesetzeskonformen Nutzung von KI im Sinne des AI Act?
Ich denke, dass explainable AI so zentral für den AI Act und andere internationale Vorschriften ist, dass ihre Zeit als eigenständiges Feld zu Ende geht. Ich glaube nicht, dass wir in drei Jahren noch von XAI sprechen werden, weil alle KI XAI sein wird. XAI-Verpflichtungen bestehen bereits im Rahmen der GDPR (Anm. d. Red.: General Data Protection Regulation) in Bezug auf automatisierte Entscheidungsfindung. Die Transparenzanforderungen für risikoreiche KI-Systeme bedeuten, dass XAI die Norm werden wird.
statworx Kommentar
Der AI Act
Mit der Einführung des AI Act schafft die EU den ersten globalen Rahmen für vertrauenswürdige KI. Diese Gesetzgebung soll die Einhaltung von ethischen Grundsätzen und Menschenrechten sicherstellen. Das KI-Gesetz wird die gesamte KI-Landschaft umkrempeln, indem es zahlreiche Anforderungen an KI-Systeme definiert.
Der europäische Trilog (Europäische Kommission, Rat der Europäischen Union und Europäisches Parlament) erzielte im Dezember 2023 eine politische Einigung über den Wortlaut des AI Act. Anfang Februar einigten sich die Vertreter:innen der Mitgliedsstaaten (Europäischer Rat) auf die Annahme des AI Act. Nun muss das Gesetz noch vom Europäischen Parlament und vom Rat der Europäischen Union (≠ Europäischer Rat) angenommen werden, bevor es EU-Recht werden kann. Mit diesem bahnbrechenden Schritt setzt die EU klare Standards für verantwortungsvolle KI made in Europe. Für Unternehmen beginnt nun die Übergangsphase, in der Anpassungen an die neuen Regelungen vorgenommen werden können.
Ein zentrales Element sind dabei die Risikoklasse, in die ein KI-System eingestuft wird. Diese bestimmt die Anforderungen, die Unternehmen erfüllen müssen. Je höher das Risiko ist, Menschen und Grundrechte zu schädigen, desto umfassender sind die rechtlichen Anforderungen, die nun umgesetzt werden müssen.
Hohes Risiko, hohe Anforderungen an KI-Systeme
Der AI Act verfolgt einen risikobasierten Ansatz. Es definiert vier Risikoklassen – von geringem bis hin zu nicht akzeptablem Risiko. Je höher das Risiko, desto höher die Anforderungen. Sobald der AI Act in Kraft getreten ist, haben die betroffenen Unternehmen 24 Monate Zeit, um die Anforderungen für jedes ihrer KI-System zu erfüllen.
Hohe Strafen bei Nichteinhaltung
Bei Nichteinhaltung droht eine Strafe von bis zu 40 Millionen Euro oder 7% des Jahresumsatzes eines Unternehmens. Aus diesem Grund empfiehlt statworx, frühzeitig zu handeln. Mit unserem kostenfreien AI Act Quick Check können Sie schon heute eine erste Einschätzung vornehmen. Ermitteln Sie anhand weniger Fragen die Risikoklasse Ihrer KI-Systeme und machen Sie sich fit für die Zukunft!
Wenn Sie tiefergehend über Ihre Herausforderungen durch den AI Act sprechen möchten, bietet statworx eine unverbindliche Erstberatung.