Zwischen Regulierung und Innovation: Warum wir ethische KI brauchen

 
 
1. Bitte stelle dich kurz vor.

Mein Name ist Philippe Coution, und ich habe aktiv an dem Rahmenwerk für KI-Qualität vom TÜV SÜD mitgearbeitet. Ich bin nicht das, was man klassischerweise einen Techniknerd nennen würde, aber ich interessiere mich schon lange für die digitale Welt. Mit KI beschäftige ich mich erst seit ein paar Jahren, aber seitdem verwende ich meine ganze Energie darauf, sie zu einem leistungsfähigen und dennoch ethisch vertretbaren, sicheren Werkzeug zu machen. Bei dem derzeitigen Tempo des Wandels ist das ein Vollzeitjob! Beim TÜV SÜD arbeite ich in der Zentrale in München in der Abteilung Digital Service, die sich mit unserer digitalen Transformation und der unserer Dienstleistungen beschäftigt. Wir unterstützen zum Beispiel die Entwicklung von KI-Standards und bewerten dann unsere Kunden, wie sie diese neuen Anforderungen erfüllen und sich an das neue KI-Zeitalter anpassen. Es ist ein spannender Job, weil ich ständig zwischen den Perspektiven wechseln muss. Meine Freizeit verbringe ich aber nicht nur mit dem Lesen von KI-Publikationen. Ich fahre gerne mit dem Mountainbike in den Alpen. Radfahren und Schwitzen sind großartig, um den Kopf frei zu bekommen und frisch über KI-Herausforderungen nachzudenken.

2. Warum ist es wichtig, ethische Grundsätze in KI-Systeme zu integrieren?

Denken wir einmal andersherum. Warum haben wir Ethik nicht als wichtig erachtet, als von Menschen entwickelte Systeme Aufgaben übernommen haben? Hauptsächlich, weil diesen Systemen entweder die Autonomie fehlte – unsere Autos haben zum Beispiel immer noch Fahrer:innen – oder weil sie keinen kontroversen Input liefern konnten; obwohl man argumentieren könnte, dass zum Beispiel Cross-Selling-Empfehlungen an Kinder auf einer Streaming-Plattform bereits gewisse Grenzen überschreitet. Ethische Bedenken ergeben sich aus den zunehmenden Fähigkeiten von KI, uns Empfehlungen zu geben, Entscheidungen zu treffen und Inhalte zu generieren. Doch ihre Autonomie allein kann nicht das Problem sein. Selbst wenn Systeme sehr autonom handeln, wie zum Beispiel Roboter in einer Fabrik, können sie zu 100 Prozent vorhersehbar sein und bedenkenlos in einer bestimmten Umgebung eingesetzt werden. Was kann schon mit einem Roboter passieren, das nicht vorher geplant und programmiert wurde?

Es ist also die Kombination aus Autonomie und fehlender Vorhersehbarkeit, die problematisch ist. Und es ist noch mehr als diese Kombination, die uns Sorgen bereitet. Die große Streuung macht sie so kritisch. Ethische Bedenken kamen nämlich erst auf, als wir begannen, KI überall einzusetzen – unsichtbar im Hintergrund und mit schädlichen oder unklaren Auswirkungen auf Kinder, zum Beispiel durch Empfehlungssysteme und Bildungs-Apps, oder in rechtlich besonders geschützten Räumen durch HR-Anwendungen oder zur Gesichtserkennung. Wenn wir bedenken, wie viele Menschen von den Ergebnissen solcher KI-Systeme betroffen sind, wird deutlich, wie wichtig das Design und der Input der Systeme im Hinblick auf ethische Kriterien sind: Sind die verwendeten Daten frei von unerwünschten Verzerrungen? Sind sie repräsentativ für die Zielgruppen? Sind die Anwendungen nach ethischen Gesichtspunkten konzipiert? Werden sie in ihrem vorgesehenen Kontext verwendet? Die Frage der Ethik kann bei einem KI-System nicht nur als abschließender Check angewendet werden. Sie muss eine grundlegende Anforderung an ein KI-System sein, die bereits vor der Entwicklung gestellt und dann während der gesamten Laufzeit durchgesetzt werden muss. Es darf sich nicht um eine nachträgliche Abmilderung der Folgen handeln, sondern muss um eine Voraussetzung für den bewussten Einsatz sein.

3. Wie können Unternehmen sicherstellen, dass sie ethische und rechtskonforme KI-Systeme entwickeln und einsetzen?

Auf die gleiche Weise, wie sie zum Beispiel rechtskonforme Fahrzeuge auf den Straßen oder rechtskonforme Medizinprodukte auf dem Markt sicherstellen: durch angepasste Qualitätsmanagementsysteme. Diese sind in die Produktentwicklung, die Produktion und die Überwachung eingebettet – auch nach der Markteinführung. Aber Ethik geht über die reine Regulierung hinaus. Ethische Grundsätze sollten sich in den Unternehmenswerten widerspiegeln. Hier können externe, auf KI spezialisierte Ethik-Gutachter eine wichtige Unterstützung bieten.
Der erste Schritt ist natürlich die Sensibilisierung der Führungsebene für diese Themen und deren Bereitschaft, ethische Grundsätze auf höchster Ebene und über die gesetzlichen Anforderungen hinaus zu integrieren. Sobald ethische Grundsätze in die Unternehmenswerte und -strategie integriert sind, besteht der nächste Schritt darin, die Technologie- und Qualitätsmanagementteams zu befähigen. Die beste Praxis ist hier die Schulung durch Expert:innen, die den rechtlichen Rahmen nicht nur erläutern, sondern mit seiner praktischen Anwendung in KI-Standards vertraut sind, wie beispielsweise das IEEE CertifAIed© über Ethik in der KI. Es geht nicht um abstrakte Werte und Normen. Es geht um die praktische Umsetzung von Projekten in einem konkreten Kontext. Hier sind die Implementierung eines KI-Qualitätsmanagementsystems, einer Governance und Rechenschaftspflicht entscheidend, um ethische, konforme KI-Systeme zu gewährleisten. Nicht nur kurzfristig, sondern langfristig – von der Produktdefinition bis zur Überwachung nach der Markteinführung.

4. Was bedeutet KI-Qualität und worauf müssen Unternehmen achten?

KI-Qualität bezieht sich auf den Grad, in dem ein KI-System bestimmte Anforderungen während seines gesamten Lebenszyklus erfüllt. Ethik ist eine dieser Anforderungen, ebenso wie Sicherheit, Leistungsfähigkeit, Compliance und Nachhaltigkeit. Warum ist es wichtig, den gesamten Lebenszyklus zu betrachten? Weil Qualität kein Zustand ist. Qualität ist ein kontinuierlicher Prozess. Daher sollten Unternehmen KI-Qualitäts- und Risikomanagementsysteme einführen, um sicherzustellen, dass alle ethischen Bedenken und Risiken während des gesamten Lebenszyklus des Systems berücksichtigt werden. Nur ein KI-Qualitätsmanagement wird langfristig eine vertrauenswürdige KI gewährleisten. Und was noch wichtiger ist: Es ist die einzige Möglichkeit, die Qualität von KI-Systemen zu prüfen, zu testen und zu verbessern. Um es auf den Punkt zu bringen: KI-Qualität ist unerlässlich, um sicherzustellen, dass die Systeme die Vorschriften einhalten und nachweislich ethisch vertretbar sind. So können Unternehmen das volle Potenzial von KI ausschöpfen und gleichzeitig die damit verbundenen Risiken kontrollieren.

5. Was hältst du von den Befürchtungen, dass das KI-Gesetz zu stark regulierend wirkt und Innovationen verhindert? Wie ist es möglich, ein angemessenes Gleichgewicht zwischen Regulierung und Innovation zu finden?

Im Spannungsfeld zwischen Innovation und Regulierung gibt es natürlich viele Möglichkeiten, den Entwurf des KI-Gesetzes zu lesen. Was wir uns aber vor Augen halten sollten, ist: Innovation ist kein Ziel. Ein besseres Produkt oder eine bessere Gesellschaft sind Ziele. Innovation ist nur eines der Mittel, um diese Ziele zu erreichen. Auch die Regulierung ist nicht der richtige konzeptionelle Ansatz. Vielmehr geht es um Risikomanagement, denn das ist das Rückgrat jeder nachhaltigen Entwicklung. Würden wir zum Beispiel Atomkraftwerke ohne Risikomanagement wollen? Nein. Und ein Smartphone-Spiel? Eher nicht. Ein Smartphone-Spiel für Kinder von 0 bis 3 Jahren? Wohl kaum. Genau darum geht es: das richtige Maß an Kontrolle für den jeweiligen Fall. Wir erinnern uns doch noch gut an das Versagen der Selbstregulierung in der Vergangenheit, zum Beispiel bei Cambridge Analytica. Dass wir die Regulierung nicht den profitorientierten Silicon-Valley-Unternehmen überlassen dürfen, sollte unstreitig sein. Sie sind schon so oft gescheitert.

Dennoch, um die Frage nach der Balance zwischen Regulierung und Innovation zu beantworten: Ich unterstütze grundsätzlich den Regulierungsansatz des KI-Gesetzes, auch wenn der Entwurf bei weitem nicht perfekt ist. Ich habe Bedenken hinsichtlich der Regulierung von Basismodellen. Gleichzeitig denke ich, dass die Kapitel zur Innovationsförderung nicht ambitioniert genug sind. Wenn wir die EU zu einer starken Innovationsregion für KI machen wollen, müssen wir mehr tun. Ich denke an die Unterstützung von Startups, zum Beispiel durch geschützte Testphasen, und an die spezielle Unterstützung von kleinen und mittleren Unternehmen, beispielsweise durch Transformationsprogramme. Wir brauchen auch Infrastrukturprogramme und eine klare Strategie für kritische Komponenten wie Chips, GPUs und Co., um eine KI-Führungsrolle einzunehmen und vom Brüssel-Effekt zu profitieren (Anm. d. Red.: Brüssel-Effekt meint den Prozess der einseitigen Globalisierung der Regulierung, der daraus resultiert, dass die Europäische Union ihre Gesetze durch Marktmechanismen de facto außerhalb ihrer Grenzen verlagert).