20.01.2025 | Digital Innovation

Europäische Werte

Nach jahrelangen Verzögerungen und außerordentlichem bürokratischem Aufwand wurde das KI-Gesetz der EU verabschiedet, das die bisher umfassendste Regelung zu diesem Thema und einen Maßstab für die weltweite Regulierung verspricht.

Es ist erst wenige Monate her, dass die Europäische Union - zumindest auf der Ebene der Schlagzeilen - ihr bahnbrechendes EU-KI-Gesetz verkündet hat, das einen Versuch darstellt, bei der dringend benötigten Regulierung der Künstlichen Intelligenz weltweit führend zu sein und einen globalen Standard zu setzen. Es kam nach jahrelangen gescheiterten Versuchen und zahlreichen Rückschlägen zustande, selbst in den späten Phasen der Verhandlungen im vergangenen Jahr, die der Politikexperte des Ada Lovelace Instituts, Connor Dunlop, als geprägt von einem „beispiellosen“ Ausmaß an „Entwürfen und Umformulierungen in allen drei EU-Institutionen“ bezeichnete. Die Einwände gegen die Grundsätze waren zahlreich und betrafen u. a. die Notwendigkeit, so genannte Gründungsmodelle einzubeziehen, die durch das hohe Tempo der Übernahme durch große nationale Akteure angetrieben werden und die Gefahr des Scheiterns bergen - was anderen Ländern außerhalb Europas die Möglichkeit eröffnet, die globale KI-Agenda zu bestimmen. Ganz zu schweigen von den Bürgerrechtsaktivisten.

Doch am 8. Dezember, nach einer dreitägigen Marathonsitzung, wurde es zur ersten KI-Vereinbarung, die von der EU-Kommissionspräsidentin Ursula von der Leyen als neue Ära für europäische Werte bezeichnet wurde und die einen risikobasierten Rahmen für die Regulierung von Produkten und Anwendungen schaffen soll. Das Gesetz zielt darauf ab, die Menschenrechte bei der Entwicklung und dem Einsatz von KI in den Vordergrund zu stellen, indem Systeme auf der Grundlage der Auswirkungen, die sie auf das Leben der Menschen haben können, kategorisiert werden, wobei Systeme mit hohem Risiko bestimmte Anforderungen erfüllen und vor dem Inverkehrbringen sowie während ihres Lebenszyklus bewertet werden müssen.

Die wichtigsten Punkte betreffen generative KI-Tools wie ChatGPT, den Einsatz vertrauenswürdiger KI sowie Systeme zur Gesichtserkennung und zum Scannen von Fingerabdrücken. Die Reaktion der Industrie war, wie angesichts des Tempos der Umsetzung - und der Tatsache, dass viele Details noch ausgearbeitet werden müssen - zu erwarten war, gemischt. Die Meinungen reichten von unverhohlener Kritik an der fast reflexartigen Reaktion auf die sich schnell entwickelnden Ereignisse bis hin zur Freude über die Tatsache, dass es nun eine klare Linie für zukünftige Entwicklungen gibt. Der Brüsseler Lobbyist Daniel Friedlaender, der das europäische Büro der Computer and Communications Industry Association leitet, merkte schnell an, dass die „politische Einigung“ den Beginn der „wichtigen und notwendigen technischen Arbeit an entscheidenden Details“ markiere. Er fuhr fort: „Bedauerlicherweise scheint die Geschwindigkeit über die Qualität gesiegt zu haben, mit potenziell katastrophalen Folgen für die europäische Wirtschaft. Die negativen Auswirkungen könnten weit über den KI-Sektor hinaus spürbar sein“, sagte er.

Daniel Castro, Vizepräsident der Stiftung für Informationstechnologie und Innovation, sagte: „In Anbetracht der rasanten Entwicklung der KI hätten die EU-Gesetzgeber eine Pause bei der Gesetzgebung einlegen sollen, bis sie besser verstehen, was genau sie regulieren wollen. Das Risiko unbeabsichtigter Folgen durch schlecht konzipierte Rechtsvorschriften ist wahrscheinlich genauso groß, wenn nicht sogar größer, als durch schlecht konzipierte Technologie. Und leider ist es in der Regel viel einfacher, Technologien zu reparieren, als schlechte Gesetze zu ändern. Die EU sollte sich darauf konzentrieren, das Innovationsrennen zu gewinnen, nicht das Regulierungsrennen. Die künstliche Intelligenz verspricht eine neue Welle des digitalen Fortschritts in allen Bereichen der Wirtschaft. Aber sie funktioniert nicht ohne Einschränkungen.“

Technologie in Geschäftsprozesse integriert

Sridhar Iyengar, Geschäftsführer von Zoho Europe, einem Technologieunternehmen mit Sitz im indischen Chennai, bezeichnete die Entscheidung jedoch später als „einen großen Meilenstein in der Entwicklung dieser neuen Technologie“. Er fügte hinzu: „Während Leitlinien notwendig und willkommen sind, müssen die Regulierungsbehörden auch darauf achten, Innovationen nicht zu ersticken. „Künstliche Intelligenz wird zunehmend in Geschäftsprozesse integriert und bietet Vorteile bei der Aufdeckung von Betrug, bei Prognosen, bei der Stimmungsanalyse, bei der Tiefenanalyse von Daten und vielem mehr. Es ist jedoch von entscheidender Bedeutung, dass der Einsatz von KI verantwortungsvoll gehandhabt wird und dass wirksame Leitplanken zur Risikominderung vorhanden sind.

„Während die Regierungen an Leitlinien und Vorschriften arbeiten, sollten Unternehmen vorrangig ihre eigenen Richtlinien entwickeln, die weiter gehen, um sich und ihre Kunden zu schützen. Auf diese Weise können Unternehmen flexibler auf Markttrends reagieren und ihre Kunden effektiv bedienen, während sie gleichzeitig ein hohes Maß an Vertrauen in die Art und Weise aufrechterhalten, wie Daten gesammelt, gespeichert und verwendet werden. Es wird interessant sein zu sehen, wie sich die Regulierung durch einen globalen und kooperativen Ansatz zur Unterstützung der Unternehmen weiterentwickelt.

„Wissenschaft, Regierung, Industrieexperten und Unternehmen müssen weiterhin zusammenarbeiten, um aufzuklären und den sicheren und erfolgreichen Einsatz von KI zu gewährleisten, der potenziell erhebliche wirtschaftliche Vorteile mit sich bringen kann.“

Konstantinos Komaitis, Fellow und leitender Forscher beim Lisbon Council, wies auf die Bedeutung der von der Europäischen Kommission, dem Europäischen Rat und dem Europäischen Parlament erzielten politischen Vereinbarungen hin und fügte hinzu: „Die politischen Vereinbarungen sind nicht unbedingt Vereinbarungen über die Erwartungen der Bürger, und in dieser Hinsicht ist Europa noch weit davon entfernt, eine umfassende Gesetzgebung zu haben.“

Graham Brookie, Vizepräsident des in Washington ansässigen Atlantic Council's Digital Forensic Research Lab, sagte, das Gesetz sei „wichtig, weil es das erste ist - nicht weil es das umfassendste ist“.

Es wird „zweifellos auf dem EU-Gesetz über digitale Dienstleistungen und dem Gesetz über digitale Märkte aufbauen, die bereits veröffentlicht sind und nun umgesetzt werden. Insbesondere die Standards für Transparenz und Informationsaustausch im Digital Services Act sind wahrscheinlich der beste Indikator dafür, was das KI-Gesetz letztendlich bewirken könnte. In der Welt der KI-Governance sticht der Erlass des Weißen Hauses als konkreterer Leitfaden für die Industrie hervor, aber er braucht dringend ein legislatives Pendant im US-Kongress. Enza Iannopollo, Analystin bei der Forschungs- und Beratungsgruppe Forrester, zeigte sich optimistischer. „Trotz der Kritik ist dies eine gute Nachricht für die Unternehmen und die Gesellschaft“, sagte er. „Sie bietet den Unternehmen einen soliden Rahmen für die Bewertung und Abschwächung von Risiken, die, wenn sie nicht kontrolliert werden, den Kunden schaden und die Fähigkeit der Unternehmen, von ihren Investitionen in die Technologie zu profitieren, einschränken könnten. Und für die Gesellschaft trägt es dazu bei, die Menschen vor nachteiligen Folgen zu schützen“.

Wie auch immer die Probleme aussehen mögen, solche Entwicklungen kommen zur rechten Zeit, denn KI wirkt sich auf die gesamte Industrielandschaft aus und geht über bekannte Technologien wie Big Data, Robotik und IoT hinaus - ein Grund, warum fast die Hälfte der Unternehmen plant, in diesem Jahr mit der Integration von KI in ihr Unternehmen zu beginnen oder ihre Investitionen zu erhöhen.

Eine verbreitete Ansicht ist, dass alle vorgefassten Annahmen über die Aussichten wahrscheinlich falsch sind, vor allem, wenn es um einen Endpunkt des Potenzials geht.

Die Übernahme durch führende Technologieunternehmen wie Microsoft, Google, Apple und Amazon, die Milliarden in die Entwicklung neuer Produkte und Dienstleistungen investieren, und die Art und Weise, in der Universitäten diese Technologie zu einem wichtigen Bestandteil ihrer Lehrpläne machen, tragen dazu bei, dies zu gewährleisten.

Der ehemalige Google Brain-Leiter und Baidu-Chefwissenschaftler Andrew Ng brachte es auf den Punkt, als er sagte: „Wir befinden uns vielleicht im ewigen Frühling der KI.“ Nirgendwo zeigt sich das besser als in der Industrie, die ein ureigenes Interesse daran hat, die Nase vorn zu haben:

Mobilität: Hier geht es um alles, von selbstfahrenden Autos über Flugvorhersagen bis hin zu Reiseplanern und personalisierten Buchungsverfahren.

In der Fabrik: Hier ist die Entwicklung seit den KI-gesteuerten Roboterarmen, deren erste Beispiele aus den 1960er Jahren stammen, weit fortgeschritten. Der Markt für Industrierobotik wurde im vergangenen Jahr auf mehr als 48 Mrd. EUR geschätzt.

Auf der Station: Dank ihrer Big-Data-Analysefähigkeiten hilft die KI heute, Krankheiten schneller und genauer zu erkennen, die Medikamentenentwicklung wird ebenfalls rationalisiert und virtuelle Pflegeassistenten überwachen zunehmend die Patienten. Und die Auswirkungen auf den Menschen gehen weit über die Bedrohung von Arbeitsplätzen hinaus: Es geht darum, die Kreativitätslücken zu füllen, die KI nicht schließen kann, und darum, Menschen von repetitiven Tätigkeiten auf solche umzuschulen, die die Programmierung und Unterstützung neuer Technologien beinhalten.

Einer der führenden Experten auf diesem Gebiet, Prof. Stuart Russell von der UC Berkeley, einer der Unterzeichner eines offenen Briefes, der im vergangenen Jahr eine Pause bei der KI-Ausbildung forderte, äußerte sich in einem Interview mit The Gray Area von Vox.com auf interessante Weise zu den aufkommenden Bedenken: „Ich denke, es ist wichtig zu verstehen, dass fast niemand sagt, dass der Stand der KI derzeit so ist, dass wir uns Sorgen machen müssen, dass KI-Systeme die Welt übernehmen, wenn man es so ausdrücken will. Sie weisen noch viele Einschränkungen auf, und zumindest die neueste Generation, die großen Sprachmodelle wie ChatGPT, verfügen nicht über die Art von Entscheidungsfähigkeit und all die Planungsfähigkeiten, die man bräuchte, um die Welt zu erobern.

Man kann zum Beispiel versuchen, mit ihnen Schach zu spielen. Sie sind ziemlich hoffnungslos. Sie tun ein paar Züge lang so, als ob sie gut wären, und dann spielen sie einen Zug, der völlig illegal ist, weil sie die Regeln nicht richtig gelernt haben. Wir müssen noch eine Menge Fortschritte machen, bevor wir Systeme erreichen, die mit dem menschlichen Verstand vergleichbar oder sogar besser sind.“ All dies von einem Mann, der einmal vor einem Publikum in London sagte, er würde nicht mit Journalisten sprechen, „es sei denn, sie stimmen zu, keinen Terminator-Roboter in den Artikel zu setzen“.

Zustimmung bedeutet, dass Europa den Weg vorgibt

Das Europäische Parlament billigte am 13. März das Gesetz über künstliche Intelligenz und bestätigte damit eine Verordnung, auf die man sich in Verhandlungen mit den Mitgliedstaaten im Dezember letzten Jahres geeinigt hatte. Sie enthält Schutzmaßnahmen für allgemeine KI, die Verwendung biometrischer Identifizierungssysteme durch Strafverfolgungsbehörden, Verbote von Social Scoring und KI, die zur Manipulation oder Ausnutzung von Schwachstellen der Nutzer eingesetzt wird, sowie das Recht der Verbraucher, Beschwerden einzureichen und aussagekräftige Erklärungen zu erhalten. Der Mitberichterstatter des Ausschusses für bürgerliche Freiheiten, Dragos Tudorache (Romani), brachte es auf den Punkt, als er sagte: „Die EU hat geliefert. Wir haben das Konzept der künstlichen Intelligenz mit den Grundwerten verknüpft, die die Basis unserer Gesellschaften bilden.“

| Originalversion veröffentlicht in ACHEMA Inspire, Ausgabe März 2024 | Deutsche Übersetzung durch DECHEMA Ausstellungs-GmbH |

Autor

Roy North

Schlagwörter in diesem Artikel:

#künstliche intelligenz, #rechtliche rahmenbedingungen

Weitere Beiträge finden:

Zur Magazin-Detailsuche

Newsletter

Immer informiert

Mit unserem Newsletter erhalten Sie aktuelle Informationen rund um die ACHEMA frei Haus. So verpassen Sie garantiert keine wichtigen Termine.

Jetzt abonnieren

Tickets
Kontakt