Mit diesem Kommentar nehmen wir als Arbeitskreis Digitalpolitik des Bundes Katholischer Unternehmer (BKU) Stellung zum Vorschlag der Europäischen Kommission zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz). Der BKU ist ein den christlichen Werten verpflichteter mittelständisch geprägter Unternehmerverband, der sich mit den wirtschaftlichen, gesellschaftlichen und ethischen Implikationen der global voranschreitenden Digitalisierung auseinandersetzt, kurz mit „Digitaler Humanität“.
Wir begrüßen den wertebasierten und risikoorientierten Vorschlag der Kommission, wollen mit unserem Kommentar jedoch auf einige Punkte hinweisen, die aus unserer Sicht weiterer gesellschaftlicher und politischer Arbeit bedürfen. Im Vordergrund steht für uns die Beibehaltung der menschlichen Autonomie und die Beachtung des Vorrangs menschlichen Handelns, auch und gerade im Kontext des zunehmenden Einsatzes von Künstlicher Intelligenz (KI) in allen Lebensbereichen. Die Würde des Menschen und das Recht auf Selbstbestimmung bleiben auch in der digitalen Welt unantastbar. Insbesondere wenden wir uns gegen digitale Monopole und Datenkolonialismus, weil sie das Prinzip des freien und offenen Wettbewerbs als Mechanismus für gute Problemlösungen im Markt außer Kraft setzen.
Aus einer Perspektive, die von der Diversität und Dynamik deutscher mittelständischer Unternehmen geprägt ist, sind wir an einem rechtssicheren, transparenten und handhabbaren regulatorischen Rahmen für KI sehr interessiert. Um als mündige Bürgerinnen und Bürger in der digitalen Welt partizipieren und die persönlichen wie gesellschaftlichen Risiken besser einschätzen und steuern zu können, sollte jedem/jeder lebenslang ein gewisses Maß an digitaler Bildung zuteil kommen („Digital Literacy“) – dies betrifft z.B. auch den Umgang mit den eigenen personenbezogenen Daten. Ein Rechtsrahmen basierend auf unserem personalen Menschenbild mit seinen Begriffen von Würde und Autonomie kann so zum Innovationstreiber für Europa und darüber hinaus werden.
Wir bewerten den Vorschlag der Kommission als wertebasierte und verhältnismäßige Regulierung
Prinzipiell begrüßen wir den Ansatz, einen Regulierungsvorschlag vorzulegen, der sowohl inhaltlich als auch in der Form eines Ordnungsrahmens europäische und christliche Werte widerspiegelt. Dies gilt für die personenbezogenen Werte, die als schützenswerte Rechtsgüter den Anlass für den Regulierungsvorschlag geben ebenso wie für das Ziel, einen rechtssicheren institutionellen Rahmen zu schaffen, der das Funktionieren einer Sozialen Marktwirtschaft unterstützt. Dazu gehört die grundsätzliche Orientierung an den Prinzipien von Risiko (der Technologie) und Verhältnismäßigkeit (der Regulierung). Die anwendungsbezogene Definition und Klassifizierung von KI, insbesondere im Hinblick auf Algorithmenbasierten Erfassung und Lenkung menschlichen Verhaltens und menschlicher Entscheidungen, halten wir grundsätzlich für sinnvoll, Eine solche Definition orientiert sich an der gesellschaftlichen Rolle von Technologie und ist mit der technologischen Entwicklung wandel- und erweiterbar. Schließlich begrüßen wir auch das Augenmerk auf die Unterstützung von Innovationen und wirtschaftlicher Entwicklung, inkl. der zugrundeliegenden Selbsteinschätzung der europäischen Marktposition im Bereich der digitalen Wirtschaft.
Die Risikoorientierung des Regulierungsvorschlags ist faktisch und ethisch geboten
Algorithmische bzw. KI-basierte Systeme sind in mehrerlei Hinsicht kritisch für das Funktionieren unserer Wirtschaft und Gesellschaft. Sie ermöglichen die Koordination sozialer und ökonomischer Kommunikation und damit Partizipation in Echtzeit. De facto sind sie damit inzwischen ein zentrales Bindeglied zwischen dem In- dividuum und dessen Umwelt. Damit sind jedoch unausweichlich Risiken verbunden.
Einerseits sind dies Risiken, die die Robustheit technischer Systeme und ihre Rolle im Funktionieren von Gesellschaft und (Volks-)Wirtschaft betreffen. Weiterhin gibt es Risiken, die die Partizipation in einem globalen, dynamischen, und störanfälligen Markt mit hoher Komplexität, unausgereiften Spielregeln sowie großer Anfäl- ligkeit für Monopole und politische Einmischung betreffen und so das Prinzip des Wettbewerbs als Mechanismus für gute Problemlösungen im Markt außer Kraft setzen können. Und schließlich geht es um Risiken der partizipierenden Nutzer im Hinblick auf informationelle Selbstbestimmung und die Transformation vormals zwischenmenschlicher „analoger“ Interaktion hinein in partiell digitale Lebensbereiche mit anderen Gesetzmäßigkeiten und Abhängigkeiten. So kann der Einsatz von KI in der Entscheidungsunterstützung zur Vernachlässigung von Menschen mit untypischen Lebensläufen in Bewerbungssituationen führen. Die Anforderungen durch die zunehmende Diversität unserer Gesellschaft können ebenfalls nicht allein den Algorithmen überlassen werden. So zeigen Experimente, dass Diskriminierung durch die Entscheidungsdelegation an Algorithmen nicht beseitigt wird, sie wird allenfalls besser kaschiert.
Vor diesem Hintergrund sind ethische Grundprinzipien betroffen, allen voran Autonomie und Fairness bei ökonomischen und sozialen Transaktionen. Beides sind Grundwerte der Person und des Staatsbürgers, und als solche im Verfassungswerk der EU und ihrer Mitgliedsstaaten festgeschrieben. Um diese Werte zu gewährleis- ten, ist die Setzung eines Ordnungsrahmens für Staat, Wirtschaft und Gesellschaft notwendig – die Grundlage einer freien und demokratischen Grundordnung. Insofern sind prinzipiell auch Eingriffe in den Gebrauch von und in den Markt für algorithmische Technologie gerechtfertigt und gewährleistet. Mit Fokus auf die Rolle individueller Autonomie ist im Zusammenhang mit KI die Beachtung des Vorrangs menschlichen Handelns imperativ notwendig.
KI hat großes Potential, menschliche Entscheidungen und Handlungen zu unterstützen und sollte auf Basis europäischer und christlicher Werte auch genau zu diesem Zweck verwendet werden. Das gleichzeitige Risiko, die Rolle des Menschen zu beschneiden oder den Menschen in seiner Funktion als Entscheider zu umgehen, muss abgemildert werden. Die „praktische Weisheit“ werteorientierter Führungspersönlichkeiten als kritische Instanz in einer KI-dominierten Wirtschaftspraxis wird aus unserer Sicht wichtiger denn je werden.
Insofern begrüßen wir im Rahmen des Verhältnismäßigkeitsprinzips des vorliegenden Vorschlags, dass die Intensität regulatorischer Auflagen an das Risiko einer Anwendung für menschliche Werte und Rechte gekoppelt ist. Allerdings darf die geforderte Risikoabschätzung nicht zu einer bürokratischen Pflichtübung verkommen. Wir verweisen ausdrücklich auf den Stellenwert des Menschen und der menschlichen Person, der sich in Autonomie und Agentur manifestiert und sich im Rahmen der Steuerung und Regulierung von KI in einem Prinzip der Human Oversight, also der Beibehaltung menschlicher Kontrolle als letzter Entscheidungs- und Gerichtsinstanz in Bezug auf algorithmische Prozesse und Systeme ausdrücken muss. Dies gilt im Übrigen auch für digitale Waffensysteme.
Herausforderungen im industrie- und wirtschaftspolitischen Teil des Vorschlags
Zunächst halten wir die Kopplung des vorliegenden Regulierungsvorschlags an eine wirtschafts- und industriepolitische Strategie (dargelegt in der jüngsten Fas- sung des ‚Coordinated Plan for AI‘, COM(2021) 205 final - ANNEX) für realistisch und grundsätzlich sinnvoll. Wir sehen allerdings de facto Herausforderungen in der Umsetzung, die sowohl aus dem Zusammenspiel europäischer und nationaler Institutionen als auch aus der Koordination und Durchsetzung gemeinsamer Wirtschaftspolitik auf der Ebene der Mitgliedsstaaten resultieren. Da wir eine effiziente, EU-weite digitale und digitalwirtschaftliche Infrastruktur für erstrebenswert halten, rufen wir alle an diesem politischen Prozess Beteiligten zu Zusammenarbeit und Lösungsorientierung auf. Die innereuropäische Durchsetzbarkeit vorausgesetzt, gehen wir von der Praktikabilität eines solchen Infrastruktur- und Ordnungsrahmens auch in Zusammenarbeit mit nicht-EU Unternehmen und Institutionen aus, nicht zuletzt vor dem Hintergrund der durch eine funktionierende Koordination erreichten europäischen Marktmacht.
Aus einer Perspektive, die von der Diversität und Dynamik deutscher mittelständischer Unternehmen geprägt ist, sind wir an einem rechtssicheren, in punkto Verwaltung aber auch transparenten und handhabbaren regulatorischen bzw. industriepolitischen Rahmen im Bereich KI interessiert. Unter der Voraussetzung eines solchen funktionierenden Rahmens ist in deutschen KMU – direkt oder über entsprechende Beratungsinstitutionen – das nötige Knowhow für eine stärkere Digitalisierung gegeben. Ein funktionierender Ordnungsrahmen wäre dementsprechend hilfreich bei der Erschließung von Innovationspotenzial und Wettbewerbsfähigkeit auf Seiten europäischer Unternehmen. Aufgrund wirtschaftlicher Verbindungen, nicht nur deutscher KMU, in Märkte mit anderen kulturellen und ethischen Gegebenheiten besteht Hoffnung auf die Verbreitung europäischer wirtschafts- und digitalethischer Standards, die häufig zu den global betrachtet höchsten gehören (vgl. GDPR).
Einbezug und Mitnahme von EU-Workforce und Zivilgesellschaft
Neben einem ethisch fundierten Ordnungsrahmen für KI und einer entsprechenden wirtschaftspolitischen Strategie, die europäischen Unternehmen Rechtsverbindlichkeit und Planungssicherheit als Anker für Innovationspotentiale verschafft, müssen bei der digitalen Transformation von Wirtschaft und Gesellschaft auch die Bürger als Individuen einbezogen werden. Aus sozialethischer und volkswirtschaftlicher Perspektive ist es geboten, die individuelle Befähigung zur Partizipation in einer digitalisierten Wirtschaft und Gesellschaft systematisch zu fördern. Dies setzt die persönliche Mündigkeit und Handlungsfähigkeit im digitalen Bereich und damit eine relevante praktische Bildung voraus, auch im Sinne von Digital Literacy.
Dazu gehört einerseits eine Schulbildung, die den digitalen Begebenheiten in Wirtschaft und Gesellschaft Rechnung trägt, und andererseits die Ermöglichung und Förderung lebenslangen Lernens, einer Voraussetzung, ohne die Zivilgesellschaft und Arbeitskräfte nicht mit der Geschwindigkeit technologischer Entwicklung wer- den Schritt halten können. Ein eindrucksvolles Beispiel hierfür sind die Proteste älterer Menschen in ländlichen Regionen Spaniens, die sich angesichts der Filialschließungen von Banken und der Umstellung auf Digital Only abgehängt fühlen, weil sie überhaupt keinen Zugriff mehr auf ihr Konto haben.
Wir regen daher an dieser Stelle ausdrücklich an, neben der erwähnten, den Regulierungsvorschlag flankierenden industriepolitischen Agenda, auch eine entsprechende bildungspolitische und zivilgesellschaftliche Strategie im Blick zu haben. Was in wirtschaftlicher Hinsicht ein Regulierungsrahmen für KI leistet, bedarf aus einer weiteren gesellschaftlichen Perspektive eines Wertegerüsts und der Bestimmung einer digitalen Mindestkompetenz, d.h. des Ausmaßes an digitaler Mündigkeit, die die Gesellschaft von einem Mitglied erwarten und einfordern darf. Diese digitale Mindestkompetenz, verstanden als Ausdruck digitaler Selbstbestimmung, muss sich über Schul- und Weiterbildung realistisch aneignen lassen können. Des Weiteren sind Governance-Prinzipien für digitale Prozesse notwendig, die eine menschliche Entscheidungsinstanz im Bereich grundlegender wirtschaftlicher oder administrativer Teilhabe sicherstellen (s. Human Oversight) – nicht nur, weil uns die digitale Transformation zur Selbstreflexion und Repositionierung zwingt.
Unsere europäischen und christlichen Werte mit ihrem personalen Menschenbild und ihren Begriffen von Würde und Autonomie können die Basis und den Kern für eine solche gesellschaftspolitische Strategie bilden, die uns in Europa über natio-nale Grenzen und technologische Epochen hinweg als Orientierungspunkt dienen kann.