Beruflich Dokumente
Kultur Dokumente
2023
16. August 2023
76. Jahrgang
Die Mittelschicht in
Deutschland: Zugehörigkeit, Künstliche Intelligenz:
Entwicklung und Steuerlast Chance oder Gefahr?
Florian Dorn, David Gstrein,
Florian Neumeier und Wie verändert der Einsatz von
Andreas Peichl KI unsere Gesellschaft?
Daria Schaller, Klaus Wohlrabe und Anna Wolf, Vera Demary
DATEN UND PROGNOSEN und Armin Mertens, Marie-Christine Fregin und Michael Stops,
Wer berichtet die Stimmung Andreas Gillhuber, Johannes Walter, Dirk Heckmann,
in den deutschen Chefetagen? Armin Grunwald
Jonas Hennrich, Stefan Sauer
und Klaus Wohlrabe
ifo Schnelldienst
ISSN 0018-974 X (Druckversion)
ISSN 2199-4455 (elektronische Version)
Herausgeber: ifo Institut, Poschingerstraße 5, 81679 München, Postfach 86 04 60, 81631 München,
Telefon (089) 92 24-0, Telefax (089) 98 53 69, E-Mail: ifo@ifo.de.
Redaktion: Dr. Marga Jennewein, Dr. Cornelia Geißler.
Redaktionskomitee: Prof. Dr. Dr. h.c. Clemens Fuest, Prof. Dr. Chang Woon Nam.
Vertrieb: ifo Institut.
im Internet:
https://www.ifo.de
8/2023 SCHNELLDIENST
Künstliche Intelligenz: Chance oder Gefahr? Wie
verändert der Einsatz von KI unsere Gesellschaft?
FORSCHUNGSERGEBNISSE
Künstliche Intelligenz:
Chance oder Gefahr?
Wie verändert der Einsatz von KI unsere
Gesellschaft?
Es ist unbestritten, dass der Einsatz von Künstlicher Intelligenz (KI) die Gesellschaft,
insbesondere die Arbeitswelt, verändern wird. Große Unsicherheit besteht aber über
das »Wie«. Ist ihr Einsatz eher eine Chance oder doch eher eine Gefahr? Auf der einen
Seite werden größere Effizienz, Dynamik und neue Geschäftsmodelle erwartet. Auf der
anderen Seite sind mit diesen Möglichkeiten Ängste verbunden – für die Wirtschaft wie
auch für die Gesellschaft. Entwickelt sich die KI zum Jobkiller? Wird durch die Kom-
plexität und mangelnde Nachvollziehbarkeit dieser Technologie die KI sogar unkontrol-
lierbar? Ein geeigneter Rahmen für den Umgang mit KI-Technologien ist unerlässlich.
Digitale Technologien verändern nicht nur die Effizienz Dienstleistungen und Geschäftsmodelle, die in einer
und den Ablauf von Produktionsprozessen, sondern Vielzahl von Branchen, von Logistik und Energie über
haben auch einen tiefgreifenden, disruptiven Einfluss Landwirtschaft, Handel, Telekommunikation, Finanz-
auf unsere Wirtschaft, der oft mit dem Begriff »digita- dienstleistungen, Verarbeitendes Gewerbe bis hin zur
ler Wandel« umfasst wird. Der digitale Wandel bezeich- Gesundheitsversorgung, Anwendung finden. Sie haben
net die Integration digitaler Technologien in die wirt- gar das Potenzial, das Leben der Menschen und die
schaftlichen Arbeitsabläufe, aber auch ihre Auswirkun- Gesellschaft nachhaltig zu verändern.
gen auf die Lebensverhältnisse und die Gesellschaft Cloud Computing, Künstliche Intelligenz und
insgesamt. Zu den zahlreichen neuen Technologien, Blockchain zählen heute zu den wichtigsten Inno-
die in den vergangenen Jahren einen beachtlichen vationen im Bereich der Informations- und Kom-
Fortschritt und eine breite Akzeptanz erfahren haben, munikationstechnologie. Diesen drei scheinbar sehr
gehören digitale Plattformen, das Internet der Dinge unterschiedlichen Technologien ist es gemein, dass
(Internet of Things, IoT), Robotik, Cloud Computing, sie auf eine Modernisierung und Optimierung der Da-
Blockchain und nicht zuletzt Künstliche Intelligenz. teninfrastruktur in Unternehmen abzielen, indem sie
Durch ihre breitgefächerte Anwendung und tiefrei- eine effiziente Speicherung, Verarbeitung und Analyse
chende Verbreitung entstehen innovative Produkte, großer Datenmengen ermöglichen. Alle drei Techno-
logien haben das Potenzial, bestehende Geschäfts- (Catalini et al 2019). Neben den gängigen öffentlichen
modelle und die Art und Weise, wie Wissen, Produkte Blockchains, die global von zahlreichen Teilnehmern
und Dienstleistungen entstehen und ausgetauscht betrieben werden (wie Bitcoin, Ethereum u.a.), gibt
werden, maßgeblich zu verändern. es unternehmenseigene DLT, die primär im betriebs-
wirtschaftlichen und industriellen Bereich für einen
CLOUD COMPUTING bestimmten Zweck verwendet werden. Typische An-
wendungsfelder sind im Supply Chain Management,
Cloud Computing hat die Art und Weise, wie Unter- Finanzwesen oder in der öffentlichen Verwaltung.
nehmen, Privatpersonen und der öffentliche Sektor Blockchain-Technologie ist ebenfalls ein wichtiges
IT-Ressourcen nutzen, grundlegend verändert und sich Thema innerhalb der digitalen Strategie der EU. So
als eine wichtige IT-Infrastruktur im modernen, digita- baut der europäische öffentliche Sektor eine eigene
len Arbeiten etabliert. Beim Cloud Computing werden Infrastruktur für Blockchain-Dienste auf, die eine In-
die IT-Ressourcen (wie Speicherplatz und Rechenleis- teroperabilität mit Plattformen des privaten Sektors
tung) den Nutzern über das Internet, meist auf Basis ermöglichen sollen (Europäische Kommission 2023).
von nutzungsabhängigen Gebühren, zur Verfügung ge- In diesem Beitrag soll anhand von empirischen
stellt. Das Prinzip des Cloud Computing ermöglicht ne- Daten aus der ifo Konjunkturumfrage die Verbreitung
ben Aufwands- und Kostenersparnis, eine höhere Fle- der digitalen Technologien – KI, Blockchain und Cloud
xibilität, Sicherheit, Skalierbarkeit und Effizienz beim Computing – in der deutschen Wirtschaft untersucht
Einsatz von Rechenleistung und Datenspeicherung. werden. Die Ergebnisse basieren auf einer repräsen-
Die wohl bekanntesten Formen des Cloud Computing tativen Umfrage, die das ifo Institut im Rahmen seiner
sind die Speicherdienste der US-Technologiekonzerne monatlichen Konjunkturumfragen im Juni 2023 durch-
Google (Google Drive), Amazon (Amazon Web Services führte. Die Frage nach der Einstellung der Unterneh-
– AWS) und Microsoft (OneDrive). Für das Cloud Com- men zu diesen digitalen Technologien wurde im Auf-
puting gibt das politische Programm der EU »Europas trag des Hanseatic Blockchain Institute e.V. erhoben.
digitale Dekade« konkrete Zielvorgaben. Demnach soll Die Erhebung erfolgte als Teil der vom Bundesminis-
bis zum Jahr 2030 Cloud Computing bei mindestens terium für Wirtschaft und Klimaschutz (BMWK) geför-
75 % der Unternehmen der EU im Einsatz sein. derten W3NOW-Studie, die vom Hanseatic Blockchain
Institute durchgeführt wird, um die Durchdringung der
KÜNSTLICHE INTELLIGENZ Blockchain-Technologie in der deutschen Wirtschaft
zu untersuchen.1
KI-basierte Systeme nutzen Techniken wie maschinel-
les Lernen und Deep Learning, um mit Hilfe großer Da- ERGEBNISSE DER IFO KONJUNKTURUMFRAGE
tenmengen komplexe Aufgaben wie Mustererkennung,
Sprachverarbeitung, Trendanalyse und Entscheidungs- In Tabelle 1 sind die Ergebnisse für die drei Schlüssel-
findung zu automatisieren. Höhere Rechenleistungen, technologien für die jeweiligen Sektoren aufgelistet.
Verfügbarkeit großer Datenmengen und neue Algo- Neben den vier abgefragten Kategorien wird auch die
rithmen haben zu einer rasanten Weiterentwicklung Summe aus »im Einsatz« und »geplant« dargestellt.
der KI-Technologie geführt und breite Anwendung Dies kann als aktuelle Durchdringungsquote interpre-
über sämtliche Wirtschaftsbereiche hinweg ermög- tiert werden. Detaillierte Ergebnisse für die Industrie
licht. Zuletzt hat insbesondere die Verbreitung von und den Dienstleistungssektor sind in Abbildung 1
Chatbot-Anwendungen, wie beispielsweise ChatGPT dargestellt. Es zeigt sich, dass gegenwärtig Cloud
des Unternehmens OpenAI, KI in den Fokus des öf- Computing am weitesten verbreitet ist. 46,5 % der
fentlichen Interesses gerückt. Seit 2019 steht KI auf Unternehmen nutzen diese bereits, und weitere 11 %
der Prioritätenliste der europäischen Industriepolitik planen das in naher Zukunft. Die entsprechenden An-
(Europäisches Parlament 2020). teile sind bei Künstlicher Intelligenz (13,3 bzw. 9,2 %)
und Blockchain (3,2 bzw. 3,7 %) teilweise deutlich ge-
BLOCKCHAIN ringer. Dies könnte daran liegen, dass Cloud Compu-
ting für die breite Masse schon länger zur Verfügung
Blockchain basiert auf der Distributed Ledger Techno- steht als die beiden anderen Technologien. Für alle
logie (DLT) und beinhaltet Algorithmen und Systeme drei Technologien gilt, dass sie deutlich häufiger in
für digitale, unveränderbare und dezentrale Datenin Großunternehmen im Einsatz sind, im Vergleich zu
frastrukturen. Blockchains können zu einer vertrau- kleineren und mittelständischen Unternehmen. Min-
enswürdigen und manipulationssicheren Aufbewah-
rung unterschiedlicher Informationen eingesetzt wer- 1
Die ifo Konjunkturumfragen basieren auf ca. 9 000 monatlichen
den. Ursprünglich als Grundlage für Kryptowährungen Meldungen von Unternehmen des Verarbeitenden Gewerbes, des
Dienstleistungssektors, des Handels und des Bauhauptgewerbes.
(Bitcoin) entwickelt, hat sich die Blockchain-Tech- Die Sonderfrage haben rund 6 600 Unternehmen beantwortet. Die
nologie zu einer vielseitigen DLT weiterentwickelt, Ergebnisse berechnen sich auf Basis der gewichteten Anteile der
Unternehmen, die auf die Antwortoptionen »im Einsatz«, »geplant«,
die das Potenzial hat, Sicherheit, Transparenz und »diskutiert« und »kein Thema« der entsprechenden Frage in der
Effizienz von digitalen Transaktionen zu verbessern ifo Konjunkturumfrage entfallen.
destens eine der drei Technologien wird gegenwärtig tungen gibt es nahezu kein Unternehmen, das sich
bei 42 % der Firmen eingesetzt. nicht mit dem Thema beschäftigt oder keine Anwen-
Ein Blick auf die Sektoren zeigt, dass beim Cloud dungsmöglichkeiten sieht. Das ist nicht verwunder-
Computing vor allem die Unternehmen aus der In- lich, denn große Sprachmodelle, wie das von ChatGPT,
dustrie und dem Dienstleistungssektor vorangehen. wurden auf riesigen Codebeständen trainiert, um
Dort berichten rund 60 % von entsprechenden Ein- unter anderem auch Software-Code zu generieren.
satzmöglichkeiten. In der Industrie sind es vor allem Das Thema »Künstliche Intelligenz« ist allerdings noch
die Pharmaindustrie und die Autobauer, und bei den nicht überall vorgedrungen. Rund 40 % der Unterneh-
Dienstleistern sind es vor allem die unternehmens- men geben an, dass KI gegenwärtig kein Thema ist.
nahen Dienstleistungen, wie die IT-Unternehmen, Im Baugewerbe liegt dieser Anteil bei 60 %.
Unternehmen der Telekommunikationsbranche so- Die Blockchain-Technologie kommt gegenwärtig
wie Rechts-, Steuer und Unternehmensberatungen, im Vergleich zu den anderen beiden Technologien auf
die Cloud Computing bereits einsetzen. Im Handel eine geringere Anwendungsquote. Rund 7 % der Unter-
und im Bausektor liegen die entsprechenden Werte nehmen nutzen sie oder planen es, rund 19 % diskutie-
unter 50 %. Lediglich für etwa ein Viertel der Unter- ren eine mögliche Einführung. Für rund drei Viertel der
nehmen spielt das Thema »Cloud Computing« gegen- befragten Unternehmen ist Blockchain gegenwärtig
wärtig keine Rolle. noch kein Thema. Eine breitere Anwendung findet die
Die Industrie ist auch Vorreiterin beim Einsatz von Blockchain-Technologie vor allem in der Industrie, wo
Künstlicher Intelligenz. Jedes dritte Industrieunterneh- der Durchdringungswert bei 12 % liegt, d.h., 12 % der
men nutzt diese bereits oder plant ihren Einsatz. Bei Unternehmen setzen bereits Blockchain-Technologie
den Dienstleistern und im Handel liegt der Wert bei ein oder planen einen Einsatz, und fast jedes vierte
20 %, im Baugewerbe bei 15 %. Wie bereits bei Cloud Unternehmen (24 %) diskutiert darüber. Besonders
Computing sind es vor allem die Automobil- und die weit in Sachen Blockchain ist die chemische Industrie.
Pharmaindustrie, die sich mit diesem Thema aktiv be- Dort nutzen 14 % der Unternehmen die Technologie
schäftigen, aber auch die Hersteller von Elektro- und für ihre Geschäftsprozesse. In der Automobilindustrie
Informations- und Kommunikationstechnik sowie die setzen 13 % der Unternehmen Blockchain-Technologie
Maschinenbauer. Innerhalb des Dienstleistungssektors ein, und rund jedes fünfte Unternehmen plant den
ist die KI-Technologie vor allem bei den unterneh- Einsatz. Bei den Herstellern von Nahrungs- und Fut-
mensnahen Dienstleistungen im Einsatz, oder es wird termitteln, Druckerzeugnissen, Datenverarbeitungs-
darüber diskutiert (vgl. Abb. 1). Bei den IT-Dienstleis- geräten, elektrischen Ausrüstungen, Möbeln und im
Tab 1
KI, Blockchain und Cloud Computing in Unternehmena
Deutschland Industrie Dienstleistungen Großhandel Einzelhandel Bauhauptgewerbe
Künstliche Intelligenz
im Einsatz 13,3 17,3 12,2 9,1 12,2 7,1
geplant 9,2 12,9 7,2 10,0 7,3 7,9
Summe 22,5 30,2 19,4 19,1 19,5 15,0
Maschinenbau wird die Blockchain-Technologie von geplanten Einsätze hinzugerechnet werden. Bei rund
mindestens jedem zehnten Unternehmen eingesetzt, drei Viertel der Unternehmen ist mindestens eine der
oder ihr Einsatz ist geplant. Im Dienstleistungssektor, Technologien in der Diskussion. Die Anzahl der Ant-
im Handel und Bauhauptgewerbe sind es hingegen worten verteilt sich gleichmäßig über die verschie-
deutlich weniger. Dort schwanken die Werte um die denen Sektoren.
5 %. Ausnahmen sind hier wieder die IT-Dienstleister,
wo immerhin rund 15 % der Unternehmen die Tech- Industrie und Dienstleistungssektor
nologie nutzen oder den Einsatz planen. als Vorreiter
Weniger als 1 % der Unternehmen haben gegen-
wärtig alle drei Technologien gleichzeitig im Einsatz. Zusammenfassend kann gesagt werden, dass die In-
Dieser Anteil erhöht sich geringfügig auf 2,5 %, wenn dustrie und der Dienstleistungssektor, hier vor allem
der geplante Einsatz berücksichtigt wird. Mindestens die unternehmensnahen Dienstleistungen, Vorreiter
zwei Technologien werden gegenwärtig von rund beim Einsatz neuer Technologien sind. Der Handel
8 % der Unternehmen eingesetzt. Dabei ist insbeson- und insbesondere der Bausektor zeigen hingegen noch
dere die Kombination Cloud Computing und KI am eine gewisse Zurückhaltung. Wenig überraschend sind
häufigsten. Der Anteil steigt auf rund 15 %, wenn die es vor allem größere Unternehmen, die sich mit ent-
Abb. 1
Status der Technologie nach Wirtschaftsbereich
Im Einsatz Geplant Diskutiert Kein Thema
A. Cloud Computing in der Industrie B. Cloud Computing im Dienstleistungssektor
Automobil Informationsdienstleistungen
Datenverarbeitungsgeräte Erbr. von Dienstl. d. Informationstechnologie
Pharmazeutische Erzeugnisse Rechts- und Steuerberatung, Wirtschaftsprüfer
Maschinenbau Unternehmensberatung
Metallerzeugung und -bearbeitung
Verlagswesen
Elektrische Ausrüstungen
Chemie Werbung und Marktforschung
Papiergewerbe Freiberufliche und technische Tätigkeiten
Herstellung von Metallerzeugnissen Vermittlung/Überlassung von Arbeitskräften
Druckerzeugnisse Post-, Kurier- und Expressdienste
Textilien Erbringung von wirtschaftlichen Dienstl.
Glas und Keramik Reisebüros und -veranstalter
Gummi- und Kunststoffwaren Lagerei
Nahrungsmittel
Gastronomie
Holz-, Flecht- und Korbwaren (ohne Möbel)
Grundstücks- und Wohnungswesen
Bekleidung
Möbel Architekten und Ingenieure
Leder, Lederwaren und Schuhen Beherbergung
Getränkeherstellung Landverkehr
0 20 40 60 80 100 % 0 20 40 60 80 100 %
0 20 40 60 80 100 % 0 20 40 60 80 100 %
0 20 40 60 80 100 % 0 20 40 60 80 100 %
sprechenden Anwendungen beschäftigen oder bereits oder radiologische Bilder) in Kombination mit Patholo-
in der Praxis einsetzen. Eine relative Einordnung der gie- und Behandlungsdaten analysieren. Auch pharma-
Zahlen insgesamt und im Zeitablauf ist gegenwär- zeutische Wissenschaftsliteraturdatenbanken können
tig noch nicht möglich, da es die erste umfangreiche inzwischen mit KI-Methoden effizienter und schneller
Erhebung des ifo Instituts zur technologischen Durch- ausgewertet werden, was die Medikamentenentwick-
dringung der deutschen Wirtschaft ist. Andere Erhe- lung deutlich beschleunigen dürfte. Daneben kommt
bungen zu einzelnen Technologien aus den Vorjahren, auch die Blockchain-Technologie im Gesundheitswe-
etwa des Statistischen Bundesamts zur Verbreitung sen zum Einsatz: So werden in Estland elektronische
des Cloud Computing und der KI-Anwendungen aus Patientenakten bereits auf einer Blockchain abgesi-
dem Jahr 2021, deuten jedoch darauf hin, dass die chert. Unter anderem arbeitet das Unternehmen IBM
technologische Durchdringung in der Wirtschaft seit an zahlreichen Blockchain-Lösungen für das Gesund-
2021 deutlich zugenommen hat: Im Jahr 2021 nutzten heitswesen und die Biowissenschaften (IBM 2023).
28 % der Unternehmen Cloud Computing und 11 % Ein branchenübergreifendes Einsatzgebiet für die
der Unternehmen Künstliche Intelligenz. Mit dieser digitalen Technologien ist die Steuerung und Überwa-
Durchdringungsquote lag Deutschland im europäi- chung von Lieferketten. Nicht zuletzt durch die Erfah-
schen Mittelfeld. Zur Verbreitung der DLT bzw. Block- rung der Lieferengpässe der vergangenen Jahre ist
chain-Technologie liegen derzeit keine Daten der amt- es für viele Hersteller wichtig, jede Etappe des Lie-
lichen Statistik vor. Das ifo Institut plant, in einem fer- und Herstellungsprozesses zu überwachen und
Jahr die Unternehmen erneut nach dem Einsatz der genau zu wissen, wann die benötigten Komponen-
digitalen Technologien zu befragen, um die Verände- ten im Produktionsstandort eintreffen. Aus diesem
rung der Durchdringungsquote im zeitlichen Verlauf Grund stützen sich moderne Lieferketten inzwischen
zu untersuchen. auf IoT-, Blockchain- und KI-Technologien. Im Fall des
Einsatzes der KI werden auf Basis von datengestütz-
DISKUSSION ten Annahmen und Vorhersagen automatisierte An-
passungen in Echtzeit möglich (Schünemann 2023).
Zwar lassen die Umfrageergebnisse keine Schlüsse Dadurch kann die Transparenz von Lagerbewegun-
zu, in welchen Bereichen die Technologien eingesetzt gen verbessert und mögliche Lieferunterbrechungen
werden. Sie zeigen jedoch, dass die Einsatzbereiche besser vorhergesagt werden. Laut einer Studie von
von KI, Cloud Computing und Blockchain sowohl bran- Bitkom nutzte im Oktober 2022 bereits jedes fünfte
chenspezifisch als auch branchenübergreifend sehr Logistikunternehmen in Deutschland KI, weitere 26 %
vielfältig sein dürften. Im Folgenden seien einige der planten dies oder diskutierten darüber (Bitkom 2022).
sich bereits im Einsatz befindenden Anwendungen Auch die Blockchain-Technologie wird in den Unter-
kurz vorgestellt. nehmen zur Rückverfolgbarkeit von Vorprodukten ein-
Industrielle KI-Anwendungen bieten die Möglich- gesetzt, meistens mit den Zielen der Kostensenkung,
keit, mit Hilfe des maschinellen Lernens große Da- Verbesserung der Liefergeschwindigkeit, Wahrneh-
tenmengen aus industriellen Prozessen effizient zu mung der unternehmerischen Sorgfaltspflichten oder
verarbeiten und zu analysieren. KI kann z.B. verwen- der Nachhaltigkeit bzw. des Umweltschutzes. Durch
det werden, um mit Hilfe von vernetzten Geräten und den Einsatz der Blockchain-Technologie können zwi-
Anlagen sowie gesammelten Daten industrielle Pro- schenbetriebliche Prozesse, die sonst mit viel Perso-
zesse zu überwachen und zu steuern, um rechtzeitig nalaufwand verbunden sind, automatisiert werden. Im
Wartung, Reparatur oder Umrüstung einzuleiten (He- Falle eines Rückrufs können so Problemquellen und
cker 2017). Laut einer Studie unter Unternehmen im betroffene Produkte schneller identifiziert werden,
produzierenden Gewerbe, die KI bereits nutzen, gaben und sowohl Zutatenherkunft als auch Lieferwege von
34 % an, KI für die Qualitätssteigerung von Produkten Produktchargen schneller nachvollzogen werden. So
und Dienstleistungen einzusetzen (Harlacher et al. können Rückrufe zielgenauer und schneller durch-
2023). Auch findet KI vermehrt in der industriellen geführt werden. Lückenlose Rückverfolgbarkeit von
Analyse Anwendung. KI-gestützte Lösungen helfen Vorprodukten ist ein wichtiges Thema etwa in der
bspw. Fahrzeugherstellern dabei, Produktionsprozesse Nahrungs- und Futtermittelindustrie, in der Chemie-
zu verbessern, aber auch bei der Weiterentwicklung und Pharmaindustrie, aber auch im Automobilbau.
der Fahrsicherheit und des autonomen Fahrens. Dafür Im Einzelhandel und bei den personenbezogenen
nutzen KI-Systeme die Möglichkeiten des IoT in Fahr- Dienstleistungen kommen KI und Blockchain häufig in
zeugen. IoT-Systeme helfen auch bei der Verfolgung der Front-End-Kommunikation zum Einsatz (Fraunho-
des Echtzeit-Zustands von Fahrzeugen, indem die fer 2022). Mit Hilfe von KI-Assistenten werden etwa
fortlaufend anfallenden Fahrzeugdaten automatisch personalisierte, auf den Kunden zugeschnittene An-
ausgewertet werden. gebote (Recommender Systeme2) in den Bereich Pro-
Auch im Pharma- und Biotechbereich finden zu- dukt, Content und Service angeboten. Die auf Block-
nehmend KI-Analysetools Anwendung. Zum Einsatz
2
Recommender Systeme sind Algorithmen, die Interessen von
kommen hier unter anderem Deep Learning Modelle Nutzern quantifizieren und auf Grundlage historischer Daten
für diagnostische Anwendungen, die Bilder (z.B. Fotos Vorhersagen treffen.
chain basierenden Smart Contracts und Non-fungible der konsequente Einsatz von Cloud Computing wird als
Token (NFT) werden als eine Form von Eigentums- zentrale Basistechnologie für die digitale Transforma-
nachweis bzw. Echtheitszertifikat für digitale oder tion und damit zur Sicherung der Wettbewerbsfähig-
auch physische Güter verwendet. keit der deutschen Wirtschaft gesehen.
Ein weiteres bereits genutztes und branchen- Die europäischen Regulierungsbehörden haben
übergreifendes Einsatzgebiet von KI und Blockchain sich in den vergangenen Jahren intensiv mit dem Ein-
in Unternehmen ist die Finanzplanung und -verwal- satz von KI, Blockchain und Cloud Computing aus-
tung. Banken und Versicherungen, aber auch andere einandergesetzt. Diese Bestrebungen zielen darauf
Unternehmen nutzen KI in der intelligenten Betrugs- ab, den Schutz der Bürgerrechte, die Sicherheit und
erkennung. Auch hier liegen selbstlernende KI-Ver- die ethische Verwendung dieser Technologien sicher-
fahren zugrunde, die mit historischen Daten trainiert zustellen. Im Bereich KI hat sich das EU-Parlament
werden. Zur Anwendung kommen diese sowohl für im Juni 2023 auf einen Vorschlag für ein Gesetz geei-
Internal Fraud, wie betrügerische Handlungen eigener nigt, das unter anderem eine Einstufung verschiedener
Mitarbeiter in der Buchhaltung, als auch für External KI-Anwendungen und ihrer Risiken vorsieht. Zu »Hoch-
Fraud, z.B. Kreditkartenbetrug (Trabold et al. 2021). risiko-KI-Systemen« gehören solche, die zum Beispiel
Auch Blockchain-Anwendungen werden zum Zwecke in den Bereichen der biometrischen Identifizierung
der Transparenz und Rückverfolgbarkeit von Zah- (z.B. Gesichtserkennung), der kritischen Infrastruk-
lungsströmen bzw. zur gesicherten Übertragung von tur wie Straßenverkehr, Wasser-, Gas-, Wärme- und
Vermögens- und Vertragsdaten verwendet. Stromversorgung oder in der Strafverfolgung verwen-
det werden. Das Europäische Parlament will hiermit
GENERAL PURPOSE TECHNOLOGY? sicherstellen, dass die in der EU eingesetzten KI-Sys-
teme sicher, transparent, nichtdiskriminierend, nach-
Mehrere Forschungsarbeiten haben sich mit der Frage vollziehbar und nachhaltig sind. Die Gesetzesvorlagen
befasst, ob KI, Blockchain und Cloud Computing die werden aktuell noch kontrovers diskutiert. Bis Ende
Anforderungen erfüllen, um als General Purpose 2023 soll jedoch eine Einigung erzielt werden.
Technology (GPT) eingestuft zu werden. GPT sind Im Bereich Blockchain hat die europäische Politik
bestimmte Schlüsseltechnologien, die wirtschaftli- ebenfalls die Notwendigkeit erkannt, klare rechtliche
che und soziale Strukturen so gravierend verändert Rahmenbedingungen zu schaffen. Dazu gehören ne-
haben, dass dadurch ganze Epochen technologischen ben noch laufenden Arbeiten zur Erfassung möglicher
Fortschritts und Wirtschaftswachstums eingeleitet Risiken für die Finanzstabilität auch konkrete gesetz-
wurden. Typischen Beispiele für GPT sind Elektrizi- geberische Maßnahmen auf europäischer und natio-
tät, die Erfindung des Telefons, des Computers und naler Ebene. 2022 hat die Europäische Union mit der
des Internets. Hauptmerkmale der GPT sind, dass sie Verordnung über Märkte für Kryptowerte (Regulation
branchenübergreifend wirken, zu Kostensenkungen on Markets in Crypto-Assets – MiCA), der Transfer of
und Produktivitätsgewinnen sowie Produkt- und Pro- Funds Regulation (TFR) und auch der Verordnung zur
zessinnovationen beitragen. Im Fall Blockchain haben Schaffung eines sogenannten DLT Pilot Regimes einen
Catalini et al. (2019) zwei zentrale Kostenpositionen, europäischen Rahmen zur Behandlung von Krypto-
die durch die Blockchain-Technologie erheblich ge- werten geschaffen. Allerdings sind auch hier noch bei
senkt werden können, identifiziert: Verifizierungs- weitem nicht alle Bereiche der Blockchain-Ökonomie
kosten (costs of verification) und Netzwerkeffekt- abgedeckt. So beinhaltet MiCA noch keine regulatori-
kosten (cost of networking). Für KI diskutierte Crafts sche Einordung der NFTs. Auch Kryptowerte, die als Fi-
(2021) über eine mögliche Einstufung als GPT, da KI nanzinstrumente eingestuft werden, fallen noch nicht
die Produktivität der Forschung und Entwicklung auf unter den Geltungsbereich der MiCA-Vorschriften.
zahlreichen Gebieten erhöht und damit die Grund- Im Bereich Cloud Computing hat die EU ebenfalls
lage für eine tiefgreifende globale Transformation der regulatorische Maßnahmen ergriffen, um den Schutz
Wirtschaft legt. Auch die empirischen Ergebnisse der der Privatsphäre und den sicheren Datentransfer zu
ifo Konjunkturumfrage stützen die These, dass die gewährleisten. Regulatorische Fragen ergeben sich hier
diskutierten digitalen Technologien angesichts ihres vor allem aus den bestehenden Datenschutz-Anforde-
breiten branchenspezifischen sowie branchenüber- rungen, etwa der europäischen Datenschutz-Grund-
greifenden Einsatzes das Potenzial haben, sich zu GPT verordnung (DSGVO). Die DSGVO, die im Mai 2018 in
zu entwickeln. Kraft trat, legt strenge Regeln für den Umgang mit
personenbezogenen Daten fest, einschließlich deren
REGULIERUNGSBESTREBUNGEN VON KI, Speicherung und Übertragung in die Cloud.
BLOCKCHAIN UND CLOUD COMPUTING SEITENS Während ein verbindlicher europäischer Geset-
DER POLITIK zesrahmen für die Verwendung der digitalen Tech-
nologien erst im Entstehen ist, wächst mit einer zu-
Bereits im Jahr 2018 hat die Bundesregierung eine nehmenden Marktdurchdringung der Ruf nach einer
»Strategie Künstliche Intelligenz« sowie im Jahr 2019 rechtlichen Einordnung. Denn erst wenn Rechtssi-
eine umfassende Blockchain-Strategie vorgelegt. Auch cherheit über Einsatz und Verwendung vorliegt, wird
die Wirtschaft vermehrt auf digitale Technologien Catalini, C. und J. Gans (2019), »Some Simple Economics of the
Blockchain«, MIT Sloan Research Paper Nr. 5191-16.
setzen können.
Crafts, N. (2021), »Artificial intelligence as a general-purpose techno-
logy: an historical perspective«, Oxford Review of Economic Policy 37(3),
ZUSAMMENFASSUNG 521–536.
Destatis (2022), »Nutzung von Cloud Computing nach Beschäftigten-
größenklassen«, https://www.destatis.de/DE/Themen/Branchen-Un-
KI, Blockchain und Cloud Computing sind digitale ternehmen/Unternehmen/IKT-in-Unternehmen-IKT-Branche/Tabellen/
Technologien, die den Unternehmen wesentliche Kos- iktu-06-cloud-computing.html, aufgerufen am 21. Juni 2023.
ten, Zeit- und Prozessvorteile ermöglichen und damit Die Bundesregierung (2018), Strategie Künstliche Intelligenz der
Bundesregierung, verfügbar unter: https://www.bundesregierung.
als Treiber für eine Vielzahl von volkswirtschaftlich de/resource/blob/997532/1550276/3f7d3c41c6e05695741273e78b-
relevanten Ökosystemen dienen können. Ihre ökono- 8039f2/2018-11-15-ki-strategie-data.pdf, aufgerufen am 21. Juni 2023.
mischen Auswirkungen gehen jedoch weit über den Europäische Kommission (2023), Blockchain Strategie der EU, verfügbar
unter: https://digital-strategy.ec.europa.eu/de/node/34, aufgerufen am
Aspekt der Kosten- und Prozessoptimierung hinaus, 27. Juni 2023.
denn sie ermöglichen ganz neue Geschäftsmodelle Europäisches Parlament (2023), »KI-Gesetz: erste Regulierung der
und Geschäftsprozesse und schaffen damit ein neues künstlichen Intelligenz«, verfügbar unter: https://www.europarl.europa.
eu/news/de/headlines/society/20230601STO93804/ki-gesetz-erste-regu-
Wertschöpfungspotenzial. Der digitale Wandel ist so- lierung-der-kunstlichen-intelligenz, aufgerufen am 23. Juni 2023.
mit im vollen Gange und stellt die Unternehmen und
Europäisches Parlament (2020), »Was ist künstliche Intelligenz und
die Politik vor große Herausforderungen. Während wie wird sie genutzt?«, verfügbar unter: https://www.europarl.europa.
eu/news/de/headlines/society/20200827STO85804/was-ist-kunstliche-in-
ein verbindlicher europäischer Gesetzesrahmen für
telligenz-und-wie-wird-sie-genutzt, aufgerufen am 27. Juni 2023.
den Einsatz und die Verwendung der digitalen Tech-
Fraunhofer (2022), »KI revolutioniert die Supply Chain«, verfügbar unter:
nologien erst im Entstehen ist, ist die Wirtschaft in https://www.iis.fraunhofer.de/de/profil/jb/2021/ki-revolutioniert-sup-
Deutschland bereits inmitten einer digitalen Transfor- ply-chain.html, aufgerufen am 27. Juni 2023.
mation und damit auch im globalen Wettbewerb um Harlacher, M., N. Feggeler, Y. Pfeifer und N. Ottersböck (2023), »Produzie-
rendes Gewerbe auf internationalem Niveau«, Zeitschrift für wirtschaftli-
Technologieführerschaft und Technologiesouveränität. chen Fabrikbetrieb 118(3), 173–177.
Hecker, D., I. Döbel, S. Rüping und V. Schmitz (2017), Künstliche Intel-
REFERENZEN ligenz und die Potenziale des maschinellen Lernens für die Industrie,
Wirtschaftsinformatik & Management 9, 26–35.
Bitkom (2022), »Jedes fünfte Logistikunternehmen setzt Künstliche
IBM (2023), »Blockchain-Lösungen für das Gesundheitswesen und die
Intelligenz ein«, verfügbar unter: https://www.bitkom.org/Presse/Presse-
Biowissenschaften«, https://www.ibm.com/de-de/blockchain/industries/
information/Logistikunternehmen-Kuenstliche-Intelligenz-KI, aufgerufen
healthcare, aufgerufen am 24. Juli 2023.
am 27. Juni 2023.
Schünemann, H. (2023), »Kundenstory – Renfert GmbH«, verfügbar un-
Bundesministerium für Wirtschaft und Energie (2019), »Blockchain-Stra-
ter: https://www.agile-im.de/2023/03/31/aim-kundenstory-renfert-gmbh/,
tegie der Bundesregierung – Wir stellen die Weichen für die Token-Öko-
aufgerufen am 27. Juni 2023
nomie«, verfügbar unter: https://www.bmwk.de/Redaktion/DE/Publikati-
onen/Digitale-Welt/blockchain-strategie.html, aufgerufen am Trabold, D., R. Blankertz und L. Schrader (2021), »Effiziente Betrugser-
21. Juni 2023. kennung durch Maschinelles Lernen«, Fraunhofer-Institut für Intelligente
Analyse- und Informationssysteme IAIS, verfügbar unter: https://www.
iais.fraunhofer.de/content/dam/iais/gf/bda/Downloads/Fraunhofer_IAIS_
Whitepaper_Fraud.pdf, aufgerufen am 28. Juni 2023.
Künstliche Intelligenz (KI) polarisiert. Auf der einen Auf der anderen Seite sind mit diesen Möglich-
Seite stehen Versprechen von Effizienz, Dynamik keiten auch Ängste verbunden – für die Wirtschaft
und neuen Geschäftsmodellen. Auch wenn es KI per wie auch für die Gesellschaft. Diese beziehen sich vor
se schon lange gibt – plötzlich wird Wirtschaft, Ge- allem auf zwei Aspekte: Zum einen besteht die Sorge
sellschaft und Öffentlichkeit klar, was diese Verspre- vor Komplexität und mangelnder Nachvollziehbarkeit
chungen eigentlich bedeuten. Bislang war KI für
viele, selbst für Unternehmen, oft abstrakt
und weit weg. Dies änderte sich spätestens
seit der breiten Verfügbarkeit von genera-
tiven KI-Sprachmodellen (LLM, Large Lan-
guage Models) wie ChatGPT oder dessen
Google-Äquivalent Bard. Jeder kann Arbeits- Dr. Vera Demary Dr. Armin Mertens
aufträge eingeben und verwundert, begeistert
leitet das Cluster »Digitalisierung leitet das Cluster »Big Data Ana-
oder entsetzt feststellen, wie gut die KI diese und Klimawandel« am Institut lytics« am Institut der deutschen
meistern kann. Plötzlich ist klar, dass KI-An- der deutschen Wirtschaft, Köln. Wirtschaft, Köln.
wendungen ein »Game Changer« sein können.
von Entscheidungen und Aktionen, die durch die KI dung von KI. Der Einsatz von KI in Unternehmen ver-
ausgelöst werden. Diese müssen in der Konsequenz ändert also auch den Arbeitsmarkt. Einerseits verän-
zwar nicht falsch im klassischen Sinne sein, können dern sich bestehende Berufe und Tätigkeitsbereiche.
aber nicht intendierte oder nicht absehbare Effekte Aufgaben, die zuvor manuell von Arbeitskräften erle-
nach sich ziehen. Der zweite Aspekt ist die Sorge vor digt wurden, können (stärker) automatisiert und sogar
einer weitreichenden Veränderung von Arbeit, verbun- autonom übernommen werden. Andererseits können
den mit einer notwendigen Veränderung von Kom- auch gänzlich neue Berufsbilder und -bezeichnungen
petenzen und Tätigkeiten bis hin zu dem Verlust von entstehen. So wird etwa vom kürzlich erstmals nach-
Arbeitsplätzen. gefragten »Prompt Engineer« erwartet, kreativ und
effizient mit Eingaben für generative KI-Modelle wie
WIE UNTERNEHMEN IN DEUTSCHLAND ChatGPT oder Bard umgehen zu können (Büchel und
KI NUTZEN Mertens 2023).
Diese Entwicklungen gehen häufig mit der
Vor diesem Hintergrund beschäftigen sich Unter- eingangs beschriebenen Angst vor negativen Be-
nehmen inzwischen umfassend mit KI. Laut Daten schäftigungseffekten von KI einher, die im Aggre-
des KI-Monitors setzten im Jahr 2022 knapp 19 % gat bisher allerdings nicht nachgewiesen werden
der Unternehmen aus Industrie und industrie- konnten (Acemoglu et al. 2022). Denn gleichzeitig
nahen Dienstleistungen KI ein (Rusche et al. 2022, können auch positive Effekte erwartet werden: Un-
S. 14 f.). Zwei Jahre zuvor waren es nur rund 10 %. ternehmen können durch den Einsatz von KI befä-
Diesen Trend zu einem Mehreinsatz der Techno- higt werden, neue Geschäftsmodelle zu entwickeln
logie im unternehmerischen Umfeld bestätigen – und durch einen höheren Automatisierungsgrad
aufgrund der Befragungsmethodik und Stichprobe Einsparungen zu erzielen und ihre Produktivität zu
auf einem geringeren Niveau – beispielsweise auch steigern. Dadurch können Kapazitäten entstehen,
Daten des ZEW – Leibniz-Zentrum für Europäische die auch in nicht-automatisierbaren Aufgabenberei-
Wirtschaftsforschung (Rammer 2022, S. 11). Der chen eine erhöhte Nachfrage zur Folge haben (siehe
KI-Monitor zeigt zudem auf, dass Unternehmen KI Acemoglu und Restrepo 2018).
trotz der eingangs beschriebenen Herausforderun- Die Nachfrage nach KI-Kompetenzen im deut-
gen im Zusammenhang mit der neuen Technologie schen Arbeitsmarkt hat in den letzten Jahren deut-
eher als Chance, denn als Risiko für die Volkswirt- lich zugenommen. Auf der einen Seite ist der Anteil
schaft bewerten: Auf einer Skala von 0 (nur Risiko) an Stellenanzeigen, in denen Kompetenzen rund um
bis 100 (nur Chance) liegt ihre Einschätzung im Jahr den Umgang mit Daten gefordert werden, seit 2019
2022 bei knapp 65 (Rusche et al. 2022, S. 14 f.). kontinuierlich gewachsen (Büchel et al. 2023, S. 58).
Eine wesentliche Voraussetzung für den Einsatz Datenkompetenzen, die als Grundlage für den Ein-
von KI in Unternehmen oder gar deren eigene Entwick- satz von KI gesehen werden können, werden mitt-
lung ist die betriebliche Fähigkeit zur Bewirtschaftung lerweile in mehr als jeder fünften Stellenanzeige
von Daten (siehe auch Engels 2023). Diese sogenannte nachgefragt. Auf der anderen Seite wächst auch die
Data Economy Readiness umfasst Kenntnisse des Un- Anzahl an KI-Stellengesuchen auf dem deutschen Ar-
ternehmens in den Bereichen Datenmanagement, Da- beitsmarkt kontinuierlich (Büchel und Mertens 2022,
tenspeicherung und Datennutzung, die wesentlich für S. 7 f.). Doch nicht nur die generelle Nachfrage nach
die erfolgreiche Beteiligung an Datenökosystemen und KI-Fachkräften verändert sich, sondern auch die in-
auch die Nutzung Künstlicher Intelligenz sind. Eine Be- nerhalb dieser KI-Stellen nachgefragten Kompetenzen
fragung von Unternehmen aus Industrie und industrie- und Technologien. Die Dynamik dieser Veränderungen
nahen Dienstleistungen im Jahr 2022 ergab, dass 31 % ist im Vergleich zu anderen Berufsbildern sehr hoch.
»data economy ready« waren (Büchel und Engels 2022, Büchel und Mertens (2022) zeigen etwa, dass sich die
S. 1 f.). Besonders kleine Unternehmen mit weniger Kompetenzanforderungen in KI-Berufen in nur weni-
als 50 Beschäftigten hatten die erforderlichen Kompe- gen Jahren deutlich verschoben haben. Besonders
tenzen noch nicht, was auch die Implementierung von auffallend hierbei ist erhöhte Nachfrage nach Kennt-
KI im Unternehmen erschweren dürfte. Hoffnung gibt, nissen von Cloud-Technologien und -Plattformen im
dass sich die Data Economy Readiness im Vergleich Zusammenhang mit Künstlicher Intelligenz.
zum Vorjahr – wenn auch nur leicht – verbessert hat. Der Erwerb von KI-Kompetenzen erfolgt – wie
Im Jahr 2021 zählten noch 2 Prozentpunkte weniger auch bei anderen Kompetenzen – im Bildungssystem
zu den Unternehmen, die »data economy ready« sind. oder in der Praxis, in formellen Kursen oder informell
»on the job«. Dies macht deutlich, dass den Bildungs-
WELCHE KI-KOMPETENZEN UNTERNEHMEN institutionen eine besondere Rolle zukommt, die sich
NACHFRAGEN mit einem ansteigenden Bedarf an Kompetenzen im
Umgang mit Daten und Modellen noch verstärken
Für die Nutzung von KI in Unternehmen benötigen wird. Eine Modernisierung des Bildungssystems ist
diese Mitarbeitende mit passenden Kompetenzen, oft daher unerlässlich. Es müssen moderne Technologien,
in der Entwicklung, aber vor allem auch in der Anwen- aber vor allem auch der Umgang damit, bereits ab
Forscher der Stanford University haben geprüft, inwie- ternehmen vor, wenn das Ziel sein soll, dass der AI
weit die derzeitig verfügbaren LLM die Anforderungen Act ein Enabler für Künstliche Intelligenz in Europa
des AI Act in seiner aktuellen Version erfüllen (Bom- werden soll.
masani et al. 2023). Das ChatGPT zugrunde liegende
LLM kann von den 48 identifizierten Anforderungen REFERENZEN
lediglich 25 erfüllen, also 52 %. Das LLM von Google, Acemoglu, D., D. Autor, J. Hazell und P. Restrepo (2022), »Artificial In-
das hinter Bard steckt, liegt bei 27 erfüllten Anforde- telligence and Jobs: Evidence from Online Vacancies« Journal of Labour
Economics 40(S1), S293–S340.
rungen (56 %). Keines der Modelle erfüllt alle Anforde-
Acemoglu, D. und P. Restrepo (2019), »Artificial Intelligence, Automation,
rungen. Dies kann zweierlei Implikationen haben: Zum and Work«, in: A. Agrawal, J. Gans und A. Goldfarb (Hrsg.), The Econo-
einen kann der Befund ein Hinweis auf die Notwendig- mics of Artificial Intelligence: An Agenda, The University of Chicago Press,
Chicago und London, 197–236.
keit des AI Act sein, weil vorhandene LLM offenbar we-
Bahr, I. (2023), »Studie zur Nutzung von ChatGPT in Unternehmen«, ver-
sentliche Qualitätskriterien wie etwa Urheberschutz fügbar unter: Studie zur Nutzung von ChatGPT in Unternehmen
oder Transparenz nicht freiwillig erfüllen. Allerdings (capterra.com.de, aufgerufen am 21. Juli 2023.
sagt diese Untersuchung nichts darüber aus, ob es Büchel, J. und B. Engels (2022), »Viele Unternehmen sind nicht bereit
für die Datenwirtschaft«, IW-Kurzbericht Nr. 96, Institut der deutschen
mit den derzeitigen LLM und ihren Geschäftsmodel- Wirtschaft, Köln.
len überhaupt möglich wäre, die Anforderungen zu Büchel, J., J. Engler und A. Mertens (2023a), »The Demand for Data Skills
erfüllen. Somit könnte der AI Act zum anderen auch in German Companies: Evidence from Online Job Advertisements«,
EconPol Forum 24(2), 56–61.
dazu führen, dass Innovationen über LLM in Europa
Büchel, J. und A. Mertens (2022), KI-Bedarfe in Deutschland. Regionale
erschwert oder gar verhindert werden und diese Art Analyse und Entwicklung der Anforderungsprofile in KI-Stellenanzeigen,
KI-Technologie zukünftig vielleicht hierzulande eine Gutachten im Auftrag des Bundesministeriums für Wirtschaft und
Klimaschutz, Berlin.
geringere Rolle spielt als in anderen Weltregionen.
Engels, B. (2023), »KI in der deutschen Wirtschaft: Ohne Digitalisierung
Eine solche Verdrängung von Technologien in Europa und Daten geht nichts«, Wirtschaftsdienst 104(8), im Erscheinen.
durch Regulierung gilt es, tunlichst zu vermeiden. Flake, R., J. Tiedemann und A. Jansen (2023), Fachkräftemangel in
Gut umgesetzt kann der AI Act aber auch die IT-Berufen – gute Chancen für Auf- und Quereinsteigende, Studie im Rah-
men des Projektes Kompetenzzentrum Fachkräftesicherung (KOFA) in
Rechtssicherheit von Unternehmen im Zusammen- Zusammenarbeit mit dem Bundesministerium für Wirtschaft und
hang mit KI erhöhen und so die Nutzung der Techno- Klimaschutz (BMWK), Köln.
logie vorantreiben. Unabhängig von der finalen Aus- Rammer, C. (2022), Kompetenzen und Kooperationen zu Künstlicher
Intelligenz. Ergebnisse einer Befragung von KI-aktiven Unternehmen in
gestaltung des AI Act ist heute schon klar, dass sich Deutschland, Gutachten im Auftrag des Bundesministeriums für
das Gesetz durch eine hohe Komplexität auszeichnen Wirtschaft und Klimaschutz, Berlin.
wird. Es ist zudem zu befürchten, dass die Regulie- Rusche, C., V. Demary, H. Goecke, E. Kohlisch, A. Mertens,
M. Scheufen und J. M. Wendt (2022), KI-Monitor 2022. Künstliche
rung Begrifflichkeiten und Bestimmungen enthält, die Intelligenz in Deutschland, Gutachten im Auftrag des Bundesverbandes
ausgelegt werden müssen, weil eine klare Definition Digitale Wirtschaft (BVDW) e.V., Berlin.
fehlt. Hier liegt immenser Beratungsbedarf von Un-
Die jüngsten Innovationen im Bereich der Künstlichen oder unterstützt werden können, erheblich erweitert
Intelligenz (KI) befeuern gerade wieder die schon wird. Während Software- und Robotik-Systeme vor al-
länger geführte Automatisierungsdiskussion, bei der lem spezifische manuelle Tätigkeiten und Routinetä-
es um die Frage geht, ob und inwiefern Maschinen tigkeiten automatisieren oder unterstützen, können
menschliche Arbeit ersetzen. Die nun teils kosten- KI-Systeme potenziell auch kognitive Nichtroutinetätig-
los verfügbaren KI-Systeme scheinen sich dabei in keiten übernehmen und dabei menschliche Fähigkeiten
mehrfacher Hinsicht von früheren technologischen weit übertreffen. Im Fall von Large-Language-Modellen
Innovationen zu unterscheiden: (also großen Sprachmodellen bzw. Neuronalen Netzen,
Erstens scheint derzeit die Geschwindigkeit, mit die auf Basis sehr großer Datenmengen menschliche
der die immer mächtigeren (Weiter-)Entwicklungen Sprache verstehen), die hinter ChatGPT und anderen
im KI-Bereich verfügbar gemacht werden, deutlich KI-Anwendungen stehen, geschieht das z. B. in Berei-
schneller zu sein. chen, in denen die Arbeit auf der Sammlung und (Neu-)
Zweitens lassen die neuen KI-Systeme erwarten, Zusammenstellung einer Vielzahl von Informationen
dass das Spektrum der Aufgaben, die automatisiert beruht, bspw. von Bildern, Texten oder Programmcode.
Drittens versprechen die KI-Anwendungen in der also Betriebe in den beiden Branchen, die vorwie-
Summe einen breiten Anwendungsbereich – und da- gend KI-Systeme entwickeln und/oder (bei anderen
mit einen Wandel der Arbeitswelt, der weniger inkre- Unternehmen) einführen. Mit zunehmender Nachfrage
mentell ausfallen könnte, als das bei früheren Tech- nach KI-Systemen sollten diese Branchen eher noch
nologien der Fall war. Dies hat zur Folge, dass sich Beschäftigung aufbauen als abbauen. Hier sind da-
Berufe in nahezu allen Sektoren und über alle Quali- her auch positive Effekte auf die Löhne zu erwarten.
fikationsniveaus hinweg verändern können. In anderen Branchen ist der Bedarf an Arbeitskräf-
Grenzen der Einsetzbarkeit lassen sich (heute) ten mit KI-bezogenen Kompetenzen (derzeit) noch
insbesondere dort ziehen, wo es im Kern um relativ gering; gegenwärtig werden solche Kompe-
menschliche Interaktionen geht oder wo Intuition, tenzen am häufigsten von Betrieben des produzie-
ethisch-moralische Abwägungen, menschliche Sozi- renden Gewerbes, von den Finanzdienstleistungen
alisierung oder auch persönliche Präferenzen eine oder auch im Einzelhandel nachgefragt. Bislang ist
Rolle spielen. Beispiele hierfür lassen sich in nahezu jedoch kein Zusammenhang mit der Entwicklung der
allen Branchen finden, aber sicher spielt das für einige Beschäftigung in diesen Betrieben erkennbar – nicht
Branchen eine größere Rolle, wie in den Bereichen nur in Deutschland veränderte KI vor allem Tätigkeits-
Gesundheit und Soziales oder im Hotel- und Gast- inhalte innerhalb von Berufen. Gleichwohl schüren
stättengewerbe. Was im Allgemeinen als »kreative einige Unternehmen Befürchtungen von Entlassungen,
Tätigkeit« beschrieben wird, kann von neueren KI-Sys- indem sie Personalabbau ankündigen und dies mit der
temen jedoch oftmals schon übernommen werden, Einführung von KI begründen.
beispielsweise die Erstellung digitaler Gemälde oder Dass KI bisher insgesamt wenig quantitative Be-
Gedichte. Dennoch gilt, dass häufig unklar ist, ob sich schäftigungseffekte verursacht, mag mehrere Gründe
das Nutzenpotenzial von KI-Systemen in der prakti- haben. KI-Systeme sind in der deutschen Wirtschaft
schen Anwendung überhaupt voll entfalten wird. Bei noch recht wenig verbreitet und die Systeme, die
vielen Systemen, wie bspw. ChatGPT oder anderen Marktreife erlangt haben und in Unternehmen im
Large-Language-Modellen, die ihre Aufgaben durch Einsatz sind, verfügen oftmals über eher spezifische
adaptive Entscheidungsfindung und Mustererkennung Kompetenzen. Einige KI-Anwendungsbeispiele, die
erledigen, ist das Nutzenpotenzial noch nicht einmal im Rahmen des Forschungsprojektes »ai:conomics«
abgesteckt: Wir wissen nicht, wo die Grenzen liegen. vom Research Centre for Education and the Labour
Was KI-Systeme in Zukunft können werden, lässt sich Market der Universität Maastricht (ROA), dem Insti-
derzeit nicht mit Bestimmtheit vorhersagen. tut für Arbeitsmarkt- und Berufsforschung (IAB) in
Aus derzeitigen Studien zur Einführung von Nürnberg sowie der Innovationsagentur zukunft zwei
KI-Systemen und ihren tatsächlichen Effekten GmbH näher untersucht werden, zeigen, dass derzeit
lässt sich eine Entwicklung, in der Gesellschaften eingeführte KI-Systeme in ihrer Reichweite, ihrem An-
mit der massenhaften Freisetzung von Beschäftig- wendungsbereich und in ihrem Zweck eher begrenzt
ten durch Automatisierung rechnen müssen, eher sind; das heißt, dass es lediglich spezifische Tätigkei-
nicht ableiten. Für vorausschauende Gesellschaf- ten sind, die mit KI unterstützt oder durch KI ersetzt
ten und Ökonomien liegt es jedoch trotzdem nahe, werden. Dadurch ist auch eher eine geringe Anzahl
eine Situation in der Zukunft zu reflektieren, in von Beschäftigten betroffen – oft nicht zuletzt des-
der in einigen Bereichen möglicherweise deutlich halb, weil die Einführung von KI der nächste Schritt in
weniger oder auch gar keine Menschen mehr beschäf- einem länger dauernden Prozess der Automatisierung
tigt sein werden; siehe beispielsweise den Insight ist und KI-Neuerungen vor allem dort zum Einsatz
Report »Positive AI Economic Futures« des Weltwirt- kommen, wo bereits vorher viele Tätigkeiten digita-
schaftsforums aus dem Jahr 2021. lisiert und/oder automatisiert wurden. Bei der KI-Ein-
führung ergeben sich zudem gegensätzliche Effekte:
KI-KOMPETENZEN WERDEN NICHT IN ALLEN Einerseits müssen Beschäftigte bei der Einführung
BRANCHEN GLEICHERMASSEN NACHGEFRAGT – neuer Systeme oftmals neue Tätigkeiten ausführen
DABEI VERÄNDERTEN SICH BISLANG EHER und teilweise erlernen; hier ist daran zu denken, dass
TÄTIGKEITSINHALTE VON BERUFEN
Dabei geht es nicht nur darum, ob das Unternehmen DIE ERFORSCHUNG VON KI-EFFEKTEN IST
dank der KI-Einführung wirtschaftlich erfolgreicher NOTWENDIG, ABER ANSPRUCHSVOLL – UND
agiert. Um besser zu verstehen, welchen Anteil eine GELINGT AM BESTEN, WENN ALLE STAKEHOLDER
Technologieeinführung am Erfolg hat, sollte dem Un- DES WANDELS ZUSAMMENARBEITEN
ternehmen klar sein, mit welchen Zielen es das KI-Sys-
tem einführen will: Soll die Produktivität an einer Die Messung der Konsequenzen von Technologieein-
bestimmten Stelle im Unternehmen erhöht werden? führungen, wie die von KI-Systemen, erfordert an-
Geht es um Entlastung von bestimmten Tätigkeiten spruchsvolle Forschungsdesigns. Dabei stellen Feldex-
zugunsten anderer Tätigkeiten, die weniger durch perimente den »goldenen Standard« dar. Sie können
Technik unterstützbar sind? Soll die Diversität und genutzt werden, um kausale Evidenz zu generieren
Qualität eines bestimmten Produktes erhöht werden? und auch um Brücken zwischen Wissenschaft und
Das Set an Erfolgsindikatoren ist vielfältig. Es bezieht Unternehmen zu bauen. Sie können z. B. wertvolle
sich nicht nur auf den »Business Case«, sondern lässt Erkenntnisse für Unternehmen liefern, die vor der Her-
sich auch entlang der Unternehmenswerte fortsetzen; ausforderung einer strategischen Personalplanung
z. B. ist hier auch an Zufriedenheitsindikatoren für stehen, sowie für Sozialpartner, die den regulatori-
Belegschaften, Kund*innen und andere Stakeholder schen Rahmen für den Einsatz von KI im Betrieb schaf-
zu denken (der »People Case«). Bislang gibt es kaum fen müssen. Aus dieser Perspektive können Feldexpe-
entsprechende Studien auf der Betriebsebene, obwohl rimente den F&E-Prozess zu KI in Unternehmen um
das Potenzial, entsprechende Daten zu erschließen, eine sozioökonomische Dimension ergänzen. Sie sind
aufgrund der zunehmenden Digitalisierung noch nie aber voraussetzungsvoll: Bei einem Feldexperiment in
so groß war wie gegenwärtig. Befragungen der Be- einem Unternehmen nimmt eine zufällig ausgewählte
legschaften könnten vorhandene Informationslücken Gruppe von Beschäftigten die Arbeit mit KI-Unterstüt-
weiter schließen. zung auf; dies ist die sogenannte Experimentgruppe
In der Forschung bei und mit multinationalen (»Treatment-Gruppe«). Für die Dauer des Experiments
Konzernen im Projekt ai:conomics und in dessen arbeiten die anderen Beschäftigten ohne KI-Unterstüt-
Vorläuferprojekten zeigte sich, dass bei der wissen- zung weiter; das ist die Kontrollgruppe. Eine solche
schaftlichen Begleitung von Technologieeinführungen »Versuchsanordnung« ermöglicht die Beobachtung
in Betrieben einige Hürden auftreten – obwohl sich kausaler Auswirkungen von KI auf Beschäftigte und
alle Beteiligten grundsätzlich einig darüber waren, Arbeitsplätze. Dafür bedarf es einer detaillierten Pla-
dass die Einführung von KI-Systemen wissenschaft- nung und genauer Absprachen über den Ablauf der
lich begleitet werden sollten. So gibt es z. B. keine Einführung der KI-Systeme; andernfalls lassen sich
Standards für die Erhebung von oder den Zugang Experiment- und Kontrollgruppe nicht vergleichen,
zu einschlägigen Daten wie Key Performance Indi- und eine valide Wirkungsanalyse ist nicht möglich.
cators. Dies erschwert die Erhebung, Nutzung und Für die Durchführung eines Feldexperiments be-
Zusammenführung solcher Daten aus verschiedenen darf es nicht nur der grundsätzlichen Bereitschaft der
Quellen erheblich. Unter anderem mag dies daran Betriebe, an der Erforschung der KI-Effekte für Arbeit-
liegen, dass bei der Entwicklung der entsprechenden nehmer*innen und Arbeit mitzuwirken. Die Organisatio-
Produktivsysteme die Möglichkeit einer evidenzba- nen müssen auch bereit sein, temporär und partiell von
sierten Evaluation nicht vorgesehen wird. Bei der bisherigen Entscheidungsparadigmen zugunsten eines
Messung »weicherer« Faktoren (wie z. B. Lernkultur gültigen Forschungsdesigns abzuweichen. Das schließt
im Unternehmen, Wohlbefinden der Beschäftigten) ein, dass Entscheidungsträger*innen auf mehreren Ebe-
oder der Identifikation konkreter Skills und Kom- nen sowie Personalvertretungen ebenfalls bereit sein
petenzen, die aufgebaut bzw. nachgefragt werden müssen, die Umsetzung des Forschungsdesigns mitzu-
müssen, fehlt Praktiker*innen in den Unternehmen tragen. Letzteres ist auch eine wichtige Voraussetzung
teilweise das notwendige Wissen, um entsprechende für die Realisierung valider Befragungsdesigns. Diese
Erhebungen zu designen, durchzuführen und die Da- können Mehrwerte für alle Stakeholder des technolo-
ten auszuwerten. gischen und gesellschaftlichen Wandels stiften.
Andreas Gillhuber
Die wichtigsten Trends im KI-Einsatz – und worauf es jetzt
in Europa ankommt
Mit ChatGPT ging der Hype los: schungsgebiete gehen Start-ups hervor, die den Ver-
Künstliche Intelligenz (KI) rückte gleich mit ihren US-Pendants nicht scheuen brauchen.
Ende letzten Jahres vom Ex- Trainiert mit riesigen Datenmengen auf den welt-
per tenthema in den Fokus weit größten Superrechnern sind diese GenAI-Modelle
von Politik, Unternehmen zu spektakulären Anwendungen fähig – von automa-
und Endverbrauchern. KI ist tisierter Texterstellung über die Kreation fotorealisti-
Andreas Gillhuber Trendsetter, und entsprechend scher Bilder bis zur Entwicklung von Programm-Code
manifestierten sich 2023 auch für aus natürlicher Sprache. GenAI kombiniert hierfür KI
verantwortet als Geschäftsfüh-
rer und Co-CEO der Alexander
den Einsatz von KI-Anwendun- und maschinelles Lernen, um weitgehend automati-
Thamm GmbH das operative gen zahlreiche Trends. Einige der siert neuen digitalen Video-, Audio- oder Text-Content
Geschäft in allen Kundenprojek- wichtigsten stellen wir vor – zu- zu entwickeln bzw. zu generieren – daher der Name.
ten und ist Vorstand in der
German Data Science Society e.V.
sammen mit den einhergehenden Die möglichen Anwendungen sind vielfältig: So können
politischen und gesellschaftlichen kleine und mittlere Unternehmen, die keine eigene
Fragestellungen. Werbeabteilung haben, GenAI im Marketing einsetzen.
GenAI hat somit das Potenzial, mit unterschiedlichsten
TREND 1: GENERATIVE KI UND EXPLAINABLE Anwendungen die Berufswelt nachhaltig zu verändern.
AI – MEGATREND UND FORSCHUNGSGEBIET Noch offen ist die Frage, in welchem Ausmaß
Unternehmen Tools wie DALL-E 2 oder Mindverse in
Der Einsatz von sehr großen Sprachmodellen (Large ihre Arbeitsprozesse integrieren werden. Die Erklär-
Language Models, LLMs) ist mit ChatGPT im öffentli- barkeit der Modelle wird hierbei eine entscheidende
chen Bewusstsein angekommen. ChatGPT steht dabei Rolle spielen. Auch der europäische AI-Act (s.u.) ver-
stellvertretend für die Potenziale von Sprachmodel- langt detaillierte Dokumentation und Transparenz,
len, die in Kombination mit Reinforcement Learning um z. B. Bias zu vermeiden und sogenannte »Black-
menschliche Fragen – ungeachtet noch vorhandener Box-Modelle« nachvollziehbar zu machen. Hierfür
Schwächen – gut beantworten können. So können gibt es bereits einige Methoden im Forschungsbereich
LLMs für Unternehmen im Bereich des Kundenservice »Explainable AI« (XAI), um besser zu verstehen, welche
neue Möglichkeiten einer schnelleren und automati- Daten und Variablen in den komplexen Algorithmen
sierten Kundenkommunikation eröffnen, die Customer primär genutzt werden. LLMs können helfen, automa-
Experience verbessern und zugleich Kosten senken. tisiert zu dokumentieren und standardisiert Code zu
Die große Stärke von LLMs sind die Interaktion in na- schreiben, was die Lesbarkeit und Nachvollziehbarkeit
türlicher Sprache bei Berücksichtigung des jeweiligen vereinfacht. Die Fortentwicklung von XAI geht damit
Kontextes, wie die Bezugnahme zu vorherigen Fragen Hand in Hand mit der Entwicklung von GenAI.
und Antworten.
LLMs sind ein Beispiel von »Generativen KI« (Ge- TREND 2: DATA CENTRIC AI – DIE DATEN MACHEN
nerativen AI, GenAI)-Modellen. In den letzten Jahren DEN UNTERSCHIED!
erzielten Unternehmen und Forschungseinrichtun-
gen in den USA und China bahnbrechende Resul- Die Entwicklungen der letzten Monate haben zu-
tate mit großen KI-Modellen, aber auch deutsche dem deutlich gemacht: Die Demokratisierung der KI
Wissenschaftler und Forscher in Start-ups sind ganz schreitet voran. Kostspielige und aufwändig trainierte
vorne mit dabei. Dazu gehören Stable Diffusion von KI-Modelle werden durch Open Source leichter zu-
Prof. Björn Ommer (LMU) 1, die fotorealistischen gänglich. Diese stehen damit den Unternehmen als
3D-Avatare von Prof. Matthias Nießner (TUM)2 und Grundlage zur Verfügung, die sie nun feintunen, mit
auch viele weitere Forschungsgebiete der rund spezifischen Abfragen/Kontexten (sog. Prompts) füt-
50 KI-Lehrstühle, die sich im Munich Center of Ma- tern, durch eigene Modelle (je nach geschäftlicher
chine Learning (MCML)3 zur interdisziplinären Zusam- Fragestellung, zu lösender Problematik etc.) ergän-
menarbeit organisiert haben. Aus etlichen dieser For- zen sowie individualisieren und sich somit am Markt
1
Prof. Dr. Björn Ommer, Head of Computer Vision & Learning
differenzieren können.
Group, Ludwig Maximilian Universität München (LMU), https://om- Ein wichtiger weiterer Differentiator sind die Da-
mer-lab.com/people/ommer/.
2
Prof. Dr. Matthias Nießner, Technische Universität München
ten des eigenen Unternehmens und/oder seiner spe-
(TUM), Department of Informatics: https://niessnerlab.org/index. zifischen Partner und Kunden. Deshalb ist es schon
html.
3
Munich Center of Machine Learning (MCML) ist eines von sechs
jetzt notwendig, in die Qualität der eigenen Daten und
nationalen KI-Kompetenzzentren: https://mcml.ai. den Aufbau einer umfassenden Data Governance zu
investieren. Wie ein solches Investment aussieht, zeigt Thamm GmbH deshalb dafür stark, die Potenziale der
das Beispiel eines bei einem großen Verkehrs- und Künstlichen Intelligenz im Sinne europäischer Werte
Logistikkonzern genutzten Datenkatalogs, bei des- zu entwickeln und die digitale Souveränität der EU zu
sen Entwicklung und Implementierung die Alexander stärken und gemeinsam mit der German Data Science
Thamm GmbH unterstützt hat. Society e.V.4 die Interaktion von Wissenschaft, For-
schung und Wirtschaft zu fördern.
Klarheit über die eigenen Daten mit einem In der Abstimmung über den geplanten AI Act
Datenkatalog für den Data Lake im Europäischen Parlament in diesem Juni sehen wir
noch nicht das erhoffte Zeichen zum Aufbruch. Denn
Millionen Reisende oder Güterverkehre, tausende der aktuell verabschiedete Vorschlag bremst eher In-
Transportmittel sowie ungezählte Daten über Infra- novationsfreude und Technologieoffenheit und stellt
struktur und Fahrzeuge – jedes große Transport- und die Risiken in den Vordergrund. Dementsprechend
Logistikunternehmen verfügt über einen enormen sehen wir beim AI Act vor allem in drei Bereichen
Datenschatz, der allerdings erst effektiv nutzbar ge- Verbesserungsbedarf:
macht werden muss. Einige dieser Unternehmen ent- Die erste Problematik ist die Definition von
wickeln daher seit einigen Jahren einen Datenkatalog Künstlicher Intelligenz, die dem Gesetzentwurf zu-
für ein modernes Management der Daten in den an- grunde liegt. Diese entspricht zwar der OECD-Defini-
geschlossenen Datenbanken, Data Warehouses und tion, beschränkt sich aber nicht auf die wesentlichen
Data Lakes. Diese Datenkatalog-Software fungiert als Merkmale einer KI und kann somit theoretisch auch
neues Werkzeug und erster konkreter Schritt hin zu sämtliche elaboriertere Software-Systeme, wie etwa
einer sicheren, effizienten und konzernübergreifenden regelbasierte Tabellenkalkulationsprogramme, regu-
Bereitstellung von Daten. lieren. Eine solche pauschale Regulierung würde KI-In-
Das operative Tool gibt einen Überblick über den novationen innerhalb der EU im Keim ersticken und
Datenbestand, ermöglicht mit einem Regelungssystem traditionelle Expertensysteme, die seit Jahrzehnten
den konzernweiten Zugriff auf diese Daten und legt z. B. in der Versicherungswirtschaft entwickelt und
so die Basis für eine effektive Zusammenarbeit. Damit angewendet werden, ebenso in den Fokus rücken.
ein solcher zentraler Datenkatalog funktioniert, muss Ebenso kritisch ist die geplante Regulierung von
er in eine effektive Data Governance eingebettet sein, Foundation Models, der oben beschriebenen hoch
einem zeitgemäßen Data Access Management, einem innovativen Basistechnologie für Generative KI, die
intelligenten Verrechnungsmodell für alle nutzenden zahlreiche neue Anwendungsfelder und wirtschaftli-
Geschäftsbereiche und Gesellschaften, die über ein che Vorteile ermöglicht. Mit den aktuell vorgesehenen
Datenökosystem und die passende Infrastruktur mit- zusätzlichen Anforderungen für Foundation Models
einander datentechnisch verbunden sind. werden bestimmte KI-Modelle unverhältnismäßig
unter den Generalverdacht einer Hochrisikoanwen-
TREND 3: KI & REGULATORIK – INNOVATION dung gestellt und damit in ihrer Entwicklung dauer-
BRAUCHT EINEN RAHMEN, ABER KEIN KORSETT! haft gefährdet. Deutlich hilfreicher wäre dagegen eine
verpflichtende Zertifizierung für Foundation Models,
Spätestens mit dem Start von ChatGPT ist neben die in High-Risk-Systemen eingesetzt werden. Bei An-
den Möglichkeiten von KI auch die Frage nach einer wendungen in unkritischen Bereichen wäre dann eine
angemessenen Regulierung von KI-Anwendungen im Zertifizierung nicht erforderlich.
öffentlichen Bewusstsein angekommen. In der Tat In einem offenen Brief von über hundert füh-
stellen gesetzliche Regulierungen wie der AI Act der renden Wirtschaftsvertretern werden weitere gute
Europäischen Union oder die ESG-Regulierung im Fi- Vorschläge gemacht. Es sollte ein »Transatlantischer
nanzsektor die Unternehmen vor große Herausforde- Rahmen« sicherstellen, dass Europas Regelwerk
rungen. Mittelständler sehen sich kaum in der Lage, synchronisiert wird mit den Vorschlägen wichtiger
die aufkommenden zusätzlichen Compliance-Regeln Akteure der Vereinigten Staaten, die ebenfalls an einer
umzusetzen. KI-Regulierung arbeiten. Zudem drängen die Autoren
Doch unabhängig von diesen übergreifenden auf flexiblere Regeln für Generative KI. Diese sollte
Überlegungen steht im Hinblick auf eine mögliche nicht in einem starren Gesetz verankert werden. Statt-
Regulatorik fest: Wenn wir in Deutschland und in der dessen sollte die EU nur allgemeine Grundsätze festle-
EU nicht den Anschluss verlieren wollen, müssen Un- gen und die konkrete Umsetzung dann laufend einem
ternehmen, Politik und Gesellschaft hier gemeinsam Expertengremium überlassen, um mit der rasanten
einen KI-Standort schaffen, der Innovationsgeist för- Technologieentwicklung Schritt zu halten.
dert und Risikobereitschaft honoriert. Wir werden im Die dritte große Baustelle des Gesetzentwurfs
globalen Wettbewerb nur bestehen können, wenn sich tut sich schließlich bei der Klassifizierung und Defi-
die innovativsten Köpfe dafür entscheiden, in der Eu-
ropäischen Union zu forschen, zu lehren und zu grün- 4
Die German Data Science Society (GDS) e.V. ist die führende Verei-
nigung der akademisch ausgebildeten Data Scientists und fördert
den. Zusammen mit den Mitgliedern des Bundesver- den Wissens- und Erfahrungsaustausch zwischen Wissenschaft und
bands Künstliche Intelligenz macht sich die Alexander Forschung mit der Wirtschaft: https://gds-society.de.
nition von Hochrisiko-KI auf: Es ist unstrittig, dass gen Strukturen investieren – und zwar physisch und
bestimmte KI-Anwendungen, z. B. in kritischer Infra- organisatorisch.
struktur, strengen Auflagen unterliegen müssen. Die Ein erster Meilenstein ist dabei der Aufbau euro-
im Gesetz geschaffene Kategorie für Hochrisiko-An- päischer Hochleistungsrechenzentren, speziell für die
wendungen spannt den Bogen jedoch viel zu weit. Die Anwendungsentwicklung und Forschung im Bereich
Folge: KI-Anwendungen, die kein oder nur ein geringes der Künstlichen Intelligenz. Große KI-Modelle werden
gesellschaftliches Risiko darstellen könnten, werden derzeit hauptsächlich in den USA und China entwi-
überreguliert – ein Ansatz, der weder für die KI-Ent- ckelt. Den Forschern und Entwicklern in Europa fehlt
wicklung innerhalb der EU noch für die Perspektiven aktuell ausreichender Zugang zu den erforderlichen
der gesamten Wirtschaft hilfreich ist und letztlich Rechenkapazitäten. Für eine dauerhaft erfolgreiche
Know-how und Innovationsgeist aus dem EU-Markt und unabhängige KI-Entwicklung fordert die Initiative
vertreiben wird. LEAM (Large European AI Models) des KI Bundesver-
bands darum von den Staaten und Unternehmen in-
Überregulierung von Innovation: Beispiel nerhalb der EU die Bereitschaft, jetzt entschieden in
3D-Umgebungssensorik die KI-Zukunft und die digitale Souveränität zu inves-
tieren. Es ist jetzt Zeit zu handeln: Denn große KI-Mo-
Was die EU beim Thema KI braucht, sind nicht ideolo- delle verdrängen wegen ihrer Leistungsfähigkeit zu-
gisch motivierte Schnellschüsse, sondern ein verhält- nehmend bestehende Lösungen, sind aber nur in den
nismäßiger und vernünftiger gesetzlicher Rahmen. Ein USA über Schnittstellen verfügbar. In Europa stehen
Rahmen, der eine geschützte Entwicklung von KI-Inno- wir darum vor der Herausforderung, den Anschluss
vationen ermöglicht und fördert, von Innovationen wie an diese Entwicklung nicht zu verpassen.
einem von der Alexander Thamm GmbH entwickelten Die Schaffung eines europäischen KI-Hochleis-
3D-Umgebungssensoriksystem für Roboter. Das System tungsrechenzentrums ist allerdings nur ein erster
wird in der Produktionslogistik und der stationären wichtiger Schritt. Sozusagen ein Leuchtturm, um
Pflege eingesetzt. Es soll die Mensch-Maschine-Inter- den herum ein vitales Ökosystem aus Entwicklern,
aktion effizienter gestalten und zugleich frühzeitig Ge- Forschern und Unternehmern entstehen muss. Da-
fahren erkennen, indem Personen, Gegenstände und mit dies gelingt, sind noch vier weitere Schritte nötig:
Flüssigkeiten in der unmittelbaren Umgebung zuverläs- der Aufbau von ausreichenden Personalkompetenzen,
sig detektiert und gegebenenfalls sicherheitsrelevante um die ersten großen KI-Modelle innerhalb der EU
Maßnahmen eingeleitet werden. zu erschaffen; eine Auswahl von Daten und Algorith-
Unser System ist von ANNEX II und der Richtlinie men, die den besonderen Bedürfnissen der europä-
2006/42/EG betroffen und könnte daher erst nach ei- ischen Gesellschaften und Ökonomien gerecht wird;
nem umfassenden Risikomanagementprozess imple- die Entwicklung einer eigenständigen Organisation,
mentiert werden. Hierzu zählen u. a. die Bereitstellung die die neuen KI-Modelle Industrie und Forschung zur
zahlreicher Protokolle von Modellierungsaktivitäten Verfügung stellt; und die Berücksichtigung europäi-
und -ergebnissen, eine technische Dokumentation für scher Identitäten und Werte bei der Generierung von
die Prüfung durch Dritte, die Gewährleistung einer an- KI-Modellen in Verbindung mit einem Höchstmaß an
gemessenen Modellgenauigkeit, Robustheit und Cyber- Nachhaltigkeit.
sicherheit sowie eine Konformitätsbewertung gemäß
den sektoralen Rechtsvorschriften. Der AI Act würde FAZIT
also die Kosten und die Komplexität der Entwicklung
eines Produkts, das die Arbeitssicherheit und die Ar- KI wird unsere Wirtschaft und unsere Arbeitsweisen
beitsbelastung hart arbeitender Menschen in Kranken- grundlegend verändern. Die aktuellen KI-Trends ge-
häusern, Pflegeheimen und Lagerhäusern unterstützt, ben uns eine erste Vorstellung, wie diese Veränderung
deutlich erhöhen. Mit der Einführung dieser Compli- ablaufen wird. Wie bei jeder industriellen Revolution
ance-Anforderungen geht die EU demnach bewusst gilt für die EU und die hier ansässigen Unternehmen
das Risiko ein, die Entwicklung neuer Technologien zu auch im Hinblick auf die KI: Es ist besser, Subjekt und
behindern, die eigentlich zur Verbesserung der Sicher- nicht Objekt des Wandels zu sein.
heit und Arbeitsbelastung am Arbeitsplatz beitragen. Damit die europäischen Ökonomien diesen Wan-
del erfolgreich gestalten können, brauchen wir darum
IN FÜNF SCHRITTEN ZU TRAGFÄHIGEN einen gesetzlichen Rahmen, der Innovation fördert
KI-STRUKTUREN und nicht fürchtet. Und wir brauchen Strukturen, in
denen sich das Know-how und die Innovationskraft
Schon dieser Blick auf drei wichtige KI-Trends gibt ei- unserer Unternehmen auch im Wettbewerb mit den
nen Hinweis auf die Dynamik, mit der sich KI-Themen USA und aus China erfolgreich entfalten kann.
derzeit entwickeln. Dieser Dynamik muss sich aller- Die Chancen hierfür sind da. Wir müssen uns als
dings nicht allein der gesetzliche Rahmen innerhalb Gesellschaft und Ökonomie nur in die Lage versetzen,
der EU anpassen. Die Staaten und die Unternehmen diese zu ergreifen, und uns jetzt bereit machen für
müssen zusammen vielmehr auch in die notwendi- den Wettbewerb der Zukunft.
unter: https://ki-verband.de/wp-content/uploads/2023/07/Position-Pa-
REFERENZEN per_AI-Act-Trilogue_GermanAIAssociation.pdf.
Abbou, D., L. Alexandre, L., Ardant, R. et al. (Hrsg.) (2023), »Offener Bundesverband der Unternehmen der Künstlichen Intelligenz in
Brief an die Vertreter der Europäischen Kommission, des Europäischen Deutschland e. V. (Hrsg.) (2023b), »Konzeptpapier: Large European
Parlaments und des Europäischen Rats. Künstliche Intelligenz: Europas AI Models (LEAM) als Leuchtturmprojekt für Europa«, verfügbar unter:
Chance, wieder zur technologischen Avantgarde aufzuschließen«, https://ki-verband.de/wp-content/uploads/2022/06/LEAM-Konzeptpa-
verfügbar unter: https://www.handelsblatt.com/downloads/29231390/1/ pier-V1.2-1.pdf.
ki-brief.pdf.
Gillhuber, A., G. Kauermann und W. Hauner (Hrsg.) (2023), Künstliche
Bundesverband der Unternehmen der Künstlichen Intelligenz in Intelligenz und Data Science in Theorie und Praxis. Von Algorithmen und
Deutschland e. V. (Hrsg.) (2023a), »The EU AI Act, Towards the Finish Methoden zur praktischen Umsetzung in Unternehmen, Springer Spekt-
Line: Key Issues and Proposals for the Trilogue Negotiations«, verfügbar rum, Berlin.
Johannes Walter
How to Tame a Dragon: Gefahren und Regulierung von KI
Die letzten Monate waren voller Warnungen über die Regulierungen auf Gefahren tatsächliche und poten-
existenziellen Gefahren, die von Künstlicher Intelli- ziell existenzielle Gefahren eingehen, wird im zweiten
genz (KI) ausgehen: Ein offener Brief des Future of Teil dieses Artikels besprochen.
Life Institutes fordert eine sechsmonatige Pause in
der KI-Entwicklung (Future of Life Institute 2023). Ein WIE KÖNNTE ES ZU EINER EXISTENZIELLEN
Aufruf des Center for AI Safety fordert KI als »globale GEFAHR DURCH KI KOMMEN?
Priorität«, ähnlich zu Pandemien oder Atomkriegen,
zu behandeln (Center for AI Safety 2023). Beide Ini- Zunächst lohnt es sich zu klären, was in der Debatte
tiativen fanden zahlreiche und teils sehr prominente als »existenzielle Gefahr« verstanden wird. Erstens
Unterzeichner. Viele Menschen sind von den rapiden sind damit Gefahren gemeint, die die Menschheit als
Fortschritten in KI und der gesellschaftlichen Debatte Ganzes betreffen, wie die oben erwähnten Beispiele
in den letzten Monaten verunsichert. eines Atomkriegs oder Pandemien. Zweitens werden
Gibt es tatsächlich gute Gründe anzunehmen, dass damit meistens auch Gefahren gemeint, die nicht die
von KI eine existenzielle Gefahr für die Menschheit aus- ganze Menschheit, aber einzelne Gesellschaften be-
geht? Schließlich ist diese Debatte sehr alt.1 Bereits in treffen (Critch und Russell 2023), wie z. B. die Desta-
den 1950er Jahren warnte der britische Mathemati- bilisierung einer Demokratie.
ker Alan Turing vor der Möglichkeit, dass Maschinen Trotz der atemberaubenden Fortschritte, die im
die Kontrolle übernehmen könnten. Über die Jahrzehnte Bereich KI in den letzten Monaten erzielt wurden, mag
ebbten die Warnungen nicht ab, doch die KI-Apokalypse die Vorstellung, dass KI eine existenzielle Bedrohung
blieb aus. Dies erinnert an Äsop Fabel vom Jungen, für die Menschheit darstellt, für viele Menschen ab-
der zu oft »Wolf« rief. Andererseits kam der Wolf in surd erscheinen. Und doch gibt es die oben beschrie-
der Fabel am Ende eben doch. Daher diskutiert die- bene Debatte. Wie genau könnten wir uns also auf den
ser Artikel zunächst, wie stichhaltig die Argumente für Punkt zubewegen, an dem KI zu einer Gefahr für die
KI als existenzielle Gefahr sind und was Kritiker dage- gesamte Menschheit wird?
gen vorbringen. Zwar existiert keine allgemein anerkannte The-
Adressieren die globalen KI-Regulierungen die orie, doch es lassen sich einige Gemeinsamkeiten in
Gefahren, die von KI ausgehen? Unbestritten ist, dass den Argumenten derjenigen ziehen, die das Potenzial
KI Gefahren mit sich bringt – ob diese nun von exis- für eine solche Gefahr sehen:
tenzieller Natur sind oder nicht. Die global ambitio-
nierteste Bemühung, KI zu regulieren, ist zweifellos ‒ Die große Mehrheit aller For-
der AI Act der Europäischen Union. Nach Jahren der schenden ist sich einig, dass
Diskussion steht das Gesetzesvorhaben kurz vor sei- menschenähnliche Intelli-
nem Abschluss; die Trilogverhandlungen zwischen genz auf nicht-biologischer
EU-Parlament, EU-Kommission und EU-Rat begannen Grundlage möglich ist.
im Juni, und der Diskussionsbedarf reißt nicht ab. ‒ Die Geschwindigkeit mit der
Johannes Walter
Doch auch andere Länder führen zunehmend Regeln KI neue Fähigkeiten erlernt,
für den Umgang mit KI ein. Ob und inwiefern diese hat sich in den letzten Jahren ist wissenschaftlicher Mitarbeiter
beschleunigt: Wir bewegen uns am ZEW – Leibniz-Zentrum für
Europäische Wirtschaftsfor-
1
Bemerkenswerterweise stand eine Diskussion über die Risiken mit großen Schritten auf eine schung, Mannheim, und
von KI nicht auf der Agenda des Dartmouth Summer Research
Project on Artificial Intelligence von 1956, das gemeinhin als Wiege
siliziumbasierte menschenähn- Doktorand am KIT.
der KI-Forschung betrachtet wird (Yudkowsky 2008). liche Intelligenz zu.
‒ Eine KI, die vordergründig erscheint, als ob sie an Geld, Aufmerksamkeit und Hysterie. Den Gefahren,
mit menschenähnlichen Fähigkeiten ausgestattet die von einer Superintelligenz ausgehen, wird man sich
wäre, sei tatsächlich bereits sehr viel intelligenter besser widmen können, wenn es soweit ist (falls es
als ein Mensch aufgrund der überlegenen Spei- überhaupt dazu kommt), so das Argument. Bis dahin
cher-, Rechen- und Datentransfermöglichkeiten sollten wir uns also besser den heute schon gegebenen
von Computern. Gefahren durch KI widmen. Welche Gefahren sind das?
‒ Eine KI mit menschenähnlichen Planungsfähig- Zu den größten aktuellen Problemen durch KI gehören:
keiten und trainiert auf dem gesamten Internet
hätte das Wissen und die Möglichkeit, sich immer ‒ Ermöglichung und Verstärkung von Diskriminie-
weiter zu verbessern. Entweder unter Mithilfe von rung benachteiligter Gruppen,
Menschen oder möglicherweise sogar autonom. ‒ Verbreitung von Desinformation und Deepfakes,
‒ die hohen CO2-Ausstöße während des Trainings
An diesem Punkt kommt das sogenannte Align- großer KI-Modelle,
ment-Problem auf: Wie stellen wir sicher, dass eine ‒ Cybersicherheitsrisiken: Große Sprachmodelle
KI, die intelligenter ist als wir und die möglicherweise können genutzt werden, um Schwachstellen auf-
sogar autonom agiert, sich so verhält, dass ihre Ent- zufinden und Malware zu schreiben,
scheidungen auf einer Linie mit menschlichen Normen ‒ Ermöglichung von staatlicher Massenüber-
und Werten sind? Dieses Problem ist ungelöst und wachung,
aktiver Forschungsgegenstand (Taylor et al. 2020). ‒ traumatisierende Arbeitsbedingungen für Men-
Aber selbst eine KI, deren Fähigkeiten und Auto- schen, die Trainingsdaten erstellen,
nomie noch nicht an die von Menschen heranreicht, ‒ Konzentration von Macht in den Händen einiger
könnte schon ausreichen, um große Probleme zu ver- weniger Unternehmen.
ursachen. Kriminalität, Terrorismus und Krieg kön-
nen Gründe liefern, weshalb Menschen KI schädlich Das dritte Argument ist schließlich, dass eine über-
einsetzen wollen. Aber eine Gefahr könnte auch un- mäßige Fokussierung auf die potenziellen Gefahren
absichtlich entstehen: Viele einzelne Akteure, z. B. in der KI dazu führt, die Vorteile zu verpassen, die diese
der Open Source Community (Meta 2023), arbeiten Technologie in Bereichen wie Produktivität, Medizin,
individuell rational an technischen Neuerungen; dabei Unterhaltung und ähnlichem mit sich bringen kann.
möchte keiner eine außer Kontrolle geratene Superin- Unser Lebensstandard könnte länger als notwendig
telligenz. Letztlich tragen aber dennoch alle zu ihrem hinter einem möglichen Optimum zurückbleiben.
Entstehen bei, da sie die Externalitäten ihrer Beiträge Es liegt in der Natur der Sache, dass sich diese
nicht berücksichtigen (ähnlich dem Problem, das in Debatte (noch) nicht empirisch beantworten lässt.
der Ökonomie als »Tragik der Allmende« bekannt ist). Dagegen lässt sich bereits analysieren, ob und wie die
aktuelle Regulierung von KI auf die oben beschriebe-
KRITIK AN DER THESE DER EXISTENZIELLEN nen möglichen und realen Gefahren eingeht.
BEDROHUNG
EUROPÄISCHE UND INTERNATIONALE
Es herrscht nicht nur eine angeregte Debatte dar- KI-REGULIERUNG
über, wie es zu einer existenziellen Gefahr kommen
könnte, sondern auch über Sinn und Unsinn der De- Im Frühjahr 2021 legte die Europäische Kommission
batte an sich. Aber warum sollte es schlecht sein, sich den ersten Entwurf des AI Act vor (EU-Kommission
KI als existenziellem Risiko zu widmen? Selbst wenn 2021). Im Sommer 2023 befindet sich der AI Act nun
die Wahrscheinlichkeit, dass KI das Überleben der im Trilog, dem Verhandlungsverfahren zwischen der
Menschheit bedroht, gering ist, wäre es nicht besser, Europäischen Kommission, dem Europäischen Parla-
sich mit dieser Möglichkeit auseinanderzusetzen? Im ment und dem Rat der Europäischen Union. Die zen-
Wesentlichen gibt es drei Argumente, die gegen eine tralen Bestimmungen des AI Act umfassen:
intensive Beschäftigung mit dieser Frage vorgebracht
werden. ‒ Eine risikobasierte Regulierung: Das Prinzip
Das erste Argument lautet, dass selbst die aktuell lautet, je höher das Risiko durch die KI, desto
besten KI-Systeme noch nicht »echt« intelligent sind strenger die Regulierung. Dies reicht von keiner
und es noch sehr lange dauern werde, bis dieser Zu- Regulierung für harmlose Anwendungen, über
stand erreicht werden könnte. Bei der Frage nach der zunehmend strengere Regulierung bis hin zu voll-
verbleibenden Dauer, bis eine mögliche Superintelli- ständigen Verboten.
genz erreicht ist, herrscht nach wie vor Uneinigkeit. ‒ Vollständig verboten sind: Die Bewertung der Ver-
Allerdings mangelt es auch nicht an Ideen, welche trauenswürdigkeit von Personen, basierend auf
Zutaten noch fehlen (LeCun 2022). ihrem Sozialverhalten (sogenannte Social Scoring
Das zweite Argument ist, dass wir uns besser den Algorithmen), unbewusste Verhaltensänderung
heute schon gegebenen Problemen durch KI widmen durch KI-Systeme, Ausnutzen von Schwächen von
sollten (Tucker 2023). Wir haben nur limitiere Mengen Menschen mit Behinderungen und der Einsatz von
Erkennungssystemen aufgrund von biometrischen Regeln schaffen, die für Sicherheit sorgen? Doch der
Daten (z. B. Gesichtserkennung) in Echtzeit im öf- AI Act geht auch hier in die richtige Richtung. Um-
fentlichen Raum (Art. 5 AI Act). fassende Dokumentations- und Auskunftspflichten
‒ Umfassende Dokumentations- und Auskunfts- für Unternehmen, die KI entwickeln, können dafür
pflichten: Fairnessabwägungen müssen bereits sorgen, dass der Prozess auf dem Weg zu immer in-
im Entwicklungsprozess berücksichtigt und Sorg- telligenteren Systemen so abläuft, dass Forscher, Zi-
faltspflichten dokumentiert werden (Art. 17 und vilgesellschaft und Politik zu jedem Zeitpunkt Einblick
Art. 18 AI Act). erhalten und möglicherweise intervenieren können.
‒ Sichere Hochrisiko-KI-Anwendungen sollen vor Natürlich bleiben viele Fragen auch mit der Ver-
allem durch zwei Mechanismen sichergestellt wer- abschiedung des AI Acts offen. Wie kann man funk-
den: durch menschliche Aufsicht über KI (Human tionierende menschliche Aufsicht über KI herstellen?
Oversight, Art. 14 AI Act) und durch Konformi- Aktuelle empirische Studien legen nahe, dass noch
tätsbewertungen (Conformity Assessments, Art viel anwendungsnahe Forschung notwendig ist, um
19 und Art. 43 AI Act). diese Frage befriedigend beantworten zu können
(Biermann et al. 2022). Wie müssen die Konformitäts-
Weitere Probleme werden in der EU von begleitender bewertungen ausgestaltet sein, um einen sinnvollen
Gesetzgebung adressiert: Die zunehmende Marktkon- Eindruck über die Qualität eines KI-Modells zu ge-
zentration von einigen wenigen Unternehmen im Di- winnen? Auch hier werden Politik und Unternehmen
gital Markets Act (European Union 2022), der Effekt noch vieles dazulernen müssen. Initiativen, wie der
von KI als Empfehlungsmechanismus von Inhalten im oben erwähnte AI Hackathon der US-Regierung, und
Digital Services Act (European Union 2022). Außerdem weitere Aufmerksamkeit für dieses Problem in der For-
wird die AI Liability Directive (European Commission schung Community in diesem Bereich (Raji et al. 2022)
2022) Regeln zur zivilrechtlichen Haftung von KI-An- sind notwendig. Doch insgesamt geht vor allem der
wendungen einführen. AI Act der Europäischen Union, aber auch die weiteren
In den USA wurde 2022 vom Weißen Haus der angesprochenen internationalen Regulierungen auf
Blueprint for an AI Bill of Rights (White House 2022) die Gefahrenlage ein.
veröffentlicht. Im Gegensatz zum AI Act sind die dort
formulierten Regeln allerdings nicht verpflichtend. FAZIT: FLEXIBLE UND INTERNATIONALE
Außerdem lud US-Präsident Joe Biden im Februar die REGULIERUNG NOTWENDIG
Chefs von Meta, Google und OpenAI zu einer Krisensit-
zung ins Weiße Haus (White House 2023). Ein Ergebnis Gibt es tatsächlich gute Gründe anzunehmen, dass
des Treffens ist die Veranstaltung eines AI Hackathons, von KI eine existenzielle Gefahr für die Menschheit
also dem Versuch, KI-Modelle in einer sicheren Um- ausgeht? So rasant die technische Entwicklung aktu-
gebung zu attackieren, um mögliches Fehlverhalten ell auch ist, so unvorhersehbar ist sie auch. Niemand
der KI aufzudecken (AI Village 2023). US-Präsident Joe weiß, ob sie auch in den nächsten zehn Jahren so
Biden und UK-Premierminister Rishi Sunak kündigten schnell weitergehen wird wie in den letzten zehn Jah-
im Juni 2023 zudem eine multilaterale Initiative zu ren oder ob die Entwicklung abflacht. Die Wahrschein-
KI-Sicherheit an (Sunak und Biden 2023). lichkeit, dass eine Superintelligenz den Fortbestand
Auch China hat eine Reihe von Regulierungsvor- der Menschheit gefährdet, scheint aktuell immer noch
haben zu KI auf den Weg gebracht (Sheehan 2022). klein, jedoch sind die Argumente der Befürworter zu-
Insbesondere sind hier die Regeln zur Entwicklung und mindest konsistent. Doch selbst auf dem aktuellen
dem Einsatz generativer KI (Digichina Stanford 2023) technischen Stand stellen KI-Systeme zweifellos eine
zu nennen, wobei China einen anderen Schwerpunkt gesellschaftsweite Gefahr dar.
als die EU setzt. Dies zeigt sich z. B. bei der umfassen- Adressieren die globalen KI-Regulierungen diese
den anlasslosen Massenüberwachung im öffentlichen Gefahren? Der EU AI Act macht vieles richtig. Es ist
Raum in China. nun notwendig, die oft vagen Vorgaben des AI Act
zu konkretisieren: Wie kann man funktionierende
ADRESSIERT DER AI ACT MIT DIESEN PUNKTEN menschliche Aufsicht über KI herstellen? Wie müs-
DIE OBEN BESCHRIEBENEN GEFAHREN? sen die Konformitätsbewertungen ausgestaltet sein,
um einen sinnvollen Eindruck über die Qualität eines
Es liegt in der Natur der Sache, dass der AI Act intensi- KI-Modells zu gewinnen? Die Regulierung hat mit dem
ver auf konkrete, bereits heute existierende Gefahren AI Act gerade erst begonnen und muss mit der tech-
eingehen kann als auf existenzielle Gefahren, die mög- nischen Entwicklung Schritt halten. Dafür sollte der
licherweise weiter in der Zukunft liegen. Zum Beispiel AI Act mit der Zeit flexibel weiterentwickelt werden.
können die Verbote von biometrischen Identifikations- Unternehmen und auch Forschende sollten dies als
und Social-Scoring-Systemen EU-Bürger schützen. Chance begreifen.
Weniger konkrete Gefahren sind dagegen natür- Europa ist ein wichtiger Markt für KI-Anwendun-
lich schwieriger zu regulieren. Wenn es noch keine gen, doch die wichtigsten technischen Innovationen
autonome Superintelligenz gibt, wie soll man dann kommen aus den USA und aus China. Insofern ist es
zu begrüßen, dass auch in diesen Ländern KI-Regu- European Union (2022), »Digital Markets Act«, verfügbar unter:
https://eur-lex.europa.eu/legal-content/EN/
lierungen auf den Weg gebracht werden. Darauf sollte TXT/?uri=CELEX%3A32022R1925.
aufgebaut werden und in den Bereichen, in denen European Union (2022), »Digital Services Act«, verfügbar unter:
Einigkeit herzustellen ist, sollte eine internationale https://eur-lex.europa.eu/legal-content/EN/
TXT/?uri=CELEX%3A32022R2065&qid=1666857835014.
Lösung gesucht werden. Ziel könnte eine Art Klima-
Future of Life Institute (2023), »Pause Giant AI Experiments: An
abkommen von Paris für KI sein. Die Initiative von Open Letter«, verfügbar unter: https://futureoflife.org/open-letter/
US-Präsident Joe Biden und UK-Premierminister Rishi pause-giant-ai-experiments/.
Sunak sollte daher von der EU aufgegriffen werden. LeCun, Y. (2022), »A Path Towards Autonomous Machine Intelligence«,
verfügbar unter: https://openreview.net/forum?id=BZ5a1r-kVsf.
Wenn die KI-Regulierung global koordiniert wird
Meta (2023), »Meta and Microsoft Introduce the Next Generation of
und sich flexibel an die technische Entwicklung an- Llama«, verfügbar unter: https://about.fb.com/news/2023/07/llama-2/.
passt, stehen die Chancen gut, dass wir die Gefahren Raji, I. D., P. Xu, C. Honigsberg und D. E. Ho (2022), Outsider Oversight:
von KI eindämmen und die Möglichkeiten dieser fas- Designing a Third Party Audit Ecosystem for AI Governance«, verfügabr
unter: https://doi.org/10.48550/arXiv.2206.04737.
zinierenden Technologie optimal nutzen.
Sheehan, M. (2022), »China’s New AI Governance Initiatives Shouldn’t Be
Ignored«, verfügbar unter: https://carnegieendowment.org/2022/01/04/
REFERENZEN china-s-new-ai-governance-initiatives-shouldn-t-be-ignored-pub-86127.
AI Village (2023), »DEFCON 31«, verfügbar unter: https://aivillage.org/ Sunak, R. und J. Biden (2023), »President Biden and U.K. Prime Minister
defcon31/. Rishi Sunak Hold News Conference at White House«, BCS News, verfüg-
bar unter: https://www.youtube.com/watch?v=SzMYpYwPpuI&t=750s.
Biermann, J., J. Horton und J. Walter (2022), »Algorithmic Advice as a
Credence Good«, ZEW Discussion Paper No. 22-07, Mannheim. Taylor, J., E. Yudkowsky, P. LaVictoire, A. Critch (2020), »Alignment for
Advanced Machine Learning Systems. Ethics of Artificial Intelligence«,
Center for AI Safety (2023), »Statement on AI Risk«, verfügbar unter: verfügbar unter: https://intelligence.org/files/AlignmentMachineLear-
https://www.safe.ai/statement-on-ai-risk. ning.pdf.
Critch, A. und S. Russell (2023), »TASRA: A Taxonomy and Analysis of Tucker, I. (2023), »Signal’s Meredith Whittaker: ‘These Are the People
Societal-Scale Risks from AI«, verfügbar unter: https://arxiv.org/pd- Who Could Actually Pause AI if They Wanted To’«, verfügbar unter:
f/2306.06924v2.pdf. https://www.theguardian.com/technology/2023/jun/11/signals-me-
Digichina Stanford (2023), »Translation: Measures for the Management redith-whittaker-these-are-the-people-who-could-actually-pau-
of Generative Artificial Intelligence Services«, verfügbar unter: https:// se-ai-if-they-wanted-to.
digichina.stanford.edu/work/translation-measures-for-the-manage- White House (2022), »Blueprint for an AI Bill of Rights«, verfügbar
ment-of-generative-artificial-intelligence-services-draft-for-comment-ap- unter: https://www.whitehouse.gov/ostp/ai-bill-of-rights/.
ril-2023/.
White House (2023), »Readout of White House Meeting with CEOs on
EU-Kommission (2021), »AI Act Draft«, verfügbar unter: https://eur-lex. Advancing Responsible Artificial Intelligence Innovation«, verfügbar
europa.eu/legal-content/DE/TXT/?uri=CELEX:52021PC0206. unter: https://www.whitehouse.gov/briefing-room/statements-relea-
European Commission (2022), »Liability Rules for Artificial Intelli- ses/2023/05/04/readout-of-white-house-meeting-with-ceos-on-advan-
gence«, verfügbar unter: https://commission.europa.eu/business-eco- cing-responsible-artificial-intelligence-innovation/.
nomy-euro/doing-business-eu/contract-rules/digital-contracts/ Yudkowsky, E. (2008), »Artificial Intelligence as a Positive and Negative
liability-rules-artificial-intelligence_en. Factor in Global Risk«, Global Catastrophic Risks, 308–345.
Dirk Heckmann
ChatGPT, XR und Co. vor Gericht
Der berühmte Netzphilosoph Rafael Capurro hat ein- durch rechtliche Bedenken, allen voran »wegen des
mal formuliert: Datenschutzes«.
»Die Innovation, das Neue, ist eine Anomalie Besonders schön zu beobachten war und ist dies
gegenüber dem Alten. Eine Anomalie widerspricht derzeit bei der Etablierung generativer Künstlicher
dem Alten, dem Bisherigen und wirkt wie ein Fehler. Intelligenz (KI), etwa zur automatisierten Texterstel-
Daher kommt auch das Problem der Innovation, dass lung. Hier erleben wir durch ChatGPT von dem Unter-
sie sich gegenüber dem Bewährten erstmal durchset- nehmen OpenAI eine Art »iPhone-Moment«. Genauso
zen muss.« wie dieses Smartphone 2007 mit seiner intuitiven Be-
Vielleicht erklärt dies den Umstand, warum wir dienung den IT-Markt revolutionierte und auch weni-
uns schwertun, technische Innovationen im Prozess ger technikaffinen Menschen die Welt der Apps auf
der digitalen Transformation zu akzeptieren, weil Mobiltelefonen erschloss, hat ChatGPT gute 15 Jahre
mit ihnen Risiken verbunden sind. Nur: Wer betrach- später eine KI-Anwendung in zahllose Haushalte ge-
tet die Risiken, die dadurch entstehen, dass Digita- bracht. Dabei dient ChatGPT nicht nur der passiven
lisierung ausgebremst wird und Innovationen sich Nutzung, wie dies zuvor schon bei einfachen Chatbots
nicht entfalten können? Ausgebremst nicht zuletzt oder automatisierter Spracherkennung (Alexa, Siri
etc.) der Fall war. Vielmehr können KI-Textgenerato- rechtlichen Bedenken, hin zu einem konstruktiv-ab-
ren nun von allen Menschen aktiv und kreativ gestal- wägenden Verhalten? Ich spreche bewusst von einem
tend genutzt werden. Ein Grund zur Freude, Neugier Wandel der Rechtskultur und nicht des Rechts, denn
und Ansporn? Nicht unbedingt für Juristen. Der erste das Recht hat vielfach diese Agilität, die ich in der
Gedanke solcher Bedenkenträger ist eher: Geht das Rechtspraxis, also der Anwendung des Rechts im Ein-
überhaupt? Ist das nicht rechtswidrig? Muss man das zelfall – zumal bei digitalen Innovationen – vermisse.
nicht verhindern? Es geht um eine generelle Haltung. Der rechtskultu-
relle Wandel hin zu dieser konstruktiv-abwägenden
CHATGPT IM SPIEGEL DES DATENSCHUTZRECHTS Haltung gegenüber dem Neuen, dem Unbekannten,
wäre ein Wandel in doppelter Hinsicht: »Konstruktiv«
Gelegenheit für solche Bedenken bietet par excellence in dem Sinne, dass man auch als Jurist nicht einfach
gerade bei digitalen Innovationen das Datenschutz- Bedenken in den Raum stellt, sondern sofort Lösun-
recht, die Datenschutzgrundverordnung (DSGVO). Und gen anbietet oder zumindest anstrebt – und dabei
so dauerte es nicht lange, bis die Datenschutzaufsicht zugleich den Wert der digitalen Innovation anerkennt.
in Italien Ende März 2023 ChatGPT verbot, weil es da- Und »abwägend« in dem Sinne, dass man bei dem (im
tenschutzwidrig sei. Begründet wurde dies unter ande- Übrigen notwendigen) Rechtsgüterschutz nicht nur
rem mit einem Verstoß gegen Art. 5 Abs. 1 lit. d DSGVO, das eine Rechtsgut benennt und verteidigt, um das
den Grundsatz der sog. Datenrichtigkeit. Danach müs- man sich sorgt, sondern zugleich kollidierende Rechts-
sen personenbezogene Daten sachlich richtig und er- güter in den Blick nimmt, deren Wert und Wichtigkeit
forderlichenfalls auf dem neuesten Stand sein. Dieser ebenso auf die Waagschale gehören.
Vorwurf ist insofern bemerkenswert, als generative
KI wie ChatGPT gar nicht den Anspruch erhebt (und ANWENDUNGSBEISPIEL
erheben kann), immer »richtig« zu sein. Solche Sys- VIDEOKONFERENZSYSTEME
teme des Maschinellen Lernens (hier: von KI-Textge-
neratoren) basieren auf neuronalen Netzen, die darauf Besonders deutlich wurde das in der Pandemie, als
trainiert wurden, Muster in großen Datensätzen zu praktisch »von heute auf morgen« alle Einrichtungen,
erkennen. Dieser komplexe Vorgang beruht letztlich in denen bislang menschliche Begegnungen den All-
auf einer Wahrscheinlichkeitsberechnung (»Welches tag prägten, ihre Aktivitäten aufgrund der Kontakt-
Wort folgt höchstwahrscheinlich auf das vorherge- beschränkungen in den virtuellen Raum verlagern
hende?«). Dies führt angesichts der (zumindest derzeit mussten. Damit geschäftliche Besprechungen oder
noch unvermeidbaren) Unvollkommenheit der Daten- Schulunterricht überhaupt noch stattfinden konn-
basis immer wieder zu sogenannten Halluzinationen, ten, musste dies über Videokonferenzsysteme orga-
also der Ausgabe fehlerhafter Informationen. Hierin ei- nisiert werden – und zwar schnell und reibungslos.
nen Verstoß gegen den Grundsatz der Datenrichtigkeit Die Herausforderung: Ausgerechnet jene Anbieter,
anzuprangern, zeugt von einem Missverständnis der deren Produkte sich durch hohe Funktionalität, gute
Funktionsweise solcher KI, die eben kein erweitertes Performance und Skalierbarkeit auszeichneten (wie
Online-Lexikon ist. Natürlich gibt es weitere, durchaus Microsoft Teams oder Zoom), haben ihren Unterneh-
diskussionswürdige datenschutzrechtliche Fragen ge- menssitz in den USA (aus datenschutzrechtlicher
genüber OpenAI und seinem Produkt ChatGPT, auf die Sicht also einem »unsicheren Drittstaat«), was die
auch die deutsche Datenschutzkonferenz hingewiesen Frage nach einem potenziellen Zugriff dortiger Ge-
hat. Nur haben die Datenschutzbeauftragten einiger heimdienste und Sicherheitsbehörden auf jene Daten
Länder (allen voran Schleswig-Holstein) diese offenen aufwarf, die im Zuge von Videokonferenzen erfasst
Fragen – anders als ihre Kollegen aus Italien – nicht und verarbeitet werden. Auch hier war
als Anlass für ein sofortiges Verbot, sondern für ei- die erste Reaktion mancher (nicht
nen Fragenkatalog genommen, der OpenAI übersandt aller) Datenschutzbehörden: ver-
wurde. Die Antworten hierauf stehen noch aus. Die bieten oder zumindest warnen
italienische Datenschutzaufsicht hat Ende April 2023 vor der Anwendung der Video-
ihr Verbot zurückgenommen, was genauso übereilt konferenzsoftware. Abgesehen
wirkte wie dessen ursprünglicher Erlass. davon, dass solche Produktwar-
Prof. Dr. Dirk Heckmann
nungen ihrerseits rechtlich frag-
RECHTSKULTURWANDEL HIN ZU EINER würdig sind (weil sie den strengen ist Inhaber des Lehrstuhls für
KONSTRUKTIV-ABWÄGENDEN HALTUNG Anforderungen des Bundesverfas- Recht und Sicherheit der Digi-
talisierung an der TU München.
sungsgerichts für wettbewerbslen- Dort leitet er auch das TUM Cen-
Mir geht es an dieser Stelle nicht um ein abschließen- kende staatliche Warnungen kaum ter for Digital Public Services.
des Urteil zur Datenschutzkonformität von ChatGPT genügen): Könnte man nicht mit Nebenamtlich ist er Direktor am
Bayerischen Forschungsinsti-
und vergleichbarer generativer KI. Vielmehr möchte einer anderen Haltung an diese tut für Digitale Transformation
ich auf ein Phänomen hinweisen und hierzu den ver- Herausforderungen herangehen – und Mitglied des Bayerischen
fassungsrechtlichen Rahmen abstecken. Bedarf es eben konstruktiv-abwägend? Kon- Verfassungsgerichtshofs.
eines Rechtskulturwandels – weg von destruktiven struktiv in dem Sinne, dass man
erst nachdenkt und dann auch verlautbart: Wir haben VORGESCHOBENE RECHTLICHE BEDENKEN
eine große Herausforderung, trotz Kontaktbeschrän- ALS INNOVATIONSHEMMNIS
kungen unternehmerisches bzw. schulisches Wirken
aufrechtzuerhalten; wir haben technische Lösungen, Aber es gibt eine noch größere Gefahr, die durch die
die wohl funktionieren und in dieser Situation hilfreich fast reflexhafte Abwehr digitaler Innovationen hervor-
sind – wie können wir das nun so gestalten, dass die gerufen wird: Verfestigt sich nämlich das Narrativ der
digitale Innovation zum Einsatz kommt? Abwägend in latent rechtswidrigen digitalen Technologien, hemmt
dem Sinne, dass man erst nachdenkt und dann so ent- das die Innovationsfreude besonders bei Start-ups und
scheidet: Das Recht auf informationelle Selbstbestim- sehen sich auch jene »Bewahrer des Status quo« bestä-
mung mag gefährdet sein; aber auf der anderen Seite tigt, die eine Veränderung per se nicht wollen, so dass
stehen auch weitere Grundrechte wie das Grundrecht die Berufung auf »Compliance« gerade recht kommt.
auf Bildung und Chancengleichheit oder auch die un- Der Einsatz generativer KI wie ChatGPT ist da ein
ternehmerischen Freiheitsrechte. In einer Abwägung gutes Beispiel, gehen mit ihm doch auch Sorgen um
können Gefährdungen des einen Grundrechts in Kauf Arbeitsplätze oder das Beharren auf lieb gewonnene
genommen werden, wenn die Interessen der anderen (ineffiziente) Geschäftsprozesse einher. Dass man
Grundrechte im Einzelfall überwiegen. »Geht nicht diese Innovation freilich weder durch Schlechtreden
wegen Datenschutz« ist schon deshalb als Grundsatz noch durch Vorwürfe der Rechtswidrigkeit aufhalten
untauglich, weil kein Grundrecht per se überwiegt, kann, zeigt der soeben veröffentlichte Hype Cycle Re-
sondern Grundrechtskollisionen durch Abwägung auf- port von Gartner 2023, der wie folgt eingeleitet wird:
zulösen sind. »Generative künstliche Intelligenz und ChatGPT haben
die KI-Diskussion auf ein neues Niveau gehoben und
GRUNDRECHTSGEFÄHRDUNG DURCH das Interesse auf Vorstandsetagen und Staatsober-
UNTERLASSENE DIGITALISIERUNG häupter gleichermaßen gelenkt. Die Verantwortlichen
für Daten und Analysen müssen die Trends im Auge
Das war in der Pandemie vielfach aufgrund der vita- behalten und die Entwicklung von Innovationen ver-
len Interessen des Grundrechts auf Schutz von Leben folgen, um glaubwürdige Argumente für Investitionen
und Gesundheit der Fall, weshalb andere Freiheits- zu schaffen.« Und weiter: »Die generative KI hat wie
rechte, auch das Recht auf informationelle Selbstbe- keine andere Technologie in den letzten zehn Jahren
stimmung zurücktreten mussten. Genau genommen Auswirkungen gehabt. Die gesteigerte Produktivität
geht es selbst dann nicht um eine Bedeutungslosigkeit von Entwicklern und Wissensarbeitern, die Systeme
des Datenschutzes, sondern um eine angemessene, wie ChatGPT nutzen, ist sehr real und hat Unterneh-
zuweilen pragmatische Angleichung dieser Interessen. men und Branchen dazu veranlasst, ihre Geschäfts-
Das Verfassungsrecht spricht von »praktischer Kon- prozesse und den Wert der menschlichen Ressourcen
kordanz« (Hesse). Wir dürfen uns nicht nur fragen, ob zu überdenken. Im Gegenzug haben die offensichtli-
Digitalisierung vielleicht den Datenschutz gefährden chen Fähigkeiten generativer KI-Systeme die Debatte
kann, sondern müssen zugleich fragen, welche Grund- über den sicheren Einsatz von KI und die Frage, ob
rechte gefährdet sind, wenn wir digitale Innovationen eine allgemeine künstliche Intelligenz erreicht werden
untersagen, sie nicht fördern oder vor ihnen gewarnt kann oder sogar schon vorhanden ist, neu entfacht.«
wird (wie das leider bei der elektronischen Patienten-
akte der Fall war). Es gibt auch ein Untermaßverbot, ANWENDUNGSBEISPIEL EXTENDED REALITY
also den verfassungsrechtlichen Appell an den Staat,
nicht zu wenig zu tun. Hinsichtlich der defizitären Kli- Die Debatte sollte sich freilich nicht auf generative KI
maschutzpolitik leitet das Bundesverfassungsgericht beschränken. Auch andere digitale Innovationen wer-
hieraus ein intertemporales Freiheitsrecht zum Schutz den durch unüberlegt oder zumindest undifferenziert
künftiger Generationen her. vorgebrachte rechtliche Bedenken ausgebremst. So
Bei alledem soll nicht übersehen werden, dass es gilt Ähnliches in Bezug auf Anwendungen der Virtual
auch Missbrauch und unredliche Geschäftsmodelle in Reality oder Augmented Reality (zusammen Extended
digitalen Kontexten gibt, denen man regulatorisch und Reality, XR). Trotz der unbestreitbaren Vorteile von
durch strengen Vollzug vorhandener Schutznormen XR nutzen Unternehmen bisher kaum die Möglich-
begegnen muss. Dies aber zum Anlass zu nehmen, hin- keiten dieser neuen Technologie. In der vbw-Studie
ter jeder digitalen Innovation primär Rechtsverletzun- »Extended Reality – Zukunftstechnologie mit breitem
gen zu sehen, schafft unterdessen eine Rechtskultur Anwendungsspektrum« von September 2022 wurde
permanenter Bedenklichkeit, die jeglichem Rechts- festgestellt, »dass weniger als jeder zehnte befragte
schutz einen Bärendienst erweist. Wenn nämlich hier- (bayerische) Unternehmensvertreter bereits Erfah-
zulande digitale Innovationen ausgebremst werden, rungen mit XR im privaten oder beruflichen Kontext
verlieren wir nicht nur digitale Souveränität. Am Ende gemacht hat. Ein Grund hierfür ist, dass Unsicherhei-
setzen sich am Markt digitale Anwendungen aus we- ten in Bezug auf die rechtlichen Rahmenbedingungen
niger regulierten Ländern durch, deren Einsatz nicht beim Einsatz von XR bestehen.« Dabei lassen sich alle
minder Grundrechte hierzulande gefährdet. rechtlichen Bedenken gegenüber XR-Technologien im
Unternehmen zerstreuen, wie ich in dem im Juli 2023 system zusammenhängt: Man haftet in der Regel nur
erschienenen Rechtsmonitor XR1 aufgezeigt habe. Da- für Schäden, die auf einem aktiven, fehlerhaften Tun
tenschutzrechtlich kommt es etwa auf einen gut ge- beruhen. Für Schäden, die auf ein Unterlassen zurück-
stalteten Einwilligungsprozess zwischen Unternehmen geführt werden können, haftet man nur, wenn das
und betroffenen Beschäftigten an, der die Freiwillig- Unterlassen pflichtwidrig ist, also eine Pflicht zum
keit des Einsatzes unterstreicht. Ähnlich kann auch Handeln bestand. Eine solche findet sich in unserer
dem Arbeitsschutz Rechnung getragen werden, um Rechtsordnung aber nur selten.
Nachteile wegen »Motion Sickness« zu begrenzen; hier So mag es zwar schwer zu berechnen sein, gleich-
können Betriebsvereinbarungen hilfreich sein. Nicht wohl sei das Gedankenexperiment erlaubt: Welche
nur für diese Risiken, sondern auch für die Bedeutung volkswirtschaftlichen, aber zugleich individuellen
des Schutzes von Geschäftsgeheimnissen ist zu sen- Schäden entstehen tagtäglich dadurch, dass weder
sibilisieren. All dies ist nicht trivial, aber umsetzbar, unsere Verwaltung noch unser Bildungswesen oder
wenn ein Unternehmen professionell arbeitet. Gesundheitswesen hinreichend digitalisiert sind?
Warum nimmt man diese Schäden in Kauf, während
ERMUTIGUNG ZU SINNSTIFTENDER man ein einzelnes Datenschutzrisiko nicht hinneh-
VERÄNDERUNG men will?
Und das zeigt ein weiteres Mal, wie wichtig dieser GLEICHKLANG VON TECHNISCHER UND
Rechtskulturwandel ist. Wenn man stärker auch die RECHTLICHER ENTWICKLUNG
Chancen der Digitalisierung betont, den rechtlichen
Herausforderungen weniger mit Bedenken als mit Um schließlich nicht missverstanden zu werden: Ich
Hinweisen auf rechtliche Gestaltungsmöglichkeiten möchte demokratisch legitimiertes Recht keineswegs
(auch im Sinne eines »Legal Design Thinking«) be- ignorieren. Wenn es gute rechtliche Argumente gegen
gegnet und insgesamt lösungsorientiert statt pro- eine bestimmte Technologie, besser gesagt: einen be-
blemorientiert agiert, dann ermutigt man sowohl die stimmten Einsatz dieser Technologie gibt, dann gilt es,
Entwickler als auch deren potenzielle Nutzer zu Fort- diese einzuhegen. Notfalls versucht man, das Recht
schritt und sinnstiftender Veränderung. Dieser Wille neuen Gegebenheiten anzupassen, was (wie bei der
zu Veränderung braucht auch zuweilen Mut. Aktuell KI-Verordnung zu befürchten ist) aber auch zu Über-
beobachten wir hierzulande hingegen immer wieder oder Fehlregulierung führen kann. Juristische »Beden-
diese »German Angst«, mit der Veränderung etwas kenträgerei« ist allemal unterkomplex und verliert das
falsch zu machen, was auch mit unserem Haftungs- größere Ganze, das eine grundrechtlich ausgewogene
Rechtslage auszeichnet, aus dem Blick: Digitale Inno-
1
Siehe: https://www.vbw-bayern.de/vbw/Themen-und-Services/
Digitalisierung/Technologien-und-Geschäftsfelder/Rechtssiche-
vationen sind keine Anomalie, sondern die Überwin-
rer-Einsatz-von-Extended-Reality-Anwendungen.jsp. dung des Alten, das aus der Zeit gefallen ist.
Armin Grunwald
Allmähliche Disruptionen mit KI?
KI-Systeme lenken Autos, wählen Stellenbewerber oder Yuval Harari warnen immer wieder. Nachdem
aus, komponieren Musikstücke, schreiben Texte in er- ChatGPT freigegeben war, wurden gleich zwei martia-
staunlicher Sprachqualität und machen Roboter durch lische Memoranden unter Beteiligung
kommunikative Fähigkeiten zu neuen Mitbewohnern auch führender KI-Experten mit
der menschlichen Welt. Je nach Perspektive ist es fas- Forderungen nach einem welt-
zinierend oder erschreckend, oder beides gleichzeitig, weiten Moratorium für KI-Ent-
wie gut KI viele menschliche Fähigkeiten simulieren wicklung publikumswirksam
kann und wie rasch der Fortschritt dabei ist. veröffentlicht.
Neben vielfältigen Hoffnungen auf Innovation und An dieser Stelle soll es um Prof. Dr. Armin Grunwald
Effizienzsteigerung durch KI sind Sorgen bis hin zu einen anderen Typ von Heraus-
apokalyptischen Befürchtungen verbreitet. Kontroll- forderungen gehen: um mögliche leitet das Institut für Technikfol-
genabschätzung und Systemana-
verlust, Machtübernahme durch Algorithmen, Zusam- Disruptionen, die sich allmählich lyse (ITAS) und ist Professor für
menbruch des Arbeitsmarkts und Manipulation durch einstellen und deren Ursachen Technikphilosophie am Institut
KI sind wiederkehrende, teils aus der Science Fiction weniger in den Algorithmen als für Philosophie des KIT.
wohlbekannte Elemente. Prominente wie Elon Musk vielmehr in menschlichen Verhal-
tensweisen liegen – und die trotz möglicher Relevanz lungsnotwendigkeit einzuordnen. Ein bloßer Verdacht
bislang wenig beachtet werden. reicht für die Einleitung weitreichender Maßnahmen
mit z. B. erheblichem Ressourcenbedarf, Belastun-
ALLMÄHLICHE DISRUPTIONEN gen oder Freiheitseinschränkungen nicht aus. Dieses
aus Vorsorgeproblemen bekannte Phänomen führt (3)
Disruption ist zu einem prägenden Begriff der Gegen- auf eine spezifische kommunikative Herausforderung.
wart geworden. Zunächst geschah dies in positiver Einerseits gibt es Verharmlosung und Abwiegeln mit
Hinsicht: Disruptive Innovation im wirtschaftlichen dem Verweis, man müsse eine bessere Datenlage ab-
Wettbewerb gilt als attraktiv, jedenfalls für die Ge- warten, es sei zu früh zum Handeln. Auf der anderen
winner. Zu ihrer Förderung wurde durch die deutsche Seite wird dringend nach Maßnahmen gerufen, dass es
Bundesregierung die Agentur für Sprunginnovationen ansonsten zu spät sein könnte. Gegenseitige Vorwürfe
gegründet (SPRIND). Zurzeit werden jedoch mit Dis- von Übertreibung, Ideologie, Spekulation, Verharmlo-
ruption eher aktuelle Krisenphänomene wie Pande- sung, Schönrednerei, Verantwortungslosigkeit oder
mie und Ukraine-Krieg verbunden, die sehr schnell, Unterstellung versteckter Interessen sind die Folge.
fast plötzlich aufgetreten sind und praktisch sofort
schwere Verwerfungen nach sich gezogen haben. ALLMÄHLICHE DISRUPTIONEN DURCH KI
Das Wort »Disruption« verheißt nichts Gutes, La-
tein disrumpere = platzen, zerbrechen, zerreißen. Dies Die Natur allmählicher Disruptionen bringt es mit sich,
passt zum aktuell vielfach beschworenen Übergang in dass das Sprechen und Schreiben darüber aufgrund
eine Zeit der permanenten Krise mit dem Zerbrechen der in frühen Entwicklungsstadien definitionsgemäß
stabiler gesellschaftlicher Zustände. Da »Disruption« schlechten Datenlage selbst in der erwähnten Gefahr
über das Zerbrechen hinaus auch die Schnelligkeit der Spekulation stehen. Die folgenden Überlegungen
dieses Vorganges meint, mag es zunächst paradox sind daher tentativ. Sie fokussieren auf mögliche Dis-
klingen, wenn im Folgenden von allmählichen Dis- ruptionen, nicht auf die bereits empirisch bekannten
ruptionen gesprochen wird. Schließlich zerbricht Gefahren von KI-Systemen wie etwa Diskriminierung,
nichts langsam. Allerdings kann sich ein Zerbrechen Deepfakes oder Manipulation. Das Ziel ist vorsorge-
allmählich über längere Zeiträume vorbereiten und orientiert: Aufmerksamkeit für mögliche Entwicklun-
erst deutlich später zu plötzlichen Brüchen führen. gen mit Disruptionspotenzial zu wecken, um gegebe-
Materialermüdung und Verschleiß zeigen dies in der nenfalls rechtzeitig Konsequenzen ziehen zu können.
Welt der Technik. Während Materialien allmählich er- Ohne Anspruch auf Vollständigkeit:
müden und Technik sich langsam im Gebrauch ab- Anpassung: Digitale Technik reguliert und ändert
nutzt, funktioniert alles dennoch verlässlich und oft subtil menschliches Handeln und Verhalten, wie viel-
noch recht lange weiter. Erst zu einem bestimmten fach empirisch bestätigt. Softwaresysteme steuern
Zeitpunkt fällt ein Bauteil von einem auf den ande- explizit oder implizit menschliches Verhalten. Privat
ren Moment aus oder eine Brücke bricht zusammen. geführte digitale Infrastrukturen strukturieren die po-
Das Disruptive baut sich inkrementell auf, kann lange litische Kommunikation, Suchmaschinen sortieren die
unentdeckt bleiben und dadurch dem frühzeitig inter- Welt durch die von ihnen gesetzten Filter, und On-
venierenden Eingriff, etwa einer Reparatur, entgehen. line-Plattformen strukturieren Geschäftsprozesse.
Auch aus der Umweltbelastung sind allmähliche Diese Beobachtungen motivieren immer wieder Be-
Disruptionen bekannt. So hat sich das Ozonloch über fürchtungen, dass menschliches Denken und Handeln
Jahrzehnte durch stete FCKW-Freisetzung in die Atmo- durch fortschreitende Anpassung an Software-Sys-
sphäre aufgebaut, bevor die Folgen sichtbar wurden. teme allmählich nach deren Anforderungen und Vor-
Auch der Klimawandel, dem heute vielfach disruptive gaben reguliert werden könnte. Menschliche Freiheit
Eigenschaften zugeschrieben werden, ist allmählich würde leise und unbemerkt verschwinden, ausgehöhlt
durch CO2- und Methanemissionen entstanden. Die durch allmähliche Gewöhnung.
Versauerung der Ozeane oder der Biodiversitätsver- Abhängigkeit: Abhängigkeiten wie beispielsweise
lust sind andere, ebenfalls inkrementell verlaufende die Abhängigkeit praktisch aller Wirtschafts- und Kom-
Prozesse mit Disruptionspotenzial. munikationsprozesse vom Funktionieren digitaler In-
Allmähliche Disruptionen haben gemeinsame frastrukturen sind latente Disruptionen. Sie bauen sich
Muster. Zunächst sind sie (1) schlecht erkennbar. In allmählich auf, können aber im Ernstfall, wenn also
frühen Phasen sind kaum Daten verfügbar, besten- z. B. Internet-Kommunikation nicht mehr funktionieren
falls schwache Signale mit begrenzter Evidenz. Erst im würde, abrupt eintretende und möglicherweise katas-
zeitlichen Verlauf bessern sich Datenlage und Evidenz. trophale Folgen haben. Bei vollständiger Abhängigkeit
Es besteht das Risiko erst später Entdeckung, so dass bräuchte es nur einen Anlass wie z. B. gesellschaft-
dann bereits schwer beeinflussbare Pfadabhängig- liche Verwerfungen oder einen Angriff von Hackern
keiten eingetreten sein können und vielleicht gar ein in bislang unbekannter Größenordnung, um die Dis-
Point of No Return überschritten wurde. Sodann ist es ruption auszulösen. Abhängigkeiten von KI entste-
(2) eine ethische Herausforderung, nur schlecht erkenn- hen allmählich als Folge immer weiterer Verlagerung
baren Entwicklungen nach Dringlichkeit und Hand- analoger Prozesse in die zunehmend mit KI-Syste-
men durchsetzte Digitalwelt, was ja aus vielen, z. B. fekte und die durch die Anonymität leichter gemachte
wirtschaftlichen Gründen sinnvoll ist. Aufgrund des Enthemmung von Kommunikation sind längst Realität
Blackbox-Charakters vieler KI-Systeme wäre es umso geworden. Die Verbindung technischer Möglichkei-
schwerer, bei Ausfällen wieder Menschen entscheiden ten etwa der Social Media mit menschlichem Verhal-
zu lassen, zumal die entsprechenden menschlichen ten hat offenbar ein für die Demokratie disruptives
Fähigkeiten möglicherweise verlorengehen, weil sie Potenzial.
aufgrund der Automatisierung nicht mehr benötigt
werden (ironies of automation). MENSCHLICHE URSACHEN ALLMÄHLICHER
Verantwortungsdiffusion: An den neu entstehen- DISRUPTION
den Schnittstellen zwischen Menschen und digitalen
Systemen werden Zuständigkeiten ständig neu zwi- Die geschilderten möglichen Disruptionen hängen
schen Mensch und KI-gesteuerter Maschine verteilt, mit technischen Eigenschaften der KI zusammen,
wie etwa beim Einsatz automatisierter Entscheidungs- sind jedoch entscheidend mit menschlichem Verhal-
systeme (ADM). Die Lokalisierung von Verantwortung ten verbunden. Erst dieses nimmt Anpassungen an
und ihre Zuschreibung an spezifische Akteure wird KI-Systeme vor oder lässt sie geschehen, schafft Ab-
dadurch zusehends komplex. Zwar verbleiben Ent- hängigkeiten oder überträgt KI-Systemen Quasi-Ver-
scheidungen und damit Verantwortung prinzipiell antwortung mit der Folge der Verantwortungsdiffusion
beim Menschen, jedoch auf eine zusehends digital ins Opake oder ins Nichts. Dies ist analog zu den er-
vermittelte und intransparente Weise. KI-Systeme wähnten allmählichen Disruptionen in Bezug auf die
schieben sich zwischen handelnde Menschen und real- Umwelt: Nicht die Technik ist für Ozonloch, Biodiver-
weltliche Effekte. Die Verantwortung wandert von In- sitätsverlust oder Klimawandel verantwortlich zu ma-
dividuen wie z. B. Autofahrern in den Hintergrund, zu chen, sondern die menschliche Nutzung der dadurch
Unternehmen, Programmierern, Managern, Geheim- ermöglichen Produkte und Dienstleistungen.
diensten oder Regulierungsbehörden. Damit steigt die Ohne Zweifel macht Technik, gerade die Digital-
Gefahr einer allmählichen »Verantwortungsdiffusion« technik, vielfach das Leben angenehm und komfor-
ins Nichts oder absichtlicher Verantwortungsverschlei- tabel. Ein plausibler Mechanismus für das Entstehen
erung. Damit würde menschliche Verantwortung sub- von Abhängigkeiten besteht daher in allmählicher Ge-
stanziell entleert und zu einer bloß formalen Hülle wöhnung. Sobald Routinehandlungen in Beruf oder
degradiert. Freizeit an digitale Systeme adaptiert wurden, ob nun
Beschleunigung: Beschleunigung ist Teil des wett- mit oder ohne KI, gehört diese Technik so zum Le-
bewerbsorientierten Wirtschaftssystems. Allerdings ist ben, dass es ohne sie oft kaum noch vorstellbar ist.
die Beschleunigungsspirale nicht beliebig weit über- Alternative Optionen verschließen sich, Kompeten-
drehbar, sondern in Gefahr, die Ressourcen zu über- zen gehen verloren (De-Skilling). Vermeintliche Sach-
nutzen, aus denen sie sich speist. Eine Sorge in Bezug zwangargumente erwecken dann oft den Anschein
auf weitere, KI-gestützte Beschleunigung der Digita- der Alternativlosigkeit, sind jedoch nur Ausdruck der
lisierung bezieht sich auf allmähliche Folgen dieser schleichend eingetretenen Pfadabhängigkeit durch
Beschleunigung. Dies betrifft insbesondere die Frage, allmähliche Anpassung und Gewöhnung.
ob und wann immer weitere Beschleunigung gesell- Eine besondere Rolle in der Haltung zu Digital-
schaftliche und politische Bedingungen von Reflexion und KI-Systemen spielt ein psychologischer Effekt, der
und Gestaltung grundsätzlich unterminieren könnte. sogenannte und empirisch abgesicherte »automation
Bereits jetzt passt das Innovationstempo der KI mit bias«. Viele Menschen vertrauen danach algorithmisch
dem Analyse-, Beratungs- und Regulierungstempo erzeugten, auf großen Datenmengen beruhenden und
politischer Maßnahmen nicht mehr unbedingt zusam- mit KI-unterstützten Entscheidungsverfahren berech-
men. Allmähliche Disruption wäre eingetreten, wenn neten Ergebnissen stärker als menschlichen Experten
das etablierte, wenngleich immer neu auszutarierende mit noch so viel Berufs- und Lebenserfahrung. Der
Gleichgewicht zwischen wettbewerblicher Innovation Grund liegt vermutlich in Objektivitätsunterstellun-
und gemeinwohlorientierter Regulierung grundsätzlich gen gegenüber mathematischen und datenbasierten
aus der Balance geraten würde. Verfahren einerseits und einem Subjektivitätsverdacht
Diese Szenarien allmählicher Disruption sind gegenüber Menschen andererseits.
keine Prognosen, sondern beschreiben nur mögliche Auch spielen menschliche – häufig übertriebene
Entwicklungen. Zu denken gibt, dass in zumindest – Einschätzungen der Fähigkeit der KI eine Rolle. Die
einem Bereich eine derartige Entwicklung längst Anthropomorphisierung von KI-Systemen und auto-
eingetreten ist. Während mit Internet-Kommunika- nomen Robotern ist weit fortgeschritten. Häufig wird
tion noch vor etwa 20 Jahren utopische Erwartun- so geredet, dass KI denken und lernen kann, dass Ro-
gen Richtung Demokratie verbunden waren, ist dies boter einfühlsam sind und Emotion zeigen und dass
gekippt. Die Möglichkeit allmählicher Disruption de- alle diese Systeme Entscheidungen treffen. Einer
mokratischer Systeme, verstärkt durch KI, ist längst genaueren Begriffsanalyse hält nichts davon Stand,
nicht mehr nur spekulative Befürchtung. Manipulation, sind doch KI-Systeme keine denkenden, sondern auf
Fake News, Hate Speech, kommunikative Schneeballef- Basis von Daten und Algorithmen rechnenden Sys-
teme. Beispielsweise entscheiden sie nichts, sondern Zurzeit ist die Bereitschaft deutlich größer, sich
erzielen durch ihre statistischen Analysen Ergebnisse. mit der Möglichkeit von Disruptionen, auch mit sich
Von daher sind verbreitete Redeweisen, dass etwa die langsam aufbauenden Disruptionen auseinanderzu-
KI die Herrschaft übernehmen könnte, aus der Luft setzen, z. B. durch Analysen der Vulnerabilität. Die
gegriffen. KI hat kein Bewusstsein ihrer selbst, keinen dargelegten Überlegungen haben gezeigt, dass all-
Willen, keine Intentionen. Allmähliche Disruptionen mähliche Disruption dann entstehen kann, wenn tech-
im Zusammenhang mit KI entstehen ausgehend von nische Möglichkeiten von KI-Systemen auf bestimm-
Menschen, letztlich durch Selbstentmündigung. tes menschliches Verhalten treffen. Es ist gerade die
sozio-technische Kombination von Effekten, nicht die
VULNERABILITÄTEN UND RESILIENZ Technik als solche, die dazu führt. Die Schlussfolge-
rung ist also, nicht den Blick auf die KI als Technik zu
In langen Zeiten hoher Stabilität war das Bewusstsein verengen, sondern die Wechselwirkungen mit mensch-
verblasst oder verlorengegangen, wie fragil und vulne- lichem Verhalten in den Blick zu nehmen.
rabel moderne Gesellschaften sind. Gerade in Bezug
die technischen Infrastrukturen wie der Digitalisie- REFERENZEN
rung herrscht die Annahme eines immerwährenden Bainbridge, L. (1983), »Ironies of Automatization«, Automatica 19,
reibungslosen Funktionierens vor. Vorsorge wie sorg- 775–779.
fältiges Monitoring potenziell disruptiver Entwicklun- Deutscher Ethikrat (2023), Mensch und Maschine. Herausforderungen
durch Künstliche Intelligenz, Deutscher Ethikrat, Berlin.
gen, die Erarbeitung von Maßnahmen zum frühzeitigen
Grunwald, A. (2019), Der unterlegene Mensch: Die Zukunft der Menschheit
Gegensteuern, die Implementierung von Redundanzen im Angesicht von Algorithmen, künstlicher Intelligenz und Robotern, RIVA,
und Puffern zur Erhöhung der Resilienz und »Pläne B« München.
für den Fall einer katastrophalen Disruption waren Safdar, N., J. Banja und C. Meltzer (2020), »Ethical Considerations in
Artificial Intelligence«, European Journal of Radiology 122, 108768.
kaum oder gar kein Thema.
In der vorliegenden Studie schließen wir uns dem an der Haushaltseinkommen zu einer Einkommensschicht
und konzentrieren uns auf die Schichtung deutscher ist es zudem von großer Bedeutung, ob man das Haus-
Haushalte nach deren verfügbarem Einkommen. haltseinkommen allein als Single, als Paar oder mit
Kindern zur Verfügung hat. Um die materiellen Le-
MITTELSCHICHT NACH DEM EINKOMMEN: WER bensbedingungen über unterschiedliche Haushalte
GEHÖRT DAZU? hinweg vergleichen zu können, wird daher die Größe
und Zusammensetzung des jeweiligen Haushalts be-
Üblicherweise werden die Grenzen zur Einteilung der rücksichtigt. Durch sogenannte Äquivalenzeinkom-
Einkommensschichten in Relation zum mittleren Ein- men kann die Einkommenssituation verschiedener
kommen aller Haushalte – dem sogenannten Median- Haushaltstypen verglichen werden. So kann das Haus-
einkommen in der Mitte der Einkommensverteilung haltseinkommen eines Mehrfamilienhaushaltes äqui-
– festgesetzt.5 Die Abgrenzung im Artikel basiert auf valent zu einem Single-Haushalt umgerechnet werden
der international etablierten Definition der OECD:6 (vgl. Dorn et al. 2023a, S. 16).
Zur Berechnung der Abgrenzung der Einkommens-
‒ Untere Einkommen: Haushalte mit weniger als schichten werden Daten des Sozio-oekonomischen Pa-
75 % des mittleren verfügbaren Einkommens. nels (SOEP) verwendet, einer jährlichen großen reprä-
‒ Mittelschicht: (a) Haushalte der unteren Mitte sentativen Bevölkerungsumfrage in Deutschland. Es
steht zwischen 75 % und 100 % des mittleren werden die Befragungsdaten des Jahres 2020 genutzt,
Einkommens zur Verfügung, (b) Haushalte der in der die Haushalte zu ihren Einkommen im Vorjahr
mittleren Mitte zwischen 100 % und 150 % und 2019 befragt wurden. Im Jahr 2019 lag auf Basis der
(c) Haushalte der oberen Mitte zwischen 150 % SOEP-Daten das mittlere7 und äquivalenzgewichtete
und 200 %. verfügbare Haushaltseinkommen (Nettoeinkommen
‒ Hohe Einkommen: Haushalte, die mehr als 200 % inkl. staatlicher Transferleistungen) in Deutschland
des mittleren Einkommens verfügbar haben. bei 23 300 Euro (= Median). Dieser Betrag ist bei Al-
leinstehenden (Äquivalenzfaktor 1) gleichbedeutend
Zu welcher Einkommensschicht man gehört, hängt zu ihrem mittleren verfügbaren Einkommen. Für
folglich von der Entwicklung des eigenen Haus- Paare und Familien werden die Äquivalenzgewichte
haltseinkommens im Vergleich zur Entwicklung des genutzt, um die gleichbedeutenden Grenzen der Ein-
mittleren Einkommens aller Haushalte in Deutschland kommensschicht zu ermitteln. Für Paare ohne Kinder
ab. Wenn das eigene Haushaltseinkommen in glei- (Äquivalenzfaktor 1,5) liegt somit das mittlere ver-
chem Umfang wie das mittlere Einkommen wächst, fügbare Haushaltseinkommen bei 34 950 Euro. Paare
ändert sich an der eigenen Schichtzugehörigkeit mit zwei Kindern (Äquivalenzfaktor 2,1) müssen ein
nichts. Gleichzeitig ist es nach dieser Definition aber verfügbares Haushaltseinkommen von 48 930 Euro im
auch möglich, selbst bei eigenen positiven Einkom- Jahr verdienen, um das vergleichbare mittlere Haus-
menszuwächsen in der zugehörigen Einkommens- haltseinkommen eines Alleinstehenden zu erreichen.
schicht abzusteigen, wenn das mittlere Einkommen Tabelle 1 zeigt alle Einkommensschichtgrenzen nach
schneller als das eigene zunimmt. Für die Zuordnung den OECD-Einkommensgrenzen für Single-Haushalte,
Paaren ohne Kinder und Paaren mit zwei Kindern.
5
Das Medianeinkommen gibt an, wie hoch das Einkommen des Ein Single-Haushalt gehörte im Jahr 2019 der Mit-
mittleren Haushalts ist, würde man sämtliche Haushalte nach der
Höhe ihres Einkommens sortieren. Die Hälfte der Haushalte bezieht
telschicht an, wenn dessen verfügbares Jahresein-
dabei ein höheres Einkommen, die andere Hälfte ein geringeres Ein- kommen (inkl. Transfers vom Staat) bei mindestens
kommen als der Haushalt mit dem Medianeinkommen. Dieses Maß
ist nicht zu verwechseln mit dem durchschnittlichen Einkommen,
17 475 Euro und höchstens 46 600 Euro lag. War das ver-
das als arithmetisches Mittel der Einkommen ermittelt wird. fügbare Jahreseinkommen des Single-Haushalts höher
6
Haushalte, die weniger als 60 % des mittleren Einkommens zur
Verfügung haben, gelten laut OECD-Definition als (relativ) armutsge-
als 46 600 Euro, gehörte er zur Gruppe der hohen Ein-
fährdet (vgl. Peichl et al. 2010 zur empirischen Messung und Begrün-
7
dung der Abgrenzung hoher Einkommen und der Armutsschwelle in Das mittlere Einkommen wird auch als Medianeinkommen be-
Relation zum Median für Deutschland und weiteren europäischen zeichnet. Es entspricht dem Einkommen des Haushalts, der exakt
Ländern). in der Mitte der Einkommensverteilung liegt.
Tab. 1
Zugehörigkeit zu Einkommensschichten nach verfügbarem Haushaltseinkommen, 2019
Single Paar ohne Kinder Paar mit zwei Kindern
Hohes Einkommen Mehr als 46 600 Euro Mehr als 69 900 Euro Mehr als 97 860 Euro
Obere Mittelschicht 34 950 bis 46 600 Euro 52 425 bis 69 900 Euro 73 395 bis 97 860 Euro
Mittlere Mitte 23 300 bis 34 950 Euro 34 950 bis 52 425 Euro 48 930 bis 73 395 Euro
Untere Mitte 17 475 bis 23 300 Euro 26 212 bis 34 950 Euro 36 698 bis 48 930 Euro
Niedriges Einkommen Weniger als 17 475 Euro Weniger als 26 212 Euro Weniger als 36 698 Euro
Anmerkungen: Die Tabelle zeigt die Einkommensgrenzen für die Zugehörigkeit zu verschiedenen Einkommensschichten für unterschiedliche Haushaltstypen für das
Jahr 2019. Die angegebenen Werte beziehen sich auf das verfügbare Jahreseinkommen eines Haushalts (Nettotransfersaldo berücksichtigt).
Entwicklung der Spitzeneinkommen unterscheiden renz aus den Bruttoeinkommen und den verfügbaren
in der Gruppe der Topeinkommen oftmals neben den Einkommen der Haushalte auf Basis von SOEP-Daten
Top 10 % auch die Top 1 % oder die Top 0,5 % der Ein- des Jahres 2020. Zum Bruttoeinkommen der Haus-
kommensbezieher, um der Heterogenität der Gruppe halte zählen Einkommen aus Erwerbsarbeit, Kapital-
der hohen Einkommen gerechter zu werden und somit erträgen, Renten- und Pensionszahlungen sowie pri-
die Reichsten in Bezug auf ihr jährliches Einkommen vaten Transfers aller Mitglieder eines Haushalts. Zum
von den übrigen hohen Einkommen zu unterschei- Bruttoeinkommen werden zudem öffentliche Transfers
den (vgl. Atkinson et al. 2011; Alvaredo et al. 2013; wie etwa Wohngeld, staatliche Hilfen zum Lebensun-
Dorn und Schinke 2018; Bartels 2019). In Deutschland terhalt, Eltern- und Kindergeld, Arbeitslosengeld oder
gehörten im Jahr 2019 die knapp 0,4 Mio. Haushalte zu Witwenrenten hinzuaddiert. Davon abgezogen werden
den Top 1 %, deren äquivalenzgewichtetes verfügbares die gezahlte Einkommensteuer sowie die gesetzlichen
Haushaltseinkommen bei einem Single-Haushalt bei Sozialabgaben wie etwa die Beiträge zur gesetzlichen
mehr als 88 385 Euro lag (185 600 Euro für ein Paar Renten-, Gesundheits-, Pflege- und Arbeitslosenversi-
mit zwei Kindern). Zu den Top 0,5 % und somit reichs- cherung, um das tatsächliche zur Verfügung stehende
ten Haushalten mit Blick auf ihr verfügbares Jahres- Einkommen der Haushalte zu berechnen.10
einkommen gehören die knapp 0,2 Mio. Haushalte Welche Einkommensgruppen netto mehr Trans-
deren äquivalenzgewichtetes Haushaltseinkommen fers empfangen oder mehr Steuern und Abgaben
bei einem Single-Haushalt im Jahr 2019 bei mehr als leisten, hängt zum einen maßgeblich davon ab, ob
110 400 Euro lag (231 840 Euro für ein Paar mit zwei die gesetzliche Rente grundsätzlich als Sozialtrans-
Kindern). fer oder als Bruttoeinkommen behandelt wird. Dafür,
Renten als öffentliche Transfers zu berücksichtigen,
DIE MITTELSCHICHT SCHRUMPFT WEITER spricht, dass aufgrund des Umlageverfahrens in der
gesetzlichen Rentenversicherung die erworbenen Ren-
Die Mittelschicht in Deutschland gerät seit einigen tenansprüche im jeweiligen Auszahlungsjahr durch
Jahren unter Druck. Zwischen 2007 und 2019 ist ihr Steuern und Beiträge zur gesetzlichen Rentenversi-
Anteil um knapp 3 Prozentpunkte gesunken (Dolls et cherung der arbeitenden Bevölkerung desselben Jah-
al. 2023a). Damit hat sich der Rückgang des Anteils der res geleistet werden. Es handelt sich also de facto
deutschen Mittelschicht, der bereits Ende der 1990er um eine Umverteilung von der Erwerbsbevölkerung
und Anfang der 2000er zu beobachten war, weiter fort- an die Pensionäre und Transferzahlung in Form der
gesetzt (vgl. OECD 2021). Die Mittelschicht schrumpft Rente. Ein Argument für die Behandlung der Renten
dabei an beiden Rändern gleichermaßen, d. h. durch als Bruttoeinkommen ist hingegen, dass die meisten
sozialen Aufstieg oder sozialen Abstieg, wenn der Rentenanwartschaften und Rentenzahlungen durch
Abstand zur Entwicklung des Medianeinkommens eigene frühere Sozialbeiträge in die gesetzliche Ren-
in Deutschland entsprechend größer als 200 % oder tenversicherung erworben wurden und die Renten-
kleiner als 75 % des mittleren Haushaltseinkommens zahlungen ebenfalls versteuert werden. Die früheren
wird.8 Auch wenn der weitere Rückgang seit 2007 mo- Abgaben wurden einst vom Bruttoeinkommen ein-
derat erscheint, muss er im Vergleich der anderen behalten, um die Renten früherer Kohorten auszu-
Mitgliedstaaten betrachtet werden. Lag Deutschlands zahlen. In Abbildung 4 wird beides dargestellt. Dieser
Größe der Mittelschicht im Jahr 2007 noch auf Rang 9 Unterschied bei der Abgabenlast fällt bei den Einkom-
im europäischen Vergleich und somit im oberen Drittel, mensschichten der unteren Mitte und den niedrigen
so findet sie sich im Jahr 2019 nur noch auf Platz 14 Einkommen am deutlichsten aus, da sich dort viele
und somit im Mittelfeld der 28 betrachteten europäi- Rentner befinden (Dorn et al. 2023a, S. 24).11
schen Länder wieder (Dolls et al. 2023a).9
NETTOABGABENLAST AB MITTELSCHICHT
UMVERTEILUNGSWIRKUNGEN DES STEUER- SPÜRBAR
UND TRANSFERSYSTEMS
Abbildung 4 zeigt die relative Umverteilung im Durch-
Um die Höhe der Steuer- und Abgabenlast der Einkom- schnitt nach den äquivalenzgewichteten Einkommens-
mensschichten zu ermitteln, berechnen wir die Diffe-
10
Bei der Ermittlung der Steuer- und Abgabenlast bleiben damit die
indirekten Steuern wie Konsumsteuern unberücksichtigt. Da die Kon-
8
Wichtig ist anzumerken, dass eine Veränderung der Größe der sumausgaben zwischen verschiedenen Einkommensschichten un-
Mittelschicht keine Aussagen über die Entwicklung der realen Ein- gleich verteilt sind, haben auch die indirekten Steuern Auswirkungen
kommen dieser Einkommensschicht erlaubt. Da es sich um ein rela- auf die Verteilung der Steuer- und Abgabenlasten. Höhere Einkom-
tives statistisches Maß handelt, kann die Größe der Mittelschicht mensgruppen haben in der Regel auch höhere absolute Ausgaben und
über die Zeit schrumpfen, selbst wenn ihre Einkommen und Wohl- zahlen mehr indirekte Steuern. In Relation zum Einkommen zahlen sie
stand real steigen. Ebenso kann die Größe der Mittelschicht zuneh- aber eher weniger indirekte Steuern. Die indirekten Steuern wirken
men, selbst wenn ihre Einkommen nicht steigen sollten. Denn ent- also regressiv (vgl. Bach et al. 2017). Auf der anderen Seite nehmen
scheidend ist bei der Abgrenzung und Entwicklung der Einkommens- höhere Einkommensgruppen auch die Bereitstellung öffentlicher Güter
schichten, wie sich deren Einkommen im Vergleich zum Medianein- wie höhere Bildungseinrichtungen oder Straßeninfrastruktur stärker in
kommen, d. h. dem Einkommen des Haushalts in der Mitte der Ein- Anspruch. Beides bleibt in dieser Studie nicht berücksichtigt.
11
kommensverteilung, entwickeln. Als sogenannte Rentnerhaushalte werden diejenigen Haushalte in
9
Der Vergleich über die Zeit und im internationalen Vergleich ba- unserer Analyse bezeichnet, deren Einkommen mehrheitlich aus
siert auf Analysen mit Daten von EU-SILC. Rentenzahlungen besteht.
hohen Einkommen) netto die Lasten der Umverteilung Dolls, M., F. Dorn, D. Gstrein und M. Lay (2023a), »Die Lage der Mittel-
schicht im europäischen Vergleich«, in: M. Ferber (Hrsg.), Gerechtigkeit
in der Sozialen Marktwirtschaft sowie der Ausgaben für die Mitte? Die Verteilung der Steuer- und Abgabenlast in Deutschland
zur Bereitstellung der öffentlichen Güter bzw. der und im EU-Vergleich, ifo-Studie im Auftrag der Hanns-Seidel-Stiftung,
ifo Institut, München, 70–98.
Funktionsfähigkeit des Staates. Gleichzeitig haben
Dolls, M., F. Dorn, D. Gstrein und M. Lay (2023b), »Income and Tax
aber auch die niedrigen Einkommen wenig Anreize, Burden of the Middle Class in Europe«, EconPol Forum 24(4), 67–72.
mehr zu arbeiten, da sich aufgrund der hohen Trans- Dorn, F., C. Fuest, L. Immel und F. Neumeier (2020), »Economic
ferentzüge und der Nettoabgabenlast mit Übergang Deprivation and Radical Voting: Evidence from Germany«, ifo Working
Paper Nr. 336.
zu den mittleren Einkommen zusätzliches Erwerbs-
Dorn, F., S. Gäbler, B. Kauder, M. Krause, L. Lorenz, M. Mosler und
einkommen zunächst wenig lohnt. N. Potrafke (2018), Die Zusammensetzung des öffentlichen Budgets in
Im europäischen Vergleich gehört die Mittel- Deutschland, ifo Forschungsberichte Nr. 95, ifo Institut, München.
schicht in Deutschland zur Gruppe mit der größten Dorn, F., D. Gstrein und F. Neumeier (2023a), »Die Verteilung der Steuer-
und Abgabenlast in Deutschland«, in: M. Ferber (Hrsg.), Gerechtigkeit für
Steuer- und Abgabenlast (Dolls et al. 2023b). Die die Mitte? Die Verteilung der Steuer- und Abgabenlast in Deutschland und
Verteilung der Steuer- und Abgabenlast und die ge- im EU-Vergleich, ifo-Studie im Auftrag der Hanns-Seidel-Stiftung,
ifo Institut, München, 12–39.
ringen Leistungsanreize bei niedrigen und mittleren
Dorn, F., D. Gstrein und F. Neumeier (2023b), Stabile Demokratien
Einkommen zeigen Schwachstellen des deutschen
in wirtschaftlich schweren Zeiten?, ifo Forschungsberichte, ifo Institut,
Steuer- und Transfersystems auf. Eine grundlegende München, im Erscheinen.
Reform könnte Leistungsanreize stärken, hierfür Dorn, F., M. Mosler und N. Potrafke (2019), »Deutschlands Budget im
gibt es auch aufkommensneutrale Reformvarianten OECD-Vergleich«, Wirtschaftsdienst 99(5), 368–370.
(vgl. Blömer et al. 2021). In jedem Fall bedarf es einer Dorn, F. und C. Schinke (2018), »Top Income Shares in OECD Countries:
The Role of Government Ideology and Globalisation«, The World Eco-
Weiterentwicklung der Sozialen Marktwirtschaft, so nomy 41(9), 2491–2527.
dass sich (Arbeits-)Leistung in allen Einkommensgrup- Evans, M. und J. Kelley (2004), »Subjective Social Location: Data From
pen lohnt und es möglich ist, sich auch als Haushalt 21 Nations«, International Journal of Public Opinion Research 16(1), 3–38.
in der Mittelschicht aus eigener Kraft Wohlstand und Ferber, M. (Hrsg.) (2023), Gerechtigkeit für die Mitte? Die Verteilung der
Steuer- und Abgabenlast in Deutschland und im EU-Vergleich. ifo-Studie
Vermögen aufzubauen. im Auftrag der Hanns-Seidel-Stiftung, ifo Institut, München.
GESIS (2022), Allgemeine Bevölkerungsumfrage der Sozialwissenschaften
LITERATUR ALLBUS 2021. GESIS, Köln.
ISSP (2019), Social Inequality Module 2019, International Social Survey
Alvaredo, F., A. B. Atkinson, T. Piketty und E. Saez (2013), »The Top 1
Programme.
Percent in International and Historical Perspective«, Journal of Economic
Perspectives 27(3), 3–20. Kleven, H., C. Landais, J. Posch, A. Steinhauer und J. Zweimüller (2019),
»Child Penalties across Countries: Evidence and Explanations«, AEA Pa-
Atkinson, A. B., T. Piketty und E. Saez (2011), »Top Incomes in the Long
pers and Proceedings 109, 122–126.
Run of History«, Journal of Economic Literature 49(1), 3–71.
Niehues, J. und M. Stockhausen (2022), »Die Mittelschicht im Fokus –
Bach, S., M. Beznoska und V. Steiner (2017), Wer trägt die Steuerlast?
Abgrenzung, Entwicklung und Mobilität«, IW-Trends (2), Institut der deut-
Verteilungswirkungen des deutschen Steuer- und Transfersystems,
schen Wirtschaft, Köln.
Hans Böckler Stiftung, Studie 347, Düsseldorf.
OECD (2021), Is the German Middle Class Crumbling? Risks and Oppor-
Bartels, C. (2019), »Top Incomes in Germany, 1871–2014«, The Journal
tunities, OECD Publishing, Paris.
of Economic History 79(3), 669–707.
Peichl, A., T. Schaefer und C. Scheicher (2010), »Measuring Richness and
Bellani, L., N. Bledow, M. R. Busemeyer und G. Schwerdt (2021), »When
Poverty: A Micro Data Application to Europe and Germany«, Review of
Everyone Thinks They’re Middle-Class: (Mis-) Perceptions of Inequality
Income and Wealth 56(3), 597–619.
and Why They Matter for Social Policy«, Working Paper/Technical Re-
port, Universität Konstanz, Konstanz. Statistisches Bundesamt (2022), Finanzen und Steuern: Steuerhaushalt.
Fachserie 14, Reihe 4, Wiesbaden.
Blömer, M. J., P. Brandt, F. Dorn, C. Fuest und A. Peichl (2021), »Für
mehr Beschäftigung und mehr steuerliche Entlastung für Familien: Ein
Reformvorschlag zur Einkommensbesteuerung«, ifo Schnelldienst 74(10),
37–49.
Tab. 1
Tab. 2
nehmenden Unternehmen die Fragebögen der ifo Kon- Hiersemenzel, M., S. Sauer und K. Wohlrabe (2022b), »On the Represen-
tativeness of the ifo Business Survey«, CESifo Working Paper 9863.
junkturumfrage beantworten. Das gilt über alle Wirt-
ifo Institut (2023), »ifo Geschäftsklimaindex gestiegen«,
schaftsbereiche hinweg. Im Vergleich zur Erhebung im verfügbar unter https://www.ifo.de/fakten/2023-02-22/
Jahr 2018 zeigen die Ergebnisse der Studie sogar eine ifo-geschaeftsklimaindex-gestiegen-februar-2023.
leichte Zunahme des Anteils der Antworten aus den Lehmann, R. (2023), »The Forecasting Power of the ifo Business Survey«,
Journal of Business Cycle Research 19(1), 43–94.
Chefetagen. Somit ist eine bedeutende Voraussetzung
Link, S., A. Peichl, C. Roth und J. Wohlfahrt (2023), »Information Fric- Sauer, S. und K. Wohlrabe (2022), »Das neue Geschäftsklima für Solo-
tions among Firms and Households«, Journal of Monetary Economics selbständige und Kleinstunternehmen«, ifo Schnelldienst 75(1), 46–48.
135, 99–115.
Sauer, S., M. Schasching und K. Wohlrabe (2023), Handbook of ifo
Sauer, S. und K. Wohlrabe (2019), »Chef oder Praktikant – wer beantwor- Surveys, ifo Beiträge zur Wirtschaftsforschung 100, ifo Institut,
tet eigentlich die Fragebögen in den ifo Konjunkturumfragen?«, München, im Erscheinen.
ifo Schnelldienst 72(3), 30–32.
Tagesschau (2023), »Geschäftsklima eingetrübt - Dämpfer für die deut-
Sauer, S. und K. Wohlrabe (Hrsg.) (2020), ifo Handbuch der Konjunk- sche Wirtschaft«, verfügbar unter: https://www.tagesschau.de/wirt-
turumfragen, ifo Beiträge zur Wirtschaftsforschung 88, ifo Institut, schaft/konjunktur/ifo-geschaeftsklima-mai-100.html.
München.
6
2023 FOR
SCH
202 7
UN
14. Juni 2023 Er w GSE
und orbene
RGE
76. Jahrgang B N IS
A
Chri rbeits Kompe
3
SE
stin
und a L mark tenzen
Sim anger, t
12.
J
on W Jako 7 6 . u li 2 0
Um iede b ZUR Jah 2
fr rhold Peiffer D IS rg a 3
Fin agege KUS ng
an
Marc zierun tützte
s
Hau S IO
NG
Zeic shalts
str E ST
e g
FORSCHUNGSERGEBNISSE ZUR DISKUSSION GESTELLT Tim ll Götte ssalde uktu E L LT
o Wo rt un n rell
Schwächen Fiskalregeln
Mobilität unter neuen
Soz
ia
in e lunte
ll mers
häu
d
ser
e
auf hen d olitik
p
öffentliche Investitionen? in rn
e
der as mü r »Zei im
Sebastian Blesse, Florian Dorn Vorzeichen: Tan e nach ehme
ja S
titte h altig n : W
w
e Zu eg
und Max Lay ned
er k un Ver
teid sen wi enwe
s t
Was den Wandel
D AT ft Hub
EN e
Mart rtus Ba igun r nd
g ve zuguns e« –
UN
»Fa DP
DATEN UND PROGNOSEN m RO in rd
zu F Data« GN
Flori Junke t, Désiré
in Individualverkehr
OSE
rzic t
hten en
a : N a rn e
Welche Geschäftsrisiken Joh milien Daten n Do
rn u
hein I. Ch
sehen Unternehmen ab 2023? an u
Ann na Garn nterne nk
ba nd M rich, Ma ristofzik
arce rt , ?
und Logistik treibt l Sch in Jaco Dirk Me
ette h
Katrin Demmelhuber Klau von itz, Frie men lepp b, S y
s Wo M a d
hlra ltzan u ch Lüh
ri er ilke er,
Dete be nd rs, Übe
lm
Inflationsausgleich dämpft wir rmina
Günter Knieps, Christian Böttger, Carl Friedrich Eckhardt, esse
r,
tsch nten
stabile Steuereinnahmen Oliver Falck und Anita Wölfl, Andreas Knie, Heike van TimHoorn a
o Wo ftliche der ge
Per ll mers n T s am
häu euerun t-
Zu den Ergebnissen der
son
164. Sitzung des Arbeitskreises dem alp
oli ser g 20
o 22
»Steuerschätzungen« Juli grafis tik be
a ch i
Max Lay und Freudin em W
Dari g a
Öko a Sc , Johan ndel
h alle n a Ga
kali nomen r rnitz
BRANCHEN UND SEKTOREN s p
Klau chen Z anel z
s e ur
Branchen im Fokus: Marc Gründle itenwe »fis-
Wohnungsbau el Sc r, Nik nde«
hlep
Ludwig Dorffmeister per las Potr
und a
BRA
NCH
Lissi fke,
aW
Eur EN ebe
o
UN
DS r
bis päisch E KT
OR
20 e
Lud 24 mo s Bauv EN
wig d o
Dorf erat sc lumen
fme
ister hrump wird
fen