Quarterly

Foresight Trends Strategie Q3 | 2017

August 2017 Digitale Diskriminierung

Immer mehr Entscheidungen werden nicht von
Digitale Menschen, sondern Maschinen getroffen. Vorurteils-
Diskriminierung frei sind diese deshalb noch lange nicht.

Privatlehrer fr alle!

Wenn Roboter
W er wrde noch bestreiten, dass Al- wie die Daten, mit denen sie gefttert
gorithmen erhebliche Macht ber werden und schon diese knnen Verzer-
den Gang der Dinge haben? Immerhin rungen beinhalten. Auf unterschiedlichs-
sind sie in vielen Bereichen unseres Le- ten Wegen schleichen sich also mensch-
Roboter bauen bens beteiligt, entscheidende Weichen liche (Vor-)Urteile und Stereotype in
zu stellen: ob wir einen Kredit erhalten, Software ein. Mehr und mehr kommt die
Bibliotheken als einen Job bekommen, welche Nach- Forschung den maschinellen Diskriminie-
richten wir lesen, welche Werbung wir rungen auf die Schliche: So entdeckte
"Dritte Orte" sehen, welche Menschen wir treffen. man etwa an der Carnegie Mellon Uni-
Immer strker verbreiten sich algorith- versity, dass Googles Werbeprogramm
mische Entscheidungsverfahren, weil sie eine Anzeige fr Karrierecoaching fr
die konsistente Behandlung groer Fall- hochbezahlte Jobs fter Mnnern als
zahlen ermglichen und daher hocheffi- Frauen zeigt. Auch bei maschinellen
zient sind. Gleichzeitig eilt Algorithmen bersetzungsprogrammen macht sich
der Ruf voraus, Entscheidungen wertfrei bemerkbar, dass Maschinen hnliche As-
und unbefangen zu treffen immerhin soziationen produzieren wie Menschen
basierten sie auf und daher etwa
Daten und seien Menschliche Vorurteile und mit denselben Rol-
daher objektiv. Stereotypen schleichen sich in lenklischees agie-
Aber stimmt das Software ein, die zum Spiegel ren. ProPublica, ein
denn? unserer Gesellschaft wird. US-amerikanischer
Je intensiver sich Non-Profit-News-
Abonnieren Sie f/21 Quarterly! die Forschung mit diesem relativ neu- desk fr investigativen Journalismus,
Wir informieren Sie regelmig en Feld befasst, desto mehr Anzeichen stellte bedeutende systematische ras-
werden sichtbar, dass Ungerechtigkeit sistische Diskriminierung durch Algo-
ber die neuesten Ausblicke in die
und Diskriminierung keineswegs aus au- rithmen fest, die die Wahrscheinlichkeit
Welt von morgen. Bleiben Sie am tomatisierten Entscheidungsverfahren eines Kriminellen berechnen, wieder
Ball und verpassen Sie keine Aus- verbannt sind. Denn Software ist keines- straffllig zu werden. Weil solche Ergeb-
gabe des f/21 Quarterly per Mail wegs frei von menschlichem Einfluss: Sie nisse zunehmend Eingang finden in wich-
erhalten Sie jeweils direkt nach wird von Menschen geschrieben und wei- tige Entscheidungen US-amerikanischer
Erscheinen kostenlos die neueste terentwickelt, darber hinaus nehmen Gerichte, etwa im Zusammenhang mit
Ausgabe. Registrieren Sie sich hier: maschinelle Lernverfahren menschliches Untersuchungshaft oder Bewhrung,
Verhalten auf und agieren entsprechend. knnen die maschinellen Diskriminierun-
www.f-21.de/quarterly Auch sind Algorithmen immer nur so gut gen Menschen sogar ins
f/21 Quarterly Q3 | 2017

Privatlehrer fr alle!
Digitale Diskriminierung (Forts.)
Gefngnis bringen.
Weil immer mehr Daten fr Analysezwe-
cke zur Verfgung stehen, wird sich das
Feld der Einsatzbereiche algorithmischer Personalisierte Lernsysteme stellen das Ende der
Entscheidungen weiten. Whrend die
Vorteile dieses Vorgehens gut beleuch-
Flieband-Bildung in Aussicht und versprechen
tet und viel besprochen sind, scheint die mageschneiderte Bildungserfolge. Doch sind die
Bedeutung eines verantwortlichen Um- groen Verheiungen bereilt.
gangs mit Algorithmen, das heit im Ein-
klang mit ethischen und legalen Normen,
noch nicht ausreichend im ffentlichen
Bewusstsein angekommen zu sein. Na-
trlich wissen wir, dass auch Menschen in
V or nunmehr beinahe drei Dekaden, individuelles Vorankommen, an persn-
im Jahr 1988, gab der Autor Isaac liche Fhigkeiten, Interessen und Ziele
Asimov fr Bill Moyers Reihe World of anzupassen. Dabei existiert ein Sammel-
ihrer Entscheidungsfindung alles andere Ideas ein bemerkenswertes Interview, surium unterschiedlicher Werkzeuge:
als vorurteilsfrei sind. Doch sind Algorith- in dem er unter anderem auch computer- Das Spektrum reicht von responsiven
basiertes lebenslanges Lernen und On- Systemen, die im Wesentlichen Zugang
Werden Diskriminierungen line-Bildung voraussagte. Asimov wendet zu festgelegten Inhalten bieten und eine
durch maschinelle Entschei- sich gegen das gegenwrtige System der Anpassung der Benutzeroberflche zu-
dungen gar noch verstrkt? Massenbildung, in dem ein Curriculum lassen, dem Lernenden die Wahl eigener
fr alle gleichermaen gilt und zeichnet Lernpfade erlauben oder Lernmateria-
men am Werk, werden datengetriebene eine Zukunft, in der Lernende sich von len entsprechend dem ber eine Daten-
Entscheidungen massenhaft getroffen. zu Hause aus ber Computer mit riesigen analyse festgestellten Leistungsniveau
Finden wir uns also bald in einer Situati- Bibliotheken verbinden und auf jede be- prsentieren. Adaptive Systeme gehen
on wieder, in der nicht nur menschliche liebige Frage Antworten erhalten, in der darber hinaus und versuchen den Lern-
durch maschinelle Vorurteile ersetzt, jeder lernen kann, prozess flexibel
sondern sogar noch verstrkt werden? wie es ihm beliebt. Das Fliebandmodell der Mas- zu untersttzen.
Daher ist es hchst Zeit, den Blick auf Computer, so sieht senbildung verspricht Techno- Indem sie sich an
mgliche maschinengemachte Verzer- der hellsichtige Au- logie zu beenden. Die Zukunft das Verhalten und
rungen zu richten. Es gilt Transparenz tor voraus, wrden des Lernens soll stattdessen in- die Kompetenz
herzustellen und die algorithmischen der one-size-fits- dividualisiert vonstatten gehen. eines Lernenden
Entscheidungsverfahren aus ihrer Black all-Bildung ein nicht nur durch ei-
Box herauszuholen. Auch ist eine str- Ende bereiten und personalisierte Lern- nen vorgegebenen Entscheidungsbaum
kere Sensibilisierung der ffentlichkeit mglichkeiten schaffen, die die eins-zu- anpassen, sondern dabei Technologien
fr die neuen Mechanismen und deren eins-Beziehung zwischen Lernenden und des Maschinenlernens nutzen. Die am
Einflussmglichkeiten notwendig. Und Lehrenden herbeifhre. weitesten gehende Vision technologisch
nicht zuletzt wartet ein noch viel tiefer- Heute erscheint der technologische Fort- gesttzten personalisierten Lernens be-
gehendes Problem auf eine Lsung: Da- schritt einen Stand erreicht zu haben, steht in intelligenten Tutorsystemen, die
rber, was objektiv und gerecht ist und der Asimovs Utopie Wirklichkeit werden menschliche Lehrer nachahmen, proak-
was es fr einen Algorithmus bedeutet, lsst. Eine ganze Reihe von Initiativen tiv ttig werden und auf vielfltige Weise
ausbalancierte Urteile zu fllen, muss setzt sich zum Ziel, mit Hilfe datengetrie- mit dem Lernenden interagieren, indem
bereinstimmung hergestellt werden. bener Technologien Lernerfahrungen an sie etwa aus den Interaktionen mit dem
Lernenden stndig dazulernen, mit Hilfe
von Gesichtserkennung Emotionen wahr-
nehmen und Lernprozesse entsprechend
f/21 Zukunftsperspektiven anpassen. Die knstlichen Lehrer sol-
len imstande sein, individuelles Feedback
und Tipps zu geben.
Zwar ist die Vision der intelligenten Tu-
f/21 Gameful City torsysteme noch Zukunftsmusik doch
ist nicht denkbar, dass angesichts des
Die Stadt als Spielraum
BRO FR ZUKUNFTSFRAGEN

Zukunftsperspektiven rasanten technischen Fortschritts schon

Einem Brennglas gleich bndeln Stdte Probleme und Ent-
03.2017 bald Lehrer ersetzen werden? Die Ent-
wicklungen, doch waren sie schon immer auch Experimentier- wickler der Systeme selbst geben zu Pro-
Gameful City felder und Laboratorien fr Neues. Daher erscheint die An- tokoll, dass sie keineswegs daran arbei-
Die Stadt als Spielraum wendung von Spielprinzipien (Gamification) lohnend, um ten, Lehrer abzuschaffen. Die Systeme
das Zusammenleben in der Stadt der Zukunft zu gestalten:
versprechen den grten Erfolg, wenn
In der Gameful City gelingt urbane Transformation spielerisch.
sie ergnzend eingesetzt werden. Noch
kostenloser Download: wei man wenig ber die neuen Techno-
www.f-21.de/zukunftsperspektiven logien, es fehlen empirische Belege, wie
die Systeme tatschlich auf das

f/21 Bro fr Zukunftsfragen www.f-21.de 2

f/21 Quarterly Q3 | 2017

Privatlehrer fr alle! (Forts.) gleichen gesammelt werden, wirft das ausmacht. Worin besteht der Zweck des
Lernen wirken. die Frage auf, wann die Grenze zu ber- Lernens und der Bildung? Menschen fit zu
Jedenfalls aber wird es fr deren Einsatz wachung und Kontrolle berschritten machen fr den Arbeitsmarkt? Ihnen ein
selbstndige, eigenverantwortliche Ler- wird. grtmgliches Einkommen zu verschaf-
nende brauchen. Wo immer Unterricht Ein weiteres Problem ist den Lernsys- fen? Auf ein humanistisches Bildungs-
darauf setzt, Lernende dabei zu unter- temen immanent: Damit die Software ideal hinzuwirken? Kritisch denkende
sttzen, in deren eigenem Tempo vor- adaptiv agieren kann, muss sie darauf Menschen hervorzubringen, die die Zivil-
anzuschreiten, braucht es groe Verant- hinarbeiten, die Eintrittswahrscheinlich- gesellschaft strken? Bevor nicht Einig-
wortung fr den eigenen Lernprozess. keit eines bestimmten Ziels zu erhhen. keit besteht ber das Ziel, bleiben die Er-
Lernenden werden Fhigkeiten des un- Aber welches Ziel wird den Systemen folgsversprechen der Lerntechnologien
abhngigen, eigenverantwortlichen Ler- einprogrammiert? Die Sache wird nicht zwangslufig hohl. Von der gesellschaft-
nens, Konzentrati- lichen Beantwor-
onsvermgen und Technologie nimmt fr sich in Anspruch, ein Problem zu lsen, tung der aufgewor-
anhaltende Moti- das in Wirklichkeit ein gesellschaftliches, kein technisches ist. fenen Fragen wird
vation abverlangt. Solange nicht Einverstndnis ber die Ziele von Bildung herrscht, auch abhngen,
Solche Eigenschaf- mssen die Erwartungen an Technologie gedmpft bleiben. inwieweit Asimovs
ten bringen nicht Vision berhaupt
alle Lernenden mit und schon gar nicht einfacher dadurch, dass sich Lernerfolge relevant sein kann: Denn er malt ja nicht
die jngsten unter ihnen. kaum durch ein einziges Ziel beschreiben nur Lernwelten aus, in denen Lernende
Auch Sorge um Privatsphre und Daten- lassen. Wie aber schafft es die Software, ihr eigenes Tempo gehen, sondern auch
schutz umgibt diese neuen Technologi- auf mehrere Ziele gleichzeitig hinzusteu- ihren eigenen Interessen folgen. Inwie-
en. Die Systeme setzen auf das Sammeln ern? Wie erfolgt die Abstimmung von weit werden Eltern, Schulbehrden und
von immer mehr Daten und machen da- Zwischenzielen und greren Endzielen? Arbeitgeber dies berhaupt als sinnvoll
her Entscheidungen ntig, wie diese Da- Mit ihrem Enthusiasmus nehmen die erachten?
ten verwendet werden drfen, mit wem Technologien des personalisierten Ler-
sie geteilt und warum sie berhaupt er- nens fr sich in Anspruch, so scheint es,
Fr weitere Informationen zu neuen Bil-
hoben werden. Zudem beziehen die Sys- ein Problem zu lsen, das in Wirklich-
dungswelten besuchen Sie bitte unsere
teme zunehmend auch Daten mit ein, die keit kein technisches, sondern ein ge-
Webseite oder kontaktieren Sie uns!
auerhalb des Lernkontexts herrhren. sellschaftliches ist. Immer schon fiel es
Wenn aber Daten beispielsweise durch schwer, Lernerfolg zu messen und zu www.f-21.de/fokus_neuebildungswelten
Monitoring von Social Media ber Frei- steuern, schlicht weil nicht eindeutig de- zukunft@f-21.de
zeitverhalten, Medienkonsum und der- finiert ist, was Lern- und Bildungserfolg

Wenn Roboter Roboter bauen

Artikel
Selbstreplizierende Roboter haben immer schon
Neueste Verffentlichungen: Fantasie und ngste der Menschen angeregt. Was
Jenseits der Gutenberg-Galaxis. Zukunfts- nun, wenn diese Wirklichkeit werden?
szenarien fr (ffentliche) Bibliotheken
BuB, 07/2017
Gamification. Spielerisch leicht durchs
Leben
Werkspuren, 02/2017
I n der Biologie ist es eine Selbstver-
stndlichkeit: Dass alles Leben sich
selbst hervorbringt, selbst reproduziert
theoretischen Konzept.
Was im vergangenen Jahrhundert John
von Neumann nicht gelang, scheint heu-
Spielwiese Smart City und selbst organisiert. Was die Technik te auf dem besten Weg zu sein, Wirklich-
transform, April 2017
betrifft, so gehrt die Selbstreplikation keit zu werden. Ein Forscherteam der
Serious Games: Die spielende Bibliothek
goethe.de, Mrz 2017 ins Reich der Science Fiction. Roboter, Universitt Oslo entwarf selbstlernende
Gameful City: Die Stadt wird zum Spielfeld die perfekte Kopien ihrer selbst herstel- und sich selbstreparierende Roboter, die
archithese, Mrz 2017 len knnen und sich alsbald schrankenlos komplexe Aufgaben in extremen Um-
Gameful City: Spielerisch zur smarten Stadt
vermehren sind eine uerst populre gebungen ausfhren sollen, wie etwa in
Carta, Mrz 2017 Endzeitvision. Erdrutschgebieten oder Kernkraftwer-
Spieltrieb als Erfolgsfaktor: Der Einsatz von John von Neumann war wohl einer der ken. Diese Roboter schaffen, worin Ma-
Gamification im Projektmanagement ersten, der dieser Vision in der Wirklich- schinen normalerweise schlecht sind:
Digitale Spiele im Diskurs, Mrz 2017 keit nahegekommen ist: In den 1940er- sich an Teilausflle und unerwartete Be-
Die neuen Mikrounternehmer Jahren konstruierte der berhmte Ma- schdigungen anzupassen. Sie gehen mit
The European, Mrz 2017
thematiker hypothetisch, abstrakt eine solchen Situationen um, wie dies auch
Arbeiten in der Sharing Economy: Die selbstreplizierende Maschine. Sein Uni- Lebewesen tun wrden, nmlich kom-
Uberisierung der Arbeitswelt? versalkonstruktor war praktisch aller- pensatorisches Verhalten zu entwickeln,
Vierteljahreshefte zur Wirtschaftsforschung, 03/2016
dings nicht umsetzbar und es blieb beim das heit, verliert der Roboter ein

f/21 Bro fr Zukunftsfragen www.f-21.de 3

f/21 Quarterly Q3 | 2017

Wenn Roboter Roboter bauen (Forts.)

Bein, lernt er selbstndig, sich mit dem Bibliotheken als Dritte Orte
verbleibenden Bein zu behelfen. Die aus-
geklgeltste Version der Roboter ist im-
stande, fr sich selbst herauszufinden, Bibliotheken braucht heute kein Mensch, heit es,
wie sie in einer bestimmten Situation wir haben doch das Smartphone. Weit gefehlt! Denn
idealerweise zusammengesetzt sein soll-
te. Je nachdem, ob es darum geht, sich die Bibliothek bietet mehr als Information und ge-
schnell fortzubewegen, klein zu sein, winnt im digitalen Zeitalter gerade als physischer Ort
oder wenig Energie zu verbrauchen, an Bedeutung.
whlt der Roboter die bestmgliche Kon-
figuration aus. In Zukunft sollen sie aber
noch mehr knnen: Beispielsweise mit
Hilfe des eigenen 3D-Druckers Teile er-
stellen, installieren, um sich selbst etwa
W eil sich Informationsbedrfnis- versteht der amerikanische Soziologe
se im Internetzeitalter schneller allesamt als third place, weil sie im Ge-
und komfortabler befriedigen lassen als gensatz zum first place des Wohnens
ber Hindernisse hinwegzuhelfen. Damit sich in die rtliche Bibliothek zu bege- und zum second place des Arbeitens
freilich ist auch der Schritt zur Selbstrep- ben, wurde bereits das Aussterben von ungezwungene ffentlichkeit auf neu-
likation nicht mehr fern. Bibliotheken an die Wand gemalt. Doch tralem Boden bieten. Nach Oldenburg
Science Fiction lehrt uns, dass knstli- ist diese Diagnose vorschnell, waren Bi- vermittelt der Dritte Ort ein Gefhl des
ches Leben, wenn es sich selbstndig bliotheken doch immer schon mehr als zweiten Zuhauses als auch der Zuge-
macht, sich letztendlich zumeist gegen Verwahranstalten fr Bcher. ffentli- hrigkeit, ist leicht zugnglich und gleicht
che Bibliotheken zeichnen sich seit jeher Unterschiede zwischen Menschen aus,
Selbstreplizierende Maschinen durch ein niedrigschwelliges Angebot wird gern allein aufgesucht und setzt
treten aus der Science Fiction aus, Zutritt und Anwesenheit sind kos- keine Mitgliedschaft voraus. Unschwer
in die Wirklichkeit. tenlos und an keinerlei Bedingungen ge- knnen also auch Bibliotheken als Drit-
knpft. Doch steigt klarerweise mit der te Orte klassifiziert werden.
den Menschen selbst wendet. Was nun allgegenwrtigen Wollen Bibliothe-
also, wenn die Selbstvermehrung von Informationsver- Es erscheint paradox: In der vir- ken im 21. Jahrhun-
Maschinen auer Rand und Band gert? fgbarkeit und der tuellen Welt wird die Bibliothek dert weiter von Be-
Wie kann sichergestellt werden, dass fortschreitenden als physischer Ort bedeutender. deutung bleiben,
der Mensch stets die Oberhand behlt Digitalisierung von gilt es, neben deren
und einen unendlichen Regress stoppen Bchern der Druck auf Bibliotheken, ihre Informationsangebot weitere Vorzge in
kann? Wenn es mglich ist, dass Roboter Rolle neu zu definieren, auch ein Stck den Vordergrund zu rcken: dass sie Indi-
sich krperlich selbst optimieren, indem weit neu zu erfinden und nicht zuletzt ihr viduum und Gesellschaft verbinden und
sie sich etwa ein zustzliches Bein aus- Angebot deutlicher zu erklren und un- ein soziales Zuhause schaffen, in dem
drucken, wenn sie dies gerade benti- ter die Leute bringen. sich Menschen abseits von Familie und
gen, wie knnen wir dann noch davon Es erscheint paradox: Gerade in der di- Arbeit in Anwesenheit von anderen und
ausgehen, dass sie nicht auch stndig gitalen, virtuellen Welt gewinnt die Bib- in angenehmer Atmosphre aufgeho-
intelligenter werden? Um schlielich die liothek als physischer Ort an Bedeutung. ben fhlen. Bibliotheken fllen die Rolle
menschliche Intelligenz zu bertreffen? Galten berlegungen hinsichtlich der Bi- ffentlicher Wohnzimmer aus: Sie sind
Man sieht schon: Selbstvermehrende bliothek als physischer Raum herkmm- privater ffentlicher Raum und ermg-
und sich selbst optimierende Roboter lich der architektonischen und baulichen lichen das Verfolgen individueller Ziele
beflgeln die Fantasie, was deren Ein- Aspekte der Raumgestaltung, waren und Zwecke im ffentlichen. Zudem ge-
satzbereiche betrifft wahrlich scheinen Bestnde und Sammlungen magebend whren sie eine Auszeit von der Hektik
diese grenzenlos. Ebenso viele Gedanken fr die Raumgestaltung, so geben heute des Alltags, sie sind Oasen der Ruhe, Un-
sollten allerdings noch in die Beantwor- Nutzer mit ihren Bedrfnissen und dem gestrtheit und Kontemplation, bieten
tung der durch solche Entwicklungen Benutzerverhalten einer digitalen Infor- Rckzugsmglichkeiten und handyfreie
aufgeworfenen philosophischen Fragen mationsgesellschaft den Ton an. So muss Zonen und sind Orte der Entschleuni-
flieen. man feststellen, dass Zweckbestimmung gung oder wie Klaus Kunzmann es so
und Nutzung von Bibliotheksraum nach schn nannte: Zen-Grten in der hekti-
Impressum wie vor gegeben sind, auch wenn sich schen Stadt.
f/21 Bro fr Zukunftsfragen Anforderungen an die Rumlichkeiten im
Nora S. Stampfl, MBA Laufe der Zeit verndert haben. Fr weitere Informationen zur Zukunft
Rosenheimer Strae 35 Inwiefern ffentliche Bibliotheken in un- der Bibliotheken, deren Rollenwandel
D-10781 Berlin serer zunehmend virtualisierten Lebens- und Neuausrichtung im Internetzeital-
+49.30.69 59 82 58 welt von Bedeutung sind, dazu finden ter, besuchen Sie bitte unsere Websei-
zukunft@f-21.de sich in dem von Ray Oldenburg entwi- te oder kontaktieren Sie uns!
www.f-21.de ckelten Konzept des Dritten Orts wert-
volle Ansatzpunkte. Kneipen, Buchlden www.f-21.de/fokus_zukunftbibliothek
Foto: zukunft@f-21.de
Joe Pizzio, unsplash.com (S. 1) oder kleinstdtische Fugngerzonen

f/21 Bro fr Zukunftsfragen www.f-21.de 4