Quarterly
Foresight Trends Strategie
August 2017
Digitale
Diskriminierung
Privatlehrer fr alle!
Wenn Roboter
Roboter bauen
Bibliotheken als
"Dritte Orte"
Abonnieren Sie f/21 Quarterly!
Wir informieren Sie regelmig
ber die neuesten Ausblicke in die
Welt von morgen. Bleiben Sie am
Ball und verpassen Sie keine Aus-
gabe des f/21 Quarterly per Mail
erhalten Sie jeweils direkt nach
Erscheinen kostenlos die neueste
Ausgabe. Registrieren Sie sich hier:
www.f-21.de/quarterly
Q3 | 2017
Digitale Diskriminierung
Immer mehr Entscheidungen werden nicht von
Menschen, sondern Maschinen getroffen. Vorurteils-
frei sind diese deshalb noch lange nicht.
W er wrde noch bestreiten, dass Al- wie die Daten, mit denen sie gefttert
gorithmen erhebliche Macht ber werden und schon diese knnen Verzer-
den Gang der Dinge haben? Immerhin rungen beinhalten. Auf unterschiedlichs-
sind sie in vielen Bereichen unseres Le- ten Wegen schleichen sich also mensch-
bens beteiligt, entscheidende Weichen liche (Vor-)Urteile und Stereotype in
zu stellen: ob wir einen Kredit erhalten, Software ein. Mehr und mehr kommt die
einen Job bekommen, welche Nach- Forschung den maschinellen Diskriminie-
richten wir lesen, welche Werbung wir rungen auf die Schliche: So entdeckte
sehen, welche Menschen wir treffen. man etwa an der Carnegie Mellon Uni-
Immer strker verbreiten sich algorith- versity, dass Googles Werbeprogramm
mische Entscheidungsverfahren, weil sie eine Anzeige fr Karrierecoaching fr
die konsistente Behandlung groer Fall- hochbezahlte Jobs fter Mnnern als
zahlen ermglichen und daher hocheffi- Frauen zeigt. Auch bei maschinellen
zient sind. Gleichzeitig eilt Algorithmen bersetzungsprogrammen macht sich
der Ruf voraus, Entscheidungen wertfrei bemerkbar, dass Maschinen hnliche As-
und unbefangen zu treffen immerhin soziationen produzieren wie Menschen
basierten sie auf und daher etwa
Daten und seien Menschliche Vorurteile und mit denselben Rol-
daher objektiv. Stereotypen schleichen sich in lenklischees agie-
Aber stimmt das Software ein, die zum Spiegel ren. ProPublica, ein
denn? unserer Gesellschaft wird. US-amerikanischer
Je intensiver sich Non-Profit-News-
die Forschung mit diesem relativ neu- desk fr investigativen Journalismus,
en Feld befasst, desto mehr Anzeichen stellte bedeutende systematische ras-
werden sichtbar, dass Ungerechtigkeit sistische Diskriminierung durch Algo-
und Diskriminierung keineswegs aus au- rithmen fest, die die Wahrscheinlichkeit
tomatisierten Entscheidungsverfahren eines Kriminellen berechnen, wieder
verbannt sind. Denn Software ist keines- straffllig zu werden. Weil solche Ergeb-
wegs frei von menschlichem Einfluss: Sie nisse zunehmend Eingang finden in wich-
wird von Menschen geschrieben und wei- tige Entscheidungen US-amerikanischer
terentwickelt, darber hinaus nehmen Gerichte, etwa im Zusammenhang mit
maschinelle Lernverfahren menschliches Untersuchungshaft oder Bewhrung,
Verhalten auf und agieren entsprechend. knnen die maschinellen Diskriminierun-
Auch sind Algorithmen immer nur so gut gen Menschen sogar ins
f/21 Quarterly Q3 | 2017

Privatlehrer fr alle!
Digitale Diskriminierung (Forts.)
Gefngnis bringen.
Weil immer mehr Daten fr Analysezwe-
cke zur Verfgung stehen, wird sich das
Feld der Einsatzbereiche algorithmischer Personalisierte Lernsysteme stellen das Ende der
Entscheidungen weiten. Whrend die
Vorteile dieses Vorgehens gut beleuch-
Flieband-Bildung in Aussicht und versprechen
tet und viel besprochen sind, scheint die mageschneiderte Bildungserfolge. Doch sind die
Bedeutung eines verantwortlichen Um- groen Verheiungen bereilt.
gangs mit Algorithmen, das heit im Ein-
klang mit ethischen und legalen Normen,
noch nicht ausreichend im ffentlichen
Bewusstsein angekommen zu sein. Na-
trlich wissen wir, dass auch Menschen in
V or nunmehr beinahe drei Dekaden, individuelles Vorankommen, an persn-
im Jahr 1988, gab der Autor Isaac liche Fhigkeiten, Interessen und Ziele
Asimov fr Bill Moyers Reihe World of anzupassen. Dabei existiert ein Sammel-
ihrer Entscheidungsfindung alles andere Ideas ein bemerkenswertes Interview, surium unterschiedlicher Werkzeuge:
als vorurteilsfrei sind. Doch sind Algorith- in dem er unter anderem auch computer- Das Spektrum reicht von responsiven
basiertes lebenslanges Lernen und On- Systemen, die im Wesentlichen Zugang
Werden Diskriminierungen line-Bildung voraussagte. Asimov wendet zu festgelegten Inhalten bieten und eine
durch maschinelle Entschei- sich gegen das gegenwrtige System der Anpassung der Benutzeroberflche zu-
dungen gar noch verstrkt? Massenbildung, in dem ein Curriculum lassen, dem Lernenden die Wahl eigener
fr alle gleichermaen gilt und zeichnet Lernpfade erlauben oder Lernmateria-
men am Werk, werden datengetriebene eine Zukunft, in der Lernende sich von len entsprechend dem ber eine Daten-
Entscheidungen massenhaft getroffen. zu Hause aus ber Computer mit riesigen analyse festgestellten Leistungsniveau
Finden wir uns also bald in einer Situati- Bibliotheken verbinden und auf jede be- prsentieren. Adaptive Systeme gehen
on wieder, in der nicht nur menschliche liebige Frage Antworten erhalten, in der darber hinaus und versuchen den Lern-
durch maschinelle Vorurteile ersetzt, jeder lernen kann, prozess flexibel
sondern sogar noch verstrkt werden? wie es ihm beliebt. Das Fliebandmodell der Mas- zu untersttzen.
Daher ist es hchst Zeit, den Blick auf Computer, so sieht senbildung verspricht Techno- Indem sie sich an
mgliche maschinengemachte Verzer- der hellsichtige Au- logie zu beenden. Die Zukunft das Verhalten und
rungen zu richten. Es gilt Transparenz tor voraus, wrden des Lernens soll stattdessen in- die Kompetenz
herzustellen und die algorithmischen der one-size-fits- dividualisiert vonstatten gehen. eines Lernenden
Entscheidungsverfahren aus ihrer Black all-Bildung ein nicht nur durch ei-
Box herauszuholen. Auch ist eine str- Ende bereiten und personalisierte Lern- nen vorgegebenen Entscheidungsbaum
kere Sensibilisierung der ffentlichkeit mglichkeiten schaffen, die die eins-zu- anpassen, sondern dabei Technologien
fr die neuen Mechanismen und deren eins-Beziehung zwischen Lernenden und des Maschinenlernens nutzen. Die am
Einflussmglichkeiten notwendig. Und Lehrenden herbeifhre. weitesten gehende Vision technologisch
nicht zuletzt wartet ein noch viel tiefer- Heute erscheint der technologische Fort- gesttzten personalisierten Lernens be-
gehendes Problem auf eine Lsung: Da- schritt einen Stand erreicht zu haben, steht in intelligenten Tutorsystemen, die
rber, was objektiv und gerecht ist und der Asimovs Utopie Wirklichkeit werden menschliche Lehrer nachahmen, proak-
was es fr einen Algorithmus bedeutet, lsst. Eine ganze Reihe von Initiativen tiv ttig werden und auf vielfltige Weise
ausbalancierte Urteile zu fllen, muss setzt sich zum Ziel, mit Hilfe datengetrie- mit dem Lernenden interagieren, indem
bereinstimmung hergestellt werden. bener Technologien Lernerfahrungen an sie etwa aus den Interaktionen mit dem
Lernenden stndig dazulernen, mit Hilfe
von Gesichtserkennung Emotionen wahr-
nehmen und Lernprozesse entsprechend
f/21 Zukunftsperspektiven anpassen. Die knstlichen Lehrer sol-
len imstande sein, individuelles Feedback
und Tipps zu geben.
Zwar ist die Vision der intelligenten Tu-
f/21 Gameful City torsysteme noch Zukunftsmusik doch
ist nicht denkbar, dass angesichts des
Die Stadt als Spielraum
BRO FR ZUKUNFTSFRAGEN

Zukunftsperspektiven rasanten technischen Fortschritts schon

Einem Brennglas gleich bndeln Stdte Probleme und Ent-
03.2017
wicklungen, doch waren sie schon immer auch Experimentier-
Gameful City felder und Laboratorien fr Neues. Daher erscheint die An-
Die Stadt als Spielraum wendung von Spielprinzipien (Gamification) lohnend, um
das Zusammenleben in der Stadt der Zukunft zu gestalten:
In der Gameful City gelingt urbane Transformation spielerisch.
kostenloser Download:
www.f-21.de/zukunftsperspektiven
bald Lehrer ersetzen werden? Die Ent-
wickler der Systeme selbst geben zu Pro-
tokoll, dass sie keineswegs daran arbei-
ten, Lehrer abzuschaffen. Die Systeme
versprechen den grten Erfolg, wenn
sie ergnzend eingesetzt werden. Noch
wei man wenig ber die neuen Techno-
logien, es fehlen empirische Belege, wie
die Systeme tatschlich auf das

f/21 Bro fr Zukunftsfragen www.f-21.de 2

f/21 Quarterly Q3 | 2017

Privatlehrer fr alle! (Forts.) gleichen gesammelt werden, wirft das ausmacht. Worin besteht der Zweck des
Lernen wirken. die Frage auf, wann die Grenze zu ber- Lernens und der Bildung? Menschen fit zu
Jedenfalls aber wird es fr deren Einsatz wachung und Kontrolle berschritten machen fr den Arbeitsmarkt? Ihnen ein
selbstndige, eigenverantwortliche Ler- wird. grtmgliches Einkommen zu verschaf-
nende brauchen. Wo immer Unterricht Ein weiteres Problem ist den Lernsys- fen? Auf ein humanistisches Bildungs-
darauf setzt, Lernende dabei zu unter- temen immanent: Damit die Software ideal hinzuwirken? Kritisch denkende
sttzen, in deren eigenem Tempo vor- adaptiv agieren kann, muss sie darauf Menschen hervorzubringen, die die Zivil-
anzuschreiten, braucht es groe Verant- hinarbeiten, die Eintrittswahrscheinlich- gesellschaft strken? Bevor nicht Einig-
wortung fr den eigenen Lernprozess. keit eines bestimmten Ziels zu erhhen. keit besteht ber das Ziel, bleiben die Er-
Lernenden werden Fhigkeiten des un- Aber welches Ziel wird den Systemen folgsversprechen der Lerntechnologien
abhngigen, eigenverantwortlichen Ler- einprogrammiert? Die Sache wird nicht zwangslufig hohl. Von der gesellschaft-
nens, Konzentrati- lichen Beantwor-
onsvermgen und Technologie nimmt fr sich in Anspruch, ein Problem zu lsen, tung der aufgewor-
anhaltende Moti- das in Wirklichkeit ein gesellschaftliches, kein technisches ist. fenen Fragen wird
vation abverlangt. Solange nicht Einverstndnis ber die Ziele von Bildung herrscht, auch abhngen,
Solche Eigenschaf- mssen die Erwartungen an Technologie gedmpft bleiben. inwieweit Asimovs
ten bringen nicht Vision berhaupt
alle Lernenden mit und schon gar nicht einfacher dadurch, dass sich Lernerfolge relevant sein kann: Denn er malt ja nicht
die jngsten unter ihnen. kaum durch ein einziges Ziel beschreiben nur Lernwelten aus, in denen Lernende
Auch Sorge um Privatsphre und Daten- lassen. Wie aber schafft es die Software, ihr eigenes Tempo gehen, sondern auch
schutz umgibt diese neuen Technologi- auf mehrere Ziele gleichzeitig hinzusteu- ihren eigenen Interessen folgen. Inwie-
en. Die Systeme setzen auf das Sammeln ern? Wie erfolgt die Abstimmung von weit werden Eltern, Schulbehrden und
von immer mehr Daten und machen da- Zwischenzielen und greren Endzielen? Arbeitgeber dies berhaupt als sinnvoll
her Entscheidungen ntig, wie diese Da- Mit ihrem Enthusiasmus nehmen die erachten?
ten verwendet werden drfen, mit wem Technologien des personalisierten Ler-
sie geteilt und warum sie berhaupt er- nens fr sich in Anspruch, so scheint es,
Fr weitere Informationen zu neuen Bil-
hoben werden. Zudem beziehen die Sys- ein Problem zu lsen, das in Wirklich-
dungswelten besuchen Sie bitte unsere
teme zunehmend auch Daten mit ein, die keit kein technisches, sondern ein ge-
Webseite oder kontaktieren Sie uns!
auerhalb des Lernkontexts herrhren. sellschaftliches ist. Immer schon fiel es
Wenn aber Daten beispielsweise durch schwer, Lernerfolg zu messen und zu www.f-21.de/fokus_neuebildungswelten
Monitoring von Social Media ber Frei- steuern, schlicht weil nicht eindeutig de- zukunft@f-21.de
zeitverhalten, Medienkonsum und der- finiert ist, was Lern- und Bildungserfolg

Wenn Roboter Roboter bauen

Artikel
Neueste Verffentlichungen:
Jenseits der Gutenberg-Galaxis. Zukunfts-
szenarien fr (ffentliche) Bibliotheken
BuB, 07/2017
Gamification. Spielerisch leicht durchs
Leben
Werkspuren, 02/2017
Spielwiese Smart City
transform, April 2017
Serious Games: Die spielende Bibliothek
goethe.de, Mrz 2017
Gameful City: Die Stadt wird zum Spielfeld
archithese, Mrz 2017
Gameful City: Spielerisch zur smarten Stadt
Carta, Mrz 2017
Spieltrieb als Erfolgsfaktor: Der Einsatz von
Gamification im Projektmanagement
Digitale Spiele im Diskurs, Mrz 2017
Die neuen Mikrounternehmer
The European, Mrz 2017
Arbeiten in der Sharing Economy: Die
Uberisierung der Arbeitswelt?
Vierteljahreshefte zur Wirtschaftsforschung, 03/2016
Selbstreplizierende Roboter haben immer schon
Fantasie und ngste der Menschen angeregt. Was
nun, wenn diese Wirklichkeit werden?
I n der Biologie ist es eine Selbstver-
stndlichkeit: Dass alles Leben sich
selbst hervorbringt, selbst reproduziert
theoretischen Konzept.
Was im vergangenen Jahrhundert John
von Neumann nicht gelang, scheint heu-
und selbst organisiert. Was die Technik te auf dem besten Weg zu sein, Wirklich-
betrifft, so gehrt die Selbstreplikation keit zu werden. Ein Forscherteam der
ins Reich der Science Fiction. Roboter, Universitt Oslo entwarf selbstlernende
die perfekte Kopien ihrer selbst herstel- und sich selbstreparierende Roboter, die
len knnen und sich alsbald schrankenlos komplexe Aufgaben in extremen Um-
vermehren sind eine uerst populre gebungen ausfhren sollen, wie etwa in
Endzeitvision. Erdrutschgebieten oder Kernkraftwer-
John von Neumann war wohl einer der ken. Diese Roboter schaffen, worin Ma-
ersten, der dieser Vision in der Wirklich- schinen normalerweise schlecht sind:
keit nahegekommen ist: In den 1940er- sich an Teilausflle und unerwartete Be-
Jahren konstruierte der berhmte Ma- schdigungen anzupassen. Sie gehen mit
thematiker hypothetisch, abstrakt eine solchen Situationen um, wie dies auch
selbstreplizierende Maschine. Sein Uni- Lebewesen tun wrden, nmlich kom-
versalkonstruktor war praktisch aller- pensatorisches Verhalten zu entwickeln,
dings nicht umsetzbar und es blieb beim das heit, verliert der Roboter ein

f/21 Bro fr Zukunftsfragen www.f-21.de 3

f/21 Quarterly Q3 | 2017
Wenn Roboter Roboter bauen (Forts.)
Bein, lernt er selbstndig, sich mit dem
verbleibenden Bein zu behelfen. Die aus-
geklgeltste Version der Roboter ist im-
stande, fr sich selbst herauszufinden,
wie sie in einer bestimmten Situation
idealerweise zusammengesetzt sein soll-
te. Je nachdem, ob es darum geht, sich
schnell fortzubewegen, klein zu sein,
oder wenig Energie zu verbrauchen,
whlt der Roboter die bestmgliche Kon-
figuration aus. In Zukunft sollen sie aber
noch mehr knnen: Beispielsweise mit
Hilfe des eigenen 3D-Druckers Teile er-
stellen, installieren, um sich selbst etwa
ber Hindernisse hinwegzuhelfen. Damit
freilich ist auch der Schritt zur Selbstrep-
likation nicht mehr fern.
Science Fiction lehrt uns, dass knstli-
ches Leben, wenn es sich selbstndig
macht, sich letztendlich zumeist gegen
Selbstreplizierende Maschinen
treten aus der Science Fiction
in die Wirklichkeit.
den Menschen selbst wendet. Was nun
also, wenn die Selbstvermehrung von
Maschinen auer Rand und Band gert?
Wie kann sichergestellt werden, dass
der Mensch stets die Oberhand behlt
und einen unendlichen Regress stoppen
kann? Wenn es mglich ist, dass Roboter
sich krperlich selbst optimieren, indem
sie sich etwa ein zustzliches Bein aus-
drucken, wenn sie dies gerade benti-
gen, wie knnen wir dann noch davon
ausgehen, dass sie nicht auch stndig
intelligenter werden? Um schlielich die
menschliche Intelligenz zu bertreffen?
Man sieht schon: Selbstvermehrende
und sich selbst optimierende Roboter
beflgeln die Fantasie, was deren Ein-
satzbereiche betrifft wahrlich scheinen
diese grenzenlos. Ebenso viele Gedanken
sollten allerdings noch in die Beantwor-
tung der durch solche Entwicklungen
aufgeworfenen philosophischen Fragen
flieen.
Impressum
f/21 Bro fr Zukunftsfragen
Nora S. Stampfl, MBA
Rosenheimer Strae 35
D-10781 Berlin
+49.30.69 59 82 58
zukunft@f-21.de
www.f-21.de
Foto:
Joe Pizzio, unsplash.com (S. 1)
f/21 Bro fr Zukunftsfragen www.f-21.de 4
Bibliotheken als Dritte Orte
Bibliotheken braucht heute kein Mensch, heit es,
wir haben doch das Smartphone. Weit gefehlt! Denn
die Bibliothek bietet mehr als Information und ge-
winnt im digitalen Zeitalter gerade als physischer Ort
an Bedeutung.
W eil sich Informationsbedrfnis- versteht der amerikanische Soziologe
se im Internetzeitalter schneller allesamt als third place, weil sie im Ge-
und komfortabler befriedigen lassen als gensatz zum first place des Wohnens
sich in die rtliche Bibliothek zu bege- und zum second place des Arbeitens
ben, wurde bereits das Aussterben von ungezwungene ffentlichkeit auf neu-
Bibliotheken an die Wand gemalt. Doch tralem Boden bieten. Nach Oldenburg
ist diese Diagnose vorschnell, waren Bi- vermittelt der Dritte Ort ein Gefhl des
bliotheken doch immer schon mehr als zweiten Zuhauses als auch der Zuge-
Verwahranstalten fr Bcher. ffentli- hrigkeit, ist leicht zugnglich und gleicht
che Bibliotheken zeichnen sich seit jeher Unterschiede zwischen Menschen aus,
durch ein niedrigschwelliges Angebot wird gern allein aufgesucht und setzt
aus, Zutritt und Anwesenheit sind kos- keine Mitgliedschaft voraus. Unschwer
tenlos und an keinerlei Bedingungen ge- knnen also auch Bibliotheken als Drit-
knpft. Doch steigt klarerweise mit der te Orte klassifiziert werden.
allgegenwrtigen Wollen Bibliothe-
Informationsver- Es erscheint paradox: In der vir- ken im 21. Jahrhun-
fgbarkeit und der tuellen Welt wird die Bibliothek dert weiter von Be-
fortschreitenden als physischer Ort bedeutender. deutung bleiben,
Digitalisierung von gilt es, neben deren
Bchern der Druck auf Bibliotheken, ihre Informationsangebot weitere Vorzge in
Rolle neu zu definieren, auch ein Stck den Vordergrund zu rcken: dass sie Indi-
weit neu zu erfinden und nicht zuletzt ihr viduum und Gesellschaft verbinden und
Angebot deutlicher zu erklren und un- ein soziales Zuhause schaffen, in dem
ter die Leute bringen. sich Menschen abseits von Familie und
Es erscheint paradox: Gerade in der di- Arbeit in Anwesenheit von anderen und
gitalen, virtuellen Welt gewinnt die Bib- in angenehmer Atmosphre aufgeho-
liothek als physischer Ort an Bedeutung. ben fhlen. Bibliotheken fllen die Rolle
Galten berlegungen hinsichtlich der Bi- ffentlicher Wohnzimmer aus: Sie sind
bliothek als physischer Raum herkmm- privater ffentlicher Raum und ermg-
lich der architektonischen und baulichen lichen das Verfolgen individueller Ziele
Aspekte der Raumgestaltung, waren und Zwecke im ffentlichen. Zudem ge-
Bestnde und Sammlungen magebend whren sie eine Auszeit von der Hektik
fr die Raumgestaltung, so geben heute des Alltags, sie sind Oasen der Ruhe, Un-
Nutzer mit ihren Bedrfnissen und dem gestrtheit und Kontemplation, bieten
Benutzerverhalten einer digitalen Infor- Rckzugsmglichkeiten und handyfreie
mationsgesellschaft den Ton an. So muss Zonen und sind Orte der Entschleuni-
man feststellen, dass Zweckbestimmung gung oder wie Klaus Kunzmann es so
und Nutzung von Bibliotheksraum nach schn nannte: Zen-Grten in der hekti-
wie vor gegeben sind, auch wenn sich schen Stadt.
Anforderungen an die Rumlichkeiten im
Laufe der Zeit verndert haben. Fr weitere Informationen zur Zukunft
Inwiefern ffentliche Bibliotheken in un- der Bibliotheken, deren Rollenwandel
serer zunehmend virtualisierten Lebens- und Neuausrichtung im Internetzeital-
welt von Bedeutung sind, dazu finden ter, besuchen Sie bitte unsere Websei-
sich in dem von Ray Oldenburg entwi- te oder kontaktieren Sie uns!
ckelten Konzept des Dritten Orts wert-
volle Ansatzpunkte. Kneipen, Buchlden www.f-21.de/fokus_zukunftbibliothek
zukunft@f-21.de
oder kleinstdtische Fugngerzonen