Qualia in der Maschine

Ist das menschliche Phänomen des subjektiven Erlebnisempfindens relevant für die
Entstehung von Künstlicher Intelligenz?

Inhalt

Einleitung 2

Grunddefinition Qualia 2

Wissenschaftliche Überprüfbarkeit der Qualia 5

Philosophische Relevanz von Qualia 7

Naturwissenschaftliche Qualia-Definition 8

Definition Intelligenz 10

Anwendung auf Künstliche Intelligenz 12

Fazit 17

Quellen 18

Schriftliche Arbeit (4KP) von Manuel Merki (08-475-261), manuel.merki@students.unibe.ch,

bei Dr. Martin Schüle, Universität Bern, martin.schuele@philo.unibe.ch.

Stand 12.08.2018

1
Einleitung
Beim Begriff der Qualia freuen sich viele innerlich, weil ihr tatsächlich erlebtes, subjektives
Empfinden des Eigenzustands einen Namen hat, der in den technischen Diskussionen ernst
genommen werden soll. Die Anderen mögen von Qualia nichts mehr hören, denn zu ungenau
werden sie beschrieben, bleiben unüberprüfbar und sind als phänomenologische Illusion
ohnehin höchstens psychologisch relevant.

Dieses Essay untersucht die philosophische Definition der Qualia anhand von Daniel Dennetts
materialistischem Weltbild und zeigt, wieso auch Qualia mit Kognitionswissenschaftlichen
Experimenten erklärbar sein müssen. Einer Erklärung der Positionen von Thomas Nagel und
John Searle folgt eine naturwissenschaftliche Definition im Sinne des Arguments, dass Qualia
funktional erklärt werden kann. Auf dieser Grundlage lässt sich subjektives Erleben theoretisch
maschinell umsetzen, weshalb es sich zu prüfen lohnt, ob Qualia starke Intelligenz befördern
könnte. Die Intelligenz wird an der Fähigkeit zur Vorhersage gemessen, nach dem
«Erinnerungs-Vorhersage Modell» von Jeff Hawkins, dass kritisch analysiert wird. Damit kann
schlussendlich die Frage beantwortet werden, ob subjektives Erlebnisempfinden eine
signifikante Position einnimmt bei der Entstehung von Künstlicher Intelligenz. Im Gegensatz
zu vielen Debatten soll nicht gefragt werden, ob einer Maschine ohne Qualia etwas fehlt. Auf
einer naturwissenschaftlichen Basis wird philosophisch untersucht, welche Rolle die Qualia bei
der Entstehung von Intelligenz einnehmen.

Grunddefinition Qualia
Um zu verstehen, ob die Qualia in der Diskussion um künstliche Intelligenz einen Platz
verdienen, muss zuerst ein gemeinsames Grundverständnis bestehen. Die Stanford
Enzyklopädie listet vier Varianten, wie Qualia von Philosophen definiert werden:

I. Phänomenologisch,
II. Qualia als Eigenschaften von Sinnesdaten,
III. Qualia als intrinsische, nicht-repräsentationale Eigenschaften,
IV. Qualia als intrinsische, nicht-physikalische, unbeschreibliche Eigenschaften.

Eine phänomenologische Beschreibung (I) ist die allgemeinste Variante, die darauf beruht wie
es ist, eine Erfahrung als Subjekt zu erleben. Verschiedenartige subjektive Erfahrungen
unterscheiden sich in ihrem phänomenologischen Charakter durch unterschiedliche Qualitäten,

2
die durch Introspektion erfasst werden können. In Variante (II) entsteht durch Betrachten eines
Objekts eine mentale Darstellung der Aussenwelt, die durch Introspektion in einzelne
Merkmale aufgeteilt werden kann. Diese intrinsischen, immateriellen Eigenschaften von
Sinnesdaten, gelten als Determinanten für die subjektive Erfahrung. Die populärste Erklärung
(III) besagt, dass Qualia a) eine intrinsische Eigenschaft der Erfahrung sind, durch Introspektion
erfassbar, b) sich verändern können, ohne dass sich das repräsentierte Objekt verändert, c) die
mentalen Entsprechungen dieser Objekte sind 1 und d) als einzige den phänomenologischen
Charakter der Erfahrung bestimmen. Eine noch striktere Sicht (IV) wird oft zum Angriff gegen
Qualia verwendet, in dem diese als Verstärkung zu (III) als nicht-physikalisch, aufgrund der
Introspektion als unbeschreiblich und wegen ihrer Subjektivität als fehlerresistent aufgefasst
werden (Tye 2018: Kpt. 1).

Daniel Dennett versteht Qualia tendenziell als Variante IV. Die Überhöhung der Qualia als
nicht-physikalisch leitet er provokativ von der unklaren Klassifizierung mentaler Phänomene
ab, beispielsweise durch Thomas Nagel in „What Is It Like to Be a Bat?“ (Nagel 1974: 435-
450). Nagel und auch John Searle argumentieren beide für Qualia der Variante III. Die
physikalische Erklärbarkeit jedes Phänomens, inklusive den Qualia, ist für Dennett zentral, da
seiner Ansicht nach auch diese naturwissenschaftlich untersuch- und erklärbar sein müssen,
wie noch gezeigt wird. Er gilt gemeinhin als Eliminativist2, der Qualia als wichtige menschliche
Illusion versteht. «Qualia ist ein ‚technischer‘ Term für etwas, dass jedem von uns sehr bekannt
ist: Die Art, wie etwas für uns scheint» (Dennett 2014: 297). Aber sobald etwas
naturwissenschaftlich erklärt werden könne, sei es weg erklärt und irrelevant.

Dennett hat als reiner Physikalist ein Problem mit den intrinsischen Eigenschaften der Qualia.
Ein intrinsischer Erfahrungsgehalt müsste unabhängig von der kausalen Determiniertheit und
logisch unabhängig von Dispositionen sein. Das würde bedeuten, dass Qualia niemals
funktional analysiert werden könnte. Ohne Funktionalismus ist nach unserem heutigen
Verständnis jedoch keine künstliche Intelligenz möglich und folglich wäre die Qualia
entscheidend für die Entwicklung starker künstlicher Intelligenz. Diesem Argument liegt
Dennetts Annahme zugrunde, dass physikalische und mentale Eigenschaften weder durch

1
Nicht unbedingt aller, aber zumindest einiger Eigenschaften wie z.B. Farbe.
2
Der Eliminativismus oder Eliminativer Materialismus beschreibt die These, laut der mentale Zustände
Erscheinungen sind, die auf materialistische Begriffe reduziert und dadurch eliminiert werden können.

3
Emergenz noch eine andere Erklärung kompatibel sind. Entweder sind phänomenale
Eigenschaften für ihn funktional erklärbar, oder sie existieren nicht. Er vergleicht intrinsische
Eigenschaften mit dem Wert von Geld, das keinen intrinsischen Wert hat3, es steht symbolisch
für einen Wert (Dennett 2014: 301).

Aufgrund seiner eigenen Konzeption des Bewusstseins 4, hält er eine begriffliche Beschreibung
von rein introspektiv zugängliche Phänomene für problematisch. Beispielhaft wird dies
geäussert in «du hättest da sein müssen». Die Subjektivität der Qualia erzeugen zudem eine Art
von Privatheit und Direktheit, die sehr intim und unmittelbarer als andere Erfahrungen
wahrgenommen wird. Solche Erfahrungen scheinen dem Subjekt alleine zu gehören (Dennett
2014: 298).

Als Funktionalist5 sieht Dennett das mentale als ein Kontrollsystem des Körpers. Auf welcher
stofflichen Basis das Gehirn funktioniert ist irrelevant, dieselbe Funktion könnte auch anderes
ausgeführt werden. Dennett postuliert damit die These der Computationalität6, laut der jede
Funktion, die computierbar, also berechenbar ist, von jeder computationalen Architektur
ausgeführt werden kann. Die Naturwissenschaften im Allgemeinen sind laut Dennett sehr stark
funktionalistisch geprägt und haben darüber hinaus eine Tendenz zum Minimalismus, indem
fortwährend nach Vereinfachungen durch allgemeinere Charakterisierungen gesucht wird. Das
Herz kann beispielsweise als Pumpe verstanden werden, die aus jedem Material bestehen kann,
solange sie pumpt und das Blut, sowie den Körper, nicht beschädigt. Diesen funktionalen
Minimalismus wendet Dennett im Speziellen auf die Kognitionswissenschaften an.

3
Dennett betrachtet alles Geld als Fiat-Geld ohne eigenen Wert, ohne Anknüpfung an eine Ressource und mit
einer funktionalen Erklärung für das Vertrauen in die Sicherheit des Geldvergebenden Staates.
4
Dennett beschreibt das Bewusstsein als Modell des zerebralen Ruhms (Dennett 2007: 178-192).
5
Der Funktionalismus beschreibt die Idee, dass mentale Zustände rein durch kausale Beziehungen beschrieben
werden können.
6
Dem Computationalismus zu Folge ist der menschliche Geist mit dem Computer vergleichbar, auf dessen
Hardware, dem Gehirn, eine Software läuft. Der menschliche Geist kann dadurch vollständig als Informationen
verarbeitendes System beschrieben werden.

4
Wissenschaftliche Überprüfbarkeit der Qualia
Zur Untersuchung der Qualia müssen Kognitionswissenschaftler*innen, im Gegensatz zum
subjektiven Erlebnisgehalt in der ersten Person, mit der Vorgehensweise in der dritten Person
agieren. Um herauszufinden, wie ein Subjekt die Welt sieht, ohne die erste Personensicht
einzunehmen, müssen die Aussagen des Subjekts in der ersten Person mit
Untersuchungsmethoden in der dritten Person kombiniert werden. Wissenschaftler untersuchen
die Äusserungen, mit dem Anspruch der Objektivität, in Form von körperlichen Reaktionen,
durch das Drücken von Knöpfen, mündliche und schriftliche Aussagen usw. Dennett gibt dieser
Standardvorgehensweise den Namen Heterophänomenologie. Heterophänomenologie ist „der
neutrale Weg, der von den objektiven Naturwissenschaften und ihrem Bestehen auf der
Perspektive der dritten Person zu einer Methode der phänomenologischen Beschreibung führt,
die (im Prinzip) dem im höchsten Masse privaten und unbeschreiblichen subjektiven Erleben
gerecht werden kann, ohne die methodologischen Prinzipien der Naturwissenschaften jemals
preiszugeben“ (Dennett 2007: 49-50). Die Kognitionswissenschaften können laut Dennett das
Gehirn vollständig untersuchen, ohne die „bewussten Erlebnisse selbst“ als Primärdaten zur
Verfügung zu haben. Die Privatheit der Qualia-Definition ist damit überwindbar und alle
Fragen zur subjektiven Erste-Person-Perspektive, welche Philosophen aufwerfen, könne die
Wissenschaft früher oder später beantworten. Einiges kann die Wissenschaft sogar besser, da
Fragen, wie zum Beispiel der Ort der Aktivität einer Funktion (z.B. der Sprachproduktion)
introspektiv gar nicht beantwortbar sind (Dennett 2007: 184).

Naturwissenschaftler*innen können nach Dennett subjektiven Erlebnisse in Experimenten ideal

untersuchen. Sie gehen dazu von einer neutrale Aussenperspektive aus, welche die Erste-
Person-Sicht ernst nimmt. Er erklärt dies anhand einer „Ineinanderschachtelung proximaler
Quellen“, die im Übergang „von den Rohdaten zu den heterophänomenologischen Welten“
angenommen werden können. Dennett listet also die Entfernung der experimentellen Messung
relativ zur Quelle auf. Diese verschiedenen Ebenen sind:

a) „bewusste Erlebnisse selbst“;

b) Überzeugungen über diese Erlebnisse;
c) „verbale Urteile“, die diese Überzeugungen ausdrücken;
d) Lautproduktion der einen oder anderen Art. (Auflistung ohne Anführungszeichen
zitiert, Dennett 2007: 58)

5
Die Rohdaten eines heterophänomenologischen Experiments sind die Äusserungen (d), welche
uninterpretiert dokumentiert werden. Die Versuchsperson äussert diese in „verbalen Urteilen“
(c) und zwar aufgrund der ihr eigenen Überzeugungen (b).

Die Forderung, dass wissenschaftliche Untersuchungen die „bewusste[n] Erlebnisse selbst“ (a)
nicht untersuchen können, aber dies können müsste um sie zu verstehen, ist aus
wissenschaftlicher Sicht ein Fehlschluss. Dennett führt aus, dass Erlebnisse, von denen das
Subjekt nicht selber überzeugt ist sie zu haben (¬ a), weder von Wissenschaftlern externalistisch
(¬d), noch vom Subjekt selber introspektiv (¬b) erfasst werden können. Sollte das Subjekt
umgekehrt glauben, dass es bewusste Erlebnisse hat (a), ohne dass diese geschehen sind,
müssen die fehlerhaften Überzeugungen (b) überprüft werden anstelle der „nicht-existenten
Erlebnisse“. Dafür muss Dennett annehmen, dass sich subjektive Überzeugungen (b) von
Personen aussprechen und beschreiben lassen. Sollte die Artikulation von subjektiven
Eindrücken der Versuchsperson nicht möglich sein, so kann auch dieser Umstand den
Forschenden mitgeteilt werden, die dann wiederum in der Pflicht sind, die unaussprechlichen
Überzeugungen zu erklären (Dennett 2007: 59). Der Vorteil der heterophäonomenologischen
Untersuchung liegt gerade im Umstand, dass Personen ihre eigenen Erlebnisse oft nur verzerrt
einschätzen können und psychologische Abläufe, wie den „Priming Effekt“7 oft nicht bemerken
(Dennett 2007: 52). Aus den interpretierten Rohdaten entwickeln Forschende dann Theorien,
die sich mit empirisch vergleichbaren Methoden, objektiv oder zumindest intersubjektiv,
überprüfen lassen. „Maximal ausgearbeitet, handelt es sich dabei um ein neutrales Portrait exakt
davon, wie es ist [Hervorhebung von M.M.], diese Versuchsperson zu sein – in den eigenen
Worten der Versuchsperson und im Lichte der besten Interpretation, die wir zustande bringen
können. Zweifelsohne sind Menschen der Überzeugung, mentale Bilder, Schmerzen,
Wahrnehmungserlebnisse und dergleichen zu haben, und diese Tatsachen – Tatsachen darüber,
was Menschen glauben und berichten, wenn sie Überzeugungen artikulieren – sind Phänomene,
denen jede wissenschaftliche Theorie des Geistes Rechnung tragen muss (Dennett 1991: 98).
Dennett nimmt Qualia also ernst als ein psychologisches Phänomen, welches Menschen
erleben, rechnet ihm aber wissenschaftlich keine Bedeutung zu, die über die Erklärung einer
Illusion hinausgeht.

7
Priming bezeichnet in der Psychologie die Beeinflussung eines momentanen kognitiven Reizes durch einen
früheren Reiz.

6
Philosophische Relevanz von Qualia
John Searle, der mit seinem berühmtesten Gedankenexperiment des Chinesischen Raums (Searl
1980) beweisen will, dass starke Künstliche Intelligenz ohne Bewusstsein nicht möglich ist,
vertritt die bekannteste Gegenposition zu Dennett. Searle beschreibt Qualia als “etwas, das man
nicht haben kann, ohne irgendetwas dabei zu empfinden”, wie zum Beispiel Schmerzen,
Geschmacks- oder Farbwahrnehmungen (Searle 1996: 284). Er hält es für ausgeschlossen, dass
die Naturwissenschaften die Qualitäten des Geistes funktional erklären können. Für ihn ist eine
funktionalistische Beschreibung von subjektiven Eigenschaften ein Kategorienfehler, da der
Funktionalismus von „Zuschreibungen aus der Sicht der dritten Person“ handelt (Searle 1996:
34). Diese Aussensicht, wie sie Forscher*innen zwangsläufig einnehmen müssen, kann durch
eine geschickte Simulation getäuscht werden. Erklärungen aufgrund des Verhaltens sind daher
nicht fälschungssicher beim Erkennen von wahrer Intelligenz. Im Gegenzug dazu bietet die
subjektive Introspektion von Searle jedoch gar keine Lösung, um Intelligenz für Dritte zu
verifizieren. Searles Leistung ist daran festzumachen, dass bisherige Verhaltensansätze keine
ausreichende Sicherheit bieten.

Die Subjektivität steht auch im Mittelpunkt der Argumentation von Thomas Nagel. Er
beschreibt in seinen Arbeiten zur Qualia eine zurückhaltende Hypothese über die vermutete
Nicht-Reduzierbarkeit von subjektiven mentalen Zuständen auf objektiv messbare
Gehirnzustände. Seine Gedankexperimente stellen die Individualität des Seins in den
Vordergrund. Für ihn endet das reduktionistische Programm des Physikalismus an der
Erkenntnisgrenze zum mentalen, ohne jedoch den Physikalismus zu verneinen oder diesem die
Entwicklung zuzutrauen, die eigene Grenze zu überschreiten. Er postulier die Andersartigkeit
von mentalen Eigenschaften zwar, schliesst eine naturwissenschaftliche Erklärung aber nicht
aus. Sein vorgeschlagener Lösungsansatz besteht in der Schaffung einer objektiven
Phänomenologie, die neue Begriffe definiert, um subjektive Erlebnisse wissenschaftlich zu
beschreiben (Nagel 1974: 449-450). Nagels eigene Beschreibung der Qualia bleibt bisweilen
verschwommen. Das liegt in seinem intrinsischen Verständnis begründet, in dem durch eine
Beschreibung eine graduell zunehmende Objektivierung stattfindet, die eine ungewollte
Entfernung von eben der zu beschreibenden, subjektiven Erlebnisperspektive schafft (Nagel
1974: 444-445). Er zitiert Louis Armstrong «nur halb im Scherz», der auf die Frage, was Jazz
ist antwortet: «If you got to ask, you ain’t never gonna get to know» (Nagel 1978: 281).

7
Der Physikalismus, oft gleichbedeutend mit dem Materialismus verwendet 8, negiert in vielen
philosophischen Ausprägungen die Relevanz des Mentalen. Oft geht diese Position zudem mit
der Reduktion aller höheren mentalen Ebenen auf eine funktional physikalische Erklärung
einher. Neben Dennett vertreten viele Neurobiologen einen solchen Standpunkt aus einer
pragmatischen Haltung der eigenen Forschungstätigkeit gegenüber, die mit harten Fakten
umgehen muss. Metaphysischen Erklärungen gegenüber ist der Physikalismus zumindest
kritisch eingestellt. 9 Theorien über den Geist sind der konstante Knackpunkt der Physikalisten,
die durch neue wissenschaftliche Daten auf eine Erklärung hoffen. Proponenten wie Dennett
interpretieren ihre philosophische Hauptaufgabe in der Ermächtigung der
naturwissenschaftlichen Erkenntnis. Empirische Daten werden zu sinnvollen Theorien über den
Untersuchungsgegenstand gedeutet, inklusive begrifflicher Schärfungen, Aufzeigen von
Relationen oder möglichen Variationen in Rück- und Vorausblick. Die Untersuchung einer
eigenen mentalen Entität ist dabei überflüssig, oder wie Searle anmerkt: «Der Materialismus
leugnet die Existenz jedes zu untersuchenden Phänomens und damit jedes Problems» (Searle
2002: 47). Im Alltagsverständnis des Menschen ist die Qualität eines Erlebnisses jedoch eine
so starke Tatsache, dass der Qualiaeliminativismus als zu einfach erscheint.

Sollte bereits hier entschieden werden, wie relevant Qualia für die Entwicklung einer starken
Künstlichen Intelligenz ist, sind die Positionen klar verteilt. Von unabdingbarer Wichtigkeit,
welche die Entwicklung von Künstlicher Intelligenz prinzipiell verhindert, über relevant für
Intelligenz, die Lebewesen ähnlich ist, bis zu Irrelevant aufgrund von metaphysischen
Verwirrungen.

Naturwissenschaftliche Qualia-Definition
Heterophänomenologische Untersuchungen sollen früher oder später aufzeigen, wie Qualia
zustande kommen. Damit postuliert Dennett, dass sich mit der Entwicklung entsprechender
Methoden, auch qualitative Erlebnisgehalte in Zukunft quantitativ messen lassen. Eine
abstrakte Betrachtung der Naturwissenschaften ist die Quantifizierung von Qualitäten durch

8
Der Unterschied liegt darin, dass Materialismus eher die historische Position darstellt, alles bestehe aus
Materieteilchen, während der Physikalismus in der Philosophie des Geistes jede physikalische Erklärung zulässt,
auch nichtmaterielle physikalische Kräfte, wie Energien und Naturgesetze.
9
Obwohl der Physikalismus auch eine metaphysische Position ist, eine monistische, wurden metaphysische
Fragestellungen geschichtlich vor allem durch die Logischen Empiristen als Scheinprobleme betrachtet.

8
experimentelle Untersuchungen. Die Frage einer plausiblen Erklärung wäre folglich nur eine
Frage der voranschreitenden Quantifizierung der Welt. Tatsächlich sind naturwissenschaftliche
Erklärungen schon heute denkbar. Für die weitere Diskussion sei im Sinne des Arguments
erlaubt, folgende naturwissenschaftliche Hypothese über die Funktion von qualitative
Erlebnisse vorzuschlagen.10

Definition Qualia:

Der Zwischenzustand, in dem der Abgleich von aktualen Erlebnissen mit vergangenen
Erlebnissen zur Erkennung von übereinstimmenden neuronalen Mustern stattgefunden hat,
jedoch noch keine Kategorisierung in begriffliche Konzepte durchgeführt wurde. In dieser
Momentaufnahme werden sowohl Botenstoffe freigesetzt, als auch grundlegende Muster im
Hirnstamm erkannt, ohne das höhere kognitive Fähigkeiten die Muster auswerten konnte.

Aktuale Erlebnisse werden durch sensorische Stimuli in das Gehirn übertragen. Die Reize
entsprechend einem bestimmten neuronalen Muster. Dieses Muster ist als eine neuronale
Ausprägung zu verstehen, die dem Erlebnis eigen ist. Je grösser die Übereinstimmung des
Musters des aktualen Erlebnisses mit den bereits abgespeicherten, vergangenen Erlebnissen,
umso stärker prägen die aufgerufenen Erinnerungen das aktuale Erlebnis mit. Die Summe aller
vergangenen Erlebnisse bilden die Gewichtung der Daten im Gehirn. Die Ausprägungsstärke
wird durch chemische Botenstoffe, den Neurotransmittern manifestiert und durch neue
Erlebnisse aktualisiert. Wenn nun ein neues Erlebnis durch Reize ins Hirn kommt, dann werden
alte Erinnerungen wachgerufen, die Botenstoffe freisetzen und sich damit in einer bestimmten
Art und Weise anfühlen. Diese Muster werden im nächsten Schritt erst von höheren
Hirnprozessen einzelnen Begriffen zugeordnet, verstanden als bereits kategorisierte Muster, in
Relation zueinander gesetzt usw.

Als Qualia werden nun Erlebnisse beschrieben, welche weitgehend unkategorisiert sind, jedoch
bereits als Muster in tieferen Hirnhierarchien eine chemische Reaktion auslösen. Durch die
fehlende Kategorisierung entsteht eine Art von intimer Privatheit, ein Zustand ohne ordnende
Begriffskonzepte, die nur dem Subjekt direkt zugänglich ist. Somit lässt sich erklären, wieso
qualitative Erlebnisse schwer beschrieben werden können. Exakte Begriffe existieren kaum für

10
Es ist wahrscheinlich, dass diese Definition kein völliger Neuvorschlag darstellt. Sie dient lediglich der
hoffentlich einigermassen plausiblen Erklärung von Qualia als naturwissenschaftlich messbare Funktion.

9
subjektive Erlebnisinhalte, weshalb Beschreibungen für gewöhnlich durch Metaphern
Erinnerungen auf zu rufen versuchen, die für die Entstehung des uninterpretierten Gefühls
zuständig sind. Die ausstehende Kategorisierung im Qualia-Zwischenzustand liefert auch eine
Erklärung, warum uns Qualia als unabhängig von Kausalität erscheint. Dispositionen, in Form
von eingeprägten Erlebnissen, üben einen starken kausalen Einfluss aus, der jedoch dem
Subjekt auf niederen kognitiven Verarbeitungsebenen des Hirnstamms nicht zugänglich sind.
Dem Subjekt können Qualia intrinsisch vorkommen und trotzdem extrinsisch messbar sein.
Damit sind die Qualia gewissermassen philosophisch konventionell definiert (Vgl. Kapitel
Grunddefinition Qualia).

Wenn die gegebene Beschreibung, dem Argument halber, als akkurate Erklärung angenommen
wird, kann Qualia vollständig auf funktionalen Prozessen beruhen, die den wahrgenommenen
Zustand verursachen. Mit einem solchen Beweis wäre die Reduktion geglückt. 11

Definition Intelligenz
Um die Frage beantworten zu können, welche Rolle Qualia bei der Erschaffung von Künstlicher
Intelligent einnehmen, muss als zweites geklärt sein, wie Intelligenz verstanden werden soll.
Der Neurowissenschaftler Jeff Hawkins beschreibt im Buch «On Intelligence» ein Modell von
Intelligenz, das auf der Fähigkeit des Neocortex beruht, Vorhersagen zu treffen. Er nennt es das
«Memory-Prediction Framework», in Deutsch etwa «Erinnerungs-Vorhersage Modell» der
Intelligenz. «Intelligenz wird gemessen an der Fähigkeit, sich Muster in der Welt zu merken
und vorherzusagen, unter anderem Sprache, Mathematik, physikalische Eigenschaften von
Objekten und soziale Situationen. Unser Gehirn erhält Muster von der Aussenwelt, speichert
sie als Erinnerungen ab und macht Vorhersagen, indem es kombiniert, was es bisher gesehen
hat und was jetzt geschieht.» (Hawkins 2014: 97). Menschliche Intelligenz hängt demzufolge
von zwei Hauptfaktoren ab: Einerseits von den unterschiedlich ausgeprägten
Speichermöglichkeiten und andererseits von der Fähigkeit, Vorhersagen über die Zukunft zu
treffen. In den Worten der Computabilisten von der Kapazität der Hardware und der Software.

11
Die Ebene des Mentalen ist damit nicht weniger relevant und es folgt nicht zwingend, dass Qualia nur eine
Illusion aus Funktionen sind. Aufeinander aufbauende Ebenen können zwar reduktionistisch erklärt, müssen
aber nicht eliminiert werden.

10
Das Gehirn wendet grosse Teile der verfügbaren Speicherkapazität dafür auf, ein möglichst
kohärentes Modell der wahrgenommenen Welt zu erschaffen. Neue Wahrnehmungs-Daten
kann es mit dem bestehenden Modell abgleichen und bewerten. Aus der Erinnerung kann das
Hirn danach ableiten, also vorhersagen, was als nächstes geschieht oder geschehen soll. Dieser
Prozess geschieht grösstenteils unbewusst 12 und läuft konstant im Hintergrund. Jede äussere
und innere Wahrnehmung oder Handlung wird vom Hirn zuerst vorhergesagt und dann
aktualisiert.13 Das Gehirn vergleicht die aktuellen Wahrnehmungs-Eingänge mit den
vergangenen Erfahrungen aufgrund von neuronalen Mustern und assoziiert Analogien mit
ähnlichen Erfahrungen, um Vorhersagen zu treffen (Hawkins 2014: insbesondere Kapitel 5). 14

Beispiele liefert Hawkins viele. In jedem menschlichen Auge befindet sich bekanntlich ein
blinder Fleck, der jedoch nicht wahrgenommen wird. Eigentümlicher Weise ist dieser auch
beim Schliessen eines Auges nicht sichtbar, was die Überschneidung des Wahrnehmungsfelds
als Erklärung wegfallen lässt. Das Hirn füllt den Inhalt des Flecks durch Vorhersage auf. In
Gesprächen mit Menschen, wird laufend vorhergesagt, was die andere Person als nächstes sagt,
was oft dazu führt, dass nicht mit derselben Aufmerksamkeit zugehört oder schon vor der
Äusserung das Ende des Gesprächs erdacht wird. Beim Musikhören weiss das Hirn bereits wie
ein unbekanntes Stück weitergeht, aufgrund der harmonischen Struktur, solange es dieser folgt.
Bei jedem gelaufenen Schritt sagt das Hirn voraus, wie weit der Fuss sich bewegen kann und
wie sehr der Boden nachgeben wird. Gut bemerkbar, beim versehentlichen auslassen einer
Treppenstufe.

12
Ich nehme an, dass vor allem Prozesse (bzw. Muster) bewusst werden, über die keine klare Vorhersage getroffen
werden kann. Das geschieht aufgrund von fehlender oder unklarer Information oder wenn das Ergebnis nicht
mit ausreichender Signifikanz für eine Option entscheidbar ist. Diese Vermutung ist nicht neu.
13
Das würde auch mit den Experimenten übereinstimmen, die zeigen, dass Entscheidungen bis zu 10 Sekunden
vor deren Bewusstwerdung schon getroffen wurden (Soon 2008).
14
Jeff Hawkins erklärt die Entwicklung des menschlichen Gehirns evolutionsbiologisch damit, dass mehr
Speicherkapazität durch die Entwicklung des Neocortex einen Überlebensvorteil bot. Die motorischen
Reaktionen des Reptilienhirns konnten durch die Fähigkeit zur Abspeicherung schneller auf die aktuelle
Situation angepasst werden. Zur Entwicklung von höheren Fertigkeiten wie dem Werkzeuggebrauch oder der
Sprache wurden die flexiblen Algorithmen im Neocortex und die Verknüpfungen in der Speicherung soweit
optimiert, dass immer mehr Kontrolle vom Neocortex übernommen wurde. Ein Grossteil der motorischen
Fähigkeiten im heutigen Menschenhirn werden vom Neocortex und nicht mehr vom Reptilienhirn (Hirnstamm)
gesteuert. Statt nur Vorhersagen zu treffen, basierend auf dem Verhalten des Reptilienhirns, steuert das Gehirn
heute unser Verhalten, um die Vorhersagen wahr zu machen (Hawkins 2014: 97-104).

11
Auch komplexe Prozesse sind mit der Vorhersage erklärbar. Ein Produktdesigner versucht
beispielsweise vorherzusagen, was die Käufer haben wollen, was die Konkurrenz tun wird, wie
viel das Design etwa kosten könnte oder was in Zukunft in Mode ist. Die Wissenschaften
arbeiten genau nach dem Prinzip, eine Hypothese aufzustellen und diese zu testen. Klassische
IQ Tests prüfen vor allem die Fähigkeit zur Vorhersage, mit Fragen wie «Wort A steht zu Wort
B, wie Wort C zu was für einem Wort?» oder «Führen Sie die Zahlenreihe fort...».

Je graduell intelligenter ein Lebewesen ist, umso besser sind seine Fähigkeiten, Probleme mit
mehr unbekannten Variablen zu lösen. Stark spezialisierte Systeme können in einem engen
Bereich fast jede Aufgabe lösen bzw. eine Vorhersage über das Ergebnis treffen. Allgemeiner
intelligente Systeme haben ein grösseres Anwendungsfeld und gleichen unbekannte Aufgaben
mit einem breiteren Wissensfeld (bzw. Erinnerungen) ab. Es scheint, dass sich Intelligenz mit
der Definition von Jeff Hawkins ausserordentlich gut charakterisieren lässt. Für die Erzeugung
von guten Vorhersagen wird jedoch Kreativität benötigt. Laut Hawkins, sei diese ebenfalls eine
Vorhersage, indem über Analogieschlüsse von ähnlichen (Teil-)Mustern auf andere
geschlossen wird. Hier stösst das Modell an seine Grenzen. Zwar dient die Kreativität der
Findung, das heisst schlussendlich der Vorhersage von Handlungsoptionen, sie selber wird
damit jedoch nicht erklärt. Jeff Hawkins ist sich bewusst, dass die Struktur im Gehirn eine
wichtige Rolle spielt, um neue Verknüpfungen mit bekannten und unbekannten Mustern zu
erstellen. Eine Erklärung, wie die kreative Findung von neuen Verknüpfungen der Neuronen-
Mustern funktioniert, kann das Modell der Erinnerung und Vorhersage nicht geben. Das
höchste Ziel aller Hirnaktivitäten ist das Überleben und dazu arbeitet es kreativ optimale
Strategien aus. Die Vorhersage ist eine wichtige Komponente dieser Strategien, welche die
verschiedenen Ergebnisse mental austestet. Davor müssen diese Reaktionsstrategien aber erst
entwickelt werden und der Verweis auf das Ziehen von Analogien ist dafür zu schmal. Nichts
desto trotz scheint die Vorhersage geeignet, um zu prüfen, inwiefern Qualia für Maschinen
interessant sein kann.

Anwendung auf Künstliche Intelligenz

Künstliche muss nicht identisch wie menschlichen Intelligenz funktionieren. Die Flügel eines
Flugzeugs sind ganz anders aufgebaut als die eines Vogels und trotzdem bedienen sie sich
desselben Prinzips um zu fliegen. Die Aerodynamik des Vogels im Gleitflug ist identisch zu
der eines Flugzeugs, da alle Flügel die Luft nach unten ablenken und damit einen Auftrieb
erzeugen, der grösser ist als das Gewicht des fliegenden Objekts. Woraus die Flügel beschaffen
12
sind und sogar wie sie mechanisch funktionieren ist nicht zentral, um Auftrieb zu erzeugen.
Das Material muss jedoch gewissen Bestimmungen genügen, das heisst mehr Auftrieb erzeugen
als Gewicht haben. Die Embodiment These15 hat vermutlich aufgrund dieser intuitiven
Richtigkeit grossen Führspruch erfahren.

Die Analogie der Flügel soll auch die These der Berechenbarkeitstheorie im
Computationalismus sichtbar machen, wonach Software auf unterschiedlicher Hardware
ausgeführt werden kann. Manche Hardware eignet sich besser, das heisst, sie errechnet
schneller das gewünschte Ergebnis, aber solange sie Turing-vollständig ist, kann jede
Berechnung prinzipiell ausgeführt werden. Die Voraussetzung ist das Verständnis der
wissenschaftlichen Gesetzmässigkeiten. Erst wenn sowohl die Hardware als auch die Software
Turing-Vollständig sind, funktioniert die multiple Realisierbarkeit16. Wie beim Flügel und beim
Flugzeug muss das zugrundeliegende Prinzip, oder die Prinzipien, verstanden werden, nach
denen das Gehirn arbeitet. «Das menschliche Gehirn ist der einzige Beweis dafür, dass die Art
von allgemeiner Intelligenz, die wir zu entwickeln versuchen, überhaupt möglich ist, also
denken wir, dass sich die Anstrengung lohnt, zu Verstehen wie es diese Fähigkeiten erreicht.»
wie Demis Hassibis, Mitgründer von Googles DeepMind sagt (in Hawkins 2017).

Spezialisierte künstliche Intelligenz scheint sich kaum von spezialisierter menschlicher

Intelligenz zu unterscheiden, abgesehen von der Umsetzung der Ergebnisse auf bestimmter
Hardware. Biologische Neuronen können zwar bedeutend weniger Operationen pro Sekunde
ausführen als ein Computer mit Transistoren Datenbanken auswertet (ungefähr 1000 gegenüber
1 Milliarde Operationen pro Sekunde), das biologische Hirn arbeitet dafür erheblich effizienter.
Im Vergleich zur digitalen Variante benötigt es ein Bruchteil (ca. 1/10) der Ressourcen, um
dasselbe Ergebnis zu erzielen. Computer können den Unterschied mit viel höheren Leistungen
ausgleichen und werden schneller weiterentwickelt, als das Hirn dies vermag.17

15
Die Embodiment These hebt die Relevanz der Einbettung des Mentalen in einen Körper hervor. Jede geistige
Entität braucht eine Verkörperung und wird davon geprägt.
16
Das Argument der Multiplen Realisierung hat Hilary Putnam (1967) beschrieben und Jerry Fodor (1974)
verfeinert. Mit der Multirealisierung mentaler Zustände hat Putnam die Identitätstheorie widerlegt, wonach ein
mentaler Zustand nicht mit einem einzigen Gehirnzustand identisch sein kann. In der K.I. Forschung geht man
aufgrund der Turning-Vollständigkeit seit jeher von einer multiplen Realisierbarkeit aus.
17
Ein interessanter Vergleich mit Angaben zur Leistung zwischen Hirn und Computer findet sich in (Luo, 2018).

13
Mit der Verwendung der Vorhersage als Massstab für Intelligenz, sind manche «Deep Learning
Netzwerke»18 bereits hochbegabt. Sie besitzen riesige Speicherkapazitäten und können
aufgrund der erlernten Verknüpfungen genauere und komplexere Vorhersagen treffen als
Menschen. Dazu zählen vor allem stark spezialisierte Systeme wie IBMs Schachcomputer Deep
Blue oder Googles AlphaGo im Brettspiel «Go». Auch menschliche Fachexperten eins
Themenfelds können fast jede Frage ihres Wissensgebietes beantworten und dort die Grenzen
der Erkenntnis verschieben. Es scheint im Licht der Spezialisierung für Vorhersagen plausibel,
dass Inselbegabte als menschliches Extrem oft mit alltäglichen Herausforderungen Mühe
haben. Intelligenz ist einerseits eine graduelle Eigenschaft, die bisher nur zwischen Lebewesen
grössere Sprünge macht. Andererseits ist sie durch ihre Ausprägungen in der Spezialisierung
unterscheidbar, welche zur Erfüllung von Aufgaben in der Umwelt eines Lebewesens benötigt
werden.

In der Forschung an Künstlicher Intelligenz wird versucht, die relevanten Fähigkeiten zu

spezifizieren, die nötig sind um eine grosse Bandbreite an unbekannten Aufgaben lösen zu
können. Es existieren Ansätze, um Internet Suchmaschinen als allgemeine künstliche
Intelligenzen zu verstehen und einen Intelligenzquotienten zu bestimmen. 19 Das Unternehmen
DeepMind lässt ihre künstlichen Intelligenzen Computerspiele selbständig erlernen, ohne das
Spielprinzip einzuprogrammieren. Das neuste und komplexeste Spiel ist der Spielklassiker
Quake III, in dem Computeragenten nachdem sie zuerst unterlagen, mit menschlichen Spielern
gleichauf ziehen und mit ihnen zu kooperieren lernen, um dann auch sehr starke menschliche
Spieler zu besiegen (DeepMind 2018). Laut Searle sind solche Intelligenzen nicht intelligent,
sondern simulieren bloss den Verstand. Er unterscheidet nicht zwischen spezifischer und
allgemeiner, sondern zwischen schwacher und starker Künstlicher Intelligenz. Unter schwache
KI fallen alle heute verfügbaren Systeme, denn keines habe echtes Bewusstsein. Meteorologen
können Regenstürme in London mit Computern modellieren, die sehr authentisch sein mögen,
aber niemanden nass machen. Ebenso würde ein Computermodell des Bewusstseins nur
simuliert sein (John R. Searle, Consciousness and Language, p. 16). Das Verhalten ist kein
zuverlässiger Indikator dafür, dass ein Agent den intentionalen Gehalt seiner Handlung

18
Zum Verständnis von maschinelle Lernmethoden ist der Artikel in der Nature zur Entwicklung von «Deep
Learning» sehr lesenswert (LeCun 2015: 436-442).
19
Googles AI Suchalgorithmus soll mit einem IQ von 47 vergleichbar sein. Ein sechs jähriges Kind hat einen IQ
von etwa 55 (Liu 2017).

14
versteht. Searle versteht den Menschen auch als eine Maschine, allerdings eine biologische, die
fähig ist Bewusstsein zu erzeugen. 20 Nur durch Bewusstsein ist seine Definition von starker
Intelligenz erfüllbar. Obwohl Searle oft markante Schlüsse zieht wie «das Projekt von starker
KI ist nicht realisierbar» (Searle 1983: 674), scheint seine nicht immer eindeutige Position
vereinbar mit nicht-biologischer Materie als Grundlage für Bewusstsein. Es ist der subjektive
Aspekt des Verstandes, der ihm als Hindernis für eine Erklärung gilt.

Für Daniel Dennett wird mit rein subjektiven Methoden eine sinnvolle Erklärung
ausgeschlossen, denn jeder Untersuchungsgegenstand muss auch objektiv zugänglich sein, um
ihn zu beweisen oder zu widerlegen. Mit der Heterophänomenologie können wissenschaftliche
Untersuchungen über das Bewusstsein durchgeführt werden, die potentiell alles abbilden was
ein Mensch bewusst interpretiert, nicht aber den Erlebniszustand selbst. Dieser sei, wie
gesehen, für die Untersuchung jedoch irrelevant, denn wenn er vom Subjekt nicht interpretiert
werden kann, ist er weder objektiv noch subjektiv zugänglich. Daraus folgt allerdings nicht,
dass subjektive Erlebnisse in Form von mentalen Zustände nicht existieren.

Das subjektive Erlebnisempfinden scheint unter Philosophen wie Searle oder Nagel, die der
Subjektivität einen übergeordneten Wert zumessen, den greifbarsten Bestandteil von
Bewusstsein darzustellen. Die Gedankenexperimente über die Qualia befördert die Intuition
eines unzugänglichen Subjekts, als Zentrum eines Ich-Bewusstseins. Diese innere
Wahrnehmung mag korrekt und plausibel sein - was jedoch eine objektive Zugänglichkeit eines
körperlichen Phänomens nicht ausschliesst. Auch wenn der menschliche Geist mehr ist als
Materie, so ist er zweifelslos auch im Körper manifestiert. Sowohl Searle als auch Nagel
akzeptieren eine physikalische Erklärung, selbst wenn es in ihren Texten absatzweise scheint,
als ob sie dies bestreiten.21 Nagel sieht den Physikalismus vielmehr an einer Erkenntnisgrenze,
die möglicherweise überschritten werden kann und Searle stellt sich mit dem Biologischen
Naturalismus offensichtlich nicht gegen eine naturwissenschaftliche Erklärung.

Eine naturwissenschaftliche Erklärung der Qualia, wie sie im vorliegenden Essay

vorgeschlagen wurde, ermöglicht die Reduktion dieses mentalen Phänomens auf eine Funktion.

20
Diese Ansicht führt zu seiner Position des «Biologischen Naturalismus» (Searle 2010).
21
Searle mit seinen Strohmann-Attacken auf den Materialismus (Searle 1996: 19) und Nagel mit seinem Zweifel
daran, dass subjektive Erlebnisqualitäten irgendwann mittels physikalischer Gesetzmässigkeiten erklärt werden
könnten (Nagel 1974: 437).

15
Da die hypothetische Erklärung gleichzeitig mit der impliziten Charakterisierung beider
Philosophen übereinstimmt, erweist sie sich als weit weniger Bedrohlich für künstliche
Intelligenz als angenommen wird. Qualia sind entweder dann relevant, wenn mit ihnen bessere
Vorhersagen getroffen oder bessere Lösungsansätze entwickelt werden können. Zur
Erinnerung: Qualia werden verstanden als Zustände bei denen neuronale Wahrnehmungs-
muster durch den Abgleich mit bisherigen Erfahrungen gewichtet, also auf tieferen
Hirnhierarchien verarbeitet, aber in höheren noch nicht kategorisiert wurden.22 Die Gewichtung
geschieht durch chemische Reaktionen, welche als Emotionen wahrgenommen werden. Die
Beeinflussung von Qualia auf andere Hirnprozesse auf niedrigem Level ist vorstellbar, da jede
neue Erfahrung potentiell die Gewichtung verändern kann. Höchstwahrscheinlich haben neue
Erfahrungen auch einen Einfluss auf die Gewichtung von kategorisierten Konzepten auf
höheren Ebenen, da sie auf den tieferen aufbauen. Sobald sie vom Gehirn jedoch genauer
verarbeitet werden, verflüchtigen sie sich. Das ist vielleicht die Erklärung dafür, wieso
«magische Momente» oder «mystische Erfahrungen» mit Worten so leicht zerstört werden. Die
Erlebnisse, auf denen solche Qualia aufbauen, haben wie jede andere Wahrnehmung einen
Einfluss auf die Intelligenz. Es ist vorstellbar, dass die Subjektivität des Erlebnisses sogar einen
Einfluss auf «Bauchentscheide» haben kann, Vorhersagen ohne rationale Abwägung.
Intelligenz, die mehr ist als die basale Verarbeitung im Hirnstamm, kann damit nicht in einen
direkten Zusammenhang gebracht werden.

Es ist unklar, warum es überhaupt wichtig ist, dass sich der subjektive Eindruck auf eine
bestimmte Art und Weise anfühlt. Wenn die Emotionen bei den Qualia den entscheidenden Teil
ausmachen, dann muss die Frage diskutiert werden, ob Künstliche Intelligenz Emotionen
benötigt. Das ist eine wichtige Frage mit ganz neuen Herausforderungen. Emotionen scheinen
wesentlich, um gute Vorhersagen in menschlichen Interaktionen zu treffen. Wenn hingegen
Subjektivität der zentrale Teil der Qualia ist, bedeutet das für künftige Modelle vor allem, die
Eigenwahrnehmung konzeptionell explizit von der Aussenwahrnehmung zu unterscheiden. Die
Künstliche Intelligenz muss die eigenen Einschätzungen aufgrund des Dateneingangs mit den
Fremdeinschätzungen abgleichen und als solche integrieren können, wo sie das noch nicht
bereits macht.

22
Das bedeutet selbstverständlich nicht, dass Qualia als aktive Neuronen-Muster nicht erinnert werden können.
Auch auf niederen Hirnhierarchien werden Zustände abgespeichert und abgerufen.

16
Fazit
Der subjektive Zustand «Wie es ist, ein Programm in einer Maschine zu sein» hat keine
Relevanz bei der Frage nach Intelligenz. Qualia scheint ein Nebenprodukt der Wahrnehmungs-
Verarbeitung zu sein, kein Leitprinzip. Nur weil Qualia naturwissenschaftlich erklärt und
gemessen werden können, werden sie jedoch nicht irrelevant. Sie werden zu dem was mit allem
bisher geschehen ist, was empirisch überprüft werden konnte. Eine bewiesene Tatsache über
eine Funktion im menschlichen Gehirn. Wie sich die Funktion auf das Gesamtkonstrukt
auswirkt, wäre dann Gegenstand weiterer Forschung.

Wenn die Vorhersage zum Beweis einer dem Menschen ähnlichen Denken genügte, wäre der
Turing-Test überflüssig. Das Problem der Simulation würde gar nicht erst auftreten. Searles
Chinesisches Zimmer wäre Intelligent, wenn es die chinesische Geschichte mit einer gewissen
Plausibilität stringent vorhersagen könnte. Für eine Erklärung des Bewusstseins wäre das zu
wenig und aufgrund der Unvollständigkeit der Intelligenzdefinition nicht plausibel genug.

Wenn starke Künstliche Intelligenz ein Bewusstsein haben muss, um ‘wirklich’ intelligent zu
sein, dann kann dieses Bewusstsein nicht durch das subjektive Erlebnisempfinden begründet
werden. Es scheint keine schlüssige Idee zu existieren, wieso Qualia zu Bewusstsein und damit
zu starker Intelligenz führen sollte. Die Idee der Qualia ist bei der Entwicklung von künstlicher
Intelligenz kein Hindernis, welches Forscher*innen aufhalten wird.

17
Quellen
DeepMind Blog (2018): Capture the Flag: the emergence of complex cooperative agents.
URL = https://deepmind.com/blog/capture-the-flag/

Dennett, Daniel C. (1969): Content and Consciousness. Routledge, London, S. 165-178.

Dennett, Daniel C. (2014): Intuition pumps and other tools for thinking. Penguin Books,
London. S. 274-369.

Fodor, Jerry: Special sciences (1974): in Synthese 28, S. 97–115

Hawkins, Jeff (2017): The Secret to Strong AI, Blog, URL =

https://numenta.com/blog/2017/11/14/secret-to-strong-ai/

Hilary Putnam (1967): Psychological Predicates, in W. H. Captain (Hrsg.): Art, Mind and
Religion, Pittsburgh, S. 37–48

LeCun, Yann / Bengio, Yoshua / Hinton Geoffrey (2015): Deep learning. Nature, Vol 521,
Macmillan Publishers Limited, S. 436-444.

Liu, Feng / Shi, Yong / Liu, Ying (2017): Intelligence Quotient and Intelligence Grade of
Artificial Intelligence. URL = https://arxiv.org/ftp/arxiv/papers/1709/1709.10242.pdf

Luo, Liqun (2018): Why Is the Human Brain So Efficient? in Nautilus 59. URL =
http://nautil.us/issue/59/connections/why-is-the-human-brain-so-efficient

Searle, John R. (1980): Minds, Brains and Programs, Behavioral and Brain Sciences 3. S.
417–457

Searle, John R. (1983): Can Computers Think? Minds, Brains, and Science. Harvard
University Press, S. 28-41.

Searle, John R. (1992): Thinking about the Real World by Dirk Franken, Attila Karakus, and
Jan G. Michel.

Searle, John R. (1996): Die Wiederentdeckung des Geistes. Frankfurt, S. 284

Searle, John R. (2002): Consciousness and Language. Cambridge University Press, S. 47.

Soon, C. S., Brass, M., Heinze (2008): H.-J. & Haynes, J.-D. Nature Neurosci. doi:
10.1038/nn.2112.

Sorem, Erik (2010): Searle, Materialism, and the Mind-Body Problem. Perspectives:
International Postgraduate Journal of Philosophy, UCD Dublin, S. 30-54.

Tye, Michael (2018): "Qualia", The Stanford Encyclopedia of Philosophy, Edward N.

Zalta (ed.), URL = https://plato.stanford.edu/archives/sum2018/entries/qualia/.

18
Eigenständigkeitserklärung

Hiermit erkläre ich, dass ich meine freie schriftliche Arbeit eigenständig und nur mit den
angegebenen Hilfsmitteln und der angegebenen Literatur verfasst habe.

Manuel Merki

19