Beruflich Dokumente
Kultur Dokumente
Einfhrung
www.kit.edu
Allgemeine Informationen
Einfhrung und berblick
Literaturhinweise
Einfhrung
ALLGEMEINE INFORMATIONEN
Einfhrung
Lehrsthle
Institut fr Anthropomatik (IFA)
Applied Technical Cognitive Systems
Humanoids and Intelligence Systems
Lab (HIS)
Gebude 50.20
Erdgeschoss
Adenauerring 2
76131 Karlsruhe
Einfhrung
Darius Azarfar
Adenauerring 4, Geb. 50.21, Raum 202
darius.azarfar@kit.edu, Tel.: 9654 210
Sekretariate
Prof. R. Dillmann
Einfhrung
Allgemeine Informationen
Ort : HS -101 (Info)
Zeit: Dienstag, 9:45 - 11:15 Uhr
Mndlich fr Informatikstudenten als
Blockprfung (Diplom-Vertiefungsfach) sonst Module
Sprechstunde: Mittwoch, 10:00 12:00 Uhr (Bitte anmelden!)
Prfungsmodus:
Skript: Foliensammlung
Webseite: ilias.kit.edu
Passwort: ML1-WS1617
Einfhrung
Vorbesprechung
Mittwoch, 26.10.2016
15:45 Uhr
Nur mit
Voranmeldung ber
wolf@fzi.de
Einfhrung
Einfhrung
K.I.T.T.
X
10
Einfhrung
Einfhrung
Turing Test
Einfhrung
Intelligenz? - Loebner-Preis
Gestiftet vom US-Soziologen Hugh Gene Loebner
(http://www.chatbots.org/awards/loebner_prize/loebner_prize/)
100 000 US Dollar Preisgeld
Ziel: x Tester glauben lassen, sie htten sich tatschlich mit einem
Menschen unterhalten.
Einer der bekanntesten Chatbots war lange Zeit Jabberwock:
Loebner-Preis 2003, Gewinner der Chatterbox-Challenge 2005
Autor Jrgen Pirner spricht dem Chatbot knstliche Intelligenz ab:
Einen Chatbot zu programmieren ist eher eine Frage der
Verhaltensforschung und der Linguistik.
2013 - Mitsuku
13
Einfhrung
Komponenten
Denken und Problemlsen
Maschinelles
Lernen und Erinnern
Lernen I
Sprache
Kreativitt
Bewusstsein
berleben in komplexen Welten
Rezeptive und motorische Fhigkeiten
14
Einfhrung
Maschinelles
Lernen II
15
Einfhrung
16
Einfhrung
Scott, 1983)
Lernendes System:
Ein System wird als lernend bezeichnet, wenn es in der Lage ist, unbekannte
Eigenschaften eines Prozesses oder seiner Umgebung durch schrittweises
und/oder wiederholtes Handeln und Beobachten zu erfassen.
Die dadurch gewonnene Erfahrung wird benutzt, um Vorhersagen,
Klassifikationen und Entscheidungen durchzufhren, damit ein vorgegebenes
optimales Systemverhalten oder eine Leistungssteigerung des Systems erreicht
werden kann.
(Fu, 1964; Saridis, 1977)
17
Einfhrung
19
Einfhrung
Forschungsrichtungen des ML
Praxisorientiert
Aufgabenorientierte, problemlsende Systeme
Lernen = Wissenserwerb und Lsungshypothese finden
Entscheidungstheoretische Anstze
Diskriminierungsfunktionen aus einer Menge von Trainingsbeispielen
Theorieorientiert
Problemcharakteristik Methoden
Lernbarkeit analysieren
Komplexittsabschtzungen
Kognitionsorientiert
Konstruktion kognitiver Modelle oft angelehnt an menschliche oder
tierische Lernprozesse
Evolutionres Lernen
Ursprung: Neurophysiologische, biologische und psychologische
Forschung Systeme die sich je nach Umgebung anpassen
20
Einfhrung
Historie I
21
Einfhrung
Historie II
Depression (1969-1976)
Auslser: Minsky, Papert: Kritik am Perzeptron (1969);
XOR - Problem
Symbolisches begriffsorientiertes Lernen;
Ursprung: Werke von Psychologen und KI-Forschern ber
Modelle menschlichen Lernens
(Karpinski & Michalski, 1966; Simon & Lea, 1974)
Logik oder Graphen als Reprsentation
22
Einfhrung
Historie III
Einfhrung
Historie IV
Maturitt Reife (1986 bis )
Lerntheorie, Erweiterungen der Basisalgorithmen
Neuronale Netze & SVM
Reinforcement Learning
Genetische Algorithmen
Deep Learning
ML in komplexeren Problemlsearchitekturen
Kombination induktiver und deduktiver Verfahren
Kombination symbolischer und subsymbolischer Verfahren
berwachtes, Unberwachtes, aktives Lernen
ML auf den meisten KI- und Robotik-Tagungen und Workshops
24
Einfhrung
Historie V
ML als aktuelles Forschungsgebiet (. heute)
Betrachtung komplexerer realer Anwendungen
Hochdimensionale (Merkmals-) Rume (Tausende Variablen)
Lernbeispiele die nur teilweise vorhanden sind
Reprsentation und Nutzung von vorhandenem Wissen
Nutzung von lernenden Komponenten in erweiternden probabilistischen
Verfahren
Lernen vielfltiger, komplexer Zusammenhnge (Strukturen, Sequenzen)
evaluation. ML systems must be formally evaluated to ensure that the results are
meaningful. Community data sets have been made available for comparing
algorithms.
25
Einfhrung
ML heute: Beispiele I
Personenerkennung, -identifikation
Robuste Identifikation von
Benutzern (Eingesetzt z.B. in
Zugangskontrollsystemen)
Online - Suche nach a priori nicht
bekannten Objekten / Personen in
groen Video-Datenmengen
26
Einfhrung
27
Einfhrung
ML heute: Beispiele I
Personenerkennung, -identifikation
Robuste Identifikation von
Benutzern (Eingesetzt z.B. in
Zugangskontrollsystemen)
Online - Suche nach a priori nicht
bekannten Objekten / Personen in
groen Video-Datenmengen
Einfhrung
ML heute: Beispiele I
Personenerkennung, -identifikation
Robuste Identifikation von
Benutzern (Eingesetzt z.B. in
Zugangskontrollsystemen)
Online - Suche nach a priori nicht
bekannten Objekten / Personen in
groen Video-Datenmengen
Einfhrung
ML heute: Beispiele II
Einfhrung
31
Einfhrung
32
Einfhrung
ML heute: Beispiele IV
Kognitive Automobile und
Fahrerassistenz
Viele Systeme im realen Einsatz
Verkehrshinweise, Ampeln
erkennen und zuordnen,
Ausweichassistent, ...
Herausforderung: komplexe
Situationen beherrschen
Einfhrung
ML heute: Beispiele V
Skill Lernen
Beobachtung und Feedback - Imitationslernen
Trial & Error Lernen
Vielzahl von Skills insbesondere in der Humanoiden Robotik
34
Einfhrung
ML heute: Beispiele VI
Programmieren von Serviceroboter durch
Vormachen
Lernen komplexer Handlungsfolgen auf
unterschiedlichen Entscheidungs- und
Planungsebenen
gute Entscheidungen treffen in nicht
vollstndig beobachtbaren / verrauscht
beobachtbaren Situationen
35
Einfhrung
36
Einfhrung
ML heute: Beispiele VI
Programmieren von Serviceroboter durch
Vormachen
Lernen komplexer Handlungsfolgen auf
unterschiedlichen Entscheidungs- und
Planungsebenen
gute Entscheidungen treffen in nicht
vollstndig beobachtbaren /
verrauscht beobachtbaren
Situationen
37
Einfhrung
Wissensbasis
Inferenz
Ausfhrendes Element
Aufgabenstellung
38
Aufgabenlsung
Einfhrung
39
Einfhrung
Deduktiver Schluss
Definition:
Aus einer Menge von Formeln A folgt B
<=> Es gibt eine Folge von Regeln, um B abzuleiten.
Beispiele:
Modus Ponens
Einfhrung
Instantiierung
Abduktion
Definition:
H folgt aus Hintergrundwissen B und Beobachtungen D
abduktiv <=>
Also:
Ableiten der Prmisse aus Hintergrundwissen und
Beispiel
Alle Menschen sind sterblich.
Sokrates ist sterblich.
=> Sokrates ist ein Mensch.
41
Einfhrung
Induktiver Schluss
Definition:
Geg. eine Menge D von Grundbeispielen. Die Hypothese
H folgt induktiv aus D und dem Hintergrundwissen B <=>
Generalisierung:
Aus Hypothese einzelne Beispiele ableitbar, aber nicht
umgekehrt
Also gengend hohe Anzahl von Beispielen
Sokrates ist ein Mensch.
Sokrates ist sterblich.
=> Alle Menschen sind sterblich.
42
Einfhrung
Lernendes Element
Wissensbasis
Ausfhrendes Element
Aufgabenstellung
43
Aufgabenlsung
Einfhrung
Wissensreprsentation I
Assoziierte Paare
von Eingangs- und Ausgangsvariablen
Parameter in algebraischen Ausdrcken:
Anpassung numerischer Parameter oder
Koeffizienten algebraischer Ausdrcke einer festen
funktionalen Form.
- Speziell: Gewichtsmatrix
Entscheidungsbume:
Um zwischen verschiedenen Klassen zu diskriminieren.
44
Einfhrung
Wissensreprsentation II
Formale Grammatiken:
Lernen, eine bestimmte Sprache zu erkennen aus einer
Folge von Ausdrcken. Reprsentiert durch regulre
Ausdrcke, endliche Automaten, kontextfreie
Grammatiken, Ersetzungsregeln.
Produktionsregeln:
Bilden einer neuen Regel, Generalisierung,
Spezialisierung, Komposition zweier oder mehrerer
Regeln.
Formale logikbasierte Ausdrcke:
z.B. Aussagenlogik zu Beschreibung der
Eingabebeispiele und des gelernten Begriffs.
45
Einfhrung
Wissensreprsentation III
46
Einfhrung
Wissensreprsentation IV
Frames, Schemata, Semantische Netze:
Grere Wissenseinheiten als einzelne logische
Ausdrcke oder Produktionsregeln.
47
Einfhrung
Wissensreprsentation V
Markov-Ketten:
Als Reprsentation von Hintergrundwissen.
Mehrere Reprsentationsarten:
Mischung der obigen Arten.
48
Einfhrung
2
Initiale Wissensakquisition
(z.B. Beispielgenerierung)
7
Wissensanpassung /
-verfeinerung / -erweiterung
Wissensbeurteilung
Vorverarbeitung
Segmentierung
Generierung von
Trainingsdaten
6
3
Anwendung und
Interpretation des
erlernten Wissens
4
Konfigurierung des
Lernverfahrens
49
Initialer (offline)
Lernprozess
Einfhrung
50
Einfhrung
2
Initiale Wissensakquisition
(z.B. Beispielgenerierung)
7
Wissensanpassung /
-verfeinerung / -erweiterung
Wissensbeurteilung
Vorverarbeitung
Segmentierung
Generierung von
Trainingsdaten
6
3
Anwendung und
Interpretation des
erlernten Wissens
4
Konfigurierung des
Lernverfahrens
51
Initialer (offline)
Lernprozess
Einfhrung
52
Einfhrung
2
Initiale Wissensakquisition
(z.B. Beispielgenerierung)
7
Wissensanpassung /
-verfeinerung / -erweiterung
Wissensbeurteilung
Vorverarbeitung
Segmentierung
Generierung von
Trainingsdaten
6
3
Anwendung und
Interpretation des
erlernten Wissens
4
Konfigurierung des
Lernverfahrens
53
Initialer (offline)
Lernprozess
Einfhrung
54
Einfhrung
2
Initiale Wissensakquisition
(z.B. Beispielgenerierung)
7
Wissensanpassung /
-verfeinerung / -erweiterung
Wissensbeurteilung
Vorverarbeitung
Segmentierung
Generierung von
Trainingsdaten
6
3
Anwendung und
Interpretation des
erlernten Wissens
4
Konfigurierung des
Lernverfahrens
55
Initialer (offline)
Lernprozess
Einfhrung
56
Einfhrung
2
Initiale Wissensakquisition
(z.B. Beispielgenerierung)
7
Wissensanpassung /
-verfeinerung / -erweiterung
Wissensbeurteilung
Vorverarbeitung
Segmentierung
Generierung von
Trainingsdaten
6
3
Anwendung und
Interpretation des
erlernten Wissens
4
Konfigurierung des
Lernverfahrens
57
Initialer (offline)
Lernprozess
Einfhrung
Einordnungskriterien von
Lernverfahren
Typ der Inferenz
induktiv
deduktiv
symbolisch
subsymbolisch
Lernvorgang
berwacht
unberwacht
Beispielgebung
inkrementell
nicht inkrementell
umfangreich
gering
Hintergrundwissen
empirisch
axiomatisch
58
Einfhrung
59
Einfhrung
18.10.
25.10.
01.11.
08.11.
15.11.
22.11.
29.11.
06.12.
13.12.
20.12.
60
Einfhrung
10.01.
17.01.
24.01.
31.01.
07.02.
BERBLICK ML II
61
Einfhrung
Wissen ?
Wie viel?
Informationsquelle
Daten/Merkmalsraum
Lernendes Element
Semi-berwacht
Strukturen Sequenzen
Mehrstufiges Lernen
Wissensbasis
Ausfhrendes Element
Aufgabenstellung
Aufgabenlsung
Komplexe Entscheidungsverfahren
62
Einfhrung
Erweiterte Verfahren
induktiv
deduktiv
symbolisch
subsymbolisch
Lernvorgang
berwacht
unberwacht
Beispielgebung
inkrementell
nicht inkrementell
umfangreich
gering
Hintergrundwissen
empirisch
axiomatisch
Erweiterte Verfahren
kombinieren verschiedene Methoden
63
Einfhrung
Semi-berwachtes Lernen
Aktives Lernen
Deep Learning - Erweiterte Neuronale Netzte
Neue Entwicklungen Reinforcement Learning
Feature Selection (...,MIFS,MRMD)
Lernen von Gau - Prozessen
POMDP, MOMDP - Learning
Dynamische Bayessche Netze, OPRM
Visualisierung und Analyse Lernqualitt
Zusammenfassung
64
Einfhrung
LITERATURHINWEISE
65
Einfhrung
Literatur I
Tom Mitchell: Machine Learning, McGraw Hill, 1997
Neuronale Netze, Reinforcement Lernen, Evolutionre
Algorithmen, Entscheidungsbume, KBNN, Lernen nach Bayes,
...
http://www.cs.cmu.edu/~tom/mlbook.html
Duda, Hart und Stork: Pattern Classification, 2nd Edition,
John Wiley & Sons, 2001
Neuronale Netze, Unberwachtes Lernen, Hidden Markov
Modelle,
66
Einfhrung
Literatur II
Berthold und Hand: Intelligent Data Analysis, 2nd Edition,
Springer, 2003
Support-Vektor- und Kernel-Methoden, Neuronale Netze,
Michalski et al.: Machine Learning - An Artificial Intelligence
Approach, Volume I-IV, Morgan Kaufmann, 1983-1994
Unberwachtes Lernen, Entscheidungsbume,
67
Einfhrung