1 Organisatorisches Und Perzeptronen

KI-29: Deep Learning
Prof. Dr. Florian Wahl

Fakultät für Angewandte Informatik
Technische Hochschule Deggendorf
Sommersemester 2024
Prof. Dr. Florian Wahl (AI, THD) Deep Learning Sommersemester 2024 1 / 20
Inhaltsverzeichnis
1 Organisatorisches
2 Perzeptronen
Veranstaltungsziele
Lernziele
1 Die Studierenden verstehen die Konzepte der gängigsten Ansätze aus Big
Data und Deep Learning.
2 Die Studierenden können hochqualitative Programme unter Einsatz von Big
Data- und Deep Learning-Technologien zu erstellen.
3 Die Studierenden können eigene Verfahren umsetzen und gegenüber
konkurrierenden Ansätzen verteidigen.
4 Im Rahmen der Lehrveranstaltung finden Programmierübungen statt. Die
Studierenden sind damit auch in der Lage, Programme anderer
Studierenden zu verstehen, zu kritisieren und zu komplementieren.
Fahrplan
Vorlesungsteil Deep Learning

Wir lernen Neuronale Netze stückweise von innen nach außen kennen
Implementierung eines eigenen Netzes “from scratch”
Aufbauend auf dem Buch “Neural Networks from Scratch in Python”
Gleichzeitig hören Sie bei Professor Glauner den Big Data Teil der Veranstaltung.
Prüfungsleistung
Paperpräsentation
Keine Klausur
Sie finden eine:n Partner:in (z.B. Ihre:n Partner:in aus dem Big Data Teil)
Gemeinsam wählen Sie bis zum 31. März ein Paper aus und posten ihre
Wahl im Forum
Sie lesen das Paper und bereiten einen 10 minütigen Vortrag vor
Vorträge werden in den letzten Vorlesungswochen präsentiert
Folien werden über iLearn abgegeben
Paper stehen Ende der Woche im iLearn
Struktur
Wissensvermittlungsphase
Erklärung der Mathematik / Theorie eines Teils
Von innen nach aussen
Praxisteil ist Übung für zu Hause
Praxisbeispiel zur Vorwoche von Ihnen erklärt
Struktur
Präsentationsphase
Präsentationen ihrer Papers in den letzten Wochen
Materialien und Fragen
Materialien
Alle Materialen werden über iLearn verteilt
Einreichung der Projektpräsentation via iLearn
Fragen und Sprechstunde

Fragen bitte im Frageforum in iLearn (und nicht per Email)
Sprechstunden Termine über Verena Windorfer-Bogner vereinbaren
(verena.windorfer-bogner@th-deg.de)
Wer bin ich?
Prof. Dr. Florian Wahl

Professor für sensorbasiere KI-Systeme in der Pflege
Leiter der Forschungsgruppe “Artificial Intelligence for
Context and Activity Recognition”
10+ Jahre maschinelles Lernen
10+ Jahre in Python
Stationen im Silicon Valley und den Niederlanden
Interesse an Hardware, insb. Sensorik und
Wearables
Literaturempfehlungen
H. Kinsley and D. Kukieła, Neural Networks from Scratch in Python,

NNFS.io, 2020.
F. Chollet, Deep learning with Python, Simon and Schuster, 2021.
Matthes, E., Python Crash Course: A Hands-On, Project-Based
Introduction to Programming. United States, No Starch Press, 2015.
Wer sind Sie?
Vorstellungsrunde
Wie heißen Sie?
Welche eine Sache weiss noch niemand hier im Raum von Ihnen?
Inhaltsverzeichnis
1 Organisatorisches
2 Perzeptronen
Deep Learning
Deep Neural Nets sind ein Teilgebiet der

Neuronalen Netze
Neuronale Netze sind ein Teilgebiet des
Maschinellen Lernens
Maschinelles Lernen ist ein Teilgebiet der
Künstlichen Intelligenz
Maschinelles Lernen
Grundlegendes
Eingänge: Merkmale oder Features
Ausgang: Zielgröße oder Target
Extrahiert Wissen aus Erfahrung
▶ Daten liefern Erfahrung
▶ Wissen wird in Parametern des Modells gespreichert
Ziel ist es Muster zu erkennen und in Modellen zu speichern
Ziel ist es nicht, Daten auswendig zu lernen
Unterscheidung in zwei Gruppen
▶ Überwachtes Lernena
▶ Unüberwachtes Lernen
a
https://nnfs.io/qtb/ zeigt ein Neuronales Netz bei der Klassifikation
Neuronale Netze
(Tiefe) neuronale Netze bestehen aus mehreren Schichten
Jede Schicht besteht aus mehreren Neuronen bzw. Perzeptronen
Neuronal ist eine Referenz auf Neurobiologie, dennoch ist die
Funktionsweise neuronaler Netze nicht dem menschlichen Gehirn
nachempfunden
Perzeptron
Perzeptronen sind modellieren das Prinzip

von Neuronen: Sie feuern oder auch nicht
Perzeptronen haben Eingänge x0 . . . xn
Perzeptronen haben Gewichte w0 . . . wn und
einen Bias b
Bias und Gewichte werden gelernt. Sie
enthalten das Wissen des Netzes
Ob das Perzeptron feuert entscheidet die
Aktivierungsfunktion f
Perzeptron
Als mathematische Formel
y = f (⃗x · w
⃗ + b)
= f (x1 · w1 + x2 · w2 + . . . + xn · wn + b)
Als Code
import numpy as np
y = f(np.dot(x, w) + b)
Animiertes Beispiel unter https://nnfs.io/bkr/
Anzahl Parameter
Wie viele Parameter hat das Netz?

N = 4 · 3 · 3 + 4 · 1 = 40 Parameter
Skalieren
auf mehrere Observationen

Daten werden i.d.R. in Batches verarbeitet
Aus ⃗x wird X
auf mehrere Perzeptronen

Erlaubt die Berechnung der Kreuzprodukte für alle Perzeptronen in einem
Layer auf einmal
⃗ wird W
Aus w
Aus b wird ⃗b
Skalieren
Als mathematische Formel

y = f (X · W ⊤ + ⃗b)
Als Code
import numpy as np
y = f(np.dot(x, w.T) + b)
Animiertes Beispiel unter https://nnfs.io/mxo

1 Organisatorisches Und Perzeptronen

Hochgeladen von

Dokumentinformationen

Originaltitel

Copyright

Verfügbare Formate

Dieses Dokument teilen

Dokument teilen oder einbetten

Freigabeoptionen

Stufen Sie dieses Dokument als nützlich ein?

Sind diese Inhalte unangemessen?

Copyright:

Verfügbare Formate

1 Organisatorisches Und Perzeptronen

Hochgeladen von

Copyright:

Verfügbare Formate

KI-29: Deep Learning

Prof. Dr. Florian Wahl

Vorlesungsteil Deep Learning

Fragen und Sprechstunde

Prof. Dr. Florian Wahl

H. Kinsley and D. Kukieła, Neural Networks from Scratch in Python,

Deep Neural Nets sind ein Teilgebiet der

Perzeptronen sind modellieren das Prinzip

Als mathematische Formel

Wie viele Parameter hat das Netz?

auf mehrere Observationen

auf mehrere Perzeptronen

Als mathematische Formel

Das könnte Ihnen auch gefallen