Intelligente Agenten (CS4514-KP12)


Dozenten: Dr. Tanya Braun, Prof. Dr. Ralf Möller

Das Modul Intelligente Agenten (CS4514-KP12) besteht aus einer Vorlesung mit Übung (6 SWS) sowie einem Projektpraktikum Information Retrieval Agents (3 SWS)

Beschreibung der Vorlesung:

  • Bei der Vorlesung gliedert sich der Inhalt in zwei Teile:
    1. Intelligent Agents and Information Retrieval
    2. Probabilistic Graphical Models
  • Die Vorlesung wird auf Englisch gehalten.
  • In den Übungen werden die Inhalte der Vorlesung anhand von Übungsaufgaben vertieft. Wöchentlich werden Übungszettel zu den Themen der Vorlesung ausgegeben. Lösungen sind in Zweierteams zu erarbeiten und abzugeben. Nähere Informationen dazu im Moodle.
  • Im Projektpraktikum nutzen Studierende gängige (open source) Programmiersprachen und Werkzeuge des Data Science, um die in der Vorlesung Web-Mining-Agenten vermittelten Abstraktionen, Konzepte und Resultate in der praktischen Modellbildung und Verarbeitung von großen Datensätzen umzusetzen.

Vorbereitendes Material:

Es hat sich herausgestellt, dass nicht alle die notwendigen Vorkenntnisse aus dem Bachelor-Programm für das Modul mitbringen. Wir haben für Sie daher Material zusammengestellt, das ihnen hilft, mögliche Lücken zu beseitigen. Das Passwort für die Videos lautet: IA-WiSe-2021

  • Grundlagen der Stochastik (pdf, pptx, mp4)
  • Grundlagen des Lernens mit partiellen Daten: Expectation Maximization (EM) (pdfpptxmp4)
  • Grundlagen des Information Retrievals, Dimensionsreduktion mit linearer Algebra (pdfpptxmp4)

Nützliche Informationsquellen könnten für Sie generell auch die folgenden Bachelor-Vorlesungen sein:

Inhalt:

Vorlesungsteil: Intelligent Agents and Information Retrieval

  1. Intelligent agents and artificial intelligence (pdf, pptx)
  2. Information retrieval and web-mining agents (pdf, pptx)
  3. Probabilistic dimension reduction, latent content descriptions, topic models, LDA (pdf, pptx)
  4. Probabilistic modeling of sequential structures, DBNs, HMMs, LDA-HMM (pdf, pptx)
  5. Representation learning for sequential structures, embedding spaces, word2vec, CBOW, skip-gram, hierarchical softmax, negative sampling (pdf, pptx)
  6. Multi-relational latent semantic analysis, collective classification, knowledge graph embedding (RESCAL, XTransY and successors, tensor networks), knowledge graph completion, training data generation (negative sampling)
  7. New language models (1d-CNNs. RNNs, LSTMs, ELMo, Transformers, BERT) (pdf, pptx)
  8. BERT, GPT, and beyond, on the way to natural language inference (pdf, pptx)
  9. Knowledge graph embedding with GNNs, combining embedding-based KG completion with probabilistic graphical models (ExpressGNN, pLogicNet), MLN inference and learning based on embedded knowledge graphs (pdfpptx)
  10. GMNNs, latent subjective context descriptions, logical abduction for SCD generation (pdf, pptx)
  11. Game theory and social choice (pdf, pptx)
  12. Mechanism design, algorithmic mechanism design (pdfpptx)
  13. Agent collaboration, rules of encounter, value of information estimation, information fusion: Dempster-Shafer theory (pdf, pptx)

Vorlesungsteil: Probabilistic Graphical Models

  1. Introduction (pdf, pptx)
  2. Recap: Propositional modelling (pdf, pptx)
  3. Probabilistic Relational Models (pdf, pptx)
  4. Lifted inference
    1. Lifted variable elimination (pdf, pptx)
    2. Lifted junction tree algorithm (pdf, pptx)
    3. First-order knowledge compilation (pdf, pptx)
    4. Beyond standard query answering (pdf, pptx)
  5. Lifted learning (pdfpptx)
  6. Approximate inference: Sampling (pdf, pptx)
  7. Sequential modelling and inference (pdf, pptx)
  8. Decision making (pdf, pptx)
  9. Probabilistic Soft Logic (pdf, pptx)
  10. Roundup (pdf, pptx)

Vorlesungsteil: Causality and Learning (not in WS 20/21)

  1. Causality
    1. Causal dependencies (pptx)
    2. Intervention (pptx)
    3. Instrumental variables (pptx)
    4. Counterfactuals (pptx)
  2. Computational learning theory (pptx)
  3. Learning first-order-definable conccepts (pptx)
  4. Lifted representation of relational causal models: Implications for reasoning and structure learning

Weiterführende Vorlesung: Automated Planning and Action (CS5072-KP04)Aktuelle Themen Data Science und KI (CS5070-KP04)

Weiterführende Vorlesung: Probabilistic Differential Programming (CS5050 KP04)

 

Das Passwort für die Videos der ersten beiden Vorlesungsteile lautet: IA-WiSe-2021

KW

Vorlesung 
Mittwoch 

Video

Vorlesung 
Donnerstag

Video

43

21.10.2020

mp4 (IR 1.52)

22.10.2020

mp4 (PGM 2.62)

44

28.10.2020

mp4 (IR 2.49)

29.10.2020

mp4 (PGM 3.33)

45

04.11.2020

mp4 (IR 2.100)

05.11.2020

mp4 (PGM 4a.30)

46

11.11.2020

mp4 (IR 3.39)

12.11.2020

mp4 (PGM 4a.108)

47

18.11.2020

mp4 (IR 3.86)

19.11.2020

mp4 (PGM 4a.173)

48

25.11.2020

mp4 (IR 4.48)

26.11.2020

mp4 (PGM 4b.96)

49

02.12.2020

mp4 (IR 5.24)

03.12.2020

mp4 (PGM 4d.28)

50

09.12.2020

mp4 (IR 5.93)

10.12.2020

mp4 (PGM 5.35)

51

16.12.2020

mp4 (IR 6.48)

17.12.2020

mp4 (PGM 5.end)

52

vorlesungsfrei

vorlesungsfrei

53

vorlesungsfrei

vorlesungsfrei

1

06.01.2021

mp4 (IR 7.72)

07.01.2021

mp4 (PGM 6.49)

2

13.01.2021

mp4 (IR 8.28)
mp4 (IR 9.58)

14.01.2021

mp4 (PGM 7.62)

3

20.01.2021

mp4 (IR 10.56)

21.01.2021

mp4 (PGM 8.20)

4

27.01.2021

mp4 (IR 11.48)

28.01.2021

mp4 (PGM 8.71)

5

03.02.2021

mp4 (IR 11.73)
mp4 (IR 12.46)

04.02.2021

mp4

6

10.02.2021

mp4 (IR 13.end)

11.02.2021

mp4

Die Zahl hinter dem Link gibt an, bis zu welcher Slide die Aufzeichnung geht (Teilgebiet + Thema x unter Teilgebietsinhalt + Präsentationsfoliennummer y: Teilgebiet x.y).

Zeit und Ort:

  • Vorlesung: Online als MP4 Streams, siehe unter Inhalt. Die genaue Zuordnung von Inhalten zu Terminen wird noch im Moodle angezeigt.
  • Übung: Zeit: Fr 12:15-13:45 Uhr, Online, Details werden noch im Moodle bekanntgegeben.

Beginn:

Vorlesung: Montag, den 19.10.2020
Übung: Freitag, den 23.10.2020

Voraussetzungen:

Zulassungsvoraussetzungen zum Modul: keine

Zulassungsvoraussetzungen zur Prüfung: siehe obige Beschreibung und Moodle

Die Kompetenzen der folgenden Module sind für dieses Modul nützlich (keine harte Zulassungsvoraussetzung):

  • Algorithmen und Datenstrukturen (CS1001)
  • Einführung in die Logik (CS1002)
  • Datenbanken (CS2700)
  • Informationssysteme (CS4130)
  • Lineare Algebra und Diskrete Strukturen I + II (MA1000, MA1500)
  • Nonstandard-Datenbanekn und Data Mining (CS3130-KP08)
  • Stochastik 1 (MA2510) bzw. Grundlagen der Statistik (PY1800)

Zielgruppe:

  • Master Entrepreneurship in digitalen Technologien 2020 (Vertiefungsmodul), Technologiefach Informatik, Beliebiges Fachsemester
  • Master Informatik 2019 (Wahlpflicht), Kanonische Vertiefung Data Science und KI, 1. oder 2. Fachsemester
  • Master IT-Sicherheit 2019 (Vertiefungsmodul), Vertiefung Informatik, 1. oder 2. Fachsemester
  • Master Informatik 2019 (Wahlpflicht), Vertiefungsmodule, Beliebiges Fachsemester
  • Zertifikatsstudium Künstliche Intelligenz (Pflicht), Künstliche Intelligenz, 1. Fachsemester

Qualifikationsziele / Kompetenzen:

  • Wissen: Studierende können die Agentenabstraktion erläutern und Informationsgewinnung im Web (web mining) als rationales Verhalten erläutern. Sie können Details der Architektur von Mining-Agenten (Ziele, Nützlichkeitswerte, Umgebungen) erläutern. Der Begriff des kooperativen und nicht-kooperativen Agenten kann durch die Studierenden im Rahmen von Entscheidungsproblemen diskutiert werden. Um Agenten mit Fähigkeiten zum Umgang mit Unsicherheiten bei der Informationsrecherche in Realweltszenarien auszustatten, können Studierende die wesentlichen Repräsentationswerkzeuge aufzeigen (z.B. Bayessche Netzwerke) und Algorithmen für Berechnungsprobleme für statische und dynamische Szenarien erläutern. Techniken zur automatischen Berechnung von verwendeten Repräsentationen und Modellen können erklärt werden. Damit Agenten mit Entscheidungs-findungskompetenz ausgestattet werden können (zum Beispiel, um festzulegen, wo weiter im Web gesucht werden soll) sind Studierende in der Lage, Entscheidungsfindungsprozesse für einfache und sequentielle Kontexte zu beschreiben und zu gestalten, so dass Szenarien beherrscht werden können, in denen die Agenten vollen oder auch nur partiellen Zugriff auf den Zustand ihres umgebenden Systems haben und den Wert von möglicherweise akquirierbaren Informationen für festgelegte Aufgaben abschätzen müssen. Studierende verfügen über Wissen zur Erläuterung der klassischen und der neueren Techniken zur zielgerichteten Anreicherung von unstrukturierten Daten mit symbolischen Beschreibungen (Multimediadaten-Interpretation, Annotation).
  • Fertigkeiten: Die Studierenden sind in der Lage, für den Aufbau von Web-Recherche-Systemen geeignete Repräsentations- und Kooperationsformen für Teilprozesse bzw. Agenten auszuwählen. Auf der Basis von multimodalen Daten können die Studierenden Mining-Systeme aufbauen, um explizit gegebene Dateneinheiten (Textdokumente, relationale Daten, Bilder, Videos) auszuwerten, so dass für bestimmte Anfragekontexte nicht nur die Einheiten einfach zurückgegeben werden (oder Zeiger hierauf), sondern eine symbolische, zusammenfassende Beschreibung generiert wird (und ggf. zur sog. Annotation der Einheiten hinzugefügt wird). Insbesondere können die Studierenden auf der Basis von multimodalen Daten Mining-Systeme aufbauen, um explizit gegebene Dateneinheiten (Textdokumente, relationale Daten, Bilder, Videos) auszuwerten, so dass für bestimmte Anfragekontexte nicht nur die Einheiten einfach zurückgegeben werden (oder Zeiger hierauf), sondern eine symbolische, zusammenfassende Beschreibung generiert wird (und ggf. zur sog. Annotation der Einheiten hinzugefügt wird). Die Fertigkeiten der Studierenden umfassen auch die wettbewerbsorientierte Gestaltung von Systemen mit autonomen, von verschiedene Parteien konstruierbaren Agenten, so dass über deren Zusammenspiel ein Mehrwert erzeugt werden kann (Interaktion bzw. Kooperation von Web-Mining-Agenten). Koordinierungsprobleme und Entscheidungsprobleme in einem Multiagenten-Szenario können durch die Studierenden über den Gleichgewichts- und den Mechanismus-Begriff behandelt werden.
  • Sozialkompetenz und Selbständigkeit: Studierende arbeiten in Gruppen, um Übungsaufgaben und kleine Projekte zu bearbeiten und ihre Lösungen in einem Kurzvortrag zu präsentieren. Selbständiges praktisches Arbeiten der Studierenden wird auch im zugehörenden Projektpraktikum durch die Entwicklung eines größeren Projekts mit aktuellen Programmiersprachen und Werkzeugen aus dem Bereich des Data Science gefördert.

Moodle:

Weitere Informationen sowie Materialien zur Vorlesung und Übung sind unter Moodle zu finden.

Für den Zugriff müssen Sie sich selbst in den Kurs einschreiben.

Literatur:

  • M. Hall, I. Witten and E. Frank: Data Mining: Practical Machine Learning Tools and Techniques - Morgan Kaufmann, 2011
  • D. Koller, N. Friedman: Probabilistic Graphical Models: Principles and Techniques - MIT Press, 2009
  • K. Murphy: Machine Learning: A Probabilistic Perspective - MIT Press, 2012
  • S. Russel, P. Norvig: Artificial Intelligence: A Modern Approach - Pearson Education, 2010
  • Y. Shoham, K. Leyton-Brown: Multiagent-Systems: Algorithmic, Game-Theoretic, and Logical Foundations - Cambridge University Press, 2009
  • Journal-Artikel zu speziellen Themen der Veranstaltung werden in der Vorlesung bekanntgegeben