Menschenzentrierte Verarbeitung natürlicher Sprache

Kursbeschreibung

Der Kurs „Menschenzentrierte Verarbeitung natürlicher Sprache (NLP)“ zielt darauf ab, ein vertieftes Verständnis dafür zu vermitteln, wie KI-Systeme menschliche Sprache verarbeiten und generieren können. Durch den Fokus auf das Zusammenspiel von maschinellem Lernen, Linguistik und menschlicher Kommunikation untersucht der Kurs, wie NLP-Technologien entwickelt werden, um Menschen zu unterstützen und ihre Fähigkeiten zu erweitern, anstatt sie zu ersetzen.

Kursziele

Dieser Kurs ist für Studierende mit Grundkenntnissen in maschinellem Lernen und Python-Programmierung konzipiert. Er soll die Teilnehmer mit dem Wissen und den Werkzeugen ausstatten, um KI-Systeme zu entwickeln, die Sprache auf eine Weise verstehen und generieren, die nützlich, ethisch und an menschliche Bedürfnisse angepasst ist.

2. Zentrale Forschungs- und Anwendungsbereiche

Verarbeitung natürlicher Sprache (NLP):

NLP ist ein Bereich der KI, der darauf abzielt, Maschinen das Verstehen, Interpretieren und Generieren menschlicher Sprache beizubringen. Es nutzt Deep-Learning-Techniken, linguistische Modelle und rechnerische Frameworks, um Maschinen die Analyse von Text oder Sprache zu ermöglichen, wobei Nuancen wie Sentiment, Absicht und Kontext erfasst werden. Themen in NLP umfassen:

- Tokenisierung & Repräsentation: Zerlegen von Text in Einheiten, die von Maschinen verarbeitet werden können, während die Bedeutung erhalten bleibt.
- Sprachmodelle: Nutzung modernster Modelle wie Transformer, um menschenähnlichen Text zu verstehen und zu generieren.
- Sequence-to-Sequence-Modelle: Ermöglicht Maschinen Aufgaben wie Übersetzung, Zusammenfassung und Frage-Antwort, indem das nächste Wort oder die nächste Phrase in einer Sequenz vorhergesagt wird.

Ethische KI in NLP

Der Kurs betont die ethischen Dimensionen von KI in der Sprachtechnologie. Vertrauenswürdige KI in NLP stellt sicher, dass Systeme gesetzlich, ethisch und robust sind. Wir werden untersuchen, wie NLP-Modelle:

- Menschliche Autonomie respektieren: Sicherstellen, dass Benutzer die Kontrolle über von KI getroffene Entscheidungen behalten.
- Schäden verhindern: Minimierung von Vorurteilen und Fehlern in Sprachmodellen, die zu negativen Konsequenzen führen könnten.
- Fairness fördern: Behandeln von Themen wie Vorurteile in Trainingsdaten, um sicherzustellen, dass KI-generierte Sprache gerecht und inklusiv ist.
- Erklärbarkeit gewährleisten: KI-Entscheidungen für Menschen verständlich machen, um Transparenz und Vertrauen in die Modellergebnisse zu fördern.

Generative KI & Große Sprachmodelle (LLMs):

Generative KI spielt eine zentrale Rolle in der modernen NLP. Dieser Abschnitt des Kurses behandelt, wie große Sprachmodelle (z.B. GPT) trainiert werden, um kohärenten und kontextuell relevanten Text zu generieren. Themen umfassen:

- Vortraining & Feinabstimmung: Verständnis dafür, wie große Modelle mit großen Datenmengen trainiert und dann für spezifische Aufgaben feinabgestimmt werden.
- Prompting: Techniken, um das Modell so zu leiten, dass es auf Benutzereingaben spezifische Antworten liefert.
- Verstärkungslernen aus menschlichem Feedback: Verbesserung von Modellen, um Ausgaben durch iterative Feedback-Schleifen besser an menschliche Werte und Erwartungen anzupassen.

Mensch-KI-Kollaboration

Der Kurs verfolgt einen menschenzentrierten Ansatz und konzentriert sich darauf, wie NLP-Systeme in realen Anwendungen mit Menschen zusammenarbeiten können. Die Studierenden werden erforschen, wie KI bei Aufgaben wie diesen unterstützen kann:

- Frage-Antwort-Systeme: KI-Systeme, die genaue, kontextbezogene Antworten auf menschliche Anfragen geben.
- Retrieval-Augmented Generation (RAG): Kombination von Informationsabruf und generativen Modellen, um zuverlässigere, wissensreiche Antworten zu erstellen.
- Multimodale Sprachmodelle: Integration von Text- und Bilddaten zur Ermöglichung von Systemen wie Visual Question Answering, bei denen Maschinen sowohl Sprache als auch Bilder interpretieren können.

Erklärbarkeit & Transparenz in NLP

Das Verständnis von Erklärbarkeit in NLP-Modellen ist entscheidend, um KI-Systeme zu schaffen, denen Benutzer vertrauen können. Dieser Abschnitt geht auf Methoden ein, um Deep-Learning-Modelle interpretierbarer zu machen:

Modellinterpretierbarkeit: Werkzeuge und Techniken, die Einblick in die Entscheidungsfindung von NLP-Modellen geben.
Transparenz in der Entscheidungsfindung: Sicherstellen, dass Benutzer verstehen, warum ein Modell ein bestimmtes Ergebnis geliefert hat, um Vertrauen zu fördern und das Risiko von Fehlern zu reduzieren.

Lehrplan

TBD

Useful Resources

Moodel Page, LSF Page (TBD), Notion Page (TBD)