NLP-Plattformen und -Frameworks im Überblick

Seminarziel

Das Seminarziel ist es, den Teilnehmern einen tiefen und umfassenden Einblick in die Welt der natürlichen Sprachverarbeitung (NLP) zu bieten. In einer Zeit, in der die Mensch-Maschine-Kommunikation an Bedeutung gewinnt und Daten im Überfluss vorhanden sind, ist NLP das Bindeglied, das es uns ermöglicht, aus unstrukturierten Textdaten sinnvolle Informationen zu gewinnen. Dieses Seminar soll die Lücke zwischen Wissen und Anwendung schließen. Es wurde speziell entwickelt, um die verschiedenen Tools, Plattformen und Frameworks, die in der NLP-Industrie verwendet werden, gründlich zu untersuchen, ihre Stärken und Schwächen zu bewerten und die Teilnehmer mit dem praktischen Know-how auszustatten, das sie benötigen, um in ihren jeweiligen Bereichen erfolgreich zu sein.

Inhalt

• Einführung in die natürliche Sprachverarbeitung (NLP)
  • Definition von NLP
  • Anwendungsgebiete
  • Relevanz im modernen Technologiebereich
  • Frühe regelbasierte Systeme
  • Aufkommen von statistischen Methoden
  • Deep Learning und NLP
• Grundlagen des maschinellen Lernens in NLP
  • Supervised Learning: Definition und Beispiele
  • Unsupervised Learning: Clustering und Dimensionenreduktion
  • Semi-supervised und Reinforcement Learning in NLP
• Typische NLP-Aufgaben
  • Textklassifikation und Sentiment-Analyse
  • Named Entity Recognition (NER) und Part-of-Speech Tagging
  • Maschinelles Übersetzen und Frage-Antwort-Systeme
• Aktuelle Trends in NLP
  • Transfer Learning und vorab trainierte Modelle
  • Zero-Shot und Few-Shot Learning
  • Multimodale Modelle und Cross-modal Learning
• NLTK (Natural Language Toolkit)
  • Grundlagen und Geschichte von NLTK
  • Wichtige Funktionen und Module
  • Anwendungsfälle und Grenzen
• Spacy
  • Kernfeatures und Architektur
  • Vorteile gegenüber NLTK
  • Integration mit anderen Tools und Erweiterungen
• Transformers (von Hugging Face)
  • Einführung in Transformer-Architekturen
  • Vorab trainierte Modelle und Anpassungsfähigkeit
  • Community und offene Ressourcen
• BERT (Bidirectional Encoder Representations from Transformers)
  • Grundlegende Funktionsweise von BERT
  • Anwendungsfälle und Variationen (z.B. RoBERTa, DistilBERT)
  • Training und Fine-Tuning von BERT-Modellen
• GPT (Generative Pre-trained Transformer)
  • Unterschied zwischen GPT und BERT
  • Anwendungsfälle von GPT
  • GPT-4o und darüber hinaus: Innovationen und Grenzen
• AllenNLP
  • Überblick und Designprinzipien
  • Hauptfunktionen und -features
  • Integration und Erweiterbarkeit
• Watson Natural Language Understanding
  • IBM's Watson und dessen Einfluss
  • Kernfunktionalitäten und APIs
  • Branchenspezifische Anwendungen
• Google Cloud Natural Language API
  • Einführung und Vorteile
  • Hauptfeatures: Sentiment-Analyse, Entity-Analyse, usw.
  • Best Practices und Kostenstruktur
• FastText
  • Was ist FastText und wie unterscheidet es sich?
  • Textklassifikation und Wortvektoren mit FastText
  • Community und Ressourcen
• RASA für Chatbots und Konversationen
  • Konzept und Architektur von RASA
  • Aufbau eines Chatbots: Von Daten bis Deployment
  • Best Practices und Tipps für RASA-Bots
• Workshops und Hands-on-Sessions
  • Auswahl eines NLP-Problems und Frameworks
  • Datenverarbeitung und Modelltraining
  • Evaluation und Optimierung
• Best Practices in NLP
  • Datenbeschaffung und -aufbereitung
  • Modelltraining, Hyperparameter-Tuning und Regularisierung
  • Deployment und Wartung von NLP-Systemen
• Zukünftige NLP-Trends
  • Forschungstrends: Was kommt als Nächstes?
  • NLP in anderen Wissenschaftsbereichen
  • Gesellschaftliche und wirtschaftliche Auswirkungen von NLP-Innovationen