Machine Learning zur Text-Analyse und Text Mining mit Python

Seminarziel

Das Seminar hilft Ihnen, sowohl grundlegende als auch fortgeschrittene NLP-Techniken schnell zu erlernen und zu implementieren. Sie lernen, wie Sie eine breite Palette von NLP-Paketen effizient nutzen, Textklassifikationen implementieren und Teile der Sprache identifizieren können. Sie lernen auch etwas über Themenmodellierung, Textzusammenfassung, Texterzeugung, Stimmungsanalysen und viele andere NLP-Anwendungen. Das Seminar konzentriert sich auf die Implementierung von End-to-End-Projekten mit Python und den Einsatz modernster Algorithmen und Transfer-Learning. Wir starten mit der Besprechung von Textdatensammlungen, Web Scraping und verschiedenen Arten von Datenquellen. Sie lernen, wie Sie Textdaten vorverarbeiten und sie mit fortschrittlichen Algorithmen analysieren können. Das Seminar behandelt komplexe NLP-Lösungen, die Textnormalisierung, verschiedene fortgeschrittene Vorverarbeitungsmethoden, Part-of-Speech (POS)-Tagging, Parsing, Textzusammenfassung, Stimmungsanalyse, Themenmodellierung, Named-Entity-Recognition (NER), Word2Vec, Seq2Seq und vieles mehr umfassen. Wir behandeln verschiedene fortgeschrittene Techniken zur Umwandlung von Text in Merkmale, wie GloVe, ELMo und BERT. Außerdem wird die Funktionsweise von Transformern am Beispiel von BERT und GPT erläutert. Das Seminar schließt mit der Implementierung einiger industrieller Anwendungen, die auch die Leistung von Deep-Learning-Techniken nutzen.

Inhalt

• Datenaufbereitung
  • Datenakquisition
  • Reguläre Ausdrücke 
  • Tokenisierung, Lematisierung, Stemming
  • Wortartenerkennung (Speech Tagging)
  • Eigennamenerkennung (Named Entity Recognition)
  • Grammatik-Analyse (Parsing)
  • Wörter, Sätze und Dokumente kategorisieren
  • Text Data Augmentation 
  • Feature Engineering (für Texte)
• Worteinbettungen
  • Umwandlung von Wörtern in Zahlen
  • Bag of Words, TF-IDF
  • Statische Einbettungen - Word2Vec, GloVe, 
  • Sprachmodell-basierte Einbettungen - BERT, GPT
  • Vortrainierte Worteinbettungen 
  • Transfer-Lernen mit vortrainierten Einbettungen für Dokumentklassifizierung
• Textklassifikation
  • Klassifizierung von Verbraucherbeschwerden
• Textzusammenfassung und Topic Modeling (Textkategorisierung)
  • Extrahierende und abstrahierende Algorithmen (TextRank, Luhn, Pegasus)
  • Textzusammenfassung mit NLTK
  • Topic Modeling mit LDA
• Textklassifizierung mit Deep Learning
  • Stimmungsanalyse mit supervised und unsupervised Techniken 
  • Stimmungsanalyse mit RNN, LSTM
  • Stimmungsanalyse mit CNN
• Textübersetzung mit Seq2Seq-Modell
  • Erstellen von Seq2Seq-Trainingsmodellen 
  • Vorhersagen mit Seq2Seq 
• Neuester Stand der Technik mit BERT-Transformer
  • Textklassifikation mit BERT
• Frage-und-Antwort (Q&A)
  • bei dem das Modell über einen Eingabetext (z. B. einen Wikipedia-Artikel) nachdenken muss, um Fragen zu beantworten