Large Language Models haben in jüngster Vergangenheit als ChatBots für Schlagzeilen gesorgt. Doch schon weit früher sorgten Modelle wie Bert, GPT2 oder XLNet in der KI-Community für Furore. Sprachverarbeitungsaufgaben ließen sich damit in einer bisher nicht erreichten Genauigkeit erlernen: Übersetzungsaufgaben, Textklassifikation oder auch Zusammenfassungen waren zuvor nicht mit einer solchen Genauigkeit trainierbar. Die Large Language Models bieten daher auch in der Wissenschaft eine tolle Möglichkeit geschriebene Texte automatisch zu verarbeiten. Das wollen wir uns in diesem zweitägigen Workshop anschauen.

Wir werden zuerst einige Grundlagen lernen / auffrischen und dann mithilfe von PyTorch und der öffentlichen Datenbank Hugging Face einen Workflow aufsetzen, um vortrainierte Modelle für eigene Daten nachzutrainieren.

Um eigene Modelle trainieren zu können, bitten wir die Workshopteilnehmer die folgende Software auf ihren Laptops zu installieren:

• PyCharm (die Community Version ist ausreichend)
• python3.11
• Eine virtuelle Umgebung mit PyTorch, transformers, datasets

Eine Installationsanleitung finden Sie hier. Sollten bei der Installation Probleme auftreten, melden Sie sich gerne schon im Vorfeld bei uns.

Außerdem setzen wir voraus, dass die Teilnehmer über ein Grundlagenwissen in Python verfügen.

Einige zusätzliche Plätze sind noch frei. Bei Interesse bitten wir um Voranmeldung via E-Mail.

Wann:
Montag, den 25. September 2023 von 8:30 bis 16:00 Uhr und Dienstag, den 26. September 8:30 bis 12:00 (mit Option auf Verlängerung am Nachmittag)

Wo:
Rostock, Albert-Einstein-Straße 22, Raum 321.

Organisation:
Prof. Ulrike Henny-Krahmer, Juniorprofessorin für Digital Humanities am Institut für Germanistik der Universität Rostock,
Marc Lemke, wissenschaftlicher Mitarbeiter an der Juniorprofessur für Digital Humanities am Institut für Germanistik der Universität Rostock
Dr. Tobias Strauß, wissenschaftlicher Mitarbeiter am Institut für Mathematik der Universität Rostock