NACH OBEN
RUB » IT.SERVICES » News » 2024 » NEU: GPT@RUB jetzt auch mit Open Source-Sprachmodellen

News-Meldung:

NEU: GPT@RUB jetzt auch mit Open Source-Sprachmodellen

14.01.2025

Gpt News


© Krot_Studio/stock.adobe.com

GPT@RUB wartet zum Jahresbeginn mit einer Neuerung auf: Ab sofort können alle Studierenden und Beschäftigten der RUB auch auf Open Source-Sprachmodelle zugreifen. Besonders interessant sind diese für spezielle Anwendungsfälle in Forschung, Studium und Lehre.

Gpt News
© Krot_Studio/stock.adobe.com

GPT@RUB wartet zum Jahresbeginn mit einer Neuerung auf: Ab sofort können alle Studierenden und Beschäftigten der RUB auch auf Open Source-Sprachmodelle zugreifen. Besonders interessant sind diese für spezielle Anwendungsfälle in Forschung, Studium und Lehre.

Mehr digitale Souveränität

Bisher konnte man mit GPT@RUB lediglich auf kommerzielle Sprachmodelle von OpenAI zugreifen. Diese bleiben auch weiterhin kostenlos verfügbar. Hinzu kommen nun verschiedene Open Source-Sprachmodelle, die beispielsweise für besondere Programmieraufgaben oder Sprachübersetzungen genutzt werden können. Dr. Peter Salden, Leiter des Zentrums für Wissenschaftsdidaktik, sieht die digitale Souveränität als zentrales Argument für Open Source-Sprachmodelle:

„Die RUB geht mit dem Zugang zu Open Source-Sprachmodellen einen weiteren wichtigen Schritt in Richtung digitale Souveränität
und wird auf dem Weg der Bereitstellung generativer KI-Technologien unabhängiger von externen, kommerziellen Anbietern.“
Dr. Peter Salden, Leiter des ZfW.

Die Vorteile im Überblick

Open Source-Sprachmodelle stellen aus verschiedenen Gründen eine attraktive Alternative zu firmeneigenen Systemen wie z.B. ChatGPT dar:

  • Mehr Transparenz: Quellcodes und Trainingsdaten der Open Source-Modelle sind öffentlich zugänglich, wodurch die gelieferten Ergebnisse besser überprüft und validiert werden können.
     
  • Bessere Anpassbarkeit: Open Source-Sprachmodelle können modifiziert werden, um bestimmte Funktionen hinzuzufügen und sie an besondere Anforderungen anzupassen. Außerdem können sie leichter in bestehende Systeme und Workflows integriert werden, da sie auf offenen Standards und Schnittstellen basieren.
     
  • Niedrigere Kosten: Open-Source-Modelle sind in der Regel kostenlos verfügbar, müssen dafür aber auf eigener Hardware bereitgestellt werden. Die RUB kann Open-Source-Modelle dank öffentlich geförderter Services in ihrer Basis-Funktionalität zunächst kostenlos bereitstellen. Deshalb wird bei Verwendung das eigene Token-Konto bei GPT@RUB vorerst auch nicht belastet.
     
  • Höherer Datenschutz: Open Source-Modelle können lokal bzw. mit Hilfe eigener technischer Infrastruktur betrieben werden. Daten werden nicht an kommerzielle Anbieter weitergegeben. Die Bereitstellung der Open Source-Modelle bei GPT@RUB erfolgt über die Gesellschaft für wissenschaftliche Datenverarbeitung mbH Göttingen (GWDG) und deren KI-Servicezentrum für sensible und kritische Infrastrukturen (KISSKI). Sie wird vom Bundesministerium für Bildung und Forschung unter dem Förderkennzeichen 01 IS 22 093 A-E gefördert.

Wichtig zu wissen:

KI-Sprachmodelle sind eine experimentelle Technologie. Insbesondere Open Source-Sprachmodelle sollten zweckgebunden genutzt und als Forschungsgegenstand begriffen werden. Die Ausgaben der Modelle können Fehlinformationen enthalten und gesellschaftliche Biases reproduzieren. Es wird daher empfohlen, Informationen über ein Modell vor der Nutzung gründlich zu recherchieren.

Diese Open Source-Sprachmodelle sind verfügbar

Alle Nutzenden können in GPT@RUB künftig auswählen, welches Sprachmodell sie für ihre Aufgaben verwenden möchten. Jedes Modell hat einen unterschiedlichen Fokus. Folgende Open Source-Sprachmodelle stehen ab sofort über GPT@RUB zur Verfügung:

LLaMA 3.1 70B Instruct ist ein Modell für komplexere Aufgaben, wie z.B. die Erstellung detaillierter Berichte oder das Schreiben von Code Snippets. Höchste Genauigkeit und Vielseitigkeit.

Mehr dazu

LLaMA 3.1 Nemotron 70B Instruct ist ein Reward-Modelling Fine-Tune von LLaMA 3.1 für komplexere Aufgaben, wie z.B. die Erstellung detaillierter Berichte oder das Schreiben von Code Snippets. Höchste Genauigkeit und Vielseitigkeit. 

Mehr dazu

Teuken 7B Instruct Research ist ein in der EU trainiertes Modell, welches einen Fokus auf Multilingualität für Sprachen von EU-Mitgliedsländern hat. 

Mehr dazu

Mistral Large ist ein Modell mit einem Fokus auf Multilingualität, darunter insbesondere Französisch, Italienisch und Spanisch. 

Mehr dazu

Codestral 22B ist ein Modell für Programmierung und kann mit Code in über 80 verschiedenen Programmiersprachen behilflich sein. 

Mehr dazu

GPT@RUB mit Open Source-Sprachmodellen nutzen

Um GPT@RUB und somit auch die Open Source-Sprachmodelle nutzen zu können, ist eine Registrierung bei GPT@RUB erforderlich. Personen, die bereits über einen Zugang zu GPT@RUB verfügen, müssen keine zusätzlichen Schritte unternehmen. Das gewünschte Sprachmodell kann in den Chat-Einstellungen einfach ausgewählt werden. Weitere Informationen zur Registrierung und Freischaltung sowie technischen Support finden Sie auf unserer Webseite zu GPT@RUB

Jetzt registrieren
Weitere Informationen

Auf den Webseiten des Zentrums für Wissenschaftsdidaktik finden Sie viele hilfreiche Informationen rund um das Thema generative Technologien in der Hochschulbildung. Weitere Informationen zu GPT@RUB finden Sie auf unserer Webseite.