ChatGPT – dein neuer Freund

OpenAI, Deep Learning, KI (Künstliche Intelligenz) und Natural Language Processing - all diese Dinge haben etwas gemeinsam: sie sind Teile von ChatGPT, einer Künstlichen Intelligenz, die von dem Forschungsunternehmen OpenAI entwickelt wurde. Mithilfe von Deep Learning wurde diese KI trainiert, menschliche Konversationen zu führen und auf Fragen zu antworten. Was Deep Learning genau ist und für was die Abkürzung GPT steht, das und mehr erfahrt ihr in diesem Blogbeitrag.

06.03.2023 I Von Nithiya Yogendran I Werkstudentin im Bereich Kommunikation

Themen: Zukunftstrends

Deep Learning und GPT: Die Technologien hinter ChatGPT

ChatGPT, wie würdest du dich in drei Worten beschreiben? ChatGPT: Wissbegierig, kommunikativ, hilfreich.

Der Chatbot basiert auf der Generative Pre-Trained Transformer (GPT) Architektur, hier speziell die GPT-3-Architektur. Das Sprachmodell bedient sich der Disziplin "Deep Learning", um natürliche Sprache zu generieren und zu verstehen.
Deep Learning ist eine Form des maschinellen Lernens, die auf künstlichen neuronalen Netzen basiert.
Durch eine große Menge an Datensätzen werden die Modelle trainiert und können dadurch aus Erfahrungen lernen und bestimmte Muster in Daten erkennen. GPT berechnet die Wahrscheinlichkeit einer Folge von Wörtern basierend auf dem Kontext und Stil der vorherigen Sequenz. Und je mehr trainiert wird, desto korrekter sind die Berechnungen was dazu führt, das gute Texte generiert werden, die oft schwer von Menschen geschriebenen Texten zu unterscheiden sind.

Wie wird ChatGPT stetig verbessert?

Um ChatGPT kontinuierlich zu trainieren und zu optimieren, kommt das Reinforcement Learning with Human Feedback (RLHF) zum Einsatz. Hierbei lernt die KI durch Nutzerbewertungen und die Interaktion mit menschlichen Nutzer:innen, bessere Antworten zu generieren.

Trainingsmethoden

Ein großer Input an Textdaten ist eine notwendige Voraussetzung, um GPT entsprechend zu trainieren. Es gibt jedoch zwei Verfahren:
Zum einen das "unsupervised Learning-Verfahren", bei dem nicht spezifizierte Daten genutzt werden und zum anderen die "Feintuning" Phase, bei der mit spezifischen Textaufgaben, welche auf spezielle Anwendungsfälle zugeschnitten sind, trainiert wird.
Um die Funktionsweise von GPT zu veranschaulichen, habe ich ChatGPT selbst gefragt und das war die Antwort:
"Ja, gerne! Ein Beispiel zur Funktionsweise von GPT wäre beispielsweise das Vorhersagen des nächsten Wortes in einem Satz. Angenommen, wir geben GPT einen Teil eines Satzes wie "Ich gehe heute ins...", dann kann GPT die Wahrscheinlichkeit berechnen, dass das nächste Wort "Kino" ist, indem es die bisherigen Wörter in Betracht zieht und Muster aus ähnlichen Sätzen in seinen Trainingsdaten erkennt. Das Modell kann dann das wahrscheinlichste nächste Wort vorschlagen, indem es eine Wahrscheinlichkeitsverteilung über alle Wörter im Vokabular berechnet und das Wort mit der höchsten Wahrscheinlichkeit auswählt. Dieses Beispiel zeigt, wie GPT aufgrund seiner Fähigkeit, Muster in Daten zu erkennen, in der Lage ist, eine Vorhersage auf der Grundlage von Eingabedaten zu treffen."

Konkurrenz Google und Co.

Google hat einen eigenen KI-Chatbot namens "Bard AI" entwickelt, der mit ihrem hauseigenen Sprachmodell "LaMDA", Language Model for Dialogue Applications, betrieben wird. Aktuell steht Bard nur Beta-Tester:innen zur Verfügung, jedoch haben beide KIs ähnliche Aufgaben: Texte generieren, übersetzen, Fragen beantworten und vieles mehr. Was jedoch beide voneinander unterscheidet ist, dass ChatGPT nur Daten bis September 2021 zur Verfügung stehen, während Bard auf Google Suchmaschinendaten zugreifen kann und somit in Echtzeit agiert.
Auch der Konzern Microsoft, der sich Anteile an OpenAIs Technologie gesichert hat, hat beschlossen, die KI in den Browser "Bing" zu implementieren. Aktuell gibt es eine Beta-Version, die alle testen können, wenn sie sich auf die Warteliste setzen lassen.

Welchen Nutzen kann man aus dieser Technologie ziehen?

Die Technologie des KI-Chatbots hat viele Vorteile und kann in verschiedenen Bereichen eingesetzt werden. Sie kann beispielsweise bei der Recherche unterstützen, Texte generieren und diese verbessern sowie bei Aufgaben wie der Fehlersuche im Code helfen. Durch den Einsatz von Chatbots können Unternehmen und Organisationen ihre Produktivität steigern und Zeit sparen, indem sie Routineaufgaben automatisieren und folglich die Arbeitsbelastung der Mitarbeitenden sinkt.

Allerdings birgt solch eine Technologie auch ihre Tücken. Leider treten vermehrt Phishing-Mail-Attacken auf und Cyberkriminelle finden einen Weg, die Daten von Nutzer:innen abzugreifen, sei es auf dem E-Mail-Weg oder durch die Verbreitung von Schadsoftware, die sich als ChatGPT ausgibt. Daher ist es wichtig, dass Unternehmen und Nutzer:innen geschult werden, ihre Daten zu schützen, um diese Risiken zu minimieren.
Offiziell gibt es keine App oder Programme für Laptop/PC, daher ist ChatGPT nur über OpenAI aufrufbar.

Könnt ihr euch vorstellen mit ChatGPT zu arbeiten oder überhaupt bei euren täglichen Aufgaben wie Präsentationen aufbereiten, Texte ausformulieren und etc. auf KI zu setzen?
Über weitere Entwicklungen werden wir euch auf dem Laufenden halten.

Fragen zu unseren Beiträgen?

Wir freuen uns über deine Kontaktaufnahme. Schreibe unserer Redaktion gerne eine E-Mail.

E-Mail schreiben

Bist du neugierig geworden?

Entdecke deine Jobmöglichkeiten bei uns - egal ob mit oder ohne Berufserfahrung.

Zu den Karrieremöglichkeiten

Dieser Beitrag hat dir gefallen?

Dann stöbere gerne durch unseren weiteren Blogartikel und erfahre mehr über die SV Informatik.

Zu der Themenübersicht