TRAININGSMETHODEN
Ein großer Input an Textdaten ist eine notwendige Voraussetzung, um GPT entsprechend zu trainieren. Es gibt jedoch zwei Verfahren:
Zum einen das "unsupervised Learning-Verfahren", bei dem nicht spezifizierte Daten genutzt werden und zum anderen die "Feintuning" Phase, bei der mit spezifischen Textaufgaben, welche auf spezielle Anwendungsfälle zugeschnitten sind, trainiert wird.
Um die Funktionsweise von GPT zu veranschaulichen, habe ich ChatGPT selbst gefragt und das war die Antwort: "Ja, gerne! Ein Beispiel zur Funktionsweise von GPT wäre beispielsweise das Vorhersagen des nächsten Wortes in einem Satz. Angenommen, wir geben GPT einen Teil eines Satzes wie "Ich gehe heute ins...", dann kann GPT die Wahrscheinlichkeit berechnen, dass das nächste Wort "Kino" ist, indem es die bisherigen Wörter in Betracht zieht und Muster aus ähnlichen Sätzen in seinen Trainingsdaten erkennt. Das Modell kann dann das wahrscheinlichste nächste Wort vorschlagen, indem es eine Wahrscheinlichkeitsverteilung über alle Wörter im Vokabular berechnet und das Wort mit der höchsten Wahrscheinlichkeit auswählt. Dieses Beispiel zeigt, wie GPT aufgrund seiner Fähigkeit, Muster in Daten zu erkennen, in der Lage ist, eine Vorhersage auf der Grundlage von Eingabedaten zu treffen."