ChatGPT hat kein Gedächtnis – erfahren Sie, warum eine Unterhaltung mit der KI trotzdem funktioniert.

Eine der Stärken von ChatGPT ist es, längere Dialoge zu führen. So kann man sich einen Text generieren lassen und ChatGPT dann die Anweisung geben „Lockere den Text bitte mit einer humorvollen Anekdote auf”, was ChatGPT daraufhin bereitwillig tut. Als Benutzer kann man dabei schnell den Eindruck gewinnen, die KI habe ein Kurzzeitgedächtnis und wäre lernfähig, denn ChatGPT nimmt ja den bereits generierten Text und formuliert diesen um.

ChatGPT-Training

Man könnte sogar den Eindruck gewinnen, man würde auf diese Weise ChatGPT trainieren, doch davon kann keine Rede sein. So faszinierend ChatGPT auch ist, an dieser Stelle haben die Entwickler eine viel einfachere Lösung gefunden, um ein Training bzw. ein Kurzzeitgedächtnis vorzugaukeln:

Die KI bekommt einfach zusammen mit der aktuellen Anfrage den gesamten bisherigen Chat-Verlauf zugesandt. Das geschieht für den Benutzer unbemerkt, kann aber im Netzwerkverkehr des Browsers tatsächlich nachvollzogen werden, ChatGPT speichert nämlich den gesamten Verlauf in einem Cookie, das dann jeweils mit dem aktuellen Prompt an ChatGPT gesendet wird.

Insofern kann man als Nutzer die KI nicht trainieren, sehr wohl aber den Input für die KI immer weiter verfeinern, bis diese das gewünschte Resultat liefert.

Beim Training einer KI geschieht übrigens etwas völlig Anderes: Die KI besteht aus einem neuronalen Netzwerk, wobei die einzelnen Neuronen nichts anderes sind als einfache Rechenoperationen, mit denen aus einem Eingangswert ein Ausgangswert ermittelt wird. Beim Training werden nun die Parameter der Berechnungsfunktion der Neuronen, z. B. ein Faktor oder ein Schwellwert, minimal verändert und es wird überprüft, ob das Ergebnis dadurch besser oder schlechter wird. Da dies aufgrund der gigantischen Anzahl an Neuronen (ca. 100 Milliarden bei ChatGPT) sehr aufwändig ist, hat man für das Training von ChatGPT eigens eine weitere KI entwickelt. Diese Trainings-KI wurde von Menschen trainiert, ist nun aber in der Lage, das erworbenen „Wissen“ automatisiert und beliebig skalierbar für das Training von ChatGPT einzusetzen.

Geschrieben von Stefan Schütt, Pagemachine AG

Unser erfahrenes Team unterstützt Sie gerne bei der Entwicklung Ihrer Website und KI-Erweiterungen – von der Konzeption über das Design bis zur Codierung. Erfahren Sie mehr über TYPO3 Websites und KI: https://www.pagemachine.de/entwicklung/kuenstliche-intelligenz-und-typo3

Kontaktieren Sie gerne uns unter info@pagemachine.de .

https://www.pagemachine.de/pagemachine/kontakt.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert