Stell dir vor, ein Computer könnte lernen, wie du es tust. Foschende haben herausgefunden, wie das besser funktioniert.
Hast du schon mal von Sprachmodellen gehört? Das sind Programme, die lernen, wie Menschen sprechen und schreiben. Sie können Texte verstehen und sogar selbst schreiben. Diese Modelle sind sehr clever, aber manchmal haben sie Schwierigkeiten, das Gelernte auf neue Situationen anzuwenden. Das ist, als ob du lernst, wie man ein Fahrrad fährt, aber dann nicht mehr weißt, wie man es rückwärts fährt. Foschende haben sich gefragt, wie man diese Modelle besser machen kann.
Was die Forschenden herausgefunden haben
Die Foschende haben herausgefunden, dass es zwei verschiedene Arten gibt, wie Sprachmodelle lernen können. Die eine Art ist, dass sie direkt mit neuen Informationen gefüttert werden, das nennt man „Feinabstimmung“. Die andere Art ist, dass sie aus dem Kontext lernen, also aus dem, was gerade passiert. Sie haben festgestellt, dass das Lernen aus dem Kontext oft besser funktioniert, wenn es darum geht, neue Dinge zu verstehen. Das ist, als ob du ein Rätsel löst und dabei lernst, wie man es besser macht.
Wie haben sie das gemacht?
Um das herauszufinden, haben die Foschende spezielle Datensätze erstellt. Diese Datensätze waren so gestaltet, dass sie nur die neuen Informationen enthielten, die die Modelle lernen sollten. Sie haben die Modelle dann entweder direkt mit diesen Informationen gefüttert oder sie haben sie in einem Kontext lernen lassen. Danach haben sie getestet, wie gut die Modelle mit neuen Aufgaben zurechtkommen. Sie haben festgestellt, dass das Lernen aus dem Kontext oft besser funktioniert, wenn es darum geht, neue Dinge zu verstehen.
Warum ist das wichtig?
Das ist wichtig, weil Sprachmodelle in vielen Bereichen eingesetzt werden, zum Beispiel in Übersetzungsprogrammen oder in Chatbots. Wenn sie besser lernen können, werden sie auch besser in dem, was sie tun. Das bedeutet, dass sie uns besser verstehen und helfen können. Zum Beispiel könnte ein Chatbot, der besser lernt, dir bei den Hausaufgaben helfen oder dir erklären, wie man ein Experiment durchführt.
Du willst mehr über die Studie wissen?
Die Foschenden, die diese Entdeckungen gemacht haben, heißen Andrew K. Lampinen, Arslan Chaudhry, Stephanie C. Y. Chan, Cody Wild, Diane Wan, Alex Ku, Jörg Bornschein, Razvan Pascanu, Murray Shanahan und James L. McClelland. Ihre Arbeit wurde im Jahr 2025 veröffentlicht.