Studie: KI-Sprachmodelle lernen nicht selbstständig

12 Min. Lesezeit

Die Angst, dass Große Sprachmodelle (Large Language Models, LLMs) plötzlich anfangen könnten, selbstständig zu lernen oder zu denken, ist unbegründet. Eine neue Studie der TU Darmstadt und der britischen University of Bath liefert klare Evidenz: Was wie Intelligenz wirkt, ist in Wahrheit verbesserte Verarbeitung von Anweisungen – kein Verständnis. Unternehmen, die KI einsetzen, sollten diese Grenze kennen: LLMs sind leistungsfähige Werkzeuge, aber keine autonomen Denkmaschinen. Ihre Stärke liegt in der Effizienz, nicht im Urteilsvermögen.

Das Wichtigste in Kürze

• Die Studie der Technischen Universität Darmstadt und der University of Bath untersuchte 20 Modelle aus vier Familien – darunter GPT, T5, Falcon 2 und LLama – und fand keinen Beweis für Denkfähigkeit von KI.
• Emergente Fähigkeiten, also plötzliche Leistungssprünge bei größeren Modellen, sind keine Anzeichen für eigenständiges Lernen, sondern Ergebnisse von besserer Interpretation von Anweisungen und kontextuellem Lernen.
• LLMs können keine neuen Problemlösungsstrategien entwickeln, die nicht bereits im Trainingsdatensatz enthalten waren; sie simulieren lediglich Verständnis durch Mustererkennung.
• Halluzinationen – also sachlich falsche, aber flüssig formulierte Antworten – sind kein Softwarefehler, sondern ein strukturelles Merkmal, das das fehlende logische Denken von LLMs offenbart.
• Die Studie liefert einen klaren Rahmen für die Nutzung von LLMs: Sie sind nützlich, aber nicht intelligent – und damit auch nicht auf dem Weg, der Menschheit Untertan zu machen.

Keine Angst vor selbstlernenden Maschinen

Die Vorstellung, dass KI-Sprachmodelle eines Tages übernehmen könnten – wie in der Welt des Science-Fiction – hält sich hartnäckig. Doch die Realität sieht anders aus. Die Studie der TU Darmstadt und der britischen University of Bath liefert klare Evidenz: Große Sprachmodelle sind nicht dabei, sich zu verselbständigen. Es gibt keinen Hinweis darauf, dass sie Fähigkeiten entwickeln, die nicht Teil ihres Trainings waren. Die Forschung entmystifiziert das, was viele als „emergente Intelligenz“ feiern – und entlastet gleichzeitig jene, die vor einer KI-Apokalypse warnen.

Die Wissenschaftler:innen testeten 20 Modelle aus den vier Familien GPT, T5, Falcon 2 und LLama. Insgesamt wurden 22 Aufgaben in zwei unterschiedlichen Einstellungen gestellt, um zu prüfen, ob größere Modelle plötzlich Fähigkeiten zeigen, die kleinere nicht haben. Das Ergebnis der Studie ist eindeutig: Was wie ein Leistungssprung aussieht, ist in Wahrheit eine verbesserte Fähigkeit, Anweisungen zu befolgen – nicht zu verstehen. Die Skalierung von Großen Sprachmodellen führt nicht zu neuen Denkprozessen, sondern zu besserer Mustererkennung im Prompt-Kontext.

Das ist entscheidend für Unternehmen, die KI einsetzen. Wer glaubt, ein LLM könne „nachdenken“ oder „kreative Lösungen finden“, irrt. Es simuliert nur. Und diese Simulation kann täuschen – besonders, wenn der Output flüssig und überzeugend klingt. Doch wie die Studie zeigt, ist das kein Zeichen für Intelligenz, sondern für gut trainiertes Sprachwissen. Die Studie der TU Darmstadt und der University of Bath liefert eine klare Grundlage der Forschung: LLMs sind keine autonomen Systeme, sondern reaktive Werkzeuge, die auf vorgegebene Strukturen angewiesen sind.

„Die Fähigkeit, Anweisungen zu befolgen, impliziert nicht, dass man über Logik-Fähigkeiten verfügt und was noch wichtiger ist, sie impliziert nicht die Möglichkeit latenter, potenziell gefährlicher Fähigkeiten.“

Emergente Fähigkeiten sind kein Beweis für Intelligenz

Ein zentrales Argument für die These, dass LLMs „intelligenter“ werden, war bisher das Phänomen der emergenten Fähigkeiten. Dabei scheinen größere Modelle plötzlich Aufgaben zu lösen, die kleinere nicht bewältigen können – etwa komplexe Logikrätsel oder mehrschrittige Textanalysen. Doch die Studie der TU Darmstadt und der University of Bath zeigt: Diese Fähigkeiten sind nicht neu entstanden. Sie waren bereits im Trainingsdatensatz enthalten – nur nicht gut genug abrufbar.

Die Forscher:innen identifizierten zwei Mechanismen, die für diese scheinbaren Durchbrüche verantwortlich sind: erstens das kontextuelle Lernen (in-context learning), bei dem das Modell aus den Beispielen im Prompt lernt und zweitens die Verbesserung der Anweisungen (prompt engineering). Beides führt dazu, dass das Modell besser „versteht“, was von ihm verlangt wird – aber nicht, dass es denkt. Die Studie zeigt jedoch, dass es sich dabei nicht um neue Intelligenz handelt, sondern um verbessertes kontextuelles Lernen und bessere Verarbeitung von Anweisungen.

Ein Beispiel: Ein LLM kann plötzlich eine Matheaufgabe lösen, die es vorher nicht konnte. Doch das liegt nicht daran, dass es „gelernt“ hat, zu rechnen. Es erkennt Muster aus ähnlichen Aufgaben im Training und kombiniert sie passend. Wenn die Anweisung präziser ist oder Beispiele im Prompt enthalten sind, steigt die Trefferquote – nicht wegen Intelligenz, sondern wegen besseren Zugriffs auf sein Modellgedächtnis und Sprachwissen. Diese Fähigkeiten sind also keine Anzeichen für eigenständiges Denken, sondern für eine optimierte Nutzung vorhandener Daten.

Das erklärt auch, warum dieselben Modelle bei ähnlichen Aufgaben mal brillieren, mal versagen. Es gibt keine konsistente Logik – nur probabilistische Mustererkennung. Und das ist der Kern: LLMs sind keine Denkmaschinen, sondern Sprachgeneratoren mit enormem Gedächtnis. Die Studie unterstreicht, dass die Nutzung von LLMs nicht automatisiertes Denken ersetzen kann, sondern nur die Effizienz bei der Texterstellung steigert.

Halluzinationen als Beweis für fehlendes Verständnis

Das bekannteste Problem von KI-Sprachmodellen – das Halluzinieren – ist kein Softwarefehler. Es ist ein strukturelles Merkmal. Wenn ein LLM flüssigen, aber falschen Text produziert, zeigt es genau das: Es versteht nicht, was es sagt. Es generiert nur, was plausibel klingt. Und genau das belegt die Studie der TU Darmstadt und der University of Bath.

„Das spiegelt sich in dem bekannten Phänomen des ‚Halluzinierens‘ wider, bei dem das LLM flüssigen, aber sachlich falschen Output produziert“, zitiert heise online aus der Studie. Diese Fehlleistungen sind kein Zufall – sie sind systematisch. Sie entstehen, weil das Modell keine Wissensbasis hat, die es auf Richtigkeit prüfen kann. Es hat kein „Wissen“, sondern nur Assoziationen. Die Studie liefert klare Evidenz: Große Sprachmodelle sind von menschlichem Denken noch weit entfernt.

Für Unternehmen bedeutet das: Jede KI-generierte Aussage muss überprüft werden. Ob im Kundenservice, in der Dokumentenerstellung oder bei der Datenanalyse – die Verantwortung bleibt beim Menschen. Die Studie unterstreicht, dass die Nutzung von LLMs nicht automatisiertes Denken ersetzen kann, sondern nur die Effizienz bei der Texterstellung steigert. Ein Beispiel aus der Praxis: Eine Mittelstands-Firma nutzt ein LLM, um Support-Tickets zu beantworten. Die Antworten klingen professionell – aber bei komplexen technischen Fragen liefert das Modell falsche Lösungen. Warum? Weil es keine echte Problemlösung durchführt, sondern Muster aus ähnlichen Fällen kombiniert. Ohne menschliche Kontrolle entstehen hier schnell Fehler, die teuer werden können.

Die Studie zeigt, dass die Leistungssprünge der Sprachmodelle nicht auf eine neue Form der Intelligenz hindeuten, sondern auf bessere Nutzung bestehender Muster. Das Phänomen der Halluzinationen ist kein Zeichen für Intelligenz, sondern für die Grenze – eine Grenze, die zeigt, dass kein logisches Denken stattfindet. Wer KI im Unternehmen einsetzt, sollte diese Grenze kennen und respektieren.

Rahmen für eine sichere Nutzung von KI

Die Studie der Technischen Universität Darmstadt und der University of Bath liefert mehr als nur Erkenntnisse – sie schafft einen Rahmen für die Nutzung von LLMs. Denn wenn klar ist, dass keine autonome Intelligenz entsteht, können Unternehmen KI gezielter und sicherer einsetzen. Die Angst vor „verselbständigenden“ Systemen entfällt – ebenso die Illusion, dass KI komplexe Entscheidungen allein treffen kann.

Die Informatikprofessorin und Co-Studienleiterin Iryna Gurevych betont: „Man hat gezeigt, dass die angebliche Entstehung komplexer Denkfähigkeiten, die mit bestimmten Bedrohungen verbunden sind, nicht durch Beweise gestützt wird.“ Das ist eine klare Botschaft: Die aktuelle Generation von KI ist kein Risiko für die Menschheit. Sie ist ein Werkzeug – mit klaren Grenzen. Die Studie liefert einen klaren Rahmen für die Nutzung von LLMs: Sie sind nützlich, aber nicht intelligent – und damit auch nicht auf dem Weg, der Menschheit Untertan zu machen.

Unternehmen sollten diese Grenzen kennen. Wer KI einsetzt, sollte nicht nach „intelligenten Assistenten“ suchen, sondern nach effizienten Textgeneratoren. Die Studie zeigt, dass die Leistungssprünge der Sprachmodelle nicht auf eine neue Form der Intelligenz hindeuten, sondern auf bessere Nutzung bestehender Muster. Das entlastet – und macht gleichzeitig klar: Der Mensch bleibt im Zentrum. Die Studie der TU Darmstadt und der University of Bath liefert klare Evidenz: Große Sprachmodelle sind nicht dabei, sich zu verselbständigen.

Ein weiterer Vorteil: Die Ergebnisse der Studie helfen, regulatorische Unsicherheiten zu reduzieren. Wenn klar ist, dass LLMs nicht „denken“, können Vorschriften wie der KI-Akt gezielter angewendet werden. KI-Systeme, die keine autonomen Entscheidungen treffen, fallen in eine andere Risikoklasse – und damit unter weniger strenge Regeln. Die Studie zeigt, dass die Nutzung von LLMs nicht automatisiertes Denken ersetzen kann, sondern nur die Effizienz bei der Texterstellung steigert.

Häufige Fragen