Macht GenAI dumm?

Was Kritiker:innen schon immer ahnten, könnte eine neue Studie jetzt belegen. Demnach steigern GenAI-Tools zwar die Effizienz. Kritisches Denken und die Fähigkeit, Probleme zu lösen, drohen dabei aber auf der Strecke zu bleiben.

Hand aufs Herz: Wer macht sich heute noch die Mühe, komplexere Berechnungen im Kopf oder handschriftlich auszuführen? Wer kann sich wie früher noch zig Telefonnummern merken? Wer findet sich noch ohne GPS zurecht? Da ist es doch viel bequemer, das Smartphone oder den PC zur Hilfe zu nehmen.

Als generative künstliche Intelligenz mit ChatGPT Anfang 2023 aufkam, war die Sorge groß, dass die Tools den Menschen schon im Kindesalter die Denk- und Lernfähigkeit nehmen könnten. Eine von einer Umfrage begleitete Studie von Carnegie Mellon und Microsoft hat nun tatsächlich gezeigt, dass GenAI zwar die Effizienz erhöht, gleichzeitig aber auch kritisches Denken einschränken kann. Außerdem bestehe die Gefahr, dass die KI-Helfer zu übermäßiger Abhängigkeit führen und mit der Zeit die Fähigkeit hemmen, Probleme selbständig zu lösen.

Wo bleibt das kritische Denken?

„Die Automatisierung nimmt dem Benutzer die Möglichkeit, sein Urteilsvermögen durch regelmäßige Routineaufgaben zu trainieren. Stattdessen muss er nur noch in Ausnahmefällen eingreifen – auf die er dann ironischerweise nicht vorbereitet ist, weil ihm die Übung fehlt“, zitiert die Computerwoche aus der Studie. Grundlage dafür war eine Befragung von 319 Wissensarbeitern, die mindestens einmal wöchentlich KI-Tools wie ChatGPT oder Microsoft Copilot verwenden.

Die Studie kam unter anderem zu dem Ergebnis, dass das GenAI-Vertrauen der Beschäftigten mit weniger Aufwand beim kritischen Denken korreliert und sich dessen Schwerpunkte verlagert haben:

• vom Sammeln von Informationen zum Überprüfen derselben,
• vom Lösen von Problemen zum Integrieren von KI Antworten,
• vom Ausführen von Aufgaben dahin, diese zu überwachen.

Wenn kognitive Entlastung zur Last wird

Die Verantwortlichen der Studie empfehlen daher, GenAI-Tools so zu konzipieren, dass sie kritisches Denken unterstützen, indem sie die Mitarbeitenden mehr motivieren und befähigen, statt ihnen mentale Steine in den Weg zu legen.

David Raffo vom Maseeh College of Engineering and Computer Science der Portland State University weist unterdessen darauf hin, dass GenAI andere Gehirnfunktionen beansprucht als bei der Verwendung eines Taschenrechners oder eine Suchmaschine: „GenAI-Tools entlasten bei Aufgaben, die Sprach- und Führungsfunktionen beinhalten. Es gilt das Prinzip ‘use it or lose it‘: Wenn wir unser Gehirn mit Schreiben, Kommunikation, Planung und Entscheidungsfindung beschäftigen, verbessern sich diese Fähigkeiten. Diese Aufgaben an generative KI und andere Tools abzugeben, beraubt uns der Möglichkeit, zu lernen und zu wachsen oder auch nur auf dem erreichten Niveau zu bleiben.“

Microsoft zeigt positive Lerneffekte

Lev Tankelevitch, Leitender Forscher bei Microsoft Research, zufolge gibt es aber auch Belege dafür, dass KI kritisches Denken und Lernergebnisse im Bildungsbereich verbessern kann. In Nigeria hätten zum Beispiel KI-Tutoren laut einer anderen Studie Schüler:innen geholfen, in nur sechs Wochen den Lernstoff von zwei Jahren zu verinnerlichen.

„In all unseren Forschungsarbeiten gibt es einen gemeinsamen Nenner: KI funktioniert am besten als Denkpartner und ergänzt die Arbeit der Menschen“, so Tankelevitch. „Wenn KI uns herausfordert, steigert sie nicht nur die Produktivität, sondern führt auch zu besseren Entscheidungen und stärkeren Ergebnissen.“

Quelle Titelbild: iStock / Zapp2Photo