Menschliches Lernen ist ein unterschätzter Faktor für erfolgreiche Mensch-KI-Teams

„Das Potenzial der Mensch-KI-Zusammenarbeit wird unterschätzt“, lautet das zentrale Fazit der Studie. Sie ist in den Proceedings of the National Academy of Sciences erschienen. Durchgeführt hatte sie ein internationales Team um Julian Berger und Stefan Herzog vom Forschungsbereich Adaptive Rationalität des Max-Planck-Instituts für Bildungsforschung. Die Forschenden hatten sich eine Übersichtsstudie vorgenommen, die 2024 für Aufsehen gesorgt hatte: Damals hatten Forschende 74 Publikationen zur Interaktion von Menschen und KI analysiert. Untersuchungsgegenstand waren KI-Systeme für ganz unterschiedliche Aufgaben. Das Spektrum reichte von der Klassifizierung von Bildern über die Vorhersage von Immobilienpreisen bis zum Programmieren.  

Das Ergebnis war ernüchternd: Der Synergie-Effekt war im Schnitt negativ. Mensch und KI erzielten gemeinsam schlechtere Ergebnisse als der jeweils bessere Partner allein. Das nährte Zweifel, ob sich die Zusammenarbeit von Mensch und KI überhaupt lohnt. 

Lerneffekte unterschätzt 

Sieht es tatsächlich so düster aus? Genau dieser Frage sind die Forschenden mit ihrer neuen Übersichtsarbeit auf den Grund gegangen. Sie haben sich die 74 Studien erneut vorgenommen und die Art und Weise der Mensch-KI-Interaktion genauer betrachtet. Sie wollten wissen, ob das Bild anders aussieht, wenn KIs ihre Ergebnisse erklären oder wenn Menschen nach jeder Entscheidung erfahren, was richtig gewesen wäre (Feedback) und damit die Möglichkeit haben, zu lernen und sich auf den Algorithmus einzustellen. 

Die erste überraschende Erkenntnis war: Lernmöglichkeiten fehlten in den meisten Studien. Nur 10 der 74 Studien gaben den Teilnehmenden überhaupt Feedback, keine variierte es experimentell. „Lerneffekte sind in der Mensch-Maschine-Interaktion noch nahezu unerforscht“, sagt Julian Berger, der sich im Rahmen seiner Doktorarbeit am Max-Planck-Institut für Bildungsforschung mit diesem Thema auseinandergesetzt hat.  

Um ihre Wirkung dennoch herauszuarbeiten, schauten die Forschenden genauer hin. Mit einem Statistikverfahren (Meta-Regression) verglichen sie Studien mit und ohne Feedback und berücksichtigten dabei, ob die KI ihre Empfehlungen erklärte. Das Ergebnis war die zweite Überraschung: Hatten die Versuchspersonen Zugang zu Feedback und Erklärungen, schnitt das Tandem aus Mensch und KI tendenziell besser ab als der bessere Partner allein. Deutlich war dagegen das Gegenstück: Erklärungen ohne Feedback gingen mit klar negativer Synergie einher.  

Entscheidend scheint also die Kombination von Erklärung und Feedback zu sein. Ohne Erklärungen machte Feedback keinen klaren erkennbaren Unterschied. „Dieses Ergebnis deutet darauf hin, dass Erklärungen Synergieeffekte vor allem dann verstärken, wenn Menschen lernen können, die Zuverlässigkeit der KI durch Feedback zu überprüfen“, schreiben die Wissenschaftler. 

Noch offen: Kausalität und generative KI 

Da keine der 74 Studien Lernmöglichkeiten innerhalb desselben Experimentes variiert hatte (z.B. mit vs. ohne Feedback), wurden verschiedene Studien anhand ihrer Studiendesigns verglichen. Für klare, kausale Schlussfolgerungen seien nun Experimente erforderlich, welche direkt die Lernmöglichkeiten variieren, betonen die Forscher. Offen ist auch die Frage, wie die Ergebnisse auf generative KI und so genannte Large Language Models (LLMs) übertragbar sind. „Die sprachliche Interaktion mit Chatbots könnte es einfacher machen, Menschen personalisiert Feedback und Erklärungen zu geben und damit das Lernen anzustoßen. Voraussetzung ist aber auch dort, dass Menschen erfahren, was tatsächlich richtig ist; die Antworten eines Chatbots können selbst ja falsch sein und stellen noch kein unabhängiges Feedback dar“, sagt Stefan Herzog, Senior Research Scientist am Forschungsbereich Adaptive Rationalität des Max-Planck-Instituts für Bildungsforschung. „Auf der anderen Seite entstehen neue Risiken durch das kognitive ´Offloading´, also die Delegierung von Denkarbeit an die KI. Das könnte mittel- und langfristig den Lernerfolg gefährden oder sogar den Verlust von Fertigkeiten fördern.“ 

Menschliche Lernfähigkeit in der KI-Einführung mitdenken 

Um ein klares Bild zu erhalten, fordern die Wissenschaftler nicht nur weitere Experimente, sondern vor allem „einen Paradigmenwechsel in der Forschung zur Mensch-KI-Interaktion, um das menschliche Lernen explizit zu berücksichtigen“. Sie betonen: „Die Unterstützung des menschlichen Lernens – insbesondere durch Feedback und KI-Erklärungen – ist ein unterschätzter und bislang wenig erforschter, aber vielversprechender Hebel zur Steigerung der Synergie zwischen Mensch und KI. Unsere Ergebnisse zeichnen also nicht nur ein optimistischeres Bild der Mensch-Maschine-Interaktion. Sie unterstreichen auch die Notwendigkeit, explizit und experimentell zu untersuchen, wann und wie die Förderung des menschlichen Lernens die Synergie zwischen Mensch und KI verstärkt.“ 

Dennoch macht diese Forschung schon heute eine klare Empfehlung möglich: KI ist ein Werkzeug, das wie jedes andere Werkzeug von Anfang an menschgerecht gestaltet werden muss. „Wir müssen den Menschen beim Design von KI-Systemen und der Interaktionen mit ihnen von Anfang an als lernendes Wesen mitdenken“, betont Herzog. Erst dann lässt sich das volle Potenzial der Interaktion nutzen. 

Auf einen Blick 

• Frühere Analysen zur Mensch-Maschine-Interaktion zeigten meist negative Synergieeffekte. Eine Übersichtsarbeit mit 74 Studien legte nahe, dass Mensch-KI-Teams schlechter abschneiden als der jeweils Bessere von beiden allein. 

• Diese 74 Studien haben Forschende des Forschungsbereichs Adaptive Rationalität des Max-Planck-Instituts für Bildungsforschung nun erneut analysiert. Das Ergebnis ist ein deutlich positiveres Bild. 

• Der Grund für die Neubewertung: Die Lernfähigkeit des Menschen wurde in den Studien systematisch unterschätzt und meist nicht untersucht. Konnten Versuchspersonen von Feedback und Erklärungen jedoch lernen, schnitt das Tandem aus Mensch und KI tendenziell besser ab als der bessere Partner allein. 

• Paradigmenwechsel gefordert: Wissenschaftliche Arbeiten zur Mensch-KI-Interaktion müssen den Forschenden zufolge den Effekt der menschlichen Lernfähigkeit in künftige Experimente und Studien einbeziehen.