Schlüsselkompetenz: Der KI auch mal widersprechen können

Eine groß angelegte, randomisiert kontrollierte Feldstudie untersuchte schon im Jahr 2024 den Einfluss von GPT-4 auf das Lernen in der Mathematik. Fast tausend Gymnasiasten nahmen teil. Die Studie verglich zwei Varianten eines KI-Tutors: eine Standardversion und eine mit Lernschutzmaßnahmen, die Hinweise statt fertiger Lösungen gab.

Der Zugang zu generativer KI verbesserte die Leistung der Schüler während der Nutzung signifikant. Ohne Schutzmaßnahmen führte der unbegrenzte KI-Zugang jedoch zu schlechteren Ergebnissen, sobald die KI-Hilfe nicht mehr verfügbar war. Die Leistung sank in diesem Fall um 17 Prozent, was auf eine Beeinträchtigung des Lernens hindeutet. Durchdachte Schutzmaßnahmen konnten diese negativen Lerneffekte weitgehend abmildern.

Diese Studie konzentriert sich auf den Bildungsbereich und Mathematik an Gymnasien. Sie hat keinen direkten Bezug zum Gesundheitswesen, zur medizinischen Ausbildung oder eHealth. Die hier beobachteten Effekte einer Lernbeeinträchtigung sind nicht ohne Weiteres auf medizinische oder klinische Kontexte übertragbar und bedürfen dort separater Überprüfung.

Eine Feldstudie untersuchte die Auswirkungen von Künstlicher Intelligenz (GPT-4) auf 758 Wissensarbeiter bei Management-Beratungsaufgaben. Sie führte das Konzept der „jagged technology frontier“ ein, um den ungleichmäßigen Einfluss von KI zu beschreiben. Das Experiment verglich die Leistung mit und ohne KI-Unterstützung bei verschiedenen Aufgabentypen. Die Studie wurde von Dell'Acqua et al. im Jahr 2026 in "Organization Science" veröffentlicht.

KI steigerte die Produktivität und Qualität bei Aufgaben innerhalb ihrer Kompetenzgrenzen signifikant. Die KI-Gruppe erledigte 12,2% mehr Aufgaben, war 25,1% schneller und lieferte eine höhere Qualität. Bei einer komplexen Aufgabe, die außerhalb der KI-Kompetenz lag, sank die Rate korrekter Lösungen jedoch um 19%. Dies weist auf die Grenzen der KI-Unterstützung hin.

Diese Studie wurde im Kontext des allgemeinen Management Consultings durchgeführt. Ihre Ergebnisse sind nicht direkt auf spezifische medizinische Anwendungen oder das Gesundheitswesen übertragbar. Eine Kausalität für Patientennutzen oder wirtschaftliche Tragfähigkeit im medizinischen Sektor ist aus diesen Daten nicht ableitbar - aber sehr wahrscheinlich. Die Befunde beziehen sich auf ein bestimmtes KI-Modell und eine spezifische Aufgabenumgebung.

Ein Digital-Health-Podcast diskutiert, wie KI und Smartphone-Apps die kardiologische Diagnostik prägen. Die App „Theodor Health“ zeigt, wie Herzgeräusche per Smartphone erfasst und mit KI vorab ausgewertet werden können; sie befindet sich noch im Zertifizierungsprozess. Kardiologen betonen das Potenzial digitaler Tools wie Smartwatch-EKGs für gezielte Überweisungen.

Diese Entwicklung bietet neue Zugangswege zur Früherkennung, etwa bei Herzklappenerkrankungen. Führungskräfte sollten erkennen, dass KI-Lösungen die ärztliche Expertise ergänzen, jedoch nicht ersetzen. Die abschließende Diagnose und die klinische Einordnung bleiben Aufgabe des geschulten Personals und etablierter Verfahren wie der Echokardiografie.

Der Geriater James Deardorff (UCSF) betont die Notwendigkeit einer sorgfältigen Prüfung von KI-Modellen für ältere Erwachsene. Er warnt davor, dass selbst akkurate KI-Prognosen zu unerwünschten Ergebnissen führen können, wenn sie unreflektiert oder für falsche Entscheidungen eingesetzt werden. Entscheidend ist die verantwortungsvolle Anwendung der Ergebnisse. Der vollständige Artikel ist nur für Abonnenten von STAT+ zugänglich.

Führungskräfte im Gesundheitswesen müssen die Limitationen und den Anwendungskontext von KI-Ergebnissen verstehen. Ein Beispiel ist Epic’s End-of-Life-Vorhersagemodell: Als Grundlage für ergebnisoffene Gespräche über Versorgungsziele ist es wertvoll. Wird es hingegen für risikoreiche Entscheidungen wie Transplantationsprioritäten genutzt, können die Auswirkungen gravierend sein. Die reine Modellgenauigkeit sichert noch keinen positiven Patientennutzen.

Die kritische Auseinandersetzung mit den Grenzen und der Zuverlässigkeit von KI ist im Gesundheitswesen von größter Bedeutung. Es ist wichtig zu verstehen, warum Large Language Models für präzise klinische Berechnungen ungeeignet sind und welche Strategien stattdessen verfolgt werden sollten. Wer Lust hat, die kritischen Reflexionen dieser Ausgabe mit seiner KI weiterzudiskutieren, kann dies mit diesme Prompt machen.