Das Ergebnis ist alarmierend, wie heise.de berichtet: In 51,6 % der tatsächlichen medizinischen Notfälle unterschätzte die KI den Schweregrad der Situation. So empfahl das System beispielsweise Patienten mit schweren Diabeteskomplikationen oder akuten Asthmaanfällen, innerhalb von 24 bis 48 Stunden einen Arzt aufzusuchen, anstatt direkt in die Notaufnahme zu gehen.
Selbst im Falle harmloser Beschwerden, außerdem
Umgekehrt hat ChatGPT Health bei kleineren Beschwerden übervorsichtig agiert: Das System hat fast 65 % der Fälle, die laut Empfehlungen problemlos zu Hause behandelt werden könnten, als behandlungsbedürftig eingestuft. Dies birgt die Gefahr einer unnötigen Belastung des Gesundheitssystems.
In typischen, mäßig dringlichen Fällen schnitt die KI gut ab und stimmte in 93 % der Fälle mit der ärztlichen Empfehlung überein. Die Probleme liegen daher in den Extremfällen, also genau dort, wo präzise Einschätzungen entscheidend sind.
