Wenn die KI-Gesundheitsapp irrt: Woran du seriöse Apps erkennst
Eine Studie zeigt: Beliebte KI-Gesundheits-Apps versagen bei komplexen Fragen. So erkennst du, welcher App du vertrauen kannst.
KI-Gesundheits-Apps gelten als Zukunft der Prävention. Millionen Menschen fragen täglich Chatbots, welche Symptome sie ernst nehmen sollten oder ob ein Medikament mit einem anderen Wechselwirkungen hat. Der Markt wächst rasant, die Bewertungen sind spektakulär. Doch eine Pilotstudie, veröffentlicht im Dezember 2025 auf dem Preprint-Server medRxiv, zeigt: Auch die meist genutzten Plattformen versagen bei komplexen medizinischen Fragen häufiger als erwartet. Das wirft eine grundlegende Frage auf, die jeden betrifft, der digitale Gesundheitsangebote nutzt: Wie erkennst du, welcher App du vertrauen kannst?
Was eine Studie über eine milliardenschwere KI-App aufdeckt
OpenEvidence ist eine der meistgenutzten medizinischen KI-Plattformen weltweit. Mehr als 750.000 Ärztinnen und Ärzte nutzen sie regelmäßig – monatlich werden etwa 15 Millionen klinische Konsultationen abgewickelt. Im Januar 2026 erreichte das Unternehmen eine Bewertung von zwölf Milliarden US-Dollar, finanziert von Investoren wie DST Global, Sequoia und Google Ventures. Wer solche Summen einsammelt, muss verlässlich liefern.
Doch Forscherinnen und Forscher der University of Texas Southwestern und der Virginia Commonwealth University haben das Werkzeug genauer unter die Lupe genommen. Sie testeten OpenEvidence anhand von 100 Szenarien aus Facharztspezialisierungs-Examina – also praxisnahen, komplexen medizinischen Fragen, wie sie im Klinikalltag tatsächlich auftauchen. Das Ergebnis laut der Pilotstudie von Jagarapu, Babata, Chamarthi und Hoyt (medRxiv, Dezember 2025): Die Standardversion der Plattform beantwortete nur gut ein Drittel der Fragen korrekt. Die erweiterte Analyse-Funktion namens "Deep Consult" kam auf maximal 41 Prozent. Zum Vergleich: Bei einfachen Multiple-Choice-Fragen aus dem US-Medizinerexamen hatte dieselbe App zuvor 100 Prozent erreicht. Standardtests und medizinische Alltagsrealität klaffen also weit auseinander.
Hinzu kommt ein Stabilitätsproblem. Stellte man dieselbe Frage mehrfach, kam die App in rund jedem vierten Fall zu einer anderen Antwort. Wer sich auf solche Auskunft verlässt, riskiert also, je nach Tageszeit oder Formulierung unterschiedliche Ratschläge zu erhalten. Verlässlichkeit sieht anders aus.
Warum starke Prüfnoten allein nicht genug sind
Das OpenEvidence-Beispiel zeigt ein Muster, das in der digitalen Gesundheitsbranche häufiger vorkommt. Viele Apps werden anhand von Benchmark-Tests bewertet – standardisierten Prüfformaten, die gut messbar sind, aber wenig darüber sagen, wie die App mit den Fragen umgeht, die Menschen wirklich beschäftigen. Welche Kombination aus Symptomen sollte ich ernst nehmen? Wie verhalten sich meine drei Dauermedikamente zueinander? Wann ist ein Arztbesuch wirklich nötig?
Apps, die mit simplen Multiple-Choice-Tests oder Pressemitteilungen werben, lassen die entscheidenden Qualitätsfragen offen. Laut dem unabhängigen Gesundheitsportal HealthOn fehlen vielen Gesundheits-Apps klare Angaben dazu, welchen Zweck sie erfüllen – und wo ihre Grenzen liegen. Ohne diese Transparenz können Nutzerinnen und Nutzer kaum einschätzen, wie viel Vertrauen angebracht ist.
Noch eine Besonderheit im Fall OpenEvidence: Die Plattform hat sich 2026 aus dem EU-Markt zurückgezogen – als offiziellen Grund nannte das Unternehmen regulatorische Unsicherheit durch den EU AI Act. Für Menschen in Deutschland bedeutet das eingeschränkten Zugang. Die Frage nach Transparenz und Verlässlichkeit bei KI-Gesundheits-Apps bleibt jedoch universell, unabhängig davon, welche Plattform man gerade vor Augen hat.
Woran du seriöse KI-Gesundheits-Apps erkennst
Es gibt keine einfache Checkliste, die in fünf Sekunden Sicherheit schafft. Aber es gibt klare Merkmale, die auf Qualität hindeuten. Seriöse Apps kommunizieren transparent, was sie können und was nicht – und weisen darauf hin, dass sie keinen Arztbesuch ersetzen. Sie geben ihre Quellen an: Welche Studien, welche Leitlinien liegen den Antworten zugrunde? Wenn ein Tool vage bleibt oder gar keine Quellen nennt, ist Vorsicht angebracht.
Wer als Medizinprodukt zugelassen ist, hat eine besondere Hürde genommen. Das Bundesinstitut für Arzneimittel und Medizinprodukte, kurz BfArM, pflegt das sogenannte DiGA-Verzeichnis – eine Liste zugelassener digitaler Gesundheitsanwendungen, die klinisch geprüft wurden. Steht eine App dort, hat sie nachgewiesen, dass sie einen messbaren gesundheitlichen Nutzen hat. Das ist keine Garantie, aber ein deutlich stärkeres Signal als eine Marketingbotschaft auf der Startseite.
Weitere Orientierungspunkte laut HealthOn-Checkliste: Der Anbieter ist klar benannt, ein Impressum ist vorhanden und erreichbar. Nutzerbewertungen im App Store sind zahlreich und differenziert – nicht durchgehend euphorisch ohne kritische Stimmen. Und der Datenschutz ist transparent geregelt: Gerade bei Gesundheitsdaten ist entscheidend zu wissen, wer Zugriff hat, wie lange Daten gespeichert werden und ob sie an Dritte weitergegeben werden.
Was das für deinen Alltag bedeutet
KI kann im Gesundheitsalltag echten Mehrwert liefern. Sie kann dabei helfen, Symptome einzuordnen, auf mögliche Wechselwirkungen zwischen Medikamenten hinzuweisen oder an Vorsorgeuntersuchungen zu erinnern. Das alles ist wertvoll, wenn es sorgfältig gemacht ist.
Aber selbst die teuerste und meistgenutzte Plattform auf dem Markt ersetzt keine klinische Einschätzung. Die Studie zu OpenEvidence zeigt, dass das Vertrauen in solche Tools nicht allein an ihrer Bekanntheit oder Bewertung hängen darf. Es braucht Transparenz über Qualität, Quellen und Grenzen – und Nutzerinnen und Nutzer, die diese Transparenz einfordern.
Wer eine Gesundheits-App nutzt, sollte sie als Orientierungshilfe verstehen, nicht als letztes Wort. Unklare oder besorgniserregende Symptome gehören weiterhin zum Arzt oder zur Ärztin. Digitale Werkzeuge, die das klar kommunizieren, sind vertrauenswürdiger als solche, die sich als vollständiger Ersatz präsentieren.
Auf bestes.com findest du geprüfte Gesundheits-Apps und digitale Angebote mit Quellenangaben, Nutzungsbedingungen und Kategorisierung nach Anwendungsgebiet – damit du schnell erkennst, was ein Tool kann und was nicht.