ChatGPT und Co als Gesundheitsbegleiter – Was Patient*innen und Angehörige wissen sollten

Sie oder eine Ihnen nahestehende Person befinden sich auf der Intensivstation. Diese Ausnahmesituation ist oft mit großer Unsicherheit verbunden. Die Verunsicherung betrifft häufig auch die Einordnung der medizinischen Situation und der erhobenen Befunde. Um sich zu orientieren und mehr Sicherheit zu gewinnen, liegt es nahe, eine Künstliche Intelligenz (KI) wie ChatGPT zu befragen. Es bedarf jedoch auch entsprechender Kenntnisse darüber, wie die Antworten einer KI interpretiert werden sollten. Dieser Artikel zeigt auf, was KI für Sie leisten kann, wo ihre Grenzen liegen und wie Sie sie verantwortungsvoll nutzen können.

KI ist kein*e Ärzt*in 

Das ist der wichtigste Punkt. Abgesehen von der fehlenden persönlichen Begleitung, kann KI keine Diagnosen stellen und keine Therapien empfehlen. Sie hat Sie nicht untersucht, kennt Ihre Vorgeschichte nicht und kann keine körperlichen Befunde erheben. Die KI berücksichtigt nicht Ihre individuelle Situation und Ihren Verlauf.

KI klingt überzeugend – auch wenn sie falsch liegt

Sprachmodelle sind darauf trainiert, flüssige, selbstsichere Antworten zu geben. Das bedeutet nicht, dass die Antworten stimmen. Besonders problematisch kann es sein, wenn Sie der KI Suggestivfragen stellen ("Ich habe sicher Krebs, oder?“). Dann neigen manche Modelle dazu, Ihre Ängste zu bestätigen, statt neutral zu bleiben. Forscher*innen nennen das "Sycophancy"(unterwürfige Schmeichelei) – die KI sagt, was Sie hören wollen.

Daher gilt die Empfehlung wichtige Informationen immer gegenchecken zu lassen – idealerweise im Gespräch mit Ihren behandelnden Ärzt*innen.

Datenschutz: Was Sie besser nicht eingeben sollten

KI-Tools wie ChatGPT verarbeiten Ihre Eingaben auf Servern – oft außerhalb Europas. OpenAI's neue "ChatGPT Health"-Funktion ist beispielsweise nicht in der EU und UK verfügbar, da sie möglicherweise nicht den strengen Anforderungen der Datenschutz Grundverordnung (DSGVO) entspricht.

Expert*innen warnen daher, dass KI-Chatbots nicht unter die üblichen Gesundheitsdatenschutzgesetze fallen. Wenn Sie Ihre Gesundheitsdaten mit ChatGPT teilen, verlieren diese den Schutz, den sie bei Ihren Ärzt*innen oder Ihrer Krankenkasse hätten.

Geben Sie daher keine sensiblen Daten ein (vollständiger Name, Geburtsdaten, keine vollständigen Befunde mit Ihren Daten), sondern anonymisieren Sie stattdessen.

Als zweite Meinung nutzen, nicht als Bestätigung

Studien zeigen, dass auch der Umgang mit der KI dem sogenannten Bestätigungsfehler (confirmation bias) unterliegt: wir Menschen neigen dazu, KI-Rat zu ignorieren, wenn er unserer Intuition widerspricht – selbst wenn die KI recht hat. Umgekehrt akzeptieren wir KI-Aussagen unkritisch, wenn sie bestätigen, was wir schon glauben. Nutzen Sie KI bewusst als Korrektiv, indem Sie gezielt nach Gegenargumenten fragen ("Welche anderen Erklärungen könnte es für diese Symptome geben?“).

Ergebnisse ins Arztgespräch mitnehmen

Die bestmögliche Nutzung von KI im Gesundheitswesen könnte darin aussehen, Informationen zu sammeln, Fragen vorzubereiten – und diese dann mit Ihrer Ärztin oder Ihrem Arzt zu besprechen ("Ich habe gelesen, dass... Stimmt das? Was bedeutet das für mich?").

So kann KI zum Türöffner für verständlichere Gespräche werden, nicht zum Ersatz dafür.

Was KI für Sie tun kann

Begriffe aus dem Arztbrief erklären:

Nach einem Intensivaufenthalt bekommen Sie einen Entlassungsbrief mit vielen Fachbegriffen. Was bedeutet „Sepsis"? Was ist ein „Delir" – und warum erinnern Sie sich an so seltsame Dinge? Was heisst „invasive Beatmung"? KI kann das verständlich erklären.

Fragen vorbereiten und Medikamente verstehen:

Sie haben bald einen Kontrolltermin? KI kann Ihnen helfen, die richtigen Fragen zu formulieren. Und wenn der Beipackzettel Ihrer neuen Medikamente Sie verwirrt, kann KI die wichtigsten Punkte zusammenfassen.

*Die verlinkten Beispiele in diesem Artikel führen zu einem KI-basierten Tool mit eingebauten Sicherheitshinweisen. Es ersetzt keine ärztliche Beratung.