Im Mai 2024 stellte OpenAI offiziell ChatGPT Health vor, zusammen mit seiner parallelen Initiative OpenAI for Healthcare. Ich erinnere mich genau an den Moment, als ich die Nachricht las: Es gab kein Feuerwerk, keine großspurigen Schlagzeilen, keine epische Inszenierung. Und doch hatte ich das klare Gefühl, dass gerade etwas Wichtiges passiert war.
Mit dieser Ankündigung verließ die künstliche Intelligenz relativ bequeme Gebiete —Produktivität, Kreativität, Bildung oder Programmierung— um sich voll in einen der sensibelsten, intimsten und komplexesten Bereiche zu begeben, die es gibt: die menschliche Gesundheit. Wir sprechen nicht mehr davon, Prozesse zu optimieren oder Effizienz zu gewinnen, sondern davon, in direkten Kontakt mit dem Körper, dem Geist, der Angst und der Verletzlichkeit der Menschen zu treten.
OpenAI begann nicht bei null. Seit einiger Zeit ist offensichtlich, dass Millionen von Menschen KI-Systeme nutzen, um Symptome zu interpretieren, medizinische Berichte zu verstehen, verwirrende Diagnosen zu klären oder Entscheidungen in Bezug auf ihr Wohlbefinden zu treffen. Ich selbst habe gesehen, wie Freunde und Bekannte sich an die KI wenden, noch bevor sie einen Termin bei ihrem Arzt vereinbaren. Bis jetzt war diese Nutzung informell, ungeordnet und in vielen Fällen ohne einen klaren Rahmen.
Mit ChatGPT Health entscheidet sich OpenAI, einen Schritt weiter zu gehen: diese Nutzung zu ordnen, zu kanalisieren und zu professionalisieren, indem eine spezifische Umgebung für Gesundheit geschaffen wird, mit expliziten Versprechen von mehr Privatsphäre, Datenisolierung, klaren funktionalen Grenzen und einer Idee, die wie ein Mantra wiederholt wird: KI ist hier, um zu unterstützen, nicht um zu ersetzen.
Die Einführung war jedoch nicht global. In dieser ersten Phase ist ChatGPT Health nur in bestimmten Ländern außerhalb der Europäischen Union, des Vereinigten Königreichs und der Schweiz verfügbar, hauptsächlich in den Vereinigten Staaten und anderen Gebieten mit flexibleren regulatorischen Rahmenbedingungen. Europa bleibt vorerst außen vor.
Und diese Tatsache, weit davon entfernt, anekdotisch zu sein, scheint mir ein grundlegender Hinweis auf alles zu sein, was auf dem Spiel steht.
Meine persönliche Meinung geht von einer klaren Prämisse aus: Dies kann ein großer Fortschritt sein, wahrscheinlich einer der relevantesten an der Schnittstelle zwischen Technologie und Medizin seit Jahrzehnten. Aber ich glaube auch, dass es notwendig ist, es unverblümt zu sagen: Es ist keine unschuldige oder rein altruistische Bewegung. Es gibt klare wirtschaftliche Interessen, wie es sie im Gesundheitsbereich immer gegeben hat. Das Gegenteil vorzugeben wäre naiv. Pharmaunternehmen bewegen sich seit Jahrzehnten in genau diesem instabilen Gleichgewicht zwischen Geschäft, Innovation und Gesundheit.
Für mich ist die Frage nicht, ob es Interessen gibt. Die Frage ist, welche Grenzen wir setzen, was wir als Gesellschaft aufgeben und welche Risiken wir bereit sind einzugehen, wenn technologischer Fortschritt sich von so tief persönlichen Daten ernährt.
Dieser Artikel dreht sich um zwei grundlegende Fragen, die wir meiner Meinung nach nicht umgehen können. Wie ich in Stoizismus angewandt auf die KI-Ära erkunde, brauchen wir mentale Klarheit, um diese Fortschritte zu navigieren.
ChatGPT Health: Was es genau ist und was nicht
Bevor wir in die ethische Debatte einsteigen, denke ich, dass es wichtig ist, innezuhalten und den realen Rahmen des Projekts zu klären, fern von unkritischem Enthusiasmus wie auch von leichtem Alarmismus.
ChatGPT Health wird offiziell nicht als medizinisches Diagnosesystem oder als autonomes klinisches Werkzeug präsentiert. OpenAI betont wiederholt, dass es sich um einen Unterstützungsassistenten handelt, der entwickelt wurde, um Menschen bei der Navigation in einem zunehmend komplexen, bürokratisierten und fragmentierten Gesundheitssystem zu helfen.
Laut dem, was kommuniziert wurde, sind seine Hauptverwendungen:
• Hilfe beim Verstehen komplexer medizinischer Berichte, voller Fachbegriffe. • Organisieren und Zusammenfassen von Krankenakten, die über mehrere Dokumente verstreut sind. • Vorbereitung medizinischer Konsultationen mit besseren Fragen und mehr Kontext. • Analyse von Lebensgewohnheiten und allgemeinen Wohlbefindensmustern.
In einigen Ländern kann das System auch Informationen von den eigenen Gesundheitsdatenplattformen des Benutzers integrieren, immer unter dessen expliziter Kontrolle.
Aus rechtlicher und regulatorischer Sicht ist diese Unterscheidung entscheidend. Indem OpenAI Diagnose und Behandlung explizit vermeidet, bleibt es —zumindest vorerst— außerhalb des strengsten Perimeters der klinischen Gesundheitsregulierung, insbesondere in den Vereinigten Staaten.
Das ist kein Zufall. Sprache ist wichtig. Und im Gesundheitswesen ist sie enorm wichtig.
Die aktuelle rechtliche Landkarte: Warum Europa «noch nicht» sagt
Die rechtliche Situation der auf Gesundheit angewandten künstlichen Intelligenz ist heute fragmentiert, ungleich und deutlich im Übergang.
Vereinigte Staaten
In den Vereinigten Staaten dreht sich ein großer Teil der Debatte um HIPAA, das Gesetz, das medizinische Daten in traditionellen Gesundheitsumgebungen schützt. Allerdings sind nicht alle Gesundheitsanwendungen durch HIPAA abgedeckt. Viele direkt an Verbraucher gerichtete Tools operieren außerhalb dieses Rahmens, obwohl sie andere Vorschriften in Bezug auf Datenschutz und Benachrichtigung bei Verstößen einhalten müssen.
Dieser relativ lockerere Kontext ermöglicht es Unternehmen wie OpenAI, schneller zu experimentieren, Produkte auf den Markt zu bringen und ihre Modelle anzupassen. Es ist ein Umfeld, das Innovation begünstigt, aber auch mehr Verantwortung auf den Endbenutzer überträgt.
Europa
In der Europäischen Union ist das Szenario radikal anders. Gesundheitsdaten gelten nach der Datenschutz-Grundverordnung (DSGVO) als besonders sensible Daten. Ihre Verarbeitung erfordert sehr strenge Rechtsgrundlagen, klar abgegrenzte Zwecke und verstärkte Garantien.
Hinzu kommt das europäische KI-Gesetz, das viele auf Gesundheit angewandte KI-Systeme als Hochrisikosysteme einstuft und zusätzliche Verpflichtungen zur Transparenz, menschlichen Aufsicht und Kontrolle auferlegt.
Dass ChatGPT Health in Europa noch nicht verfügbar ist, ist weder Zufall noch eine technische Entscheidung: Es ist eine direkte Konsequenz dieses viel anspruchsvolleren rechtlichen Rahmens. Europa verbietet Innovation nicht, aber unterwirft sie Reibung. Und diese Reibung verlangsamt Einführungen und zwingt dazu, Produkte und Modelle zu überdenken.
Weltweit befindet sich das Projekt daher in einer Phase regulatorischer Experimente: in einigen Ländern erlaubt, in anderen unter die Lupe genommen und in vielen Orten noch ohne endgültige Einpassung.
Heiligt der Zweck die Mittel?
Hier taucht die erste große ethische Frage auf, die mich persönlich am meisten beunruhigt: Lohnt es sich, Privatsphäre im Austausch für medizinische und gesundheitliche Fortschritte zu opfern?
Das Versprechen ist enorm. Künstliche Intelligenz, angewandt auf die Gesundheit, kann helfen, Krankheiten früher zu erkennen, Fehler zu reduzieren, überlastete Gesundheitssysteme zu entlasten und auf eine personalisiertere Medizin hinzuarbeiten. Aber um dies zu erreichen, braucht sie Daten. Und nicht irgendwelche Daten, sondern intime, biologische, emotionale und verhaltensbezogene Daten.
Die Zentralisierung von Krankenakten, Lebensgewohnheiten und Gesundheitsmustern kann den Fortschritt beschleunigen... aber sie schafft auch einzigartige Konzentrationspunkte extrem sensibler Informationen.
Die jüngste Geschichte hat uns gelehrt, dass kein System unfehlbar ist. Die Frage ist nicht nur, ob diese Daten gehackt oder missbraucht werden können, sondern etwas Tiefergehendes:
Sind wir bereit zu normalisieren, dass unsere biologische Intimität zur Tauschwährung für den Fortschritt wird?
Wir haben bereits etwas Ähnliches mit Pharmaunternehmen, Versicherern und öffentlichen Gesundheitssystemen akzeptiert. Der Unterschied jetzt ist die Größenordnung und die Fähigkeit zur Inferenz. KI speichert nicht nur Daten: Sie kreuzt sie, interpretiert sie und zieht Schlussfolgerungen, von denen selbst wir nicht wussten, dass sie gezogen werden können. Wie ich in bessere Entscheidungen im KI-Zeitalter analysiere, besteht die wahre Herausforderung darin, unser Urteilsvermögen gegenüber Systemen zu bewahren, die mehr zu wissen scheinen als wir.
Das Risiko, den Arzt als Expertenfigur zu verwischen
Die zweite Frage ist für mich noch heikler. Und sie ist es, weil sie weniger mit Technologie zu tun hat als damit, wie wir uns zu Autorität, Wissen und Vertrauen verhalten.
Ich frage mich oft, ob ein Punkt kommen kann —und ich vermute, wir sind schon nahe dran—, an dem wir aufhören, den Arzt als die Expertenfigur zu sehen, die wirklich versteht, um diese Autorität an eine Maschine zu delegieren. Nicht weil KI böswillig ist, sondern weil sie bequem, unmittelbar und scheinbar sicher ist.
Künstliche Intelligenz ist außerordentlich gut darin, Informationen zu verarbeiten, Millionen von Datenpunkten zu kreuzen und Muster zu erkennen, die dem menschlichen Auge entgehen. In diesem Sinne ist ihre Macht unbestreitbar. Aber es lohnt sich, es zu wiederholen, auch wenn es unbequem ist und gegen die allgemeine Begeisterung geht:
Eine KI versteht nicht. Sie berechnet.
Und dieser Unterschied ist nicht gering. Verstehen impliziert Kontext, Erfahrung, Intuition, Verantwortung und vor allem Bewusstsein für Konsequenzen. Berechnen impliziert, Daten zu korrelieren, Wahrscheinlichkeiten zuzuweisen und statistisch plausible Ergebnisse zu liefern.
Ein Arzt interpretiert nicht nur eine Analyse oder ein Bild. Ein Arzt hört zu, beobachtet, fragt, zweifelt, vergleicht und liest oft zwischen den Zeilen. Er berücksichtigt die Lebensgeschichte des Patienten, sein Umfeld, seinen emotionalen Zustand, seine Ängste und sein Schweigen. Eine KI, so ausgereift sie auch sein mag, begleitet nicht. Sie schaut nicht in die Augen. Sie nimmt keine emotionalen Widersprüche wahr. Sie übernimmt keine moralische Verantwortung für das, was sie vorschlägt.
Das wahre Risiko ist nicht, dass KI Ärzten hilft. Im Gegenteil: Gut eingesetzt kann sie ein außergewöhnliches Werkzeug sein, um Diagnosen zu verbessern, Fehler zu reduzieren und Qualitätszeit für die menschliche Betreuung zu gewinnen. Die wahre Gefahr tritt auf, wenn die Autorität sich verschiebt. Wenn der Patient beginnt, der Antwort einer Maschine mehr zu vertrauen als dem Urteil eines Fachmanns.
KI als Kopilot, niemals als Pilot
Ich habe bereits zu viele Fälle gesehen —und ich vermute, ich bin nicht der Einzige— von Menschen, die mit einer praktisch geschlossenen Diagnose im Kopf zur Konsultation kommen, weil „die KI es gesagt hat". Der Arzt wird dann nicht mehr als Experte gesehen, sondern bestenfalls als Validierer; schlimmstenfalls als Hindernis.
Hier ist das Risiko doppelt und zutiefst besorgniserregend.
Einerseits verarmt der medizinische Akt, der aufhört, eine Übung klinischen Urteils zu sein, um zu einer algorithmischen Bestätigung zu werden. Der Gesundheitsfachmann kann sich unter Druck gesetzt fühlen, bewusst oder unbewusst, dem nicht zu widersprechen, was die Maschine vorschlägt.
Andererseits erodiert das kritische Denken des Patienten, der als objektive Wahrheit annehmen kann, was letztlich eine auf Statistiken basierende Vorhersage ist. Wenn wir vergessen, dass KI mit Wahrscheinlichkeiten und nicht mit Gewissheiten arbeitet, wird der Spielraum für Fehler unsichtbar.
Die größte Gefahr ist meiner Meinung nach nicht technisch. Sie ist kulturell. Es ist das Akzeptieren ohne Hinterfragen, dass ein neuronales Netzwerk —so komplex es auch sein mag— menschliches Verständnis in einem Bereich ersetzen kann, in dem Fehler, Unsicherheit und Einzigartigkeit die Norm sind, nicht die Ausnahme.
Aus meiner Sicht ist die einzige verantwortungsvolle Position klar: KI muss ein Kopilot sein. Und ich sage es ohne Mehrdeutigkeit, weil ich glaube, dass hier kein Platz für halbe Sachen ist.
Wenn ich von Kopilot spreche, meine ich es nicht als oberflächliche Metapher. Ein Kopilot ist kein Schmuck oder bloßer passiver Assistent. Es ist jemand —oder etwas—, das Informationen liefert, Risiken antizipiert, Daten überprüft und hilft, bessere Entscheidungen zu treffen, aber nicht das letzte Wort hat, wenn die Umstände kritisch werden.
Ein extrem fortgeschrittener Kopilot, der in der Lage ist, wertvolle Informationen zu liefern, Muster zu erkennen, die für das menschliche Auge unsichtbar sind, Hypothesen vorzuschlagen und sich an Tausende von klinischen Studien in Sekunden zu erinnern. All das ist ein unbestreitbarer Fortschritt. Aber ein Kopilot trotzdem.
Der Pilot muss der Gesundheitsfachmann bleiben. Und nicht aus Romantik, sondern aus Gründen der Verantwortung, des Kontexts und der Ethik. Der Arzt ist derjenige, der die Konsequenzen einer Entscheidung trägt, der dem Patienten antwortet, der nicht nur Daten integriert, sondern Erfahrung, klinische Intuition und menschliches Verständnis.
Der Unterschied ist subtil, aber fundamental. KI kann uns sagen, was wahrscheinlich ist. Der Arzt entscheidet, was für diese bestimmte Person, in diesem bestimmten Moment und in diesem bestimmten Lebenskontext angemessen ist.
Wenn wir diese Funktionen verwechseln, beginnen wir, eine gefährliche Rutsche hinunterzugleiten. Das Risiko ist nicht, dass KI Fehler macht —das tun Menschen auch—, sondern dass wir die moralische Verantwortung an ein System delegieren, das sie nicht übernehmen kann.
Ich bin besonders besorgt über die Versuchung, KI als Abkürzung zu nutzen: als Möglichkeit, den Zeitmangel, die Überlastung des Gesundheitssystems oder sogar die berufliche Unsicherheit zu kompensieren. Den Kopiloten zum Autopiloten zu machen, mag kurzfristig effizient erscheinen, aber langfristig entmenschlicht es die Medizin.
Medizin ist nicht nur eine Datenwissenschaft. Sie ist auch eine zutiefst menschliche Praxis, durchzogen von Unsicherheit, Einzigartigkeit und Fragilität. Und auf diesem Terrain kann kein System, das nur auf Statistik und Mathematik basiert, menschliches Urteilsvermögen ersetzen. Wie ich in GPT-5.2 und Spiritualität reflektiere, kann Technologie ein spirituelles Werkzeug sein, aber sie sollte niemals die menschliche Verbindung ersetzen.
Deshalb bestehe ich darauf: KI muss begleiten, warnen, vorschlagen und den Blick erweitern. Aber die endgültige Entscheidung muss menschlich bleiben. Diese Funktionen zu verwechseln wäre nicht nur ein technischer Fehler. Es wäre ein ethischer und kultureller Fehler mit enormen Konsequenzen.
Die stille Gefahr: Diagnosen als Wahrheit angenommen
Es gibt ein besonders ernstes Risiko, das wir meiner Meinung nach noch nicht mit ausreichender Ernsthaftigkeit angehen: von einer Maschine generierte Diagnosen für selbstverständlich zu halten.
Dieses Risiko manifestiert sich nicht abrupt oder spektakulär. Es erscheint nicht als großer Systemausfall oder offensichtlicher Zusammenbruch. Im Gegenteil, es ist eine stille, fortschreitende, fast unsichtbare Gefahr. Sie schleicht sich allmählich in unsere Gewohnheiten ein, in unsere Art, uns zu informieren, und vor allem in unsere Art, Autorität zu interpretieren.
KI arbeitet mit Statistik und Wahrscheinlichkeit. Viel Rechenverarbeitung, ja. Immer ausgefeiltere Modelle, trainiert mit riesigen Datenmengen. Aber ihr fehlt immer noch echtes Verständnis. Sie weiß nicht, wie es ist, krank zu sein. Sie weiß nicht, was Angst angesichts einer unsicheren Diagnose ist. Sie versteht nicht das emotionale Gewicht eines falsch platzierten Wortes.
Wenn wir das vergessen, kann eine probabilistische Empfehlung für jemanden, der verletzlich oder verängstigt ist, zu einem Urteil werden. Ich habe gesehen, wie ein einfacher von einer Maschine generierter Satz Angst, Obsession oder überstürzte Entscheidungen auslösen kann. Und das ist kein technisches Versagen: Es ist ein Nutzungsversagen.
Das Problem verschärft sich, wenn der Kontext verschwindet. Eine KI kennt den Patienten nicht, hat seine Entwicklung nicht über Jahre verfolgt, nimmt keine subtilen Stimmungsschwankungen oder Widersprüche im Diskurs wahr. Dennoch kann ihre Antwort als objektiv, neutral, sogar wissenschaftlich wahrgenommen werden.
Hier tritt ein besonders gefährliches Phänomen auf: Wir verwechseln statistische Präzision mit klinischer Wahrheit. Und das ist nicht dasselbe.
Medizinische Diagnose war nie eine einfache Summe von Daten. Sie hat immer Interpretation, Umsicht, Vergleich und in vielen Fällen Abwarten impliziert. KI hingegen neigt dazu, geschlossene, gut formulierte und überzeugende Antworten zu geben. Und dieser Anschein von Sicherheit kann verheerend sein, wenn er ohne den entsprechenden Filter interpretiert wird.
Deshalb halte ich es für grundlegend, darauf zu bestehen, dass kein von einer KI generiertes Ergebnis als endgültig angesehen werden sollte. Nicht weil Technologie nutzlos ist, sondern weil der Fehler nicht im Werkzeug liegt, sondern in dem Platz, den wir ihm geben.
Fazit: Fortschritt ja, Naivität nein
Der Eintritt der künstlichen Intelligenz in den Gesundheitsbereich kann ein Vorher und Nachher markieren. Das zu leugnen wäre absurd. Ich selbst glaube, dass wir vor einer historischen Chance stehen, Prävention, Krankheitsverständnis und Effizienz deutlich angespannter Gesundheitssysteme zu verbessern.
Aber diesen Fortschritt ohne kritischen Geist zu akzeptieren, wäre meiner Meinung nach ein tiefgreifender Fehler. Nicht weil Technologie an sich gefährlich ist, sondern weil wir dazu neigen, zu schnell das zu delegieren, was uns unbequem zu handhaben ist: Unsicherheit, Verantwortung und Angst.
Es geht nicht darum, Technologie abzulehnen oder in apokalyptische Reden zu verfallen. Es geht darum, sie mit Urteilsvermögen zu nutzen, sowohl ihr enormes Potenzial als auch ihre strukturellen Grenzen zu verstehen. KI kann unsere Analysefähigkeit erweitern, aber sie kann menschliches Urteilsvermögen oder moralische Verantwortung nicht ersetzen.
KI ist nicht gekommen, um den Menschen zu ersetzen. Aber sie kann es, wenn wir es ihr erlauben, wenn wir aufgeben zu denken, zu fragen und zu zweifeln. Wenn wir Bequemlichkeit mit Wahrheit und Effizienz mit Verständnis verwechseln.
Die wahre Herausforderung ist nicht technologisch. Sie ist ethisch, kulturell und zutiefst menschlich. Sie hat damit zu tun, wie wir die Gesellschaft im Umgang mit diesen Werkzeugen erziehen, welche Erwartungen wir erzeugen und welche Grenzen wir nicht zu überschreiten beschließen.
Vielleicht geht es in dieser Diskussion im Grunde nicht nur um Gesundheit oder künstliche Intelligenz. Es geht um etwas viel Umfassenderes: um unsere Beziehung zu Wissen, Autorität und Verantwortung.
Und deshalb ist für mich die abschließende Frage nicht, was künstliche Intelligenz für unsere Gesundheit tun kann, sondern diese:
Was sind wir bereit, als Gesellschaft, im Austausch für diesen Fortschritt aufzugeben?
Wenn Sie mehr über meinen Werdegang erfahren möchten und wie ich mich für die Schnittstelle zwischen Technologie, Wohlbefinden und Ethik zu interessieren begann, lade ich Sie ein, mein Profil zu erkunden.