Fragen Sie Ihre KI!

080_085_b1_09-23.indd 80 14.08.23 12:08

 Daten können die medizinische
Versorgung verbessern –
wenn man richtig mit ihnen
umgeht.
Text:
Christian Weymayr
Illustration:
Christina Gransow
080_085_b1_09-23.indd 81
• In der Medizin werden immer mehr Daten erhoben:
Labore analysieren Blutwerte, Ärzte machen MRT-Bilder,
Krankenkassen interessieren sich für die sportlichen Aktivi-
täten ihrer Mitglieder, Krankenhäuser dokumentieren Ab-
läufe, und die Wissenschaft will herausfinden, wie Krank-
heiten früh zu erkennen sind und welche Therapien zu
welchen Ergebnissen führen. Um die gigantischen Mengen
an Informationen auszuwerten, braucht es smarte Technik.
Künstliche Intelligenz werde Ärzte bei Diagnose und
Therapie unterstützen, schrieb denn auch die Bundesärzte-
kammer 2021 in einem Thesenpapier. Und sagte voraus:
„Perspektivisch wird für einen behandelnden Arzt ggf. der
Verzicht auf Unterstützung durch KI einen Verstoß gegen
die ärztliche Sorgfaltspflicht bedeuten.“ Neue Forschungsin-
stitute widmen sich dem Thema, ganze Universitätskliniken
haben sich der Digitalisierung verschrieben. Zum Beispiel
das Uniklinikum Essen, wo am 2019 gegründeten Institute
for Artificial Intelligence in Medicine acht Forschungsgrup-
pen den Möglichkeiten von KI nachgehen. Auch das Bun-
desministerium für Gesundheit ist aktiv geworden und hat
einen Forschungsschwerpunkt „Digitale Innovationen“ mit
insgesamt 22 Einzelprojekten ins Leben gerufen.
Künstliche Intelligenz soll die Analyse von Röntgenauf-
nahmen beschleunigen und verbessern, lästige Dokumen-
tationen übernehmen, kritische Zustände von Patientinnen
und Patienten vorhersagen, ihre Versorgung kontrollieren
und sogar mit ihnen sprechen. Erstaunlich ist, dass die
KI hingegen in der Pharmaindustrie bislang kaum eine
Rolle spielt. Ob die Technik neue Arzneien effek-
tiver, schneller und günstiger entwickeln
kann, ist trotz interessanter Ansätze noch
völlig offen.
Der Einsatz von KI wirft auch neue
Fragen auf: Was geschieht mit den Pa-
tientendaten, mit denen man sie füt-
tert? Und wie zuverlässig ist KI
wirklich? >
16.08.23 13:43
 Sehen und erkennen Ein Projekt an der Uniklinik in Lübeck geht noch einen
Schritt weiter, indem es auf Basis der automatisierten Bild-
Was die Technik schon jetzt gut kann, ist das Auswerten analyse eine Therapie empfiehlt: Der Kids-Bone-Checker
medizinischer Aufnahmen. Allein im deutschen Mammo- soll Ärzten nach der Auswertung von Röntgenaufnahmen
graphie-Programm zur Früherkennung von Brustkrebs fal- bei der Entscheidung helfen, ob ein Knochenbruch bei Kin-
len jährlich Hunderttausende Aufnahmen an, die Ärztinnen dern nur äußerlich behandelt oder operiert werden muss.
und Ärzte auf Tumorherde absuchen – eine ermüdende So möchte man verhindern, dass Kinder falsch therapiert
Routinearbeit, die dennoch höchste Konzentration ver- oder im Zweifelsfall von einer kleinen Klinik ohne Kinder-
langt. Schon vor 25 Jahren wurde in den USA deshalb eine spezialisten in eine größere überwiesen werden. Laut
auf Algorithmen basierende Software zugelassen, die die Schleswig-Holsteins für die Digitalisierung zuständigem
Trefferquote verbessern und die Fachleute entlasten sollte. Minister Dirk Schrödter ist der Kids-Bone-Checker „ein he-
Die Ergebnisse waren damals enttäuschend – statt Fehler zu rausragendes Beispiel dafür, wie unser Leben mit Hilfe von
korrigieren, führte die Computer-Hilfe offenbar dazu, dass KI einfacher und sicherer wird“.
manche Radiologen sogar mehr Fehler machten.
Erst maschinelles Lernen, also die Fähigkeit eines Sys- Warnen und teilen
tems, selbstständig Muster zu erkennen und sich dabei
ständig zu verbessern, hat einen Fortschritt gebracht. So hat Wie weit die Technik schon ist, will die Hamburger Firma
die von Google-Health entwickelte Software DeepMind in Tiplu mit ihrem Produkt Maia zeigen, das voraussichtlich
einer Studie mit knapp 30 000 Frauen weniger Karzinome Anfang 2024 einsatzbereit ist. Es kann auf bis zu zehn ver-
der Brust übersehen und auch weniger Fehlalarme ausge- schiedene medizinische Risiken hinweisen, allen voran auf die
löst als Fachleute. Einen Haken hat die Sache allerdings: gefürchtete Sepsis, die jährlich Zehntausende Menschen in
DeepMind sagt nur, dass ein Befund verdächtig ist, aber
nicht, an welcher Stelle und warum. Weitere Studien müs-
sen deshalb zeigen, ob sich künstliche und menschliche In-
telligenz im klinischen Alltag vertragen.
Hilfreich könnten KI-Anwendungen auch bei anderen
Tumoren sein. Nach Lungenkrebs wird zwar nicht routine-
mäßig gesucht, aber frühe Krebsherde werden manchmal
zufällig in für andere Zwecke gemachten Aufnahmen des
Brustkorbs gefunden. In einer Studie aus Korea wurde
kürzlich analysiert, ob künstliche Intelligenz die Zahl der
Zufallsbefunde erhöhen kann. 30 Fachleute sollten 120
Aufnahmen begutachten, von denen die Hälfte Lungen-
krebs zeigte. In der ersten Begutachtungsrunde waren die
Fachleute auf sich gestellt, in der zweiten bekamen sie zu-
sätzlich Hinweise einer KI. Dadurch erhöhte sich die Tref-
ferquote. Das galt jedoch nur, wenn die KI zuvor an knapp
250 000 Bildern trainiert worden war – nur 25 000 reichten
nicht aus, um das Ergebnis zu verbessern.
Erstaunlich: Hatte nicht der Mensch das letzte Wort,
sondern die KI, verbesserte sich die Trefferquote noch ein-
mal erheblich.

Hatte nicht der Mensch das letzte Wort,

sondern die KI, verbesserte sich
die Trefferquote noch einmal erheblich.
82 brand eins 09/23

080_085_b1_09-23.indd 82 14.08.23 12:08

 Deutschland das Leben kostet.
Bahnt sich so eine selbstzerstö-
rerische Immunreaktion an, soll
das Tool dies anhand von Blut-
werten und Vitalzeichen erken-
nen. Es gibt einen Hinweis und
begründet ihn auch. Das System
wurde mit anonymisierten
Patientendaten aus einem
Netzwerk von 140 Kliniken
trainiert.
„So ein großes Netzwerk gab es
bislang noch nicht“, sagt Lukas Aschenberg,
einer der drei Gründer und Geschäftsführer der
Firma. Das System wandert von Klinik zu Klinik,
um zu lernen. So behalten die Kliniken die Hoheit
über ihre Patientendaten. Einfacher wäre es, alle
Daten aus den Kliniken abzuziehen und in einem
Pool zu vereinen – aber auch weniger sicher.
Was mit den Daten der Patienten geschieht, treibt auch und Tipps gibt, wenn nötige Nachweise fehlen. Jede fünfte
Bart de Witte von der Stiftung Hippo AI um. Er kämpft für Klinik in Deutschland setzt Momo schon ein.
eine Open-Source-Strategie. „Ich möchte das lebensretten- Kliniken und Praxen dokumentieren ihre Abläufe auch
de Wissen, das aus unseren Patientendaten gewonnen wird, zur Qualitätskontrolle. Aus solchen Daten lässt sich ablesen,
offenhalten“, sagt er. Wenn andere Betreiber von KI-An- ob Ärztinnen und Ärzte womöglich zu viel oder zu wenig
wendungen ihre Daten geheim hielten und wie Firmen- getan oder wissenschaftliche Standards verletzt haben. Bis-
eigentum behandelten, könne das zu einer Monopolisie- lang werden Fehler nur stichprobenartig und mit großer
rung und Abhängigkeit von wenigen großen Konzernen Mühe aufgedeckt. KI könnte das ändern: Sie würde erken-
führen. „Mein dystopisches Bild ist, dass zwei oder drei nen, wenn beispielsweise in einem Krankenhaus über-
Firmen alles medizinische Wissen kontrollieren.“ durchschnittlich oft Hüftprothesen implantiert werden. Es
Das verbreitete Gegenargument, dass nur die Aussicht könnte dann gezielt geprüft werden, ob all diese Operatio-
auf Patente und exklusive Nutzungsrechte Firmen zur Ent- nen wirklich nötig sind.
wicklung neuer Technik antreibe, lässt de Witte nicht gel- Auch Betrug könnte eine KI schnell aufdecken. Vor ei-
ten. Er ist überzeugt, dass eine gemeinsame Arbeitsgrund- nigen Jahren streckte ein Apotheker in Bottrop Krebsmedi-
lage viel mehr kluge Menschen motiviert, als einzelne kamente und schadete damit Patientinnen und Patienten.
Firmen das könnten. Mit Produkten und Dienstleistungen, Die KI würde erkennen, dass die Mengen an eingekauften
die auf einer offenen KI basieren, lässt sich seiner Meinung Materialien und verkauften Medikamenten bei dieser Apo-
nach genug Geld verdienen. Mit seiner Stiftung will er theke nicht übereinstimmen, und vielleicht auch, dass im
Unternehmen, die Open-Source-Modelle entwickeln, unter Einzugsbereich Krebspatienten ungewöhnlich schlecht auf
anderem technisch unterstützen. ihre Arzneien ansprechen. Mithilfe der KI wäre der Apo-
theker, der jahrelang sein Unwesen treiben konnte, wohl
Dokumentieren und betrügen wesentlich schneller aufgeflogen.
In der Pflege könnte eine solche Mustererkennung eben-
Sehr willkommen ist KI zudem, wenn sie besonders lästige falls helfen. Allein in der häuslichen Pflege werden jährlich
Arbeiten übernimmt, zum Beispiel die Dokumentation. Be- etwa 15 Millionen Euro zu viel abgerechnet. Im Forschungs-
reits 2016 brachte die Firma Tiplu mit Momo ein Tool auf projekt Pflegeforensik der Generalstaatsanwaltschaft Dres-
den Markt, das aus Arztnotizen, Befunden und medizini- den und der Polizei Leipzig kann eine Software helfen,
schen Daten selbstständig Abrechnungsziffern ermittelt solche Betrügereien aufzudecken, indem es Handschrif- >

brand eins 09/23 KÜNSTLICHE INTELLIGENZ 83

080_085_b1_09-23.indd 83 14.08.23 12:08

 ten, Tourenpläne und Leistungsnachweise der Beschäftig-
ten miteinander vergleicht und auf Ungereimtheiten hin- „Wir werden
Kompeten-
weist.

Reden und raten

Furore macht KI derzeit vor allem in Chat-Bots wie GPT4, zen an die
die sich verblüffend menschlich ausdrücken. Ein solches
System könnte etwa Arztbriefe in verständliche Sprache
übersetzen. Die bekommen Patientinnen und Patienten bei
KI abgeben.“
der Entlassung aus dem Krankenhaus mit, die Schreiben
voller Fachbegriffe sind für sie aber kaum verständlich, da
sie sich an andere Ärzte richten. „Die Patienten sind eigent-
lich nur die Postboten“, sagt Ansgar Jonietz, Gründer und Was sich jetzt
Chef der gemeinnützigen Organisation „Was hab’ ich?“, bei für Ärztinnen und
der ein Team von Medizinstudentinnen und -studenten
Patienten beim Dechiffrieren der Arztbriefe hilft.
Ärzte verändert,
Jonietz hat dafür auch KI getestet und ist dabei an deren beobachtet
Grenzen gestoßen: Er hat festgestellt, dass sie mehr Fehler Kai Wehkamp,
macht als die Studenten und sich schwer korrigieren lässt.
Und selbst wenn die KI in Zukunft weniger Fehler macht,
medizinischer KI-
werden bei „Was hab’ ich?“ auch weiterhin Menschen ar- Fachmann.
beiten – schließlich sollen die angehenden Ärztinnen und
Ärzte lernen, sich verständlich auszudrücken.
Andernorts wird der Einsatz von Sprach-Bots in der
Medizin vorangetrieben. Vielen Menschen wäre wohl ein
System, das sie verständlich, geduldig und gut informiert
durch Diagnose und Therapie lotst, hoch willkommen.
Dann könnten sie sich manchen Praxisbesuch ersparen. Die
Firma Tiplu arbeitet an einem solchen Bot. „Aus zehn Mil-
lionen anonymisierten Krankengeschichten destilliert die KI
eine Art Landkarte für eine Krankheit“, sagt Lukas Aschen- Interview: Christian Weymayr
berg. Der Bot gleicht die allgemeinen Landkarten mit den
individuellen Informationen ab, die er in einem Anamnese-
gespräch erfragt. Hat das System die Ursache für die Be- brand eins: Herr Wehkamp, macht
schwerden mit einer gewissen Wahrscheinlichkeit erkannt, künstliche Intelligenz die Medizin besser?
kann es eine Behandlung oder einen Arztbesuch empfehlen. Kai Wehkamp: In der Medizin produ-
In zwei Jahren soll es auf den Markt kommen. zieren wir immer mehr Daten, etwa
Dass künstliche Intelligenz im Gesundheitswesen eine durch Blut- und Genanalysen, Com-
große Rolle spielen wird, meint übrigens auch GPT4. „KI putertomographien sowie Fitness-
hat das Potenzial, die medizinische Praxis zu revolutionie- Armbänder und andere Wearables. In
ren,“ schreibt es in einem Aufsatz zum Thema. Und fügt diesen Daten stecken wertvolle Infor-
netterweise an: „Dennoch ist es wichtig, sicherzustellen, mationen, die wir ohne Unterstützung
dass der Mensch stets im Mittelpunkt steht.“ – kaum auswerten können. KI könnte
helfen, daraus sinnvolle diagnostische
und therapeutische Verfahren zu ent-
wickeln. Ich erwarte auch, dass derarti-

84 brand eins 09/23

080_085_b1_09-23.indd 84 14.08.23 12:08

 ge Tools das Wissen, das heute nur die
besten Experten haben, leichter ver-
fügbar machen, sodass die Medizin
insgesamt besser wird. Ein weiterer
Vorteil: Je mehr Formales uns die KI
abnimmt, desto mehr Zeit haben wir
für das, was uns als Ärztin oder Arzt
auszeichnen sollte – das Menschliche.
Dennoch löst das, was KI jetzt und in
Zukunft kann, in mir gemischte Ge-
fühle aus.
Was bereitet Ihnen Sorgen?
Wenn Daten erhoben und verarbeitet
werden, kann das die Ergebnisse ver-
zerren. Ein Beispiel: In den USA woll-
te man den Bedarf an Vorsorgeleistun-
gen ermitteln. Obwohl man bewusst
die Hautfarbe als Merkmal ausschloss,
kam heraus, dass vor allem Weiße ei-
nen besonderen Bedarf hätten. Offen-
bar hatte der Algorithmus die Höhe
der Ausgaben für medizinische Be-
handlungen mit hohem Bedarf gleich-
gesetzt – Weiße sind im Schnitt besser
versichert und verursachen deshalb
höhere Kosten. Dieser Fall ist noch
leicht zu durchschauen. Es gibt aber
auch viel intransparentere Zusammen-
hänge.
Kann KI manipuliert werden?
Dieses Risiko muss man ernst nehmen.
Bei der Zulassung von Medikamenten
und Medizinprodukten gibt es strenge
wissenschaftliche Regeln, die Firmen
nicht aushebeln können. Solche Regeln
brauchen wir auch für die KI. Im Sinne
der Transparenz ist es auch wichtig zu
fordern, dass die Technik erklärt, wie
sie zu einem Ergebnis kommt.
Durchschnittliche Ärzte sind nicht un-
Foto: © Lücke / UKSH
bedingt auf der Höhe der Zeit, bieten
mitunter unsinnige Therapien an und
machen Fehler. Ist KI da nicht schnell
überlegen?
brand eins 09/23 KÜNSTLICHE INTELLIGENZ
080_085_b1_09-23.indd 85
In einigen Bereichen wird es bald so
weit sein. An eine Technik haben wir
aber – und das ist ein bisschen absurd
– einen höheren Anspruch als an den
Menschen. Da braucht es einen gesell-
schaftlichen Diskurs: Reicht es, wenn
die KI besser ist als der durchschnitt-
liche Arzt? Oder darf sie gar keine
Fehler machen?
Werde ich bald mit einem Arzt-Bot
herausfinden können, was ich habe?
Wenn er sagt, das wird von allein wie-
der, müsste ich nicht in die Praxis ge-
hen.
Auf absehbare Zeit wird die KI so ei-
nen Rat nur mit dem Vorbehalt „Fra-
gen Sie Ihren Arzt“ geben …
… und in Zukunft rät der Arzt mit dem
Vorbehalt „Fragen Sie Ihre KI“? …
… das wird noch eine Weile dauern,
auch aus rechtlichen Gründen. So eine
Zuhause-Diagnose könnte dazu füh-
ren, dass mehr Patienten in die Not-
aufnahmen gehen, weil sie verunsi-
chert sind. Es könnte aber auch sein,
dass Leute ihre Symptome herunter-
spielen, was der Chatbot nicht merkt,
eine gute Ärztin aber schon.
Der Ultraschall der Eierstöcke zur Krebs-
früherkennung ist die Selbstzahlerleis-
tung, die Frauen am häufigsten angebo-
ten wird, dabei rät eine Leitlinie davon
ab. Kann die KI hier helfen?
Ich sehe genau da ein großes Potenzi-
al. Die KI könnte ein Auge darauf ha-
ben, ob medizinische Entscheidungen
wissenschaftlich fundiert sind.
Wenn Ärztinnen und Ärzte Aufgaben
an die KI abgeben, verlieren sie dann
Kompetenzen?
Durchaus. Vor dreißig Jahren konnten
Ärzte mit Abtasten, Pulsmessen und
Abhorchen sehr viel herausbekom-
men. Das können wir heute längst
nicht mehr so gut, weil der Ultraschall
uns das abgenommen hat. Insgesamt
ist die Medizin dank neuer Techniken
aber besser geworden. Die Situation
jetzt ist vergleichbar. Wir werden
Kompetenzen an die KI abgeben, aber
dafür mehr Übersicht gewinnen.
Wo wird die Technik keine Rolle spie-
len?
Auf absehbare Zeit wird sie keine Ent-
scheidungen treffen und eine medizini-
sche Versorgung nicht komplett über-
nehmen, auch wird sie nicht so bald
allein operieren. Die menschliche Zu-
wendung ist ebenfalls nicht so leicht
zu ersetzen. Es gibt zwar positive Er-
gebnisse mit Kuschelrobotern in der
Pflege, aber ein Gespräch über eine
Krebsdiagnose wird man nicht mit ei-
ner KI führen wollen. –
Kai Wehkamp
ist Professor an der Medical School
in Hamburg und Geschäftsführen-
der Oberarzt in der Klinik für Innere
Medizin I am Universitätsklinikum
Schleswig-Holstein am Campus
Kiel. Als KI-Experte leitet er am
Klinikum das Projekt Maia zur klini-
schen Risikovorhersage.
85
14.08.23 12:08