{"id":18845,"date":"2026-08-21T09:04:15","date_gmt":"2026-08-21T07:04:15","guid":{"rendered":"https:\/\/meiser-tv.de\/uncategorized\/die-ki-erfindet-drogenkonsum-und-ploetzlich-steht-die-luege-in-der-patientenakte\/"},"modified":"2026-08-21T09:04:15","modified_gmt":"2026-08-21T07:04:15","slug":"die-ki-erfindet-drogenkonsum-und-ploetzlich-steht-die-luege-in-der-patientenakte","status":"publish","type":"post","link":"https:\/\/meiser-tv.de\/en\/uncategorized\/die-ki-erfindet-drogenkonsum-und-ploetzlich-steht-die-luege-in-der-patientenakte\/","title":{"rendered":"Die KI erfindet Drogenkonsum \u2013 und pl\u00f6tzlich steht die L\u00fcge in der Patientenakte"},"content":{"rendered":"
\n

KI soll \u00c4rzte entlasten und medizinische Dokumentation effizienter machen. Doch aktuelle F\u00e4lle zeigen die Kehrseite: Systeme erfinden Informationen, verwechseln Angaben oder lassen Entscheidendes weg. In Australien landete sogar ein frei erfundener Drogenkonsum in einer Patientenakte. Eine Untersuchung aus Kanada zeigt: Solche Fehler sind kein exotischer Einzelfall.<\/strong><\/p>\n

Rebecca Green ging zu einem Urologen und stimmte einer scheinbar harmlosen Frage zu: Darf k\u00fcnstliche Intelligenz das Gespr\u00e4ch mitschreiben? Sp\u00e4ter entdeckte sie in einem Schreiben ihres Facharztes an ihren Hausarzt eine Information, die sie nach eigenen Angaben niemals ge\u00e4u\u00dfert hatte: Sie w\u00fcrde psychedelische Pilze in Mikrodosen konsumieren<\/strong>.<\/p>\n

Green bestreitet das entschieden.<\/p>\n

\u201eIch war fassungslos und den Tr\u00e4nen nahe\u201c, sagte sie gegen\u00fcber ABC News. Sie habe niemals solche Pilze genommen. Besonders brisant: In dem medizinischen Schreiben wurde der angebliche Konsum sogar als m\u00f6gliche Erkl\u00e4rung f\u00fcr fr\u00fchere Blutungen im Bereich ihrer Nieren angef\u00fchrt. (abc.net.au<\/a>)<\/p>\n

Aus einer KI-Erfindung war damit eine vermeintliche medizinische Tatsache in ihrer Krankenakte<\/strong> geworden.<\/p>\n

Die KI erfindet \u2013 der Arzt unterschreibt<\/h2>\n

Genau hier liegt die Gefahr. Eine falsche Antwort eines gew\u00f6hnlichen Chatbots verschwindet normalerweise mit dem Chat. Eine falsche Information in einer medizinischen Dokumentation kann dagegen weiterleben. Andere \u00c4rzte k\u00f6nnen sie lesen, sie kann in \u00dcberweisungen auftauchen und sp\u00e4tere medizinische Entscheidungen beeinflussen.<\/p>\n

Green sorgte sich zudem, weil sie Leistungen aus einer Arbeitnehmerentsch\u00e4digung erhielt und bef\u00fcrchtete, die falsche Angabe \u00fcber illegalen Drogenkonsum k\u00f6nnte Auswirkungen auf ihren Fall haben.<\/p>\n

Erst nachdem sie selbst den Fehler entdeckte und Beschwerde einlegte, entschuldigte sich die Urologin und korrigierte die Korrespondenz. Die \u00c4rztin erkl\u00e4rte, sie k\u00f6nne nicht feststellen, wie die Behauptung entstanden sei; offenbar sei es zu einem Fehler beim Diktier- oder Transkriptionsprozess gekommen.<\/p>\n

Doch damit stellt sich eine noch unangenehmere Frage: Was passiert mit den Fehlern, die kein Patient entdeckt?<\/strong><\/p>\n

Ontario testete 20 Systeme \u2013 alle produzierten Fehler<\/h2>\n

Dass Greens Fall nicht einfach als bizarre technische Panne abgetan werden kann, zeigt eine Untersuchung aus Kanada. Die Auditor General von Ontario untersuchte sogenannte AI Scribes<\/strong> \u2013 KI-Systeme, die Arzt-Patienten-Gespr\u00e4che erfassen und daraus automatisch medizinische Notizen erstellen.<\/p>\n

Das Ergebnis ist bemerkenswert:<\/p>\n

Bei den Beschaffungstests zeigten die Systeme aller 20 zugelassenen Anbieter mindestens eine Ungenauigkeit<\/strong>. Dazu geh\u00f6rten falsche Informationen, fehlende Angaben und klassische KI-\u201eHalluzinationen\u201c \u2013 also Inhalte, die das System schlicht erfunden hatte. (globalnews.ca<\/a>)<\/p>\n

Bei neun der 20 Anbieter erfanden die Systeme Informationen oder erzeugten Behandlungsvorschl\u00e4ge, die nicht mit den simulierten Gespr\u00e4chen \u00fcbereinstimmten. Bei 17 fehlten wichtige Informationen. Der Rechnungshof warnte, solche Fehler k\u00f6nnten unter realen Bedingungen zu unzureichenden oder sogar sch\u00e4dlichen Behandlungspl\u00e4nen<\/strong> f\u00fchren.<\/p>\n

Eine KI kann also einen Satz produzieren, der sprachlich perfekt und medizinisch plausibel klingt \u2013 und trotzdem vollst\u00e4ndig erfunden ist.<\/p>\n

Falsche Brust, erfundene Epilepsie<\/h2>\n

Auch Australien liefert weitere Warnzeichen.<\/p>\n

ABC verweist auf Untersuchungen der Datenschutzorganisation Digital Rights Watch. Dabei wurden F\u00e4lle beschrieben, in denen ein KI-System bei einer Brustkrebsdiagnose die falsche Brust dokumentierte<\/strong>. In einem anderen Fall schrieb ein System einem Patienten Epilepsie zu, obwohl dieser keine Epilepsie hatte<\/strong>. (abc.net.au<\/a>)<\/p>\n

\u00c4rzte sollen kontrollieren \u2013 doch genau hier liegt das Problem<\/h2>\n

Die Verteidigung der Systeme lautet: Der Arzt tr\u00e4gt weiterhin die Verantwortung und muss die automatisch erzeugten Texte \u00fcberpr\u00fcfen. Das stimmt. Die australische \u00c4rzteaufsicht AHPRA betont ausdr\u00fccklich, dass \u00c4rzte s\u00e4mtliche von KI-Schreibassistenten erzeugten Inhalte auf Richtigkeit kontrollieren m\u00fcssen. <\/p>\n

Doch weshalb werden diese Systeme \u00fcberhaupt eingef\u00fchrt?<\/p>\n

Um \u00c4rzten Zeit zu sparen.<\/strong><\/p>\n

Wenn ein \u00fcberlasteter Arzt jede automatisch erzeugte Notiz anschlie\u00dfend Wort f\u00fcr Wort mit dem Gespr\u00e4ch vergleichen m\u00fcsste, schrumpft genau dieser Effizienzgewinn. Hinzu kommt ein psychologisches Problem: Je zuverl\u00e4ssiger ein automatisiertes System normalerweise erscheint, desto gr\u00f6\u00dfer kann die Versuchung werden, seinen Ergebnissen zu vertrauen. Elizabeth Deveny vom Consumers Health Forum of Australia berichtete von Hinweisen, wonach Anwender KI-Ausgaben anfangs sorgf\u00e4ltig kontrollieren, sp\u00e4ter aber weniger intensiv pr\u00fcfen, weil sie davon ausgehen, dass das System schon richtigliegen werde.<\/p>\n

Genau dann kann aus einer KI-Halluzination ein medizinischer Akteneintrag werden.<\/p>\n

40 Prozent der australischen Haus\u00e4rzte nutzen solche Systeme<\/h2>\n

Von einer experimentellen Randtechnologie kann l\u00e4ngst keine Rede mehr sein.<\/p>\n

Das Royal Australian College of General Practitioners sch\u00e4tzte, dass etwa 40 Prozent der Haus\u00e4rzte solche KI-Schreibassistenten regelm\u00e4\u00dfig verwenden<\/strong> \u2013 laut ABC wurde selbst diese Zahl als konservativ betrachtet.<\/p>\n

Die Vorteile sind real: \u00c4rzte k\u00f6nnen sich st\u00e4rker auf ihre Patienten konzentrieren und verbringen weniger Zeit mit Dokumentation. Genau deshalb verbreitet sich die Technologie so schnell. Und genau deshalb sind Halluzinationen so problematisch.<\/p>\n

Wie viele Fehler werden niemals entdeckt?<\/h2>\n

Fr\u00fcher schrieb ein Arzt auf, was er geh\u00f6rt, untersucht und diagnostiziert hatte. Jetzt sitzt zunehmend ein unsichtbarer digitaler Dritter im Behandlungszimmer. Er h\u00f6rt mit, interpretiert das Gespr\u00e4ch und formuliert daraus eine scheinbar professionelle medizinische Dokumentation.<\/p>\n

Doch die Maschine versteht nicht wie ein Arzt. Sie berechnet Sprache. Und manchmal erzeugt sie dabei etwas, das niemals gesagt wurde.<\/p>\n

Rebecca Green hatte Gl\u00fcck: Sie las ihre Unterlagen selbst und entdeckte den erfundenen Drogenkonsum.<\/strong><\/p>\n

Andere Patienten k\u00f6nnten einen solchen Fehler niemals sehen. Dann bleibt m\u00f6glicherweise eine erfundene Diagnose, ein falsches Medikament oder eine frei erfundene Vorgeschichte in der Akte stehen \u2013 versehen mit der Autorit\u00e4t einer medizinischen Dokumentation.<\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"

KI soll \u00c4rzte entlasten und medizinische Dokumentation effizienter machen. Doch aktuelle F\u00e4lle zeigen die Kehrseite: Systeme erfinden Informationen, verwechseln Angaben oder lassen Entscheidendes weg. In Australien landete sogar ein frei erfundener Drogenkonsum in einer Patientenakte. Eine Untersuchung aus Kanada zeigt: Solche Fehler sind kein exotischer Einzelfall. Rebecca Green ging zu einem Urologen und stimmte einer […]<\/p>\n","protected":false},"author":1,"featured_media":4846,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_gspb_post_css":"","_uag_custom_page_level_css":"","fifu_image_url":"","fifu_image_alt":"","footnotes":""},"categories":[1],"tags":[],"class_list":["post-18845","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"blocksy_meta":{"styles_descriptor":{"styles":{"desktop":"","tablet":"","mobile":""},"google_fonts":[],"version":7}},"uagb_featured_image_src":{"full":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=1920&fit=1920,1080&ssl=1",1920,1080,true],"thumbnail":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=150&resize=150,150&ssl=1",150,150,true],"medium":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=300&fit=300,300&ssl=1",300,300,true],"medium_large":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=768&resize=768,0&ssl=1",768,0,true],"large":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=1024&fit=1024,1024&ssl=1",1024,1024,true],"1536x1536":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=1536&fit=1536,1536&ssl=1",1536,1536,true],"2048x2048":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=2048&fit=2048,2048&ssl=1",2048,2048,true],"trp-custom-language-flag":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=18&fit=18,12&ssl=1",18,12,true]},"uagb_author_info":{"display_name":"admin","author_link":"https:\/\/meiser-tv.de\/en\/author\/admin\/"},"uagb_comment_info":0,"uagb_excerpt":"KI soll \u00c4rzte entlasten und medizinische Dokumentation effizienter machen. Doch aktuelle F\u00e4lle zeigen die Kehrseite: Systeme erfinden Informationen, verwechseln Angaben oder lassen Entscheidendes weg. In Australien landete sogar ein frei erfundener Drogenkonsum in einer Patientenakte. Eine Untersuchung aus Kanada zeigt: Solche Fehler sind kein exotischer Einzelfall. Rebecca Green ging zu einem Urologen und stimmte einer…","_links":{"self":[{"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/posts\/18845","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/comments?post=18845"}],"version-history":[{"count":0,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/posts\/18845\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/media\/4846"}],"wp:attachment":[{"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/media?parent=18845"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/categories?post=18845"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/tags?post=18845"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}