Anzeige
Anzeige

Am Puls von Microsoft

Anzeige

Copilot Health – Microsoft startet KI-Gesundheitsberater in den USA

DrWindows

DrWindows

Redaktion
Copilot Health – Microsoft startet KI-Gesundheitsberater in den USA
von Martin Geuß
Microsoft Copilot Logo


Mit Copilot Health startet Microsoft ein neues Angebot, das sich auf alle Fragen rund um das Thema Gesundheit konzentriert. Vorerst ist Copilot Health nur für Kunden in den USA und auch nur auf Einladung verfügbar.

Spontan mag sich so mancher Leser fragen: Warum sollte ich eine KI mit meinen sensiblen Gesundheitsdaten füttern? Diese Frage ist allerdings bereits beantwortet, denn genau das tun die Menschen. In einer Studie legt Microsoft dar, dass der Copilot intensiv zur Selbstdiagnose genutzt wird. Schon jetzt verarbeiten Bing und Copilot jeden Tag 50 Millionen Fragen mit Gesundheitsbezug, heißt es.

Wenn man bedenkt, welch verschwindend geringen Marktanteil Bing und Copilot haben, kann man sich ausmalen, über welche Datenschätze OpenAI oder Google zu diesem Thema bereits verfügen. „Dr. Google“ praktiziert schon seit Jahrzehnten erfolgreich, da ist es nur logisch, dass dieses Nutzungsverhalten auf die KI-Assistenten übergeht.

Copilot Health soll keinen Arzt ersetzen, schreibt Microsoft dann auch brav in der Ankündigung. Vielmehr soll das neue Angebot helfen, sich auf einen Arztbesuch perfekt vorzubereiten. Tolle Idee. Jeder Arzt freut sich ungemein, wenn der Patient mit jeder Menge selbst recherchiertem Wissen im Behandlungszimmer aufschlägt. Aber wir wollen nicht sarkastisch werden, das ist ja weiß Gott kein neues Problem, welches hier entsteht.

Microsoft verspricht, dass die Daten, die man in Copilot Health eingibt, in einem separaten Silo landen und vom „regulären“ Copilot isoliert bleiben. An der Entwicklung von Copilot Health sind mehrere amerikanische Gesundheitsorganisationen sowie über 230 Ärzte aus 24 Ländern beteiligt.

Die Einführung soll, so heißt es weiter, äußerst behutsam erfolgen. Eine Erweiterung auf zusätzliche Sprachen und Märkte ist geplant, dazu gibt es allerdings noch keine Informationen.


Der Beitrag Copilot Health – Microsoft startet KI-Gesundheitsberater in den USA erschien zuerst auf Dr. Windows.


Hinweis: Der Artikel wird möglicherweise nicht vollständig angezeigt, eingebettete Medien sind in dieser Vorschau beispielsweise nicht zu sehen.

Artikel im Blog lesen
 
Anzeige
Ich stehe KI durchaus sehr positiv gegenüber. Eine KI als Gesundheitsberater einzusetzen, sehe ich allerdings eher kritisch. Dass KI nicht nur gute Ergebnisse bringt, sondern auch ggf. absoluten Müll, sollte bekannt sein. Wer sich der Sache bewusst ist und sich mit den Ergebnissen kritisch auseinandersetzen kann, wird Copilot Health vermutlich zielführend nutzen können. Das Ergebnis einer "Konsultation" hängt aber auch wesentlich von der Fragestellung ab. Das Ergebnis kann man teilweise sicherlich so zusammenfassen: "Shit in → Shit out". Von daher sollte man bei einer KI, welche sich mit Gesundheitsfragen beschäftigt, äußerste Vorsicht walten lassen. Ich kann mir vorstellen, dass ein Arzt eine KI nach einer Zweitmeinung fragt. Das kann durchaus die Diagnose deutlich verbessern. Privatpersonen, welche schon ihre liebe Not haben, eine "normale" KI zu befragen, sollten von so etwas wie Copilot Health die Finger lassen, wobei vermutlich gerade der Personenkreis für sich den größten Schaden anrichtet, um dann groß zu klagen, wie schlimm doch alles wäre. Falls man die Konsultation überhaupt überlebt. Fazit: Bestimmte Themenbereiche sollten fachlich versierten Personen vorbehalten bleiben.
 
Ich habe eher grundsätzlich Zweifel, dass die große Mehrheit der Benutzer spezialisierte KI-Anwemdungen nutzen wird. Es ist völlig klar warum das so entwickelt wird, allein schon auf Grund der fachspezifischen Retrainings der Modelle. Aber ich bin überzeugt, so wie die meisten stur google benutzen haben, werden meisten auch weiterhin stur ihren favorisierten Chatbots befragen.

Bei Endkunden wird das nur Erfolg haben, wenn Microsoft am Ende eine gute UI hat und das richtige Modell automatisch antwortet, sobald Gesundheitsfragen gestellt werden und die Isolierung automatisch erfolgt.

Die Unterscheidung in Copilot, M365 Copilot, Copilot Sonst was sorgt jetzt schon für Verwirrung obwohl mir technisch völlig klar ist warum...
 
Zuletzt bearbeitet von einem Moderator:
Och...

Ich habe morgens immer Kopfschmerzen. Bin ich krank?
Das reicht nicht. Hast du sonst noch Beschwerden?
Meine Hände zittern immer so komisch.
Und weiter?
Ich werde immer dicker.
Kannst du gut schlafen?
Ich werde immer wach und sehe weiße Mäuse.
Weiße Mäuse?
Na ja, vielleicht auch weiße Ratten.
Das reicht. Ich denke.
Und?
Saufe nicht so viel!
 
Timewalker schrieb:
Ich stehe KI durchaus sehr positiv gegenüber. Eine KI als Gesundheitsberater einzusetzen, sehe ich allerdings eher kritisch. Dass KI nicht nur gute Ergebnisse bringt, sondern auch ggf. absoluten Müll, sollte bekannt sein.
Zum Vergrößern anklicken....
Momentan arbeite ich selbst an einer Artikelserie für Dr. Windows, was Künstliche Intelligenz im Umfeld von psychischen Erkrankungen betrifft. Ich bin ja glücklicherweise in einer Position, dass ich mit meiner Agoraphobie mit Panikstörung einerseits Betroffener bin, aber durch meine Arbeit hier und mein IT-Wissen, was ich habe, auch die Mechanismen dahinter stärker auseinander nehmen kann. Möchte da nicht zu sehr spoilern, zumal das auch noch wegen privater Gründe, die ich gerade regeln muss, ein bisschen verzögert, aber was ich bisher an Material zusammen habe, dagegen ist das hier Peanuts. Allerdings dauert das auch noch ein bisschen, weil das Thema sensibel ist und ich hier wirklich alles sauber aufbereiten möchte.

Gerade bei psychischen Erkrankungen, wenn es um Themen wie Einsamkeit, Depressionen, Trauer, aber auch sowas wie Gedankenkreise und Manipulation geht, bildet sich in den letzten Jahren ein ziemlicher Wildwuchs raus, wo einem teilweise wirklich Angst und Bange werden kann.
 
In den USA ist das sehr hilfreich, da das Gesundheitssystem ganz anders aufgebaut ist.
Laborwerte auszuwerten, dafür ist das KI genau richtig. Und auch Befunde auswerten ebenso. Du entscheidest was Du hörst. Und in Ruhe zu nachzulesen ist viel hilfreicher als die Intensität eines Gespräches mit einem Arzt dir erlaubt aufzunehmen.
Bisher sind meine Erfahrungen mit KI alle sehr positiv. Dein eigenes Urteilsvermögen bleibt Dir dabei immer noch erhalten.
 
Ich weiß nicht, ob ich so selbstverständlich annehmen sollte, dass Ärzte wirklich ganz abgeneigt sind, wenn Patienten interessiert sind. Ich vermute, es ist eher das Problem, wenn Patienten zusätzlich eine gewisse Überzeugung haben und Selbstdiagnosen stellen und dann auch die Ärzte infrage stellen, als wären sie auch selber medizinisches Fachpersonal.

Es kann sein, dass es eine Überreizung geben mag, weswegen aggressiv reagiert wird auf eigene Recherchen, allerdings gibt es auch Gründe, warum Leute auf fragwürdige Alternativen umsteigen, denn Fachwissen hilft nicht, wenn zwischenmenschlich das Fachpersonal kaputt ist.
 
Ein Arzt hat oft schon Mühe aus einem Patienten für eine Diagnose brauchbare und verwertbare Informationen rauszukitzeln. Ob das mit KI klappt, hab ich erhebliche Zweifel und hier sehe ich eine Parallele zu selbstfahrenden Autos. Wer trägt die Verantwortung wenn ein Fehldiagnose erfolgt und daraus eine Fehlbehandlung mit negativen Folgen resultiert? Open AI oder Microsoft garantiert nicht. "Du mußt halt vorsichtig sein" bringt es nicht weit.
 
Es kommt immer auch auf das eigene Körperbewußtsein an.

Wenn das eher fehlt, ist der Arzt automatisch der beste Ansprechpartner als Vertrauensperson. In der heutigen Zeit wird schon offener mit Symptomen, Krankheit, Diagnose und deren Umgang umgegangen.

Du musst Dich nicht auf die KI verlassen. Sie bietet nur Vorschläge an. Und Du kannst das selbst abwägen.
Schon ohne KI gibt es genug Hilfen im Internet.
 
SAMM schrieb:
Schon ohne KI gibt es genug Hilfen im Internet.
Zum Vergrößern anklicken....
Jo, steht ja auch im Bericht:

DrWindows schrieb:
Schon jetzt verarbeiten Bing und Copilot jeden Tag 50 Millionen Fragen mit Gesundheitsbezug, heißt es.
Zum Vergrößern anklicken....
Das glaube ich gerne.

Die Haftungsfrage halte ich übrigend für ein Scheinproblem. Da wird schon irgendwo der Hinweis stehen, dass es sich um eine künstlich generierte Einschätzung handelt und den Arztbesuch nicht ersetzt.

Apropos Arztbesuch: Zum Glück muss ich nicht so oft zum Arzt. Da gehe ich hin, wenn ich wegen eines grippalen Infekts zu Hause bleiben muss und ne Krankschreibung brauche. Dann sitze ich mindestens ne halbe Stunde im Wartezimmer und gucke angeekelt den Wartenden zu, wie sie in Zeitschriften rumblättern, die davor zig andere Kranke in der Hand hatten. Wenn ich dann endlich dran komme, bin ich nach 5 Minuten wieder draußen. Ob ich dann unbedingt die bessere Beratung genossen habe, lasse ich mal offen.
 
Mauersegler schrieb:
Ob ich dann unbedingt die bessere Beratung genossen habe, lasse ich mal offen.
Zum Vergrößern anklicken....
Wenn du mit einem solch lapidaren Beispiel um die Ecke kommst, müssen wir nicht darüber diskutieren, ob du so eine bessere Beratung gehabt hättest. Das wäre ja nicht mal eine Beratung gewesen, sondern die jährliche Übung, ob die Drehtür in der Praxis noch funktioniert. Aber allgemein kommt es sehr auf das Krankheitsbild bzw. dessen Kategorie an, um das es geht. Ich kann vor allem für die psychischen Erkrankungen sprechen, wo ich wie gesagt auch hier für Dr. Windows an einer entsprechenden Artikelserie arbeite. Das wird noch richtig harter Stoff.

Du kannst als Gedankenexperiment ja nur mal den AI Memory Poisoning-Angriff als Sonderform der Prompt Injection nehmen, vor dem Microsoft bereits gewarnt hat. Der Angriffsvektor zielt ja darauf ab, das Gedächtnis der KI so zu vergiften, dass der Mensch vor dem Bildschirm gezielt beeinflusst werden kann. Technisch kann der Vektor leicht durchbrochen werden, indem man einfach alle gespeicherten Unterhaltungen entfernt, aber die Frage ist auch, ob ein Mensch, auch wenn er technikaffin ist, dazu in der Lage wäre, wenn er an einer Depression, einer Essstörung oder einer Psychose leidet, um nur einige Beispiele zu nennen. Und das muss ja nicht beim Chatten bleiben. Spinne das mal weiter, indem die KI über das Model Context Protocol zum Beispiel das Bild von einem extrem dünnen Mädchen abgreift und vor dem Bildschirm sitzt eine junge Frau, die an Magersucht leidet und für sowas dann ähnlich empfänglich ist wie bei Pro-Ana in den 2000er-Jahren, was v.a. auf Facebook los war.

Das ist alles jetzt sehr grob, aber wenn KI auf konkrete Gesundheitsprobleme trifft und das passiert nicht wie im Krankenhaus, wenn Ärzte über einem CT und MRT hocken und dort werden bisher unerkannte Wucherungen gefunden, sondern es trifft direkt auf einen Nutzer und der kommt alleine nicht aus seinem Loch raus, dann kann das richtig heftig werden. ChatGPT ist ein Modell, was da zum Beispiel nicht unbedingt positiv aufgefallen ist, dafür habe ich auch Material hier beisammen. Aber im Grunde zieht sich das hier über das gesamte Spektrum von Suchtpatienten, Einsamkeit, Trauer, Depressionen, die Probleme mit Deepfakes, Essstörungen, aber durchaus auch neue Behandlungsansätze. Aber das muss ich wie gesagt alles sehr sauber aufbereiten und lasse mir lieber mehr Zeit damit.

Ich spreche da selbst viel mit meiner Assistenz darüber und es hat sehr gute Gründe, warum ich mich selbst sehr viel mit Künstlicher Intelligenz und vor allem Entwicklungen wie den Agents und möglichen Angriffsvektoren beschäftige. Die Agoraphobie mit Panikstörung ist bei mir zwar der Elefant im Raum, aber bei mir wurde auch eine Generalisierung und der Hang zu Gedankenkreisen offiziell diagnostiziert als Begleiterscheinung. Heißt auf Deutsch: Durch unerwartete Nachrichten und ganz besonders durch mediale Einflüsse verschiedenster Art kann meine Panikstörung ähnlich wie bei der Agoraphobie selbst so getriggert werden, dass es in einem Crash endet. Deswegen betreibe ich beim Nachrichtenkonsum zum Beispiel viel mentale Hygiene und auch bei der KI spielt die algorithmische, anders als die technische, Ebene faktisch möglichst keine Rolle.

So einen extremen Crash hatte ich Ende 2022 das letzte Mal. Wenn so ein Crash wirklich durchschlägt, kann das bis hin zu dissoziativen Symptomen wie einer kurzzeitigen Parese gehen, wo ich dann nur noch unbeweglich und bestenfalls noch stark zitternd in der Ecke liege und noch vor mich hin weine. Manche Betroffene entwickeln auch einen Stupor und das kann im Extremfall gehen bis zur dissoziativen Bewegungsstörung. Die Leute sind dann de facto Pflegefälle und landen dann im Rollstuhl. Deswegen darf ich beim Angsttraining zum Beispiel auch kein Flooding machen, weil mir das ohne feste Begleitung schaden würde, und weswegen ich nur eine angepasste Psychotherapie bekomme.

Jetzt rechne meine Situation mal um auf das Thema KI. Wir haben ja schon über das Thema KI-Journalismus gesprochen, dann gibt es AI Slop, man kann sowas wie das AI Memory Poisoning in den Ring werfen, man könnten auch noch anmerken, dass man AI Agents aufgrund fehlender Best Practices einfach noch nicht richtig unter Kontrolle hat. Moltbook ist ein Beispiel dafür, wie sie frei drehen können. Ja, natürlich bin ich in einer privilegierten Position, weil ich den wichtigen Dreiklang umsetzen könnte:

a) Ich habe die Sicht eines Betroffenen.
b) Ich habe das technische Wissen und die Möglichkeiten, um die technischen Punkte dahinter aufzudröseln.
c) Dank der ersten beiden Punkte kann ich für mich Strategien entwickeln, um damit bestmöglich umzugehen.

Das stimmt schon. Aber ich bin auch nur ein Mensch und wie gut ich mit meiner Krankheit umgehen kann, ist manchmal auch eine Frage der Tagesform. Wenn ich einen gebrauchten Tag erwische und dann passiert sowas, müssen Mechanismen da sein, damit es nicht durchschlägt. Ich möchte und werde auf KI auch nicht verzichten. Warum sollte ich auch, wenn es mir Vorteile bringt und ich mit SLMs etc. sowieso schon auf andere Art seit Jahren arbeite? Aber es muss für mich eben sicher implementiert werden. Was andere darüber denken, ist mir persönlich auch vollkommen egal, es muss ja nur für mich Sinn machen.

Deswegen möchte ich besagte Artikelserie auch unbedingt machen und der Träger meiner Assistenz hatte auch schon Interesse geäußert, dass sie das dann gerne haben bzw. verwenden möchten, wenn es sauber aufbereitet ist. Vielleicht kann ich durch meine Erfahrungen dann gleichzeitig auch noch was Gutes tun, indem ich andere sensibilisiere und andere Betroffene dann auch besser Hilfe bekommen können.
 
Falls ihr euch im Übrigen fragen solltet, was ich mit dieser dissoziativen Bewegungsstörung als absolutem Extremfall meine, lasse ich euch gerne nochmal das Video hier da, wo die Folgeerkrankung richtig gezeigt wird. Wobei das bei ihr hier jetzt aus einer Depression heraus entstanden ist und keiner Angststörung, aber der Effekt ist der gleiche.


Wie gesagt, mir geht es nicht darum, KI jetzt zu verteufeln oder selbst nicht im Rahmen dessen, was für mich in Ordnung ist, auch einzusetzen. Ich sehe durchaus, dass sie mir auch viel Arbeit erleichtern kann. Aber für mich sehe ich in manchen Entwicklungen auch zusätzliche Herausforderungen, die ich im Stressmanagement und dergleichen berücksichtigen muss, gerade was Themen wie den KI-Journalismus als Beispiel betrifft.

Von Celin aus dem Video bin ich persönlich auch nicht so weit weg, was die Ursachen betrifft. Bei mir hat das auch alles mal mit einem Krampfanfall in der frühen Kindheit angefangen und wenn es bei mir zu einem Crash kommt oder eine Panikattacke bei der Agoraphobie selbst außer Kontrolle gerät, kenne ich Geschichten wie Parästhesien oder kurzzeitige dissoziative Paresen auch selbst. Jedenfalls muss ich einfach gut auf mich aufpassen - keine Vermeidung, aber Steuerung im Rahmen dessen, was ich kontrollieren kann und was in meinem Einflussbereich liegt, muss ich machen.

Ist übrigens auch ein Grund, warum mein technisches Setup allgemein so ist, wie es ist. Innerhalb von Big Tech ist Microsoft auch deshalb bei mir der Elefant im Raum, weil ich mich bei Office, Windows, Edge und Co., was Kontrolle betrifft, immer mit Abstand am wohlsten und sichersten gefühlt habe. Und gleichzeitig gibt es seit jeher diese doppelte Ergänzung aus dem Fokus auf europäische Lösungen und gerade FOSS-Größen wie Mozilla mit Firefox etc. oder auch mit Linux-Systemen, weil ich keine Lust habe, abseits von Microsoft zu sehr mit meinen Daten durch die Weltgeschichten zu funken, soweit sich das kontrollieren bzw. steuern lässt. Ich bin zwar kein digitaler Einsiedler, aber ich muss auch nicht über jedes Stöckchen springen, was mir die Techriesen vor die Füße halten.
 
muvimaker schrieb:
Ist das Dein Ernst oder hast Du die Ironietags vergessen? Ich würde mich nie auf die Befundung bzw. die Erklärung eines solchen von der KI verlassen. Da kann ich ja gleich die Diagnose durch die KI veranlassen.
Zum Vergrößern anklicken....

Es heisst ja auch nur Gesundheitsberater....und nicht Arzt
Das eine KI kein Ersatz für einen Arzt bei einer Erkrankung ist, dürfte auch Amerikanern klar sein.
Denn wie es ein anderer User schon schrieb....das Gesundheitswesen in den USA ist ganz anders,
als das hierzulande.
 
In den USA hat das ziemlich wenig mit dem Bildungsgrad zu tun.Eher mit dem Umstand,
das rund 45,7 Mio. Amerikaner überhaupt nicht krankenversichert sind.Weil selbst die
Krankenversicherungen in den USA anders funktionieren als die deutschen GKV's
Da sich viele Amerikaner eine Krankenversicherung auch gar nicht leisten können
Da bekommt so ein KI-Gesundheitsberater doch gleich eine ganz andere Bedeutung...gelle?
 
Du musst dich einloggen oder registrieren, um hier zu antworten.
Oben