Doch nicht so intelligent? KI-App wird vom User ausgetrickst

Do, 15.02.2018

Über den Autor

Ihre Ansprechpartnerin Dipl.-Kauffrau Heike Kielhorn-Schönermark

Dipl.-Kauffrau Heike Kielhorn-Schönermark
Gründerin und Geschäftsführerin

Fon: +49 511 64 68 14 – 0
Fax: +49 511 64 68 14 – 18

E-Mail Weitere Kontaktinfos

Derzeit zählt der weltweite App-Markt mehr als 318.000 digitale Gesundheitsapps, von denen 40% direkt den Gesundheitszustand der User betreffen. Nach aktuellen Schätzungen ergibt sich damit ein potenzielles Einsparungsvolumen von ca. USD 7 Milliarden der jährlichen Gesundheitsausgaben der USA. Eine dieser innovativen Apps ist die britische Gesundheitsapp „Babylon Health“, die aufgrund ihrer Vision - Verringerung unnötiger Arztbesuche, Senkung der Wartezeiten und Erhöhung der zur Verfügung stehenden Zeit für die ärztliche Konsultation - mit hohen Erwartungen an den Markt gegangen ist. Die Idee verschaffte dem Unternehmen mehrere Millionen an finanzieller Unterstützung – auch durch das staatliche Gesundheitssystem Großbritanniens, dem national health service (NHS).

Die hinter der App stehende technische Lösung basiert auf künstlicher Intelligenz: Ein programmierter Chatbot befragt den User nach Symptomen und stellt anschließend die „richtige“ Diagnose – bei einfachen Beschwerden erhält der User ein Hausrezept; bei komplizierteren Symptomen erfolgt der direkte Verweis zu einem Spezialisten. Soweit die Theorie. Doch nun erfolgte nach einem ersten Testversuch die Ernüchterung:

Während des Tests verstanden die User die Funktionsweise des Chatbots, tricksten die künstliche Intelligenz aus, indem sie der App besonders schwere Symptome vortäuschten und erhielten dadurch einen schnelleren Zugang zur ärztlichen Versorgung. Die App versagt also in der Praxis. Aus Sicht der Clinical Commission Group in Nord-West-London sei es deshalb „unwahrscheinlich“, dass der „Symptomchecker“ die Nachfrage nach einem Arzttermin tatsächlich senke. Wie das Unternehmen Babylon Health mit diesen Erkenntnissen und der Kritik umgeht, wird sich in der Zukunft zeigen.

In enger Zusammenarbeit mit den Klienten unterstützt die SKC Beratungsgesellschaft mbH die Entwicklung von nachhaltigen, digitalen Versorgungslösungen für das Gesundheitswesen. In diesem Zusammenhang sind aus unserer Erfahrung insbesondere Fragen zum Marktzugang, zur Marktexploration sowie zur strategischen Positionierung in einem digitalisierten Gesundheitsmarkt von besonderer Relevanz.

VON Dipl.-Kauffrau Heike Kielhorn-Schönermark, Gründerin und geschäftsführende Gesellschafterin, SKC Beratungsgesellschaft mbH und Michèl Schikowski, M.Sc. Health Economics, SKC Beratungsgesellschaft mbH

Quellen:
t3n: Diese App sollte den Arztbesuch überflüssig machen – doch die Nutzer bewirkten das Gegenteil
Mobilbranche.de: KI-App Babylon Health wird mit Scheinkrankheiten ausgetrickst.
Healthcaredive: Digital health could be saving $7B today