Algorithmische Selektion im Internet: Risiken und Governance automatisierter Auswahlprozesse

Algorithmen im Internet prägen zunehmend unseren Alltag und unsere Wahrnehmung der Welt. Sie wählen Informationen aus, weisen ihnen Relevanz zu und helfen, die Informationsflut im Internet zu bewältigen. Gleichzeitig wird die Verbreitung von algorithmischer Selektion von Risiken und regulatorischen Herausforderungen begleitet. Der Beitrag beleuchtet Anwendungszwecke und den Einfluss von algorithmischer Selektion und bietet einen Überblick zu den damit verbundenen Risiken. Die Risiken bilden Ausgangspunkte für etwaige Markteingriffe und die Suche nach adäquaten Steuerungs- und Regelungsarrangements (Governance). Vor diesem Hintergrund analysiert der Beitrag die Möglichkeiten und Grenzen von unterschiedlichen Governance-Ansätzen auf dem Kontinuum zwischen Markt und Staat und liefert Grundlagen für die Auswahl von passenden Governance-Optionen. Die Untersuchung zeigt, dass sich keine Einheitslösung für die Governance von algorithmischer Selektion anbietet. Die Aufmerksamkeit muss auf mehrdimensionale Lösungsansätze gerichtet werden, in denen Governance-Maßnahmen kombiniert werden, die sich gegenseitig ermöglichen und ergänzen

Algorithmische Selektion im Internet: Risiken und Governance automatisierter Auswahlprozesse

Algorithmen im Internet prägen zunehmend unseren Alltag und unsere Wahrnehmung der Welt. Sie wählen Informationen aus, weisen ihnen Relevanz zu und helfen, die Informationsflut im Internet zu bewältigen. Gleichzeitig wird die Verbreitung von algorithmischer Selektion von Risiken und regulatorischen Herausforderungen begleitet. Der Beitrag beleuchtet Anwendungszwecke und den Einfluss von algorithmischer Selektion und bietet einen Überblick zu den damit verbundenen Risiken. Die Risiken bilden Ausgangspunkte für etwaige Markteingriffe und die Suche nach adäquaten Steuerungs- und Regelungsarrangements (Governance). Vor diesem Hintergrund analysiert der Beitrag die Möglichkeiten und Grenzen von unterschiedlichen Governance-Ansätzen auf dem Kontinuum zwischen Markt und Staat und liefert Grundlagen für die Auswahl von passenden Governance-Optionen. Die Untersuchung zeigt, dass sich keine Einheitslösung für die Governance von algorithmischer Selektion anbietet. Die Aufmerksamkeit muss auf mehrdimensionale Lösungsansätze gerichtet werden, in denen Governance-Maßnahmen kombiniert werden, die sich gegenseitig ermöglichen und ergänzen

Qualitative Synthese im Kontext einer Meta-Ethnographie - Patientenzentrierte Sichtweise von App-basierten Interventionen bei Depression und Angst

Depression und Angst – zwei eng miteinander assoziierte Krankheitsbilder, die eine steigende Prävalenz in der Bevölkerung aufweisen. Die zunehmende Erkrankungshäufigkeit wirft Versorgungsengpässe auf, die eine Erweiterung bisheriger Therapieansätze erfordern, denn die Nicht-Behandlung der Betroffenen steigert das Risiko der Chronifizierung oder des rezidivierenden Krankheitsverlaufs. Eine innovative Therapiemöglichkeit, die eine langfristige und kontinuierliche Begleitung der Patienten ermöglicht, stellen Mental Health Apps dar. Im Rahmen dieser Synthesearbeit wird das Meinungsbild von App-Nutzern erfasst, um darauf aufbauend Empfehlungen für eine bedürfnisadaptierte App-Entwicklung und einen patientenorientierten App-Einsatz zu erarbeiten. Dies geschieht mittels Meta-Ethnographie, die um verschiedene andere Modelle, teilweise in modifizierter Form, erweitert wurde. Integriert werden unter anderem das ENTREQ – Statement, eine Zusammenführung des SPICE – und SPIDER – Modells, das eMERGe.Project, das CASP – Schema, das PRISMA – Statement und Anteile der Thematischen Synthese. Die Literaturrecherche umfasst die Datenbanken PubMed (MEDLINE), PsycINFO, Web of Science (SSCI), CINAHL, SCOPUS, CENTRAL, Google Scholar, sowie die Durchsicht von Journals, Aufzählungen und Verlinkungen. Anhand der Ein- und Ausschlusskriterien können sechs geeignete Primärstudien ermittelt werden. Die weiterführende Verarbeitung, der in den Primärstudien erwähnten Konzepte, grenzt sieben wiederkehrende Kernthemen ab: Eigenengagement des Patienten, Therapeutisches Konzept der App, Therapeutische Allianz mit dem Behandler, Präsentation der App, Charakteris-tika App-basierter Behandlung, Aspekte, die eine Therapie behindern, sowie Wünsche und Anliegen der Patienten. Aufbauend auf diesen Themen findet eine Weiterentwicklung der Synthese statt, die in einer Grafik zusammengefasst wird und Kausalitätsketten aufzeigt. Das entscheidende Therapieelement ist das Eigenengagement des Patienten, das durch intra- und interpersonelle Faktoren modifiziert wird. Die Persönlichkeit des Einzelnen ist daher differenziert zu erfassen, um die App-Auswahl und das Therapie-konzept individuell abzustimmen. Insgesamt wird eine therapeutische App mehrheitlich befürwortet, sofern diese als Ergänzung zur herkömmlichen Therapie der Depression und Angst verwendet wird. Der geforderten Individualität und Autonomie des Patienten stehen eine zeitgleich gewünschte klare Behandlungsleitlinie und Führung durch den Behandler gegenüber. Diese und weitere Disparitäten zielführend zu lösen, ist eine Herausforderung im Zuge der App-Implementierung. Das Beziehungskonstrukt des therapeutischen Settings zwischen Patient, Behandler, App und App-Entwickler wird abschließend in Form einer die Kernthemen übergreifenden Diskussion und Grafik herausgearbeitet

Digitale Gesundheitsanwendungen (DiGA) im Spannungsfeld von Fortschritt und Kritik : Diskussionsbeitrag der Fachgruppe „Digital Health“ der Gesellschaft für Informatik e. V. = Digital health applications (DiGA) in the area of tension between progress and criticism – Discussion paper from the “Digital health” specialist group of the German Informatics Society

Im Dezember 2019 wurden in Deutschland Digitale Gesundheitsanwendungen (DiGA) in die Regelversorgung aufgenommen und können somit durch die gesetzlichen Krankenkassen erstattet werden, um PatientInnen bei der Behandlung von Erkrankungen oder Beeinträchtigungen zu unterstützen. Inzwischen gibt es 48 DiGA (Stand: Oktober 2023) im Verzeichnis des Bundesinstituts für Arzneimittel und Medizinprodukte (BfArM), die vor allem in den Bereichen mentale Gesundheit, Hormone und Stoffwechsel sowie Muskeln, Knochen und Gelenke eingesetzt werden. In diesem Artikel beschreibt die Fachgruppe „Digital Health“ der Gesellschaft für Informatik e. V. (GI) die aktuellen Entwicklungen rund um die DiGA sowie das derzeitige Stimmungsbild zu Themen wie Nutzerzentrierung, Akzeptanz von PatientInnen und Behandelnden sowie Innovationspotenzial. Zusammenfassend haben DiGA in den letzten 3 Jahren eine positive Entwicklung in Form eines langsam steigenden Angebots verschiedener DiGA und Leistungsbereiche erfahren. Nichtsdestotrotz sind in einigen Bereichen noch erhebliche regulatorische Weichenstellungen notwendig, um DiGA langfristig in der Regelversorgung zu etablieren. Zentrale Herausforderungen bestehen u. a. in der Nutzerzentrierung oder in der nachhaltigen Verwendung der Anwendungen

Chapter 2 – Health Apps and the Market

"Der Markt für Apps mit Gesundheitsbezug ist unübersichtlich. Einerseits ist er durch die stetig steigenden technischen Möglichkeiten der verschiedensten im Bereich mHealth nutzbaren Geräte, von Smartphones über Tablets bis hin zu Wearables und weiteren ""smarten"" Gerätschaften, die in der Lage sind Apps auszuführen, ständigen Veränderungen unterworfen. Andererseits herrscht auf Seiten der Anbieter eine Goldgräberstimmung und so drängen viele Anbieter auf den Markt, deren Ursprünge nicht unbedingt im Gesundheitssektor liegen. Kommerzielle Anbieter finden sich hier ebenso wie private Entwicklerinnen und Entwickler, die aus eigenem Antrieb, eine App entwickeln und anbieten. Die nur geringen Barrieren, denen sich Entwickler beim Vertrieb über die App Stores der großen Mobilplattformen ausgesetzt sehen, tun ihr übriges und so finden sich inzwischen weit über 100.000 Gesundheits-Apps mit unterschiedlichsten Inhalten und Ansprüchen allein in den offensichtlich gesundheitsbezogenen Kategorien ""Medizin"" sowie ""Gesundheit und Fitness"" der Stores der beiden größten Mobilplattformen. Dennoch sind von den vielen Anbietern dieser Apps nur wenige kommerziell erfolgreich und können tragfähige und gewinnträchtige Geschäftsmodelle über die in den Stores zur Verfügung stehenden Mechanismen (kostenpflichtige Apps, In-App-Käufe, Abonnements) realisieren. Auf Nutzerseite ist das Bild ebenso inhomogen. In der Bevölkerung sind Smartphones und andere mobile Geräte inzwischen quer durch alle Schichten weit verbreitet; nach aktuellen Zahlen nutzen bereits 63 % der deutschen Bevölkerung ein Smartphone (Weicksel und Pentsi 2015) und es ergibt sich somit auch ein breites Spektrum an (potenziellen) Anwenderinnen und Anwendern von Gesundheits-Apps. Es reicht von Jung bis Alt, von im Gesundheitswesen tätigen Personen mit professionellen Ansprüchen über Gesundheitsinteressierte, bis hin zu akut oder chronisch Erkrankten. All diese Anwenderkreise bringen verschiedene Voraussetzungen mit (von vorhandenen Kenntnissen und Fähigkeiten bis hin zu möglichen körperlichen Einschränkungen) und setzen die Apps in verschiedenen Settings zu ebenso vielfältigen Zwecken ein. Hierzu können sie aus einer unüberschaubaren Anzahl möglicher Angebote wählen. Die Identifikation von zur jeweiligen Interessenlage passenden Gesundheits-Apps fällt aber aufgrund verschiedener Faktoren schwer. Während das Angebot in Teilbereichen, wie zum Beispiel gesundheitsbezogenen Nachschlagewerken, Patiententagebüchern oder Fitness- und Wellness-Apps riesig ist, sind Apps für andere Anforderungsprofile teils unterrepräsentiert. Im Rahmen der vorliegenden Analyse traf dies beispielsweise für allgemein barrierefrei nutzbare oder inhaltlich speziell auf die Bedürfnisse von Anwenderinnen und Anwendern mit körperlichen oder sonstigen Einschränkungen angepasste Apps zu. Erschwerend kommt hinzu, dass Interessenten oft bereits bei der Suche nach Applikationen abgeschreckt werden. Gründe dafür sind beispielsweise mangelhafte oder (inhaltlich oder sprachlich) unverständliche Store-Beschreibungen ohne klare Angaben zu den gebotenen Funktionalitäten und Inhalten. Auch fehlen oft Angaben zu möglichen Limitationen, dem Datenschutz oder gar den Herstellern selbst. Insgesamt eröffnen sich durch Gesundheits-Apps für alle Stakeholder vielfältige Chancen, von der Verbesserung der gesundheitlichen Versorgung bis hin zu wirtschaftlichen Potenzialen (Kostensenkungen, Gewinnsteigerungen), die jedoch häufig noch nicht adäquat realisiert werden. Zur Verbesserung der Situation sind Fragen in den unterschiedlichsten Bereichen zu klären, die sowohl rechtliche, regulatorische als auch wirtschaftliche Bereiche berühren, aber auch die Anwendungssicherheit oder Evidenz bezüglich der Wirksamkeit entsprechender Lösungen betreffen. Diese Fragen sollen in den folgenden Kapiteln aus unterschiedlichen Blickwinkeln aufgegriffen und näher beleuchtet werden. "" The market situation for health related apps is chaotic. On the one hand, the rapid growth of technical innovations for mobile devices that can be employed in mHealth related contexts, such as smartphones, tablet PCs and wearables as well as other ""smart"" devices that are able to run apps, opens up exciting new possibilities. On the other hand, on the manufacturers' side, there is a gold-rush atmosphere and many different types of developers are pushing into the market. There are commercially oriented manufacturers as well as private developers that are motivated to publish an app out of personal interest. The low barriers that developers encounter when distributing their products through the app stores of the big mobile platforms also encourage the growth of the market. Currently, the number of health related apps within the categories ""medicine"" as well as ""fitness and health"" available in the stores of the two biggest platforms surpasses 100,000 apps by far. Still, there are only few publishers of health related apps that are able to realize commercial success and to implement sustainable business models based on the sales mechanisms provided within the app stores (e.g. paid apps, in-app purchases, subscriptions). On the users' side, the picture is just as diverse. Throughout the population, smartphones and other mobile devices are a common possession and thus, currently 63 % of the German population already own a smartphone (Weicksel und Pentsi 2015) and are therefore potential users of health related apps as well. There are young as well as old users, those who work within healthcare as well as those who only want to satisfy their curiosity with respect to health related questions or use health related apps to aid them with an acute or chronic condition. All these users have different levels of knowledge or potentially present with various handicaps, and use the apps in varying settings as well as for varying purposes. To match their needs, users can choose from a vast number of offers. However, identifying a matching app is a complicated process that depends on various factors. For example, while there are a number of functional areas that are well represented, such as reference apps, patient diaries, or fitness and wellness related apps, there are other areas that are underrepresented. Within our analysis, this was especially evident for apps that respect accessibility or specifically target handicapped users. Another factor aggravating the situation is that often, users are irritated by (either content or language-wise) incomprehensible store descriptions that also lack adequate information about the app's functionalities and contents or its limitations. Often, information about data privacy as well the manufacturer himself is also missing or incomplete. All this may potentially discourage users from an app installing an app. Still, health apps open up many exciting changes for all stakeholders, and these include possible improvements of health services as well as economic aspects (reduction of costs, increase in profits), but they can not always be successfully realized. To improve this situation, questions touching upon various areas must be answered, and these include legal and regulatory areas and economic aspects, but also application security and safety as well as the need for evidence with respect to the effectiveness of mHealth solutions. In the following chapters, these questions will be taken up and be considered from various angles.