Reconsidering the concept of ‘dual-use’ in the context of neuroscience research

Commentaire / CommentaryLe concept de « double usage » réfère habituellement aux recherches ayant des applications à la fois civiles (par exemple, thérapeutiques) et militaires. J’avance que cette dichotomie peut et devrait être reconsidérée et qu’ainsi le concept de double usage pourra aider à faire l’examen d’autres potentiels mésusages, comme la neuroamélioration ou le neuromarketing.The concept of ‘dual-use’ research usually refers to research with both civilian (e.g., therapeutic) and military applications. I argue here that this dichotomy can and should be reconsidered and thus that the concept of dual-use can be helpful in examining other potential misuses, such as neuroenhancement or neuromarketing

Le concept de double-usage de la recherche : un outil diagnostique de l’analyse éthique des risques associés aux usages neuroamélioratifs de la recherche en neurosciences

Les technologies de stimulations transcrâniennes – tel que la tDCS ou la TMS – présentent à l’heure actuelle d’intéressantes perspectives thérapeutiques, tout comme diverses améliorations cognitives chez le sujet « non-malade » dont découlent des applications neuroamélioratives, plus ou moins imminentes, en dehors du cadre clinique ou investigatoire. Est proposé ici d’analyser les risques associés à ces applications, détournées des objectifs premiers de recherche, et aux préoccupations éthiques qui les accompagnent (autonomie, justice, intégrité physique), via un concept généralement associé aux recherches avec des perspectives de sécurité nationale et associées à un niveau de risque élevé. Révisant la trivialité d’une définition dichotomique aux usages « bons » et « mauvais », est proposé d’étendre le concept de « double-usage » pour l’appliquer à la neuroamélioration comme un mésusage de la recherche en neurosciences. Faisant référence au conflit entre, d’une part, le respect de la liberté académique et, d’autre part, la protection de la sécurité et de la santé publique, ce concept s’avère être un outil diagnostique pertinent pour l’évaluation des risques associés à l’usage mélioratif desdites technologies, et plus particulièrement de la tDCS, afin d’alimenter la réflexion sur la régulation de ces dispositifs en amont de leur utilisation, selon un principe de précaution inhérent au double-usage de la recherche. Ce concept permet ainsi de réfléchir à la mise en place d’une gouvernance proactive et contextualisée impliquant une responsabilité partagée d’un large panel d’acteurs, nécessaire au vu des avancées rapides du domaine des neurosciences et de l’imminence de l’arrivée sur le marché de ces dispositifs.Transcranial stimulation technologies – such as tDCS and TMS – currently provide promising therapeutic outcomes, as well as various cognitive improvements in healthy individuals, leading to different and relatively prospective neuroenhancement applications outside clinical or research contexts. In this thesis, a concept that has typically been associated with research regarding national security implications and prospects associated with a high level of risk – i.e., the concept of “dual-use” – will be deployed to analyze the risks of neuroscience applications being diverted from their primary research objectives, along with the related ethical concerns (e.g., autonomy, justice, physical integrity). By revising the dichotomous definition of dual-use research as involving either ‘good’ or ‘bad’ uses, I propose to extend the concept in order to consider neuroenhancement as a misuse of neuroscience research, with reference to the conflict between, on the one hand, protecting academic freedom and progress, and on the other, promoting security and public health. This concept is a pertinent diagnostic tool for the evaluation of risks associated with a neuroenhancement use of those technologies – and more especially tDCS – when considering how best to regulate these devices prior to the appearance of their utilisation, due to the precautionary principle inherent in dual-use research. This concept can also help to set out proactive and contextualized governance mechanisms based on the shared responsibility of a broad range of stakeholders, something that is necessary given the rapid advances in neuroscience research and the imminence of such devices coming onto the market

Systèmes d’intelligence artificielle et santé : les enjeux d’une innovation responsable.

L’avènement de l’utilisation de systèmes d’intelligence artificielle (IA) en santé s’inscrit dans le cadre d’une nouvelle médecine « haute définition » qui se veut prédictive, préventive et personnalisée en tirant partie d’une quantité inédite de données aujourd’hui disponibles. Au cœur de l’innovation numérique en santé, le développement de systèmes d’IA est à la base d’un système de santé interconnecté et auto-apprenant qui permettrait, entre autres, de redéfinir la classification des maladies, de générer de nouvelles connaissances médicales, ou de prédire les trajectoires de santé des individus en vue d’une meilleure prévention. Différentes applications en santé de la recherche en IA sont envisagées, allant de l’aide à la décision médicale par des systèmes experts à la médecine de précision (ex. ciblage pharmacologique), en passant par la prévention individualisée grâce à des trajectoires de santé élaborées sur la base de marqueurs biologiques. Des préoccupations éthiques pressantes relatives à l’impact de l’IA sur nos sociétés émergent avec le recours grandissant aux algorithmes pour analyser un nombre croissant de données relatives à la santé (souvent personnelles, sinon sensibles) ainsi que la réduction de la supervision humaine de nombreux processus automatisés. Les limites de l’analyse des données massives, la nécessité de partage et l’opacité des décisions algorithmiques sont à la source de différentes préoccupations éthiques relatives à la protection de la vie privée et de l’intimité, au consentement libre et éclairé, à la justice sociale, à la déshumanisation des soins et du patient, ou encore à la sécurité. Pour répondre à ces enjeux, de nombreuses initiatives se sont penchées sur la définition et l’application de principes directeurs en vue d’une gouvernance éthique de l’IA. L’opérationnalisation de ces principes s’accompagne cependant de différentes difficultés de l’éthique appliquée, tant relatives à la portée (universelle ou plurielle) desdits principes qu’à la façon de les mettre en pratique (des méthodes inductives ou déductives). S’il semble que ces difficultés trouvent des réponses dans la démarche éthique (soit une approche sensible aux contextes d’application), cette manière de faire se heurte à différents défis. L’analyse des craintes et des attentes citoyennes qui émanent des discussions ayant eu lieu lors de la coconstruction de la Déclaration de Montréal relativement au développement responsable de l’IA permet d’en dessiner les contours. Cette analyse a permis de mettre en évidence trois principaux défis relatifs à l’exercice de la responsabilité qui pourrait nuire à la mise en place d’une gouvernance éthique de l’IA en santé : l’incapacitation des professionnels de santé et des patients, le problème des mains multiples et l’agentivité artificielle. Ces défis demandent de se pencher sur la création de systèmes d’IA capacitants et de préserver l’agentivité humaine afin de favoriser le développement d’une responsabilité (pragmatique) partagée entre les différentes parties prenantes du développement des systèmes d’IA en santé. Répondre à ces différents défis est essentiel afin d’adapter les mécanismes de gouvernance existants et de permettre le développement d’une innovation numérique en santé responsable, qui doit garder l’humain au centre de ses développements.The use of artificial intelligence (AI) systems in health is part of the advent of a new "high definition" medicine that is predictive, preventive and personalized, benefiting from the unprecedented amount of data that is today available. At the heart of digital health innovation, the development of AI systems promises to lead to an interconnected and self-learning healthcare system. AI systems could thus help to redefine the classification of diseases, generate new medical knowledge, or predict the health trajectories of individuals for prevention purposes. Today, various applications in healthcare are being considered, ranging from assistance to medical decision-making through expert systems to precision medicine (e.g. pharmacological targeting), as well as individualized prevention through health trajectories developed on the basis of biological markers. However, urgent ethical concerns emerge with the increasing use of algorithms to analyze a growing number of data related to health (often personal and sensitive) as well as the reduction of human intervention in many automated processes. From the limitations of big data analysis, the need for data sharing and the algorithmic decision ‘opacity’ stems various ethical concerns relating to the protection of privacy and intimacy, free and informed consent, social justice, dehumanization of care and patients, and/or security. To address these challenges, many initiatives have focused on defining and applying principles for an ethical governance of AI. However, the operationalization of these principles faces various difficulties inherent to applied ethics, which originate either from the scope (universal or plural) of these principles or the way these principles are put into practice (inductive or deductive methods). These issues can be addressed with context-specific or bottom-up approaches of applied ethics. However, people who embrace these approaches still face several challenges. From an analysis of citizens' fears and expectations emerging from the discussions that took place during the coconstruction of the Montreal Declaration for a Responsible Development of AI, it is possible to get a sense of what these difficulties look like. From this analysis, three main challenges emerge: the incapacitation of health professionals and patients, the many hands problem, and artificial agency. These challenges call for AI systems that empower people and that allow to maintain human agency, in order to foster the development of (pragmatic) shared responsibility among the various stakeholders involved in the development of healthcare AI systems. Meeting these challenges is essential in order to adapt existing governance mechanisms and enable the development of a responsible digital innovation in healthcare and research that allows human beings to remain at the center of its development

Responsible conduct of research-creation: a portrait of an uncharted field of research

Responsible conduct of research (RCR) is ubiquitous, and present in most areas of research. One area that has received little attention is Research-Creation (RC): • an emergent eld at the interface of academic research and creative activities • in Quebec, Canada, RC is de ned as “research activities or approaches that foster the creation or interpretation/ performance of literary or artistic works of all types” Researcher-Creators – who are at the same time researchers and practising artists, musicians, or designers – may be faced with very di erent issues or challenges from colleagues in the rest of academia. • How are RCR issues are articulated in RC? • How does the heterogeneous RC community responds to institutional policies or provincial/national RCR guidelines? This review aimed to identify and categorize RCR issues, and RC-speci c factors.FRQ Action concerté

Responsible Conduct of Research in Research-Creation: Moving into Uncharted Terrain

Responsible conduct of research (RCR) is ubiquitous, and present in most areas of research. One area that has received little attention is Research-Creation (RC): • an emergent eld at the interface of academic research and creative activities • in Quebec, Canada, RC is de ned as “research activities or approaches that foster the creation or interpretation/ performance of literary or artistic works of all types” Researcher-Creators – who are at the same time researchers and practising artists, musicians, or designers – may be faced with very di erent issues or challenges from colleagues in the rest of academia. • How do researcher-creators reconcile their dual obligations to creation and to research? • Are the usual research ethics guidelines (e.g., TCPS2, ICH relevant and how do they apply? • How do the creative/artistic dimensions of research a ect evaluations by grant committees and REBs? To better understand how RCR issues are articulated in the very heterogeneous RC community, we combine here results from a literature review and an international survey on RCR in RC.FRQ Action concerté

Evaluation of enhanced mirror for LMJ reflector industrial production

International audienc