The Ethical Aspects of Artificial Intelligence Use in Medicine within the Context of Clinical Decision Support Systems
ABSTRACT
The increasing use of artificial intelligence (AI) and health technologies in clinical practice will lead to significant transformations in the doctor-patient relationship. Accordingly, it is a critical necessity to investigate how this relationship will change with the integration of AI and health technologies in general, and Clinical Decision Support Systems (CDSS) in particular, and to identify, analyze, and evaluate the ethical issues arising from this transformation. In response to this need, the present study aims to examine the relationship between the doctor, patient, and CDSS, focusing on the asymmetries within this relationship and the ethical dimensions of the principle of responsibility in CDSS-involved decisions.
With the integration of CDSS into the doctor-patient relationship, a triadic relationship involving the doctor, patient, and CDSS is expected to gain prominence. From an ethical standpoint, this change must adopt a human-centered approach and be oriented towards enhancing patient well-being. In this context, the study defends, within a normative framework, that CDSS in the triadic clinic should function as a "care-optimizer". The concept of care optimization is elaborated in five main categories: quality of care, patient-centered care, decision-making processes, access and communication, and care practices. Following this, power and epistemic asymmetries emerging in the triadic clinic are examined through an asymmetry analysis grounded in relationalism, and the normative implications of these asymmetries on physician responsibility are evaluated. By analyzing the inherent and contingent dimensions of power asymmetry, along with the categorical and gradual forms of epistemic asymmetry, the study explores their effects on responsibility distribution in the context of meaningful human control and explainability.
The theoretical foundation of this study is grounded in the postphenomenological theory of technological mediation, which emphasizes that technologies are not neutral tools but mediators shaping human experience. As a result, the study proposes a normative framework for a healthcare system that prioritizes patient well-being and develops a relational approach to address the complexities of responsibility distribution within the triadic clinic.
Key Words: Doctor-patient relationship, Artificial Intelligence Ethics, Clinical Decision Support Systems, responsibility, patient wellbeing
ÖZET
Yapay zekâ (YZ) ve sağlık teknolojilerinin klinik uygulamalarda artarak kullanılması, hasta-hekim ilişkisinde önemli dönüşümlere yol açacaktır. Bu doğrultuda, genelde YZ’nin ve teknolojilerin, özelde ise Klinik Karar Destek Sistemleri’nin (KKDS) kliniğe entegrasyonuyla, hasta-hekim ilişkisinin nasıl değişeceğinin incelenmesi ve bu değişiklikten neşet eden etik sorunların tespiti, analizi ve değerlendirilmesi önemli bir ihtiyaçtır. Bu ihtiyaca binaen araştırmada, hasta-hekim ve KKDS ilişkisi ile bu ilişkideki asimetrilerin ve KKDS ile alınan kararlarda sorumluluk ilkesinin etik boyutlarının incelenmesi amaçlanmıştır.
KKDS’nin hasta-hekim ilişkisine eklenmesiyle hasta-hekim-KKDS olmak üzere üçlü (triadik) bir ilişkinin ön plana çıkacağı söylenebilir. Etik açıdan konuya yaklaşıldığında bu değişiklik insanı merkeze almalı ve buna bağlı olarak hasta refahını arttırmaya yönelik olmalıdır. Bu bağlamda, araştırmada KKDS’nin hasta-hekim ilişkisinde hastanın değerler sistemine odaklanarak, onun tedavi ve bakım kalitesini iyileştirici olması gerektiği normatif bir çerçevede savunulmuştur. Tedavi ve bakım iyileştirme konsepti; bakım kalitesi, hasta odaklı bakım, karar verme süreçleri, erişim ve iletişim uygulamaları gibi kategorilerle detaylandırılmıştır. Ardından, ilişkiselcilik temelinde bir yaklaşım olarak sunulan asimetri analizi ile triadik klinikte ortaya çıkan güç asimetrisi ve epistemik asimetriler kapsamlı bir şekilde incelenmiş ve asimetrilerin hekimin sorumluluğu üzerindeki normatif etkileri değerlendirilmiştir. Güç asimetrisinin içkin ve olumsal boyutları ile epistemik asimetrilerin kategorik ve tedrici görünümleri analiz edilerek; bu asimetrilerin anlamlı insan kontrolü ve açıklanabilirlik bağlamında sorumluluk dağıtımına etkileri analiz edilmiştir.
Tüm bu çalışmaların teorik genel çerçevesi olarak, postfenomenolojinin - teknolojilerin nötral araçlar olmadığı, aksine insan tecrübesini şekillendiren aracılar olduğunu savunan - teknolojik aracılık teorisi benimsenmiştir. Bu çalışmanın neticesinde hasta refahını ön planda tutan bir sağlık sistemi için normatif bir çerçeve sunulmuş ve sağlık hizmetlerinde sorumluluk dağıtımındaki karmaşıklıkları çözmeye yönelik ilişkisel bir yaklaşım geliştirilmiştir.
Anahtar Kelimeler: Hasta-hekim ilişkisi, Yapay Zekâ Etiği, Klinik Karar Destek Sistemleri, sorumluluk, hasta refah
