La objeción de conciencia en el diseño de inteligencia artificial: cuando el derecho interpela al algoritmo

Abstract

The disruptive expansion of Artificial Intelligence (AI) has had a cross-cutting impact on all areas of human activity, offering significant advantages but also substantial risks to human rights. Thus, among the problems arising from its misuse are mass surveillance, social manipulation, and the application of intelligent systems for military purposes. Thus, in response to this problem, a debate has arisen about the relevance of recognizing the right to conscientious objection in the design and development of technologies, particularly in the field of AI. Consequently, this article examines the legal nature of conscientious objection from a doctrinal and normative perspective, thus making it possible to analyze its possible configuration as an ethical defense mechanism against potentially harmful technological projects. Finally, we propose essential elements that could characterize a possible conscientious objection in the technological field, with an emphasis on AI, advocating for specific regulation that reconciles the moral integrity of professionals with the public interest.La disruptiva expansión de la inteligencia artificial (IA) ha propiciado un impacto transversal en todos los ámbitos de la actividad humana, ofreciendo ventajas significativas, pero también riesgos sustanciales para los derechos humanos. Es en este contexto, entre las problemáticas derivadas de su uso indebido se encuentran la vigilancia masiva, la manipulación social y la aplicación de sistemas inteligentes con fines militares. Por ello, como respuesta a esta problemática, surge un debate sobre la pertinencia de reconocer el derecho a la objeción de conciencia en el diseño y desarrollo de tecnologías, particularmente en el ámbito de la IA. Consecuentemente, el presente artículo examina la naturaleza jurídica de la objeción de conciencia desde una perspectiva doctrinal y normativa, lo que permite hacer viable el análisis de su posible configuración como un mecanismo de defensa ética ante proyectos tecnológicos potencialmente lesivos. Finalmente, se proponen elementos esenciales que podrían caracterizar una eventual objeción de conciencia en el ámbito tecnológico, con énfasis en la IA, abogando por una regulación específica que concilie la integridad moral de los profesionales con el interés público