Responsabilidad jurídica y justicia algorítmica ante las decisiones automatizadas: revisión sistemática
Resumen
El artículo analizó cómo la producción científica trata la responsabilidad jurídica derivada de decisiones automatizadas y la protección de los derechos fundamentales frente a la inteligencia artificial. Se realizó una revisión sistemática cualitativa conforme a PRISMA 2020, con búsquedas en Scopus, Google Scholar y OpenAlex; de 1248 registros, 51 estudios integraron el corpus, analizado mediante matrices temáticas y lectura hermenéutica. Se constató un consenso casi unánime en negar personalidad jurídica a los sistemas automatizados y tres vías para imputar el daño: responsabilidad objetiva en usos de alto riesgo, responsabilidad profesional no delegable y socialización del daño. Veinticinco estudios no examinan la responsabilidad civil y veintiocho omiten la penal, mientras la no discriminación y la privacidad dominan la reflexión sobre derechos. Se concluyó que la literatura ha desplazado la imputación del daño hacia el cumplimiento regulatorio, por lo que se requieren reglas exigibles de responsabilidad, explicación e impugnación.
Descargas
Citas
Alikhademi, K., Drobina, E., Prioleau, D., Richardson, B., Purves, D. & Gilbert, J. E. (2022). A review of predictive policing from the perspective of fairness. Artificial Intelligence and Law, 30(1), pp. 1-17. Disponible en: https://doi.org/10.1007/s10506-021-09286-4
Barysė, D. & Sarel, R. (2024). Algorithms in the court: Does it matter which part of the judicial decision-making is automated? Artificial Intelligence and Law, 32(1), pp. 117-146. Disponible en: https://doi.org/10.1007/s10506-022-09343-6
Bayamlıoğlu, E. (2022). The right to contest automated decisions under the General Data Protection Regulation: Beyond the so-called "right to explanation". Regulation & Governance, 16(4), pp. 1058-1078. Disponible en: https://doi.org/10.1111/rego.12391
Bibal, A., Lognoul, M., de Streel, A. & Frénay, B. (2021). Legal requirements on explainability in machine learning. Artificial Intelligence and Law, 29(2), pp. 149-169. Disponible en: https://doi.org/10.1007/s10506-020-09270-4
Buiten, M., de Streel, A. & Peitz, M. (2023). The law and economics of AI liability. Computer Law & Security Review, 48, 105794. Disponible en: https://doi.org/10.1016/j.clsr.2023.105794
Busuioc, M. (2021). Accountable artificial intelligence: Holding algorithms to account. Public Administration Review, 81(5), pp. 825-836. Disponible en: https://doi.org/10.1111/puar.13293
Chesterman, S. (2020). Artificial intelligence and the limits of legal personality. International and Comparative Law Quarterly, 69(4), pp. 819-844. Disponible en: https://doi.org/10.1017/S0020589320000366
Enarsson, T., Enqvist, L. & Naarttijärvi, M. (2022). Approaching the human in the loop – legal perspectives on hybrid human/algorithmic decision-making in three contexts. Information & Communications Technology Law, 31(1), pp. 123-153. Disponible en: https://doi.org/10.1080/13600834.2021.1958860
Fontes, C., Hohma, E., Corrigan, C. C. & Lütge, C. (2022). AI-powered public surveillance systems: Why we (might) need them and how we want them. Technology in Society, 71, 102137. Disponible en: https://doi.org/10.1016/j.techsoc.2022.102137
Green, B. (2022). The flaws of policies requiring human oversight of government algorithms. Computer Law & Security Review, 45, 105681. Disponible en: https://doi.org/10.1016/j.clsr.2022.105681
Hacker, P. (2023). The European AI liability directives: Critique of a half-hearted approach and lessons for the future. Computer Law & Security Review, 51, 105871. Disponible en: https://doi.org/10.1016/j.clsr.2023.105871
Isea-Argüelles, J. J., Ianni-Gómez, C. E., Aldana-Zavala, J. J. & Giménez-Guariguata, M. J. (2026). Principios éticos y criterios de rigurosidad científica: Marco conceptual para la investigación interpretativa. Episteme Koinonía, 9(17), pp. 281-305. Disponible en: https://doi.org/10.35381/e.k.v9i17.4916
Kaminski, M. E. & Malgieri, G. (2021). Algorithmic impact assessments under the GDPR: Producing multi-layered explanations. International Data Privacy Law, 11(2), pp. 125-144. Disponible en: https://doi.org/10.1093/idpl/ipaa020
Königs, P. (2022). Artificial intelligence and responsibility gaps: What is the problem? Ethics and Information Technology, 24(3), 36. Disponible en: https://doi.org/10.1007/s10676-022-09643-0
Laux, J. (2024). Institutionalised distrust and human oversight of artificial intelligence: Towards a democratic design of AI governance under the European Union AI Act. AI & Society, 39(6), pp. 2853-2866. Disponible en: https://doi.org/10.1007/s00146-023-01777-z
Medvedeva, M., Vols, M. & Wieling, M. (2020). Using machine learning to predict decisions of the European Court of Human Rights. Artificial Intelligence and Law, 28(2), pp. 237-266. Disponible en: https://doi.org/10.1007/s10506-019-09255-y
Méndez Cabrita, C. M., Isea Argüelles, J. J., Chuga Quemac, R. E. & Anamá Tiracá, R. A. (2025). Efectos de la inteligencia artificial y la digitalización en la formación epistemológica de juristas contemporáneos. Revista Conrado, 21(104), e4593. Disponible en: https://conrado.ucf.edu.cu/index.php/conrado/article/view/4593
Méndez Cabrita, C. M., Isea Argüelles, J. J., Molina Gutiérrez, T. de J. & Laguna Delgado, K. N. (2024). Más allá del positivismo y el iusnaturalismo, un enfoque educativo integrador. Revista Conrado, 20(S1), pp. 300-305. Disponible en: https://conrado.ucf.edu.cu/index.php/conrado/article/view/4100
Mökander, J., Morley, J., Taddeo, M. & Floridi, L. (2021). Ethics-based auditing of automated decision-making systems: Nature, scope, and limitations. Science and Engineering Ethics, 27(4), 44. Disponible en: https://doi.org/10.1007/s11948-021-00319-4
Novelli, C., Taddeo, M. & Floridi, L. (2024). Accountability in artificial intelligence: What it is and how it works. AI & Society, 39(4), pp. 1871-1882. Disponible en: https://doi.org/10.1007/s00146-023-01635-y
Page, M. J., McKenzie, J. E., Bossuyt, P. M., Boutron, I., Hoffmann, T. C., Mulrow, C. D., Shamseer, L., Tetzlaff, J. M., Akl, E. A., Brennan, S. E., Chou, R., Glanville, J., Grimshaw, J. M., Hróbjartsson, A., Lalu, M. M., Li, T., Loder, E. W., Mayo-Wilson, E., McDonald, S., … Moher, D. (2021). The PRISMA 2020 statement: An updated guideline for reporting systematic reviews. BMJ, 372, n71. Disponible en: https://doi.org/10.1136/bmj.n71
Santoni de Sio, F. & Mecacci, G. (2021). Four responsibility gaps with artificial intelligence: Why they matter and how to address them. Philosophy & Technology, 34(4), pp. 1057-1084. Disponible en: https://doi.org/10.1007/s13347-021-00450-x
Smith, M. & Miller, S. (2022). The ethical application of biometric facial recognition technology. AI & Society, 37(1), pp. 167-175. Disponible en: https://doi.org/10.1007/s00146-021-01199-9
Tigard, D. W. (2021). There is no techno-responsibility gap. Philosophy & Technology, 34(3), pp. 589-607. Disponible en: https://doi.org/10.1007/s13347-020-00414-7
Wachter, S., Mittelstadt, B. & Russell, C. (2021). Why fairness cannot be automated: Bridging the gap between EU non-discrimination law and AI. Computer Law & Security Review, 41, 105567. Disponible en: https://doi.org/10.1016/j.clsr.2021.105567
Završnik, A. (2021). Algorithmic justice: Algorithms and big data in criminal justice settings. European Journal of Criminology, 18(5), pp. 623-642. Disponible en: https://doi.org/10.1177/1477370819876762
Zuiderveen Borgesius, F. J. (2020). Strengthening legal protection against discrimination by algorithms and artificial intelligence. The International Journal of Human Rights, 24(10), pp. 1572-1593. Disponible en: https://doi.org/10.1080/13642987.2020.1743976
Derechos de autor 2026 Carmen Marina Méndez-Cabrita, Josía Jeseff Isea-Argüelles, Maribel José Giménez-Guariguata, Julio Juvenal Aldana-Zavala
Esta obra está bajo licencia internacional Creative Commons Reconocimiento-NoComercial-CompartirIgual 4.0.
LICENCIA DE CONTENIDO
Creative Commons
Atribución-NoComercial-CompartirIgual 4.0 Internacional (CC BY-NC-SA 4.0)
Política propuesta para revistas que ofrecen acceso abierto
Aquellos autores/as que tengan publicaciones con esta revista, aceptan los términos siguientes:
Usted es libre de:
Compartir — copiar y redistribuir el material en cualquier medio o formato
Adaptar — remezclar, transformar y construir a partir del material
La licenciante no puede revocar estas libertades en tanto usted siga los términos de la licencia
Bajo los siguientes términos:
Atribución — Usted debe dar crédito de manera adecuada, brindar un enlace a la licencia, e indicar si se han realizado cambios. Puede hacerlo en cualquier forma razonable, pero no de forma tal que sugiera que usted o su uso tienen el apoyo de la licenciante.
NoComercial — Usted no puede hacer uso del material con propósitos comerciales.
CompartirIgual — Si remezcla, transforma o crea a partir del material, debe distribuir su contribución bajo la lamisma licencia del original.
No hay restricciones adicionales — No puede aplicar términos legales ni medidas tecnológicas que restrinjan legalmente a otras a hacer cualquier uso permitido por la licencia.
DERECHOS DE AUTOR Y PERMISO
La revista permite que los autores tengan los derechos de autor sin restricciones.
La revista permite que los autores conserven los derechos de publicación sin restricciones; y garantizan a la revista el derecho de ser la primera publicación del trabajo.
