INTRODUCCIÓN

La inteligencia artificial (IA) no solo se considera una herramienta de optimización, sino también una forma capaz de influir en el ámbito de los derechos individuales debido a la aceleración tecnológica que ha ampliado en el contexto de lo posible. El constitucionalismo contemporáneo se ve en la necesidad de aplicar la lógica del Derecho a sistemas que, por su esencia, funcionan en condiciones de opacidad y predictividad estadística.

En este sentido, Sánchez Acevedo (2022) manifiesta que la transferencia de decisiones administrativas a sistemas algorítmicos puede tener un conflicto directo con las garantías constitucionales, sobre todo si se antepone el rendimiento del gobierno al respeto de los derechos esenciales.

Por otro lado, Concha Machuca y Parra Sepúlveda (2021) examinan si los marcos legales vigentes son adecuados para tratar la responsabilidad de las máquinas o si es imprescindible avanzar hacia nuevas categorías jurídicas. Cuando el sistema de IA opera de forma independiente, se discute la dificultad de la causalidad, lo que exige reconsiderar quién es responsable: el desarrollador, el propietario o el usuario. Para integrar la IA en el ámbito legal, es necesaria una regulación justa que salvaguarde los derechos fundamentales con rigor y no extinga la innovación.

En cuanto a la función constitucional, la IA no debe ser considerada como un sustituto del trabajo humano en la magistratura constitucional, sino como una herramienta que requiere un estricto control de constitucionalidad y convencionalidad. La IA puede participar solo en fases de gestión documental, depuración de precedentes o redacción de borradores, siempre bajo el monitoreo y la validación final de un magistrado (Tupayachi Sotomayor, 2024).

Por otra parte, Rodríguez Gómez (2022) afirma que, frente a la eventualidad de que la tecnología tenga acceso, interfiera o manipule las actividades neuronales, el marco tradicional de los derechos humanos no es suficiente. La dificultad para el derecho consiste en establecer límites precisos para impedir que las interfaces cerebro-computadora conviertan a los individuos en simples sujetos de datos biométricos procesables.

Al respecto, las categorías jurídicas tradicionales parecen no ser suficientes para contener los nuevos peligros de violación de derechos debido a la transformación que ha sufrido la realidad social por la sociedad digital. Los marcos constitucionales tienen que avanzar hacia la salvaguarda de la "autodeterminación informativa", asegurando que las personas conserven el control sobre su información personal ante el control de las grandes empresas tecnológicas y del propio Estado (Benlloch Doménech y Sarrión Esteve, 2022).

Según los autores Zabala Leal y Zuluaga Ortiz (2021), el marco legal vigente no es suficiente para abordar la rapidez de los avances tecnológicos en Colombia, el país está atravesando un periodo de transición. Esta situación produce una incertidumbre jurídica que debe ser solucionada con una regulación adaptable.

No obstante, Sánchez Vásquez y Toro-Valencia (2021), destacan que, no es posible que la delegación de decisiones en sistemas automatizados sea absoluta ni irreversible, sobre todo si los derechos esenciales o la seguridad de las personas están en riesgo.

Por ello, el principal reto para el constitucionalismo del siglo XXI es la regulación de la IA, la salvaguarda de los derechos esenciales no tiene que ser reactiva, sino que tiene que estar incorporada en el diseño de la tecnología (Pérez-Ugena, 2024). Para Hernández-Infante et al. (2025) analizan cómo los derechos humanos se ven en tensión por las nuevas dinámicas globales y la transformación tecnológica, exigiendo una protección reforzada desde el Estado de derecho.

La inteligencia artificial, para el Derecho, no debe ser vista únicamente como un grupo de líneas de código, sino como un fenómeno socio técnico con efectos normativos. En este sentido, se modifican ideas tradicionales como la autonomía y la libertad, incorporando la exigencia de salvaguardar al ciudadano no solo ante el Estado, sino también frente a los grandes grupos tecnológicos que administran la infraestructura algorítmica.

Se plantea como objetivo general de la investigación analizar los desafíos constitucionales de la inteligencia artificial en la protección de los derechos fundamentales.

MÉTODO

El planteamiento realizado por los investigadores para el desarrollo del método es mediante la indagación, recolección y análisis crítico documental y referencial bibliográfico, basándose en la exploración metódica, rigurosa y profunda de diversas fuentes documentales conformadas por artículos arbitrados y convenios, describiendo los hallazgos encontrados. En la investigación, se ha empleado como técnica la revisión documental, la cual permite obtener información valiosa para encuadrar los acontecimientos, problemas y reacciones más usuales de personas y culturas que son objeto de análisis (Sánchez et al., 2021). Se recurre, además, al método inductivo-deductivo, el cual propone que para hallar una verdad se deben escudriñar los hechos y no basarse en meras especulaciones, igualmente, a partir de afirmaciones generales para llegar a las específicas (Dávila, 2006).

RESULTADOS

Se presentan a continuación los resultados del método desarrollado por los investigadores.

Derecho a la igualdad

La Constitución requiere que el Estado asegure la igualdad material. Por lo tanto, para impedir que grupos vulnerables sean sistemáticamente excluidos, es necesario auditar el empleo de algoritmos en los procedimientos de gestión de la justicia. Castellanos (2023) señala que la puesta en marcha de sistemas de inteligencia artificial en la gestión pública se lleva a cabo sin una regulación o por medio de reglamentos técnicos que eludieron el debate parlamentario. Esto representa un reto para el principio de legalidad, porque las determinaciones que impactan a los ciudadanos son tomadas por sistemas cuyos procesos no han sido aprobados por el pueblo.

El Estado tiene una función de garante que no se puede transferir a entidades privadas. La efectividad horizontal de los derechos fundamentales significa que las compañías tecnológicas también están sujetas al cumplimiento de la Constitución. Es decisivo que la gobernanza pública no sea reemplazada por una ley desde la IA, en la que las libertades civiles queden relegadas detrás de la eficiencia del mercado. La soberanía de datos es, por lo tanto, un requisito indispensable para la supervivencia de la democracia.

Desafíos a los derechos

En este período de cambio en un mundo global, la tecnología juega un rol importante en todas las áreas. Por ello, los desafíos constitucionales de la inteligencia artificial en la protección de los derechos fundamentales son un factor que se debe abordar para garantizar una justicia que defienda los derechos humanos (Tabla 1).

Tabla 1.

Estudios sobre desafíos constitucionales de la IA en la protección de derechos humanos.

Autor(es)	Título	Aportes	Desafíos
Medina-Romero y Torres-Chávez (2025)	Regulación de la Inteligencia Artificial: Desafíos para los Derechos Humanos en México	Los autores, sostienen que el reto regulatorio en México no es únicamente un asunto comercial o técnico, sino que está en el centro del derecho constitucional. Los escritores sugieren que la inteligencia artificial debe ser regulada desde una perspectiva antropocéntrica, en la que la tecnología esté siempre al servicio de los seres humanos y no al revés.	Regulación eficiente.
Haro-Erazo et al. (2025)	La protección de los derechos humanos en la era de la Inteligencia Artificial.	El artículo enfatiza que la protección de datos y el derecho a la privacidad no son solo regulaciones técnicas, sino que son prolongaciones del derecho esencial a ser libre y autónomo, los cuales están en peligro debido a sistemas de vigilancia masiva o perfiles automatizados.	Auditar las decisiones automatizadas.
D’aloia (2025)	Inteligencia artificial, derechos fundamentales y democracia constitucional.	Según el autor, la inteligencia artificial no es simplemente un progreso tecnológico, sino también un elemento transformador del poder que requiere reconsiderar las relaciones entre los ciudadanos, el Estado y las grandes empresas tecnológicas.	Protección de la libertad de pensamiento y el pluralismo.
Taboada Macías (2025)	Los riesgos a los derechos humanos por la inteligencia artificial: su intento de mitigación en la EU AI ACT.	La investigación muestra que el modelo europeo de regulación basado en riesgos implica una transformación de paradigma, en la que la seguridad jurídica se vuelve un prerrequisito para que la tecnología pueda existir en el mercado. La UE ha procurado mitigar, exigiendo que los sistemas sean interpretables para garantizar que cualquier decisión automatizada pueda ser rastreada y, si fuera necesario, apelada ante el tribunal, manteniendo de esta manera la tutela judicial efectiva.	Tutela judicial efectiva.
Bravo-Placeres (2025)	Entre algoritmos y justicia: la danza regulatoria de la inteligencia artificial.	El investigador afirma que la regulación no debe ser considerada como una camisa de fuerza, sino como la partitura indispensable para que la IA funcione en armonía con los principios del Estado de derecho.	Modelos de gobernanza dinámicos.
Araya Paz (2020)	Desafíos legales de la inteligencia artificial en Chile.	El autor argumenta que Chile, como otros países de la región, está atravesando una etapa de "desajuste normativo", en la cual las leyes vigentes, pensadas para un mundo analógico, no son suficientes para normar la autonomía y falta de transparencia de los sistemas algorítmicos.	Reinterpretar los principios del derecho para que la tecnología no opere en un vacío de responsabilidad.
Corvalán (2018)	Inteligencia artificial: retos, desafíos y oportunidades – Prometea: la primera inteligencia artificial de Latinoamérica al servicio de la Justicia.	La introducción de la inteligencia artificial en el Ministerio Público Fiscal de la ciudad de Buenos Aires supone un hito que permite superar la burocracia judicial, ya que posibilita pasar desde un modelo de gestión analógico a uno automatizado y predictivo.	Superación de la burocracia judicial.

Elaboración: Los autores.

DISCUSIÓN

La coincidencia de las fuentes estudiadas muestra que el efecto de la IA en la institución jurídica va más allá de la simple eficacia técnica, ya que se establece como un reto a nivel estructural para la soberanía del Estado y para la vigencia de los derechos fundamentales.

Un descubrimiento relevante, respaldado por Castellanos (2023), es que la erosión del principio de legalidad se produce cuando el gobierno implementa sistemas automatizados a través de normas técnicas que esquivan el escrutinio parlamentario. Esta "tecnocracia silenciosa" plantea un conflicto democrático de gran importancia: si los algoritmos dictan las decisiones que impactan la esfera legal de los ciudadanos sin haber sido discutidos públicamente, se erosiona la legitimidad del ejercicio del poder. Desde esta perspectiva, es necesario, según Medina Romero et al. (2025), plantear una regulación que respete los derechos humanos; la tecnología tiene que ser un instrumento subordinado a la dignidad humana y no un objetivo en sí que legitime la falta de transparencia administrativa.

Un punto de aproximación fundamental es la necesidad de auditar los sistemas de gestión de justicia. Para garantizar la igualdad material, no es suficiente contar con normas no discriminatorias de manera formal; se necesita una supervisión activa de los datos. La advertencia sobre la exclusión sistemática de grupos vulnerables subraya que la inteligencia artificial tiene el potencial de multiplicar los prejuicios históricos si no se somete a estrictos controles de constitucionalidad. La experiencia de Prometea (Corvalán, 2018) muestra que la automatización tiene el potencial de superar la burocracia. No obstante, su éxito se condiciona a que la eficiencia no sacrifique ni la equidad, ni el debido proceso.

La autonomía de los sistemas hace que la discusión acerca de la responsabilidad jurídica sea especialmente complicada. El desajuste normativo actual, según Araya Paz (2020) y D’aloia (2025), requiere que se reinterpreten los principios tradicionales con el fin de impedir que la tecnología funcione en un vacío de responsabilidad. Es fundamental la idea de que las corporaciones tecnológicas tienen una eficacia horizontal en relación con los derechos fundamentales: el Estado no está en condiciones de delegar su papel de garante a organizaciones privadas cuyo objetivo principal es el desempeño comercial. La soberanía de datos surge aquí, no solo como una medida de seguridad, sino también como un requisito para que la democracia constitucional pueda sobrevivir frente al seguimiento masivo y a los perfiles automatizados mencionados por Haro-Erazo et al. (2025).

La cita de la EU AI Act hecha por Taboada Macías (2025) propone una transformación de paradigma esencial; que la transparencia y la seguridad jurídica sean condiciones previas, para ingresar al mercado. La forma de asegurar que la tutela judicial efectiva no se vuelva una entelequia es exigir que los sistemas sean rastreables e interpretables. La regulación, en vez de una "camisa de fuerza", es la "partitura" que posibilita la armonía entre el avance técnico y los principios fundacionales del Estado de derecho (Bravo-Placeres, 2025).

Los hallazgos corroboran que el reto constitucional de la IA en la protección de los derechos fundamentales, no es la prohibición de la innovación, sino la revisión desde la constitución del uso del algoritmo. Esto supone una salvaguarda proactiva de la libertad de pensamiento y del pluralismo, garantizando que el ciudadano retenga el dominio sobre su presencia digital. La transición hacia una justicia automatizada debe ser, especialmente, un avance hacia una justicia más transparente en la que siempre esté presente la última palabra de una autoridad humana sujeta a la Constitución.

CONCLUSIONES

La incorporación de la inteligencia artificial en la sociedad no tiene que llevar a una degradación digital, sino a un fortalecimiento de las garantías constitucionales. La técnica no debe prevalecer sobre el ser humano, sino al revés. El reto final no tiene que ver con la tecnología, sino con los valores: garantizar que, en el tiempo de los algoritmos, la Constitución continúe siendo la frontera infranqueable contra cualquier tipo de poder arbitrario, ya sea humano o artificial.

FINANCIAMIENTO

No monetario.

AGRADECIMIENTO

A todos los actores sociales involucrados en el desarrollo de la investigación.

REFERENCIAS CONSULTADAS

Araya Paz, C. (2020). Desafíos legales de la inteligencia artificial en Chile. Revista chilena de derecho y tecnología, 9(2), 257-290. https://dx.doi.org/10.5354/0719-2584.2020.54489

Benlloch Doménech, C., y Sarrión Esteve, J. (2022). Los derechos fundamentales ante las aporías de la era digital. Cuestiones Constitucionales. Revista Mexicana De Derecho Constitucional, 1(46), 3-28. https://doi.org/10.22201/iij.24484881e.2022.46.17046

Bravo-Placeres, I. (2025). Entre algoritmos y justicia: la danza regulatoria de la inteligencia artificial. Iustitia Socialis. Revista Arbitrada de Ciencias Jurídicas y Criminalísticas, 10(18), 5-25. https://doi.org/10.35381/racji.v10i18.4338

Castellanos Claramunt, J. (2023). Sobre los desafíos constitucionales ante el avance de la Inteligencia Artificial. Una perspectiva nacional y comparada. Revista de Derecho Político, (118), 261-287. https://doi.org/10.5944/rdp.118.2023.39105

Corvalán, J. G. (2018). Inteligencia artificial: retos, desafíos y oportunidades – Prometea: la primera inteligencia artificial de Latinoamérica al servicio de la Justicia. Revista De Investigações Constitucionais, 5(1), 295-316. https://doi.org/10.5380/rinc.v5i1.55334

D’aloia, A. (2025). Inteligencia artificial, derechos fundamentales y democracia constitucional. Teoría y Realidad Constitucional, (55), 101-114. https://doi.org/10.5944/trc.55.2025.45030

Dávila Newman, G. (2006). El razonamiento inductivo y deductivo dentro del proceso investigativo en ciencias experimentales y sociales. Laurus, 12(Ext), 180-205. https://n9.cl/nx847

Gómez Rodríguez, J. M. (2022). Inteligencia artificial y neuroderechos. Retos y perspectivas. Cuestiones Constitucionales. Revista Mexicana De Derecho Constitucional, 1(46), 93-119. https://doi.org/10.22201/iij.24484881e.2022.46.17049

Haro-Erazo, B., Infante-Miranda, M., y Montece-Giler, S. (2025). La protección de los derechos humanos en la era de la Inteligencia Artificial. Noesis, 7(esp1), 1603-1614. https://doi.org/10.35381/noesisin.v7i1.521

Hernández-Infante, R. C., Infante-Miranda, M. E., Pupo-Pupo, Y., e Isea-Argüelles, J. J. (2025). El trabajo: Derecho humano fundamental. IUSTITIA SOCIALIS, 10(18), 170-181. https://doi.org/10.35381/racji.v10i18.4382

Medina Romero, M. Á., y Torres Chávez, T. H. (2025). Regulación de la Inteligencia Artificial: Desafíos para los Derechos Humanos en México. RIDE Revista Iberoamericana Para La Investigación Y El Desarrollo Educativo, 15(30). https://doi.org/10.23913/ride.v15i30.2291

Parra Sepúlveda, D., y Concha Machuca, R. (2021). Inteligencia artificial y derecho. Problemas, desafíos y oportunidades. Vniversitas, 70, 1-25. https://:doi:10.11144/Javeriana.vj70.iadp.

Pérez-Ugena, M. (2024). La inteligencia artificial: definición, regulación y riesgos para los derechos fundamentales. Estudios De Deusto, 72(1), 307-337. https://doi.org/10.18543/ed.3108

Sánchez Acevedo, M. (2022). La inteligencia artificial en el sector público y su límite respecto de los derechos fundamentales. Estudios constitucionales, 20(2), 257-284. https://dx.doi.org/10.4067/S0718-52002022000200257

Sánchez Bracho, M., Fernández, M., y Díaz, J. (2021). Técnicas e instrumentos de recolección de información: análisis y procesamiento realizado por el investigador cualitativo. Revista Científica UISRAEL, 8(1), 107-121. https://doi.org/10.35290/rcui.v8n1.2021.400

Sánchez Vásquez, C., y Toro-Valencia, J. (2021). El derecho al control humano: Una respuesta jurídica a la inteligencia artificial. Revista chilena de derecho y tecnología, 10(2), 211-228. https://dx.doi.org/10.5354/0719-2584.2021.58745

Taboada Macías, I. (2025). Los riesgos a los derechos humanos por la inteligencia artificial: su intento de mitigación en la EU AI ACT. Cuestiones constitucionales, (52), e19226. https://doi.org/10.22201/iij.24484881e.2025.52.19226

Tupayachi Sotomayor, J. (2024). La aplicación de la inteligencia artificial en los procesos constitucionales de tutela de derechos fundamentales. Revista Oficial Del Poder Judicial, 16(22), 499-524. https://doi.org/10.35292/ropj.v16i22.1015

Zabala Leal, T. D., y Zuluaga Ortiz, P. A. (2021). Los retos jurídicos de la inteligencia artificial en el derecho en Colombia. Jurídicas CUC, 17(1), 475-498. https://doi.org/10.17981/juridcuc.17.1.2021.17

©2026 por los autores. Este artículo es de acceso abierto y distribuido según los términos y condiciones de la licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional (CC BY-NC-SA 4.0) (https://creativecommons.org/licenses/by-nc-sa/4.0/)

RESUMEN

ABSTRACT

INTRODUCCIÓN

MÉTODO

RESULTADOS

Se presentan a continuación los resultados del método desarrollado por los investigadores.

Derecho a la igualdad

Desafíos a los derechos

Tabla 1.

Estudios sobre desafíos constitucionales de la IA en la protección de derechos humanos.

Autor(es)

Título

Aportes

Desafíos

Medina-Romero y Torres-Chávez (2025)

Regulación de la Inteligencia Artificial: Desafíos para los Derechos Humanos en México

Regulación eficiente.

Haro-Erazo et al. (2025)

La protección de los derechos humanos en la era de la Inteligencia Artificial.

El artículo enfatiza que la protección de datos y el derecho a la privacidad no son solo regulaciones técnicas, sino que son prolongaciones del derecho esencial a ser libre y autónomo, los cuales están en peligro debido a sistemas de vigilancia masiva o perfiles automatizados.

Auditar las decisiones automatizadas.

D’aloia (2025)

Inteligencia artificial, derechos fundamentales y democracia constitucional.

Según el autor, la inteligencia artificial no es simplemente un progreso tecnológico, sino también un elemento transformador del poder que requiere reconsiderar las relaciones entre los ciudadanos, el Estado y las grandes empresas tecnológicas.

Protección de la libertad de pensamiento y el pluralismo.

Taboada Macías (2025)

Los riesgos a los derechos humanos por la inteligencia artificial: su intento de mitigación en la EU AI ACT.

La investigación muestra que el modelo europeo de regulación basado en riesgos implica una transformación de paradigma, en la que la seguridad jurídica se vuelve un prerrequisito para que la tecnología pueda existir en el mercado.

La UE ha procurado mitigar, exigiendo que los sistemas sean interpretables para garantizar que cualquier decisión automatizada pueda ser rastreada y, si fuera necesario, apelada ante el tribunal, manteniendo de esta manera la tutela judicial efectiva.

Tutela judicial efectiva.

Bravo-Placeres (2025)

Entre algoritmos y justicia: la danza regulatoria de la inteligencia artificial.

El investigador afirma que la regulación no debe ser considerada como una camisa de fuerza, sino como la partitura indispensable para que la IA funcione en armonía con los principios del Estado de derecho.

Modelos de gobernanza dinámicos.

Araya Paz (2020)

Desafíos legales de la inteligencia artificial en Chile.

El autor argumenta que Chile, como otros países de la región, está atravesando una etapa de "desajuste normativo", en la cual las leyes vigentes, pensadas para un mundo analógico, no son suficientes para normar la autonomía y falta de transparencia de los sistemas algorítmicos.

Reinterpretar los principios del derecho para que la tecnología no opere en un vacío de responsabilidad.

Corvalán (2018)

Inteligencia artificial: retos, desafíos y oportunidades – Prometea: la primera inteligencia artificial de Latinoamérica al servicio de la Justicia.

La introducción de la inteligencia artificial en el Ministerio Público Fiscal de la ciudad de Buenos Aires supone un hito que permite superar la burocracia judicial, ya que posibilita pasar desde un modelo de gestión analógico a uno automatizado y predictivo.

Superación de la burocracia judicial.