La inteligencia artificial debe abordarse desde una perspectiva jurídica crítica y humana
Fueron instaladas en Cartagena, las 47º Jornadas Internacionales de Derecho Penal y Constitucional, un evento académico de gran trayectoria organizado conjuntamente por la Universidad Externado de Colombia y la Universidad de los Andes.
Este encuentro reunió a destacadas(os) expertas(os) nacionales e internacionales que reflexionaron sobre los desafíos contemporáneos del derecho en un mundo profundamente atravesado por la innovación tecnológica.
La decana de la Facultad de Derecho de nuestra Casa de Estudios, Emilssen González de Cancino, resaltó la agenda académica de estas jornadas, señalando que más allá de los tipos penales, se reavivan preocupantes debates que se creían superados.
“Se unen los esfuerzos de dos prestigiosas universidades para asegurar un encuentro jurídico de muy alta calidad, que exhibe como valor añadido celebrar el 60 aniversario del Departamento de Derecho Penal del Externado”.
Las 47º Jornadas Internacionales de Derecho Penal y Constitucional que contaron con el apoyo del ICETEX, buscaron promover un diálogo académico riguroso y propositivo frente a los desafíos que la innovación tecnológica impone a la democracia, la justicia y los derechos fundamentales en el panorama global.
Día 3
El tercer día estuvo centrado en la inteligencia artificial y sus efectos en el acceso a la justicia, la protección ambiental, la medicina y la atribución de responsabilidad penal.
La jornada arrancó con la presentación de la herramienta “Justo Bolívar” (Gobernación del Bolívar), diseñada para reconocer la diversidad cultural del departamento, respetar las identidades culturales y facilitar el acceso a la justicia con un enfoque territorial que tome en cuenta la dispersión geográfica. En la práctica, la iniciativa integró una oferta de justicia junto con oferta de salud —estrategia usada para llegar a comunidades con dificultades de acceso—, mostrando los retos de articular servicios en territorios dispersos.
A continuación, intervino Erika Castro Buitrago, defensora Delegada para los derechos colectivos y el ambiente de la Defensoría del Pueblo, con la ponencia “Inteligencia artificial para crímenes ambientales y deforestación”. Castro explicó el papel de la IA como apoyo al monitoreo, seguimiento y control frente a un gran volumen de PQRS; mostró la idea de usar la IA para procesar datos y detectar patrones que permitan informes más rápidos y eficaces, y ejemplificó cómo chatbots pueden ayudar a comunidades a resolver dudas y acelerar la atención de la Defensoría. Describió además el trabajo concreto: alimentar una IA propia con datos de territorio y datos históricos de anomalías térmicas (incendios en cobertura natural), detección satelital y seguimiento en zonas claves para predecir comportamientos de incendios, generar patrones y, con ello, fortalecer la educación ambiental y las alertas tempranas que ya se han ido perfeccionando con información del conflicto y aportes de defensores comunitarios. Castro advirtió, no obstante, sobre riesgos para derechos humanos: privacidad y protección de datos personales; criminalización y uso indebido de la información; riesgos para defensores y liderazgos sociales; sesgos algorítmicos, trazabilidad y acceso a la justicia; riesgo de militarización del monitoreo ambiental; y vulneración del consentimiento libre, previo e informado.
El panel moderado por Ana Sabina Rodríguez Van der Hammen (Docente Universidad de los Andes) reunió a Mauricio Madrigal (Especialista en Incidencia Pública WWF Colombia; Profesor Universidad de los Andes), Gustavo Adolfo Guerrero Ruiz (Director de la firma Guerrero Ruiz Legal; profesor Universidad del Rosario y Universidad Externado de Colombia) y Juana Hofman (Amazon Conservation Team).
Madrigal habló de ecosistemas jurídicos y judiciales y advirtió que, si la IA no tiene en cuenta los derechos de las comunidades ni la complejidad del fenómeno social, terminará siendo una “falsa solución”; reconoció, eso sí, que la IA ha ayudado a identificar patrones de deforestación pero debe usarse con rigor y enfoque de derechos. Hofman describió la gravedad de la minería ilegal y su impacto en ríos de la Amazonía, subrayando que estas actividades están muy cerca de pueblos en aislamiento y advirtió que, de mantenerse la dinámica, en un año podría darse un contacto forzado con consecuencias catastróficas para esas comunidades. Guerrero explicó el desarrollo de una herramienta de IA para el monitoreo de la deforestación: planteó la pregunta de por qué la Procuraduría aborda el reto con una herramienta geoestadística, señaló la falta de información oportuna (rezago en informes del IDEAM) y explicó que, a partir de imágenes satelitales y aerofotografías, se pueden identificar y segmentar áreas afectadas; consideró que la herramienta en evolución permitirá enfrentar otras formas de criminalidad y garantizar acceso a la información, al tiempo que insistió en la necesidad de transparencia y en reconocer el conocimiento ancestral para evitar instrumentalizaciones en la comisión de delitos ambientales. En la discusión los panelistas coincidieron en los retos comunes —entre ellos la presencia de grupos armados— y en la necesidad de que la tecnología sea aliada siempre desde un enfoque de derechos.
La sesión sobre la responsabilidad penal en el uso de la IA en la medicina estuvo a cargo de María Ángeles Rueda (Catedrática de derecho penal, Universidad de Zaragoza, España) con la ponencia “Inteligencia artificial y medicina: nuevos desafíos en la atribución de responsabilidad penal”. Rueda afirmó que los sistemas de IA facilitan la medicina predictiva y modifican la determinación del deber objetivo de cuidado en la actividad médico-quirúrgica: los sistemas elevan el estándar de diligencia y la previsibilidad objetiva de los resultados. Subrayó que la supervisión humana es consustancial en tres momentos: recolección de datos (quién y cómo obtiene la información), procesamiento (personal que entienda el sistema y sus medidas de seguridad) y validación de resultados (persona facultativa que valore la calidad y el impacto en derechos).
En el panel moderado por Yesid Reyes Alvarado (Docente Universidad Externado de Colombia), intervinieron Nelson Remolina (Universidad de los Andes), Andrés Díaz Arana (Docente Universidad Externado de Colombia y Universidad del Norte) y Paula Andrea Ramírez (Docente Universidad Externado de Colombia y Universidad Católica de Colombia).
Remolina insistió en la necesidad de transparencia: informar a la ciudadanía cuando se usa IA en la toma de decisiones, explicar cómo funciona y por qué se llegó a una decisión (explicabilidad) como elementos vinculados al debido proceso; abogó por un enfoque preventivo que garantice claridad, completitud y veracidad en el tratamiento de datos. Ramírez propuso un modelo híbrido de atribución de responsabilidad penal en la era de la IA, que combine el criterio del riesgo permitido con los delitos de peligro abstracto y que articule una responsabilidad escalonada que llegue a desarrolladores, fabricantes, supervisores y usuarios, según su grado de control; Díaz analizó casos de errores de la IA y las llamadas “alucinaciones” (creación ficticia de hechos por motores de IA) y recordó que la decisión de mantener jueces humanos es una decisión de gobernanza.
Por último, la Fiscalía General de la Nación presentó su experiencia con IA a través de John Jairo Castro Calvache (Asesor de Despacho del Vicefiscal general). Castro expuso VERA (verificación y recepción asistida), una herramienta que busca corregir deficiencias en la recepción de denuncias: permite que el denunciante plantee los hechos, realiza la trasliteración de la versión original, resume el relato y hace un juicio preliminar de adecuación típica. También presentó trabajos de análisis de sentencias (Memorias de Justicia y Paz) y las herramientas “El Escriba” y “Nexus” (chatbots) orientadas a mejorar la recepción y el procesamiento de la información en la investigación penal.
La jornada cerró con las palabras de Yesid Reyes Alvarado, director del Departamento de Derecho Penal del Externado, quien hizo un balance resaltando la importancia de abordar la inteligencia artificial desde una perspectiva jurídica crítica y humana. Subrayó que el derecho penal es una creación del ser humano como ser social y destacó el papel de nuestro Departamento en la formación de juristas durante los últimos 60 años.
Día 2
El segundo día de las 47ª Jornadas de Derecho Penal y Constitucional estuvo marcado por dos temas transversales: los desafíos de la inteligencia artificial (IA) en la evidencia digital y su uso en las decisiones judiciales. Las conferencias y paneles no solo expusieron avances tecnológicos, sino que también plantearon preguntas de fondo sobre garantías procesales, igualdad de armas, ética y el rol del juez en la era digital.
La jornada comenzó con la conferencia del Dr. Rachid Nader, secretario Jurídico de la Gobernación del Atlántico, quien presentó AtlantIA, una herramienta de inteligencia artificial diseñada para apoyar la gestión jurídica de la entidad territorial. Según explicó, se trata de un chatbot alimentado con documentos oficiales de la Gobernación, pensado como apoyo para la gestión de información jurídica. Subrayó que la IA no pretende reemplazar a los abogados, sino servir de apoyo en tareas específicas, insistiendo en que la transparencia en el manejo de los datos es esencial para generar confianza en estas tecnologías.
A continuación, el exmagistrado de la Corte Constitucional de Colombia, José Fernando Reyes Cuartas, ofreció una conferencia sobre la evidencia digital y el manejo de la prueba en la era de la IA. Señaló que la valoración probatoria es un ejercicio de gran complejidad que, en la actualidad, debe adaptarse a nuevas realidades tecnológicas: “hemos pasado de los juicios de Dios a la evidencia digital”, afirmó. Destacó que cada innovación tecnológica supuso un reto para el derecho —como lo fue en su momento la aparición del fax o las grabaciones magnetofónicas— y que la IA no es la excepción. Con tono de advertencia, llamó la atención sobre los riesgos de pérdida de identidad, manipulación de datos y sesgos en la programación de sistemas, aspectos que obligan a repensar la tensión entre eficacia y garantías procesales. Para Reyes, la verdad judicial no puede alcanzarse a cualquier costo: se requiere legislar para un uso ético y responsable de la IA, tomando como referencia modelos regulatorios como los que ya avanzan en Europa.
Tras su conferencia, se llevó a cabo el primer panel de discusión, moderado por la Dra. Luisa Caldas, docente de la Universidad Externado de Colombia y abogada litigante, con la participación de:
- Armando Colmenares, Fiscal Especializado de la Dirección contra los Delitos Informáticos de la Fiscalía General de la Nación.
- Ricardo Molina López, docente e investigador de la Universidad de los Andes.
- Edgard Osorio Osorio, profesor universitario y conjuez de la Sala Penal del Tribunal Superior de Cartagena.
Las(os) panelistas coincidieron en que la IA abre posibilidades inéditas, pero también genera fuertes dilemas en el proceso penal. Colmenares recordó cómo desde el siglo XIX ya se debatía sobre la responsabilidad de las máquinas, y advirtió que hoy la alimentación de datos en los algoritmos puede impactar directamente en el derecho de contradicción y en la igualdad de armas entre Fiscalía y defensa. Señaló que el avance tecnológico no puede significar una erosión de garantías procesales. Molina, por su parte, alertó sobre la magnitud de los delitos cometidos con ayuda de la IA en entornos digitales, los cuales pueden ser masivos tanto en su comisión como en el número de víctimas, lo que obliga a reconceptualizar la responsabilidad penal en estos contextos. Osorio planteó un parte de tranquilidad al subrayar que, en materia probatoria, elementos centrales como el dolo no pueden demostrarse con IA, pues se trata de un hecho psíquico que solo puede acreditarse a partir de la conducta humana. Esto implica que la IA debe verse como un insumo técnico, pero nunca como sustituto del razonamiento judicial.
La tercera conferencia estuvo a cargo del Dr. Humberto Sierra Porto, docente de la Universidad Externado de Colombia y exmagistrado de la Corte Interamericana de Derechos Humanos, quien disertó sobre el juez natural y el uso de la IA en las decisiones judiciales. Sierra Porto advirtió que, en muchos casos, el uso de algoritmos se convierte en un acto de fe, pues se desconocen los criterios con los que operan y las bases de datos que los alimentan. Señaló que estas suelen provenir de países europeos, lo que genera una “inteligencia eurocéntrica” que no necesariamente responde a los contextos locales. En su intervención planteó el reto ético de definir quién fija los criterios de lo correcto o incorrecto en la IA, advirtiendo que dejarlo en manos del sector privado puede perpetuar desigualdades estructurales.
La jornada culminó con un segundo panel de discusión, moderado por el Dr. Andrés Mauricio Gutiérrez, docente de la Universidad Externado de Colombia, y conformado por tres destacadas juristas:
- Ana María Ramos, magistrada auxiliar de la Corte Constitucional y docente de la Universidad de los Andes.
- Marcela Abadía, docente de la Universidad Externado y Fiscal Delegada ante la Corte Suprema de Justicia.
- María Adelaida Ceballos, profesora e investigadora de la Universidad de los Andes.
En este espacio se abordaron los límites y alcances de la IA en la administración de justicia. La magistrada Ramos destacó que no todo lo automatizado puede considerarse inteligencia artificial, señalando la necesidad de distinguir entre distintos niveles de complejidad tecnológica. La profesora Ceballos compartió hallazgos de sus investigaciones sobre el uso de la IA por parte de los servidores judiciales, identificando, entre otros, tres perfiles: los reticentes (que desconfían de la tecnología), los excluidos (que carecen de acceso estructural a herramientas digitales) y los usuarios activos. La Fiscal Abadía reflexionó sobre el papel de la IA en la investigación de crímenes de sistema, alertando que, aunque puede ser una herramienta para fortalecer procesos, es indispensable que la discrecionalidad judicial prevalezca sobre cualquier automatización.
Así, el segundo día de las Jornadas evidenció que la inteligencia artificial no es solo un desafío técnico, sino sobre todo un reto jurídico, ético y político. El consenso entre expositores y panelistas fue claro: la IA puede ser un aliado en la administración de justicia, siempre que su uso se enmarque en el respeto a las garantías procesales, la transparencia, la imparcialidad y la preservación del papel esencial del juez.
Día 1
El primer panel del día estuvo dedicado a la compleja relación entre los deepfakes y la intimidad personal. La conferencia inaugural, a cargo de Fernando Molina Fernández, catedrático de Derecho Penal de la Universidad Autónoma de Madrid, puso sobre la mesa los serios retos que la inteligencia artificial (IA) supone para el derecho penal y la protección de la intimidad. Molina advirtió que la IA ha dejado de ser un mero instrumento para convertirse en un ente impredecible, capaz de poner en cuestión incluso la noción tradicional de persona jurídica. En su intervención, destacó los riesgos criminógenos de la tecnología, como la comisión masiva de delitos, el uso de la IA al servicio de regímenes autoritarios y la peligrosa dilución de la responsabilidad penal.
Posteriormente, se desarrolló un enriquecedor conversatorio moderado por la profesora Elena Suárez (Universidad Externado), que congregó a figuras de alto nivel como la exmagistrada de la Corte Constitucional, Diana Fajardo; la magistrada auxiliar de la Corte Suprema de Justicia, Camila Correa; y el director del Doctorado en Derecho de la Universidad de los Andes, Libardo José Ariza.
La discusión giró en torno a los límites que los deepfakes imponen a la dignidad humana, la libertad de expresión y, de manera crucial, la violencia de género. Fajardo resaltó que la dignidad debe operar como un límite inquebrantable frente a prácticas que instrumentalizan al ser humano. Por su parte, Correa subrayó el alarmante impacto de los deepfakes pornográficos en la violencia sexual contra las mujeres. Ariza complementó la perspectiva advirtiendo sobre los riesgos de estas tecnologías en la manipulación política de la realidad.
El segundo panel de la jornada abordó el tema de la ciberseguridad en la era de la computación cuántica. La profesora Valérie Gauthier (Universidad de los Andes) ofreció una conferencia magistral donde explicó los alcances de la criptografía cuántica y sus implicaciones para la protección de la información personal en el futuro inmediato. A continuación, el conversatorio moderado por Carolina Botero (Fundación Karisma) reunió a los profesores externadistas Juan David Bazzani y Camilo Burbano, junto con Leonardo Pachón (Guané Emerging Technologies). Todos coincidieron en la necesidad de que Colombia afronte el enorme rezago tecnológico que padece y en la urgencia de que la justicia penal fortalezca sus capacidades investigativas para responder de manera efectiva a los riesgos que plantea la quinta revolución industrial.
