{"check":null,"uid":"9eeba88ca6bf85ae","title":"Por medio de la cual se regula el uso de inteligencia artificial en el sector defensa y se dictan otras disposiciones.","title_generated":false,"country":"Колумбия","organ":"Палата представителей Колумбии","kind":"law","kind_name":"Законодательство","lang":"es","date":"","summary":"Закон устанавливает правовой режим использования искусственного интеллекта в оборонной сфере, включая военные силы, полицию и государственные службы безопасности. Он запрещает полностью автономные системы вооружений и строго регулирует высокоавтономные системы. Закон определяет принципы применения ИИ, такие как уважение прав человека, законность, необходимость, пропорциональность, различие между гражданскими лицами и военными объектами, осторожность и человеческий контроль над критическими решениями.","snippet":"","topics":["Искусственный интеллект","Персональные данные","Кибербезопасность"],"status":"ok","error":"","text_len":89081,"versions":1,"url":"https://www.camara.gov.co/ia-en-el-sector-defensa","first_seen":"2026-10-29","last_checked":"2026-11-16 03:08","relevance":"hit","score":109,"query":"","source_key":"camara_co","verdict":{"relevance":"hit","score":109,"topics":["Искусственный интеллект","Персональные данные","Кибербезопасность"],"need_body":5,"authorities":[],"evidence":[{"topic":"Искусственный интеллект","term":"inteligencia artificial","weak":false,"pos":41,"ctx":"por medio de la cual se regula el uso de inteligencia artificial en el sector defensa y se dictan otras disposiciones.","zone":"название","weight":3},{"topic":"Искусственный интеллект","term":"inteligencia artificial","weak":false,"pos":360,"ctx":"ble cámara de representantes el proyecto de ley “por medio de la cual se regula el uso de inteligencia artificial en el sector defensa y se dictan otras disposiciones”, el cual tiene por objeto  establec","zone":"текст","weight":1},{"topic":"Искусственный интеллект","term":"inteligencia artificial","weak":false,"pos":509,"ctx":"ras disposiciones”, el cual tiene por objeto  establecer un marco jurídico para el uso de inteligencia artificial en defensa, fuerza pública y seguridad, prohibir de manera absoluta los sistemas de armas","zone":"текст","weight":1},{"topic":"Искусственный интеллект","term":"inteligencia artificial","weak":false,"pos":865,"ctx":"co  ## proyecto de ley no. ____ de 2026 cámara  “por medio de la cual se regula el uso de inteligencia artificial en el sector defensa y se dictan otras disposiciones.”  ## el congreso de colombia  ## de","zone":"текст","weight":1},{"topic":"Искусственный интеллект","term":"inteligencia artificial","weak":false,"pos":1243,"ctx":"ción, exportación, comercialización, prueba, despliegue, supervisión y uso de sistemas de inteligencia artificial en el sector defensa, las fuerzas militares, la policía nacional y las actividades estata","zone":"текст","weight":1},{"topic":"Искусственный интеллект","term":"inteligencia artificial","weak":false,"pos":2134,"ctx":"n, importen, exporten, transfieran, integren, mantengan, operen o suministren sistemas de inteligencia artificial, componentes, modelos, software, hardware, sensores, plataformas o servicios destinados a","zone":"текст","weight":1},{"topic":"Искусственный интеллект","term":"inteligencia artificial","weak":false,"pos":2769,"ctx":"tículo 3. definiciones. para efectos de la presente ley, se entenderá por:  1. sistema de inteligencia artificial en defensa y seguridad: sistema computacional, modelo, software, plataforma, dispositivo","zone":"текст","weight":1},{"topic":"Персональные данные","term":"datos personales","weak":false,"pos":2497,"ctx":"ales y legales sobre  defensa nacional, orden público, inteligencia y contrainteligencia, protección de datos personales, contratación estatal, comercio exterior, armas, municiones y explosivos, responsabilidad","zone":"текст","weight":1},{"topic":"Персональные данные","term":"protección de datos","weak":false,"pos":11097,"ctx":"ia, de defensa de derechos humanos o participación en protesta social. 15. minimización y protección de datos: el tratamiento de datos personales, sensibles, biométricos, operacionales o reservados d","zone":"текст","weight":1},{"topic":"Персональные данные","term":"datos personales","weak":false,"pos":11136,"ctx":"rticipación en protesta social. 15. minimización y protección de datos: el tratamiento de datos personales, sensibles, biométricos, operacionales o reservados deberá limitarse a lo estrictamente n","zone":"текст","weight":1},{"topic":"Персональные данные","term":"protección de datos","weak":false,"pos":22490,"ctx":"n inmediata. 16. reglas de auditoría. 17. medidas de mitigación de sesgos. 18. medidas de protección de datos. 19. pruebas realizadas. 20. mecanismos de monitoreo posterior al despliegue.  ## artícul","zone":"текст","weight":1},{"topic":"Персональные данные","term":"datos personales","weak":false,"pos":32034,"ctx":"ntrainteligencia, fuentes, métodos, capacidades, vulnerabilidades, planes operacionales o datos personales protegidos. lo anterior no impedirá su acceso por parte de autoridades judiciales, discip","zone":"текст","weight":1},{"topic":"Персональные данные","term":"protección de datos","weak":false,"pos":33125,"ctx":"rmación en derechos humanos, derecho internacional humanitario, responsabilidad de mando, protección de datos, reserva de información, ciberseguridad, reporte de incidentes y prevención del sesgo de","zone":"текст","weight":1},{"topic":"Кибербезопасность","term":"seguridad de la información","weak":false,"pos":25010,"ctx":"iera.  ## parágrafo. la participación de invitados estará sujeta a las reglas de reserva, seguridad de la  información, confidencialidad y protección de información clasificada.  ## artículo 16. funciones del","zone":"текст","weight":1},{"topic":"Кибербезопасность","term":"ciberseguridad","weak":false,"pos":25611,"ctx":"prueba, auditoría y monitoreo. 7. identificar riesgos de sesgo, automatización indebida, ciberseguridad o afectación de derechos. 8. recomendar medidas de mitigación. 9. apoyar la elaboración d","zone":"текст","weight":1},{"topic":"Кибербезопасность","term":"ciberseguridad","weak":false,"pos":28270,"ctx":"tema. así mismo, deberá valorar el nivel de explicabilidad, previsibilidad, trazabilidad, ciberseguridad, interoperabilidad segura y control humano significativo disponible, así como los riesgos","zone":"текст","weight":1},{"topic":"Кибербезопасность","term":"ciberseguridad","weak":false,"pos":33170,"ctx":"ional humanitario, responsabilidad de mando, protección de datos, reserva de información, ciberseguridad, reporte de incidentes y prevención del sesgo de automatización. cuando el sistema pueda","zone":"текст","weight":1},{"topic":"Кибербезопасность","term":"ciberseguridad","weak":false,"pos":37102,"ctx":"ntrato y la ley. 5. acreditar la legalidad de los datos utilizados. 6. adoptar medidas de ciberseguridad. 7. abstenerse de reutilizar datos estatales para fines no autorizados. 8. informar falla","zone":"текст","weight":1},{"topic":"Кибербезопасность","term":"seguridad de la información","weak":false,"pos":37689,"ctx":"en defensa y seguridad deberán incluir cláusulas que garanticen auditoría, trazabilidad, seguridad de la información, protección de datos, confidencialidad y control estatal sobre los datos utilizados o gen","zone":"текст","weight":1}],"dropped":[]},"last_changed":"2026-10-29","meta":{"full_text_url":"https://www.camara.gov.co/wp-content/uploads/2026/09/proyectos-ley/documentos/proyecto-36458/PL-IA-EN-EL-SECTOR-DEFENSA-CON-FIRMA.pdf"},"source_url":"https://www.camara.gov.co/ia-en-el-sector-defensa","text":"Bogotá, D.C., septiembre de 2026 Secretario General\n\n## MIGUEL ÁNGEL SÁNCHEZ VÁSQUEZ\n\nCámara de Representantes Ciudad\n\n## Referencia: Radicación de Proyecto de Ley\n\nEn mi condición de miembro del Congreso de la República me permito poner a consideración de la\n\n## Honorable Cámara de Representantes el Proyecto de Ley “Por medio de la cual se regula el uso de inteligencia artificial en el sector defensa y se dictan otras disposiciones”, el cual tiene por objeto\n\nestablecer un marco jurídico para el uso de inteligencia artificial en defensa, Fuerza Pública y seguridad, prohibir de manera absoluta los sistemas de armas autónomas y regular estrictamente los sistemas de alto riesgo.\n\nCordialmente,\n\n## DAVID ALEJANDRO TORO RAMÍREZ\n\nRepresentante a la Cámara\n\nPacto Histórico\n\n## PROYECTO DE LEY No. ____ DE 2026 CÁMARA\n\n“Por medio de la cual se regula el uso de inteligencia artificial en el sector defensa y se dictan otras disposiciones.”\n\n## EL CONGRESO DE COLOMBIA\n\n## DECRETA\n\n## TÍTULO I. DISPOSICIONES GENERALES\n\nARTÍCULO 1. OBJETO. La presente ley tiene por objeto establecer el marco jurídico para el diseño, desarrollo, adquisición, importación, exportación, comercialización, prueba, despliegue, supervisión y uso de sistemas de inteligencia artificial en el sector defensa, las Fuerzas Militares, la Policía Nacional y las actividades estatales de seguridad, con el fin de garantizar el control humano significativo, la protección de los derechos humanos, el cumplimiento del Derecho Internacional Humanitario, la responsabilidad de la cadena de mando, la transparencia compatible con la seguridad nacional y la prohibición absoluta de los sistemas de armas autónomas.\n\n## ARTÍCULO 2. ÁMBITO DE APLICACIÓN. La presente ley se aplicará a:\n\n1. El Ministerio de Defensa Nacional. 2. Las Fuerzas Militares. 3. La Policía Nacional. 4. Las entidades adscritas y vinculadas al sector defensa. 5. Las personas naturales o jurídicas, públicas, privadas o mixtas, nacionales o extranjeras, que diseñen, desarrollen, fabriquen, comercialicen, importen, exporten, transfieran, integren, mantengan, operen o suministren sistemas de inteligencia artificial, componentes, modelos, software, hardware, sensores, plataformas o servicios destinados al sector defensa, la Fuerza Pública o actividades estatales de seguridad.\n\n## Parágrafo. La presente ley se aplicará sin perjuicio de los regímenes constitucionales y legales sobre\n\ndefensa nacional, orden público, inteligencia y contrainteligencia, protección de datos personales, contratación estatal, comercio exterior, armas, municiones y explosivos, responsabilidad disciplinaria, responsabilidad penal y control fiscal.\n\n## ARTÍCULO 3. DEFINICIONES. Para efectos de la presente ley, se entenderá por:\n\n1. Sistema de inteligencia artificial en defensa y seguridad: sistema computacional, modelo, software, plataforma, dispositivo o infraestructura tecnológica que, mediante técnicas de aprendizaje automático, modelos algorítmicos, análisis automatizado de datos, visión por computador, procesamiento de lenguaje, autonomía robótica, sistemas expertos u otras técnicas similares, apoye, recomiende, automatice o ejecute funciones asociadas a defensa, seguridad, inteligencia, contrainteligencia, vigilancia, operaciones militares, operaciones policiales, ciberdefensa, logística, entrenamiento, simulación, análisis operacional o uso de la fuerza.\n\n## 2. Sistema de armas autónomas: sistema integrado por una o más armas y componentes\n\ntecnológicos que, al operar conjuntamente y una vez activado, puede identificar, seleccionar y atacar objetivos mediante el empleo de fuerza letal o no letal contra personas u objetos, sin una decisión humana previa, específica e informada que determine el objetivo concreto o grupo específico de objetivos y el empleo de fuerza contra ellos, incluido el momento del ataque, bajo las condiciones de control humano significativo previstas en esta ley.\n\n## 3. Sistema semiautónomo asociado al uso de la fuerza: sistema que incorpora funciones\n\nautomatizadas o autónomas de apoyo, detección, navegación, identificación, seguimiento, recomendación, priorización o asistencia, pero cuyo empleo de fuerza requiere autorización humana previa, expresa, informada, trazable y jurídicamente responsable.\n\n## 4. Sistema de alto riesgo: sistema de inteligencia artificial que, por su finalidad, contexto de\n\nuso, nivel de autonomía, datos utilizados o efectos previsibles, pueda incidir directa o indirectamente en la vida, la integridad personal, la libertad, la privacidad, la igualdad, la identificación de personas, la selección de objetivos, el uso de la fuerza, la conducción de operaciones militares o policiales, o la afectación de población civil.\n\n## 5. Control humano significativo: intervención humana real, informada, oportuna, trazable y\n\njurídicamente responsable sobre las decisiones críticas asociadas al uso de sistemas de inteligencia artificial en defensa y seguridad, especialmente cuando puedan afectar la vida, la integridad personal, la libertad, la población civil, bienes civiles, objetivos militares o el uso de la fuerza. 6. Decisión crítica no automatizable: decisión que, por comprometer derechos fundamentales, uso de fuerza, distinción entre civiles y combatientes, proporcionalidad, necesidad, precaución, responsabilidad de mando o legalidad operacional, no puede ser adoptada exclusivamente por un sistema automatizado.\n\n## 7. Proveedor privado de inteligencia artificial en defensa y seguridad: persona natural o\n\njurídica que diseñe, entrene, fabrique, comercialice, importe, exporte, integre, mantenga, actualice, suministre u opere sistemas de inteligencia artificial, datos, modelos, software, hardware, sensores, plataformas o servicios asociados para uso en defensa, Fuerza Pública o actividades estatales de seguridad.\n\n## 8. Trazabilidad: capacidad técnica, documental y operacional de reconstruir el funcionamiento\n\nde un sistema de inteligencia artificial, sus entradas, salidas, versiones, parámetros, operadores, autorizaciones, eventos relevantes y cadena de responsabilidad. 9. Sesgo de automatización: tendencia de operadores, supervisores o autoridades a aceptar, privilegiar o ejecutar recomendaciones generadas por sistemas automatizados sin evaluación crítica suficiente. 10. Incidente relevante: evento en el que el diseño, funcionamiento, despliegue, uso, falla, vulneración, manipulación, sesgo, recomendación o resultado de un sistema de inteligencia artificial cause o pueda causar afectación grave a derechos fundamentales, población civil, bienes civiles, operaciones de la Fuerza Pública, seguridad nacional, Derecho Internacional Humanitario o responsabilidad institucional.\n\n## ARTÍCULO 4. PRINCIPIOS. El diseño, desarrollo, adquisición, prueba, despliegue, supervisión y uso\n\nde sistemas de inteligencia artificial en defensa, Fuerza Pública y seguridad se regirá por los siguientes principios:\n\n1. Dignidad humana: Ningún sistema de inteligencia artificial podrá ser diseñado, adquirido, desplegado o utilizado de manera que desconozca la condición de la persona humana como sujeto de derechos y no como simple dato, patrón, perfil, objetivo o variable operacional.\n\n## 2. Legalidad: Todo uso de inteligencia artificial en defensa y seguridad deberá tener fundamento\n\nconstitucional, legal, reglamentario u operacional válido, y deberá ejecutarse dentro de las competencias de la autoridad responsable.\n\n## 3. Necesidad: Solo podrán utilizarse sistemas de inteligencia artificial cuando su empleo\n\nresponda a una finalidad legítima de defensa, seguridad, protección de derechos, prevención de riesgos, apoyo operacional o cumplimiento de funciones públicas, y cuando no exista una alternativa menos riesgosa o menos lesiva que permita alcanzar razonablemente la misma finalidad.\n\n## 4. Proporcionalidad: El uso de sistemas de inteligencia artificial deberá guardar relación\n\nrazonable entre la finalidad perseguida, el nivel de riesgo, el contexto de uso, los derechos comprometidos, el tipo de datos tratados y los efectos previsibles sobre personas, comunidades, población civil, bienes civiles o personal de la Fuerza Pública.\n\n## 5. Distinción: En contextos de conflicto armado, los sistemas de inteligencia artificial asociados\n\ndirecta o indirectamente al uso de la fuerza deberán preservar la obligación de distinguir entre combatientes y población civil, así como entre objetivos militares y bienes civiles.\n\n## 6. Precaución: Las autoridades responsables deberán adoptar medidas previas, concomitantes\n\ny posteriores para prevenir, mitigar, corregir o suspender riesgos previsibles derivados del uso de sistemas de inteligencia artificial.\n\n## 7. Humanidad: Ningún sistema de inteligencia artificial podrá ser utilizado de manera que\n\nproduzca sufrimientos innecesarios, tratos crueles, inhumanos o degradantes, afectaciones indiscriminadas o daños incompatibles con los principios humanitarios aplicables.\n\n## 8. Control humano significativo: Las decisiones críticas asociadas al uso de fuerza, afectación\n\nde derechos fundamentales, identificación de personas, selección de objetivos o valoración de proporcionalidad deberán estar sujetas a intervención humana real, informada, oportuna, trazable y jurídicamente responsable.\n\n## 9. Responsabilidad de mando: La intervención de sistemas de inteligencia artificial no exime\n\nni reduce la responsabilidad de los comandantes, directores, superiores jerárquicos, operadores, supervisores, servidores públicos o proveedores que participen en su diseño, autorización, despliegue, operación o supervisión.\n\n## 10. Trazabilidad: Los sistemas de inteligencia artificial de alto riesgo deberán permitir la\n\nreconstrucción suficiente de su funcionamiento, datos, versiones, recomendaciones, autorizaciones, operadores, cadena de mando e incidentes relevantes.\n\n## 11. Explicabilidad suficiente: Los sistemas de inteligencia artificial deberán ofrecer, según su\n\nnivel de riesgo y contexto de uso, información comprensible para que los operadores y autoridades responsables conozcan sus capacidades, limitaciones, márgenes de error, condiciones de uso y criterios generales de funcionamiento.\n\n## 12. Previsibilidad: No podrán autorizarse sistemas cuyo comportamiento, efectos o riesgos no\n\npuedan ser razonablemente anticipados, acotados, supervisados o corregidos por la autoridad responsable.\n\n## 13. Seguridad y ciberresiliencia: Los sistemas deberán contar con medidas técnicas y\n\norganizativas para prevenir accesos no autorizados, manipulación adversarial, sabotaje, pérdida de integridad, filtración de datos, fallas críticas o uso por actores no autorizados.\n\n## 14. No discriminación: Los sistemas no podrán diseñarse, entrenarse, adquirirse o utilizarse de\n\nmanera que generen, reproduzcan o profundicen discriminaciones por razones políticas, étnicas, raciales, territoriales, religiosas, de género, orientación sexual, discapacidad, condición socioeconómica, actividad sindical, periodística, comunitaria, de defensa de derechos humanos o participación en protesta social. 15. Minimización y protección de datos: El tratamiento de datos personales, sensibles, biométricos, operacionales o reservados deberá limitarse a lo estrictamente necesario para la finalidad autorizada y deberá sujetarse a los regímenes legales aplicables.\n\n## 16. Supervisión institucional: Los sistemas de inteligencia artificial de alto riesgo estarán\n\nsometidos a evaluación, autorización, seguimiento, auditoría y eventual suspensión por parte de las autoridades competentes. 17. Reserva proporcional: La reserva por razones de defensa, seguridad nacional, inteligencia, contrainteligencia u orden público deberá aplicarse de manera estricta, necesaria y proporcional, sin impedir los controles judiciales, disciplinarios, fiscales, penales o políticos que correspondan conforme a la Constitución y la ley.\n\n## 18. Rendición de cuentas: Las entidades responsables deberán documentar, evaluar y reportar\n\nel uso de sistemas de inteligencia artificial, sus riesgos, incidentes relevantes, medidas correctivas y mecanismos de control, en los términos previstos por esta ley. 19. Interoperabilidad segura: La integración de sistemas de inteligencia artificial con armas, sensores, bases de datos, plataformas, sistemas de comunicación o infraestructuras críticas deberá cumplir estándares de seguridad, compatibilidad, control humano y prevención de fallas sistémicas.\n\n## 20. Prevención del sesgo de automatización: Las entidades responsables deberán capacitar a\n\noperadores, supervisores y autoridades para evitar la aceptación acrítica de resultados, alertas, perfiles, clasificaciones o recomendaciones generadas por sistemas automatizados.\n\n## TÍTULO II. DECISIONES NO AUTOMATIZABLES Y USOS PROHIBIDOS\n\n## ARTÍCULO 5. DECISIONES NO AUTOMATIZABLES. En ningún caso podrán ser adoptadas\n\nexclusivamente por sistemas de inteligencia artificial las siguientes decisiones:\n\n1. Autorizar el uso de fuerza letal o potencialmente letal. 2. Determinar que una persona es objetivo militar. 3. Determinar que una persona debe ser capturada, retenida, neutralizada, atacada o sometida al uso de la fuerza. 4. Seleccionar personas como objetivos militares, policiales o de inteligencia. 5. Autorizar bombardeos, ataques aéreos, ataques con drones, ataques con armas explosivas o empleo de armamento letal. 6. Evaluar de manera definitiva la distinción, proporcionalidad, necesidad, precaución o ventaja militar concreta y directa en una operación. 7. Ordenar allanamientos, registros, interceptaciones, capturas o medidas restrictivas de derechos fundamentales. 8. Determinar la participación de una persona en actividades delictivas, hostilidades, protesta social, asociación política, sindical, comunitaria o étnica. 9. Adoptar decisiones sobre personas privadas de la libertad.\n\n10. Imponer sanciones disciplinarias, administrativas o penales. 11. Modificar por sí mismo los parámetros esenciales de misión, selección de objetivos, reglas de enfrentamiento o condiciones de uso de fuerza. Parágrafo. Los sistemas de inteligencia artificial podrán apoyar la recolección, organización, análisis, visualización o recomendación de información, siempre que la decisión final sea adoptada por una autoridad humana competente, informada y jurídicamente responsable.\n\n## ARTÍCULO 6. PROHIBICIÓN ABSOLUTA DE SISTEMAS DE ARMAS AUTÓNOMAS. Se prohíbe en\n\ntodo el territorio nacional diseñar, desarrollar, fabricar, producir, entrenar, adquirir, poseer, almacenar, probar operacionalmente, desplegar, transferir, comercializar, importar, exportar, suministrar, financiar, facilitar o usar sistemas de armas autónomas. Esta prohibición se aplica a actores públicos, privados, mixtos, nacionales, extranjeros, estatales y no estatales. Parágrafo 1. Ninguna entidad pública podrá contratar, directa o indirectamente, el diseño, desarrollo, fabricación, entrenamiento, integración, prueba, adquisición, importación, exportación, transferencia, comercialización o uso de sistemas de armas autónomas.\n\n## Parágrafo 2. La prohibición establecida en este artículo no impide la investigación, adquisición o\n\ndesarrollo de capacidades estrictamente defensivas destinadas a detectar, inhibir, interceptar, bloquear, neutralizar o destruir sistemas de armas autónomas empleados por terceros, siempre que dichas capacidades no permitan la identificación, selección y ataque autónomo de personas u objetivos sin intervención humana.\n\n## ARTÍCULO 7. PROHIBICIONES ESPECIALES SOBRE INTELIGENCIA ARTIFICIAL Y USO DE LA\n\n## FUERZA. Queda prohibido:\n\n1. Usar inteligencia artificial para ejecutar autónomamente fuerza letal. 2. Usar inteligencia artificial para identificar, seleccionar o priorizar personas como blancos militares o policiales sin decisión humana competente. 3. Usar inteligencia artificial como única base para ordenar operaciones militares, policiales, de inteligencia o contrainteligencia que afecten derechos fundamentales. 4. Usar inteligencia artificial para vigilancia masiva, indiscriminada o no individualizada de población civil.\n\n5. Usar inteligencia artificial para perfilar personas o grupos por razones políticas, sindicales, étnicas, raciales, religiosas, territoriales, de género, orientación sexual, actividad periodística, defensa de derechos humanos o participación en protesta social. 6. Usar sistemas biométricos o de reconocimiento facial para identificar, rastrear o perfilar participantes en protestas, movilizaciones sociales o reuniones públicas, salvo orden judicial o habilitación legal expresa, individualizada y proporcional. 7. Usar sistemas que no permitan trazabilidad, auditoría, intervención humana o atribución de responsabilidad. 8. Usar sistemas entrenados con datos obtenidos ilegalmente o con bases de datos cuya procedencia no pueda ser verificada. 9. Usar sistemas cuyo comportamiento no pueda ser razonablemente anticipado, limitado, desactivado o supervisado por operadores humanos. 10. Usar inteligencia artificial para ejecutar, activar, detonar o facilitar el uso de armas nucleares, químicas, biológicas o demás armas prohibidas por el derecho internacional.\n\n## TÍTULO III. USOS PERMITIDOS Y SISTEMAS DE ALTO RIESGO\n\n## ARTÍCULO 8. USOS PERMITIDOS DE BAJO O MEDIANO RIESGO. Se permitirá el uso de sistemas\n\nde inteligencia artificial en defensa, Fuerza Pública y seguridad, siempre que no impliquen decisiones críticas no automatizables ni usos prohibidos, para las siguientes finalidades:\n\n1. Logística, inventarios, abastecimiento y mantenimiento predictivo. 2. Gestión documental, traducción, archivo, clasificación administrativa y apoyo jurídico no decisorio. 3. Simulación, entrenamiento, doctrina, planeación académica y juegos de guerra sin efectos operacionales automáticos. 4. Medicina operacional, evacuación, búsqueda y rescate. 5. Desminado humanitario, detección de artefactos explosivos, neutralización de riesgos y protección de personal. 6. Monitoreo meteorológico, geográfico, ambiental, marítimo, fluvial, aéreo o terrestre para fines preventivos. 7. Protección de infraestructura crítica. 8. Ciberdefensa defensiva, detección de anomalías, protección de redes e infraestructura digital. 9. Análisis de fuentes abiertas, siempre que respete derechos fundamentales y no derive en perfilamiento prohibido. 10. Sistemas de apoyo a la decisión que no produzcan efectos automáticos sobre derechos fundamentales, selección de objetivos o uso de fuerza.\n\n## ARTÍCULO 9. SISTEMAS DE ALTO RIESGO. Se consideran sistemas de alto riesgo, entre otros:\n\n1. Sistemas de identificación, clasificación, seguimiento o priorización de personas, vehículos, instalaciones, objetos o patrones en contextos operacionales. 2. Sistemas de vigilancia aérea, terrestre, marítima, fluvial, satelital, biométrica o cibernética para operaciones militares o policiales. 3. Sistemas predictivos para planeación operacional, anticipación de amenazas o priorización territorial de acciones de seguridad. 4. Sistemas de reconocimiento facial, biométrico, comportamental o de voz. 5. Drones, robots, plataformas no tripuladas, sensores, enjambres o sistemas con autonomía de navegación, seguimiento o selección de rutas. 6. Sistemas semiautónomos asociados directa o indirectamente al uso de fuerza. 7. Sistemas de inteligencia artificial aplicados a inteligencia, contrainteligencia o ciberoperaciones cuando puedan afectar derechos fundamentales. 8. Sistemas que procesen datos sensibles, datos biométricos o datos de población civil. 9. Sistemas que puedan generar recomendaciones sobre selección de objetivos, asignación de riesgo, clasificación de personas o priorización de operaciones. ARTÍCULO 10. AUTORIZACIÓN ESTRICTA DE SISTEMAS DE ALTO RIESGO. El diseño, adquisición, importación, desarrollo, prueba, despliegue, modificación sustancial o uso operacional de sistemas de alto riesgo requerirá autorización previa del Ministerio de Defensa Nacional, conforme a la reglamentación que expida el Gobierno Nacional. Para otorgar la autorización, el Ministerio de Defensa Nacional deberá verificar que el sistema cuente con evaluación jurídica, evaluación técnica y evaluación integral de impacto, en los términos previstos en la presente ley. También deberá constatar que se hayan realizado pruebas realistas en entornos controlados y que exista una definición clara del operador humano responsable, de la cadena de mando y de los parámetros de misión. La autorización deberá precisar la delimitación temporal, geográfica y funcional del sistema, así como los protocolos de activación, suspensión, desactivación y contingencia. De igual manera, deberá establecer los mecanismos de trazabilidad, auditoría, monitoreo posterior al despliegue y reporte de incidentes que permitan verificar el cumplimiento de esta ley durante todo el ciclo de vida del sistema.\n\n## Parágrafo 1. La autorización de sistemas de alto riesgo no podrá comprender sistemas de armas\n\nautónomas ni usos prohibidos por la presente ley.\n\n## Parágrafo 2. La autorización podrá constar en acto administrativo reservado cuando existan razones\n\nde defensa o seguridad nacional, sin perjuicio del control judicial, disciplinario, fiscal, penal o político que corresponda conforme a la Constitución y la ley.\n\n## ARTÍCULO 11. MODIFICACIÓN SUSTANCIAL. Se entenderá por modificación sustancial todo\n\ncambio en algoritmos, modelos, datos de entrenamiento, fuentes de datos, funciones autónomas, parámetros de misión, entorno operacional, tipo de objetivo, capacidad de identificación, nivel de intervención humana, sistema de armas asociado, proveedor, interoperabilidad o contramedidas previsibles que pueda alterar el nivel de riesgo del sistema. Toda modificación sustancial requerirá nueva evaluación y autorización previa.\n\n## ARTÍCULO 12. PARÁMETROS MÍNIMOS DE AUTORIZACIÓN. Toda autorización de sistemas de\n\nalto riesgo deberá definir, como mínimo:\n\n1. Finalidad legítima. 2. Entidad responsable. 3. Sistema o tecnología autorizada. 4. Proveedor o desarrollador. 5. Nivel de riesgo. 6. Operador humano responsable. 7. Cadena de mando. 8. Tiempo de autorización. 9. Área geográfica de uso. 10. Ambiente operacional previsto. 11. Población o bienes potencialmente afectados. 12. Funciones automatizadas y funciones reservadas a humanos. 13. Protocolos de intervención humana. 14. Protocolos de desactivación. 15. Condiciones de suspensión inmediata. 16. Reglas de auditoría. 17. Medidas de mitigación de sesgos. 18. Medidas de protección de datos. 19. Pruebas realizadas. 20. Mecanismos de monitoreo posterior al despliegue.\n\n## ARTÍCULO 13. SUSPENSIÓN PREVENTIVA. El Ministerio de Defensa Nacional deberá suspender\n\npreventivamente el uso de un sistema de alto riesgo cuando:\n\n1. Existan indicios de funcionamiento imprevisible. 2. Se presenten incidentes relevantes. 3. Se detecten sesgos discriminatorios no mitigados. 4. El sistema opere por fuera de los parámetros autorizados. 5. No sea posible garantizar control humano significativo. 6. Existan riesgos graves para población civil, derechos fundamentales, Derecho Internacional Humanitario o seguridad nacional. 7. El proveedor o entidad responsable oculte información relevante sobre el sistema.\n\n## TÍTULO IV. GOBERNANZA INSTITUCIONAL\n\n## ARTÍCULO 14. SISTEMA DE GOBERNANZA DE INTELIGENCIA ARTIFICIAL EN DEFENSA Y\n\n## SEGURIDAD. Créase el Sistema de Gobernanza de Inteligencia Artificial en Defensa y Seguridad\n\ncomo instancia sectorial de coordinación encargada de formular, articular, implementar y hacer seguimiento a las políticas, procedimientos, estándares, registros, evaluaciones, autorizaciones, auditorías y mecanismos de control aplicables al uso de inteligencia artificial en el sector defensa, la Fuerza Pública y las actividades estatales de seguridad. El Sistema será coordinado por el Ministerio de Defensa Nacional, en el marco de sus competencias constitucionales y legales.\n\n## ARTÍCULO 15. COMITÉ TÉCNICO DE REVISIÓN DE INTELIGENCIA ARTIFICIAL EN DEFENSA Y\n\n## SEGURIDAD. El Ministerio de Defensa Nacional conformará un Comité Técnico de Revisión de\n\nInteligencia Artificial en Defensa y Seguridad, encargado de emitir conceptos técnicos, jurídicos y operacionales para la autorización, seguimiento, suspensión o retiro de sistemas de alto riesgo. El Comité estará integrado por delegados del Ministerio de Defensa Nacional, las Fuerzas Militares, la Policía Nacional y las entidades del sector defensa que determine la reglamentación. Podrán ser invitados, con voz pero sin voto, delegados del Ministerio de Relaciones Exteriores, Ministerio de Tecnologías de la Información y las Comunicaciones, Ministerio de Justicia y del Derecho, Departamento Nacional de Planeación, organismos de control, academia, expertos técnicos, expertos en Derecho Internacional Humanitario, organizaciones humanitarias o entidades públicas especializadas, cuando la naturaleza del sistema lo requiera.\n\n## Parágrafo. La participación de invitados estará sujeta a las reglas de reserva, seguridad de la\n\ninformación, confidencialidad y protección de información clasificada.\n\n## ARTÍCULO 16. FUNCIONES DEL COMITÉ TÉCNICO. El Comité Técnico tendrá las siguientes\n\nfunciones:\n\n1. Recomendar la clasificación de sistemas de inteligencia artificial según nivel de riesgo. 2. Emitir concepto previo sobre sistemas de alto riesgo. 3. Revisar evaluaciones de impacto. 4. Recomendar autorizaciones, restricciones, suspensiones o retiros. 5. Proponer estándares técnicos mínimos. 6. Recomendar protocolos de prueba, auditoría y monitoreo. 7. Identificar riesgos de sesgo, automatización indebida, ciberseguridad o afectación de derechos. 8. Recomendar medidas de mitigación. 9. Apoyar la elaboración del informe semestral previsto en esta ley. 10. Las demás que defina la reglamentación.\n\n## ARTÍCULO 17. REGISTRO NACIONAL RESERVADO DE SISTEMAS DE INTELIGENCIA\n\n## ARTIFICIAL EN DEFENSA Y SEGURIDAD. Créase el Registro Nacional Reservado de Sistemas de\n\nInteligencia Artificial en Defensa y Seguridad, administrado por el Ministerio de Defensa Nacional. El Registro deberá contener información suficiente para identificar el sistema, la entidad responsable, el proveedor o desarrollador, la finalidad autorizada, el nivel de riesgo y las funciones automatizadas o semiautomatizadas que incorpore. También deberá incorporar la información relativa a los datos utilizados, la interoperabilidad con otros sistemas, las autorizaciones otorgadas, el operador humano responsable, la cadena de mando, las pruebas realizadas, las auditorías practicadas, los incidentes relevantes reportados y las decisiones de suspensión, modificación o retiro que se adopten. Parágrafo 1. El Registro tendrá carácter reservado, sin perjuicio del acceso de autoridades judiciales, organismos de control y demás autoridades competentes conforme a la Constitución y la ley.\n\n## Parágrafo 2. La información agregada y no sensible del Registro servirá como base para el informe\n\nsemestral al Congreso del que trata el Artículo 24 de la presente Ley.\n\n## ARTÍCULO 18. EVALUACIÓN INTEGRAL DE IMPACTO. La evaluación integral de impacto tendrá\n\npor finalidad identificar, valorar y mitigar los riesgos jurídicos, técnicos, operacionales, humanitarios, éticos, cibernéticos y de derechos fundamentales asociados al diseño, adquisición, desarrollo, prueba, despliegue, modificación sustancial o uso operacional de sistemas de inteligencia artificial de alto riesgo en defensa y seguridad. La evaluación deberá justificar la finalidad del sistema, su necesidad operacional, su proporcionalidad frente al objetivo perseguido y la existencia de alternativas menos lesivas o menos riesgosas que permitan alcanzar razonablemente la misma finalidad. También deberá valorar los riesgos para los derechos humanos, el Derecho Internacional Humanitario, la población civil, los bienes civiles, la igualdad, la privacidad, la seguridad nacional, la responsabilidad de mando y la atribución de responsabilidad humana. La entidad responsable deberá examinar la calidad, origen, legalidad, pertinencia y suficiencia de los datos utilizados para el diseño, entrenamiento, validación, prueba o funcionamiento del sistema. Así mismo, deberá valorar el nivel de explicabilidad, previsibilidad, trazabilidad, ciberseguridad, interoperabilidad segura y control humano significativo disponible, así como los riesgos de falla técnica, manipulación adversarial, uso indebido, sesgos discriminatorios, sesgo de automatización o funcionamiento por fuera de los parámetros autorizados. Cuando el sistema pueda incidir directa o indirectamente en decisiones críticas, la evaluación deberá precisar la forma en que se preservará la intervención humana real, informada, oportuna, trazable y jurídicamente responsable. Para tal efecto, deberá identificar el operador humano responsable, la cadena de mando aplicable, las funciones que permanecerán reservadas a decisión humana y las condiciones bajo las cuales el sistema deberá ser suspendido, desactivado o retirado. Toda evaluación integral de impacto deberá contener medidas concretas de mitigación, monitoreo posterior al despliegue, revisión periódica y reporte de incidentes relevantes. La autorización del sistema no podrá otorgarse cuando la evaluación evidencie riesgos graves que no puedan ser razonablemente prevenidos, mitigados, supervisados o corregidos por la autoridad responsable.\n\n## ARTÍCULO 19. REVISIÓN JURÍDICA DE SISTEMAS ASOCIADOS AL USO DE FUERZA. Todo\n\nsistema de inteligencia artificial asociado directa o indirectamente al uso de fuerza deberá contar con revisión jurídica previa a su desarrollo, adquisición, importación, prueba, despliegue o modificación sustancial.\n\nLa revisión deberá determinar si el sistema puede ser utilizado conforme a la Constitución, la ley, los derechos humanos, el Derecho Internacional Humanitario y las reglas operacionales aplicables.\n\n## TÍTULO V. CONTROL HUMANO, OPERACIÓN Y TRAZABILIDAD\n\n## ARTÍCULO 20. REQUISITOS DEL CONTROL HUMANO SIGNIFICATIVO. Para que exista control\n\nhumano significativo deberán concurrir, como mínimo, los siguientes elementos:\n\n1. Comprensión suficiente del contexto operacional. 2. Conocimiento de las capacidades y limitaciones del sistema. 3. Información suficiente para adoptar una decisión autónoma frente a la recomendación del sistema. 4. Tiempo razonable para intervenir. 5. Capacidad técnica real de modificar, suspender, cancelar o desactivar la acción del sistema. 6. Identificación clara del operador humano. 7. Identificación de la cadena de mando. 8. Registro verificable de la decisión humana. 9. Responsabilidad jurídica atribuible.\n\n## ARTÍCULO 21. BITÁCORA OBLIGATORIA. Todo sistema de alto riesgo deberá contar con una\n\nbitácora técnica y operacional que permita reconstruir de manera suficiente su uso, funcionamiento, supervisión y cadena de responsabilidad durante todo su ciclo de vida. La bitácora deberá registrar, como mínimo, la fecha, hora y lugar de uso del sistema, la entidad responsable, el operador humano, la cadena de mando aplicable, la versión del sistema, los parámetros de misión, los datos o fuentes relevantes utilizados, las recomendaciones generadas, las decisiones humanas adoptadas y las activaciones, suspensiones, modificaciones o desactivaciones realizadas. Cuando el sistema produzca alertas, fallas, incidentes relevantes, resultados inesperados o recomendaciones que incidan en decisiones críticas, la bitácora deberá conservar la información necesaria para verificar el cumplimiento de los principios, obligaciones y prohibiciones previstos en la presente ley. Esta información deberá permitir identificar si existió control humano significativo, si el sistema operó dentro de los parámetros autorizados y si se adoptaron medidas de mitigación o corrección.\n\nLa bitácora tendrá carácter reservado cuando contenga información relacionada con seguridad nacional, defensa, orden público, inteligencia, contrainteligencia, fuentes, métodos, capacidades, vulnerabilidades, planes operacionales o datos personales protegidos. Lo anterior no impedirá su acceso por parte de autoridades judiciales, disciplinarias, fiscales, penales, administrativas, de control fiscal o del Ministerio Público, conforme a sus competencias constitucionales y legales. El Ministerio de Defensa Nacional definirá los estándares mínimos de conservación, integridad, seguridad, interoperabilidad, acceso, custodia y tiempo de almacenamiento de las bitácoras obligatorias. ARTÍCULO 22. CAPACITACIÓN OBLIGATORIA. Los operadores, supervisores, comandantes, directores y funcionarios que intervengan en el diseño, autorización, despliegue, supervisión u operación de sistemas de alto riesgo deberán recibir capacitación periódica, suficiente y verificable antes de participar en cualquiera de dichas actividades. La capacitación deberá abordar el funcionamiento general del sistema, sus capacidades, limitaciones, márgenes de error, condiciones de uso, riesgos previsibles y protocolos de operación. También deberá incluir formación en derechos humanos, Derecho Internacional Humanitario, responsabilidad de mando, protección de datos, reserva de información, ciberseguridad, reporte de incidentes y prevención del sesgo de automatización. Cuando el sistema pueda incidir directa o indirectamente en decisiones críticas, la capacitación deberá incluir entrenamiento específico sobre control humano significativo, criterios para apartarse de recomendaciones automatizadas, condiciones de suspensión o desactivación del sistema, identificación de fallas, manejo de alertas y obligaciones de registro en la bitácora correspondiente. La participación en la capacitación y la aprobación de los criterios mínimos definidos por la reglamentación serán condiciones necesarias para operar, supervisar o autorizar sistemas de alto riesgo. El Ministerio de Defensa Nacional establecerá la periodicidad mínima, los contenidos básicos, los mecanismos de evaluación y los soportes documentales que acrediten el cumplimiento de esta obligación.\n\n## ARTÍCULO 23. INTERFAZ HUMANO-MÁQUINA. Los sistemas de alto riesgo deberán contar, cuando\n\nsea técnicamente posible, con interfaces humano-máquina comprensibles, verificables y adecuadas para que el operador pueda identificar alertas, limitaciones, niveles de confianza, fuentes relevantes, incertidumbre, riesgos y opciones de intervención.\n\n## TÍTULO VI. TRANSPARENCIA, RESERVA Y CONTROL POLÍTICO\n\n## ARTÍCULO 24. INFORME SEMESTRAL AL CONGRESO. El Ministerio de Defensa Nacional\n\npresentará semestralmente a las Comisiones Segundas Constitucionales Permanentes de Senado y Cámara de Representantes un informe sobre la implementación de la presente ley. El informe deberá contener información agregada sobre los sistemas registrados, su clasificación por niveles de riesgo, las autorizaciones otorgadas y negadas, los sistemas suspendidos o retirados, las evaluaciones de impacto realizadas y los incidentes relevantes reportados. También deberá incluir información agregada sobre las medidas correctivas adoptadas, los avances en capacitación, los desarrollos de investigación, innovación e industria nacional, la contratación pública relacionada con inteligencia artificial en defensa y seguridad, y la cooperación internacional o participación del Estado colombiano en escenarios multilaterales sobre la materia.\n\n## Parágrafo 1. El informe no incluirá información publicada reservada de acuerdo con lo dispuesto en\n\nla Ley 1712 de 2014.\n\n## ARTÍCULO 25. CONSERVACIÓN DE INFORMACIÓN Y ACCESO POR AUTORIDADES\n\n## COMPETENTES. Las entidades responsables del uso de sistemas de inteligencia artificial de alto\n\nriesgo deberán conservar la información técnica, documental y operacional necesaria para verificar el cumplimiento de la presente ley, incluyendo bitácoras, autorizaciones, evaluaciones, auditorías, incidentes relevantes y registros de intervención humana. Dicha información deberá ser puesta a disposición de las autoridades judiciales, disciplinarias, fiscales, penales, administrativas, de control fiscal o del Ministerio Público que la requieran en ejercicio de sus competencias constitucionales y legales, conforme a los regímenes de reserva, seguridad nacional, defensa, inteligencia, contrainteligencia, protección de datos personales y demás normas aplicables. Las solicitudes formuladas por particulares se tramitarán conforme al régimen vigente de derecho de petición, acceso a la información pública, protección de datos personales, habeas data y demás normas aplicables, sin que la presente ley cree un procedimiento especial de acceso a información reservada o clasificada.\n\n## TÍTULO VII. PROVEEDORES PRIVADOS, CONTRATACIÓN E INDUSTRIA MILITAR\n\n## ARTÍCULO 26. OBLIGACIONES DE PROVEEDORES. Los proveedores privados de sistemas de\n\ninteligencia artificial en defensa y seguridad deberán:\n\n1. Informar capacidades y limitaciones del sistema. 2. Revelar riesgos conocidos. 3. Garantizar trazabilidad técnica. 4. Permitir auditorías conforme al contrato y la ley. 5. Acreditar la legalidad de los datos utilizados. 6. Adoptar medidas de ciberseguridad. 7. Abstenerse de reutilizar datos estatales para fines no autorizados. 8. Informar fallas, vulnerabilidades o incidentes. 9. Cumplir protocolos de confidencialidad y reserva. 10. Responder por defectos, ocultamientos, incumplimientos o usos no autorizados atribuibles a su conducta.\n\n## ARTÍCULO 27. CLÁUSULAS OBLIGATORIAS EN CONTRATACIÓN. Los contratos estatales para\n\nadquisición, desarrollo, integración, mantenimiento, prueba o despliegue de sistemas de inteligencia artificial en defensa y seguridad deberán incluir cláusulas que garanticen auditoría, trazabilidad, seguridad de la información, protección de datos, confidencialidad y control estatal sobre los datos utilizados o generados en la ejecución contractual. Dichos contratos deberán establecer de manera expresa la prohibición de usos no autorizados, la obligación de reporte de incidentes, las reglas aplicables a actualizaciones y modificaciones sustanciales, y la responsabilidad del proveedor por defectos, ocultamientos, incumplimientos, vulnerabilidades o usos indebidos atribuibles a su conducta. Los contratos deberán prever mecanismos de terminación, suspensión o ajuste cuando el sistema genere un riesgo grave para derechos fundamentales, población civil, Derecho Internacional Humanitario, seguridad nacional, reserva de la información, ciberseguridad o cumplimiento de la presente ley. En todos los contratos deberá incorporarse una prohibición expresa de desarrollar, suministrar, integrar, entrenar, adaptar, comercializar o facilitar sistemas de armas autónomas. ARTÍCULO 28. PROHIBICIÓN DE SISTEMAS NO AUDITABLES. No podrán contratarse, adquirirse, importarse, desplegarse o usarse sistemas de alto riesgo que, por su diseño, condiciones contractuales, restricciones técnicas o secreto comercial, impidan la auditoría suficiente por parte del Estado colombiano. La protección de secretos industriales o información propietaria no podrá impedir la verificación estatal del cumplimiento de la Constitución, la ley, los derechos humanos, el Derecho Internacional Humanitario y las condiciones de autorización. ARTÍCULO 29. ROL DE LA INDUSTRIA MILITAR. La industria militar estatal podrá desarrollar, adaptar, integrar, probar y transferir sistemas de inteligencia artificial para fines lícitos, defensivos, humanitarios, logísticos, preventivos, de ciberdefensa, protección de infraestructura crítica, desminado, búsqueda y rescate, entrenamiento, simulación, protección de la Fuerza Pública y reducción de riesgos para la población civil. En ningún caso la industria militar estatal podrá desarrollar, fabricar, adquirir, transferir, comercializar, exportar, importar o desplegar sistemas de armas autónomas.\n\n## Parágrafo. El Gobierno Nacional promoverá el desarrollo de capacidades nacionales de inteligencia\n\nartificial responsable en defensa y seguridad, con el fin de reducir dependencia tecnológica, fortalecer la soberanía digital y garantizar control estatal sobre tecnologías críticas.\n\n## TÍTULO VIII. IMPORTACIÓN, EXPORTACIÓN, TRANSFERENCIA Y TECNOLOGÍAS DE USO\n\n## DUAL\n\nARTÍCULO 30. TECNOLOGÍAS PROHIBIDAS. Se prohíbe la importación, exportación, transferencia, comercialización, intermediación o suministro de:\n\n1. Sistemas de armas autónomas. 2. Componentes diseñados principalmente para permitir identificación, selección y ataque autónomo sin intervención humana. 3. Sistemas que permitan modificación autónoma de parámetros de ataque sin intervención humana. 4. Sistemas asociados a uso de fuerza que no cuenten con mecanismo de desactivación humana. 5. Sistemas destinados a actores armados no estatales, estructuras criminales o personas no autorizadas para el uso de armas o tecnologías de defensa.\n\n## ARTÍCULO 31. TECNOLOGÍAS CONTROLADAS. Estarán sujetas a autorización previa del Gobierno\n\nNacional, conforme a la reglamentación, las operaciones de importación, exportación, transferencia o comercialización de:\n\n1. Sistemas semiautónomos asociados al uso de fuerza. 2. Drones, robots, sensores, enjambres o plataformas autónomas de uso operacional. 3. Sistemas biométricos destinados a defensa, seguridad o policía. 4. Sistemas predictivos para inteligencia, contrainteligencia, seguridad o operaciones. 5. Software de selección, seguimiento o priorización de objetivos. 6. Sistemas de ciberoperaciones con funciones autónomas. 7. Componentes de uso dual que puedan integrarse a sistemas de armas autónomas o semiautónomas. ARTÍCULO 32. CERTIFICADO DE USUARIO FINAL. Toda operación de importación, exportación, transferencia o comercialización de tecnologías controladas deberá contar, cuando corresponda, con certificado de usuario final y evaluación de riesgo sobre derechos humanos, Derecho Internacional Humanitario, seguridad nacional, proliferación y desvío a actores no autorizados.\n\n## TÍTULO IX. RESPONSABILIDAD, INCIDENTES Y SANCIONES\n\nARTÍCULO 33. RESPONSABILIDAD HUMANA. La responsabilidad por el diseño, autorización, despliegue, operación, supervisión y uso de sistemas de inteligencia artificial en defensa y seguridad corresponderá siempre a personas naturales o jurídicas determinadas, conforme a la Constitución y la ley. La responsabilidad no podrá trasladarse, diluirse o extinguirse por la intervención de sistemas automatizados, modelos algorítmicos o inteligencia artificial.\n\n## ARTÍCULO 34. RESPONSABILIDAD DE MANDO. Los comandantes, directores, superiores\n\njerárquicos y autoridades que autoricen, desplieguen, supervisen u ordenen el uso de sistemas de inteligencia artificial en defensa y seguridad responderán conforme a la Constitución, la ley, el Derecho Internacional Humanitario, el régimen disciplinario, el régimen penal y los demás regímenes aplicables.\n\n## ARTÍCULO 35. REPORTE DE INCIDENTES RELEVANTES. Toda entidad que use sistemas de alto\n\nriesgo deberá reportar al Ministerio de Defensa Nacional los incidentes relevantes dentro del término que establezca la reglamentación.\n\nCuando el incidente pueda constituir falta disciplinaria, delito, violación de derechos humanos, infracción al Derecho Internacional Humanitario, daño antijurídico, detrimento patrimonial o riesgo grave para la población civil, deberá darse traslado a la autoridad competente.\n\n## ARTÍCULO 36. SANCIONES CONTRACTUALES Y ADMINISTRATIVAS.\n\nEl incumplimiento de las obligaciones establecidas en esta ley por parte de proveedores podrá dar lugar, según corresponda, a:\n\n1. Suspensión del contrato. 2. Terminación del contrato. 3. Declaratoria de incumplimiento. 4. Multas y cláusula penal. 5. Reporte a autoridades competentes. 6. Inhabilidad para contratar en los términos de la ley. 7. Retiro del registro de proveedores, si este fuere creado por la reglamentación. 8. Las demás consecuencias previstas en el contrato y en la normativa aplicable.\n\n## ARTÍCULO 37. Modifíquese el Artículo 367 de la Ley 599 de 2000, el cual quedará así:\n\n## ARTÍCULO 367. FABRICACIÓN, IMPORTACIÓN, TRÁFICO, POSESIÓN Y USO DE ARMAS\n\nQUÍMICAS, BIOLÓGICAS, NUCLEARES Y ARMAS AUTÓNOMAS. El que importe, trafique, fabrique, almacene, conserve, adquiera, suministre, use o porte armas químicas, biológicas, nucleares o sistemas de armas autónomas, incurrirá en prisión de noventa y seis (96) a ciento ochenta (180) meses y multa de ciento treinta y tres punto treinta y tres (133.33) a treinta mil (30.000) salarios mínimos legales mensuales vigentes. La pena se aumentará hasta la mitad si se utiliza la ingeniería genética para producir armas biológicas o exterminadoras de la especie humana.\n\n## TÍTULO X. DISPOSICIONES FINALES\n\n## ARTÍCULO 38. REGLAMENTACIÓN. El Gobierno Nacional, a través del Ministerio de Defensa\n\nNacional y en coordinación con las entidades competentes, reglamentará la presente ley dentro de los doce (12) meses siguientes a su promulgación.\n\nLa reglamentación deberá desarrollar los criterios para clasificar los sistemas de inteligencia artificial por nivel de riesgo, el procedimiento de autorización de sistemas de alto riesgo, el funcionamiento del Comité Técnico de Revisión y las reglas de operación del Registro Nacional Reservado.\n\nTambién deberá regular las evaluaciones de impacto, los protocolos de auditoría, los mecanismos de reporte de incidentes, el contenido mínimo del informe semestral al Congreso y las condiciones para la contratación estatal de sistemas de inteligencia artificial en defensa y seguridad.\n\nLa reglamentación deberá establecer los controles aplicables a tecnologías de uso dual, los procedimientos de transición para sistemas en operación o contratación y las demás disposiciones necesarias para garantizar la implementación gradual, segura y verificable de las obligaciones previstas en esta ley.\n\n## Parágrafo. Las prohibiciones establecidas en esta ley serán exigibles desde su promulgación y su\n\ncumplimiento no estará condicionado a la expedición de la reglamentación. El plazo para reglamentar y los procedimientos de transición no podrán interpretarse como autorización para iniciar, continuar o reanudar actividades o usos prohibidos, ni podrán emplearse para establecer excepciones a dichas prohibiciones.\n\n## ARTÍCULO 39. INVENTARIO INICIAL. Dentro de los seis (6) meses siguientes a la expedición de la\n\nreglamentación, las entidades sujetas a la presente ley deberán remitir al Ministerio de Defensa Nacional un inventario reservado de los sistemas de inteligencia artificial en defensa, Fuerza Pública y seguridad que se encuentren en diseño, adquisición, prueba, operación o contratación.\n\nEl inventario deberá identificar los sistemas y usos comprendidos en las prohibiciones de esta ley y registrar las medidas adoptadas para hacerlas efectivas, incluyendo el cese de actividades, la desactivación, el retiro del servicio y las actuaciones contractuales correspondientes, según resulte aplicable.\n\n## ARTÍCULO 40. TRANSICIÓN. Los sistemas de alto riesgo que se encuentren en operación al\n\nmomento de entrada en vigencia de la reglamentación deberán ser evaluados dentro de los doce (12) meses siguientes, con el fin de determinar su conformidad con esta ley y adoptar las decisiones de autorización, adecuación, suspensión o retiro que correspondan.\n\nDesde la promulgación de la presente ley deberán cesar las actividades y usos prohibidos. Las entidades y personas responsables deberán impedir su continuidad y adoptar las medidas de desactivación y retiro del servicio que correspondan, de manera segura y sin perjuicio de la preservación de la información y de los elementos de prueba requeridos por las autoridades competentes.\n\nCuando un sistema de alto riesgo no permita garantizar las condiciones mínimas de control humano significativo, trazabilidad, seguridad o legalidad exigidas por esta ley, su uso deberá suspenderse de inmediato, sin esperar a la expedición de la reglamentación ni al vencimiento del plazo de evaluación.\n\nSu operación solo podrá reanudarse cuando se acredite el cumplimiento de dichas condiciones y se obtengan las autorizaciones legalmente exigibles, siempre que no corresponda a un sistema o uso prohibido.\n\n## Parágrafo. La existencia de contratos, convenios, autorizaciones, pruebas o proyectos iniciados antes\n\nde la promulgación de esta ley no habilitará la continuación de actividades o usos prohibidos. Las entidades competentes adoptarán las medidas contractuales y administrativas necesarias para hacer efectivas las prohibiciones, con observancia del debido proceso y de los regímenes aplicables.\n\n## ARTÍCULO 41. IMPACTO FISCAL. La implementación de la presente ley se atenderá con cargo a las\n\napropiaciones presupuestales existentes de las entidades competentes, de conformidad con el Marco Fiscal de Mediano Plazo, el Marco de Gasto de Mediano Plazo y las normas orgánicas de presupuesto.\n\n## ARTÍCULO 42. VIGENCIA Y DEROGATORIAS. La presente ley rige a partir de su promulgación y\n\nderoga las disposiciones que le sean contrarias.\n\n## DAVID ALEJANDRO TORO RAMÍREZ\n\nRepresentante a la Cámara\n\nPacto Histórico\n\n## EXPOSICIÓN DE MOTIVOS\n\n## Proyecto de Ley No. ___ de 2026 Cámara\n\nPor medio de la cual se regula el uso de inteligencia artificial en el sector defensa y se dictan otras disposiciones\n\nCon el fin de realizar la exposición de motivos del presente Proyecto de Ley, este acápite se divide en las siguientes partes: (1) objeto del proyecto de ley, (2) antecedentes, (3) marco constitucional, legal y de competencia legislativa, (4) justificación del proyecto, (5) estándares internacionales y derecho comparado, (6) descripción del articulado, (7) impacto fiscal, (8) conflicto de interés, y (9) consideraciones finales.\n\n## I. OBJETO DEL PROYECTO DE LEY\n\nEl presente proyecto de ley tiene por objeto establecer un marco jurídico para el uso de inteligencia artificial en el sector defensa, la Fuerza Pública y las actividades estatales de seguridad, bajo criterios de control humano significativo, respeto por los derechos humanos, cumplimiento del Derecho Internacional Humanitario, responsabilidad de mando, trazabilidad, supervisión institucional y reserva compatible con la seguridad nacional. La iniciativa retoma como antecedente el Proyecto de Ley 368 de 2025 Cámara, cuyo objeto era prohibir el uso de sistemas de armas autónomas letales en el territorio nacional y establecer un marco estricto para sistemas semiautónomos letales en el sector defensa. La presente propuesta amplía ese alcance: la prohibición comprende los sistemas de armas autónomas definidos en el artículo 3, con independencia de que empleen fuerza letal o no letal, y se integra en una regulación sectorial más amplia sobre inteligencia artificial en defensa y seguridad. La autonomía en el empleo de armas plantea un problema que no depende exclusivamente de la posibilidad de causar la muerte. También compromete la integridad y la libertad de las personas, la protección de bienes y la atribución de responsabilidad por el uso de la fuerza. A su vez, los riesgos de la inteligencia artificial en defensa y seguridad se extienden a la vigilancia, la inteligencia, la ciberdefensa, el análisis predictivo y los sistemas de apoyo a decisiones operacionales, aunque esas aplicaciones no constituyan sistemas de armas. Por esa razón, el proyecto establece una prohibición absoluta de los sistemas de armas autónomas, comprendidos los que empleen fuerza letal o no letal contra personas u objetos. Para los sistemas de inteligencia artificial de alto riesgo que no se encuentren prohibidos, dispone un régimen de autorización estricta, evaluación, registro, auditoría, seguimiento, trazabilidad y responsabilidad. La definición del artículo 3 delimita la categoría prohibida a partir de sus funciones y de la ausencia de una decisión humana previa, específica e informada sobre el objetivo concreto o grupo específico de objetivos, el empleo de la fuerza y el momento del ataque. La finalidad no es impedir que el Estado colombiano desarrolle capacidades tecnológicas para su defensa legítima. Por el contrario, la finalidad es asegurar que la modernización tecnológica de la Fuerza Pública ocurra dentro de límites constitucionales, humanitarios y democráticos. La inteligencia artificial puede fortalecer capacidades logísticas, preventivas, defensivas, humanitarias, de ciberseguridad, búsqueda y rescate, desminado, protección de infraestructura crítica y reducción de riesgos para la población civil. Lo que no puede permitirse es que decisiones de vida, muerte, captura, vigilancia masiva, perfilamiento o uso de fuerza queden entregadas a sistemas automatizados sin control humano real.\n\n## II. ANTECEDENTES\n\nEl Proyecto de Ley 368 de 2025 Cámara fue radicado el 24 de septiembre de 2025 por los representantes David Alejandro Toro Ramírez, Carmen Felisa Boscán Ramírez, David Ricardo Racero Mayorca, Erick Adrián Velasco Burbano, Gabriel Becerra Yáñez, Gabriel Ernesto Parrado Durán, Ingrid Johana Aguirre Juvinao, John Jairo González Agudelo y Norman David Bañol Álvarez, y fue publicado en la Gaceta del Congreso No. 1846 de 2025. Posteriormente, el 22 de octubre de 2025, la Secretaría de la Comisión Segunda de la Cámara designó como ponentes a los representantes David Alejandro Toro Ramírez, en calidad de coordinador, y Elizabeth Jay-Pang Díaz. Dicho proyecto retomó una iniciativa radicada en la legislatura 2024-2025, identificada como Proyecto de Ley 436 de 2024 Cámara, que fue archivada conforme a lo dispuesto en el artículo 190 de la Ley 5ª de 1992. En el marco de la construcción del PL 368 de 2025 se realizó una mesa técnica el 20 de marzo de 2025 con participación del Ministerio de Defensa Nacional, el Ministerio de Relaciones Exteriores, académicos y otros actores, con el propósito de fortalecer la iniciativa y revisar su alcance normativo. La mencionada iniciativa legislativa identificó como ejes sustantivos la prohibición de sistemas de armas autónomas letales, el registro y control de sistemas semiautónomos letales, la responsabilidad de operadores, supervisores, desarrolladores y comandantes, y la necesidad de reglamentación por parte del Gobierno Nacional.\n\nLa audiencia pública realizada el 28 de abril de 2026 en la Comisión Segunda de la Cámara permitió ampliar el alcance del debate. Allí se planteó que la discusión no podía limitarse a una categoría específica de armas, sino que debía abordarse como una transformación profunda en la forma como se ejerce la fuerza, se integran sistemas de información, se utilizan tecnologías emergentes y se delegan funciones críticas en entornos operacionales. En dicha audiencia, el Ministerio de Defensa Nacional sostuvo que Colombia necesita regular la prohibición de sistemas de armas autónomas letales y el uso de sistemas semiautónomos en defensa y seguridad nacional, subrayando que estos sistemas no son ciencia ficción, sino una realidad operacional documentada en conflictos recientes. También se advirtió que el Derecho Internacional Humanitario impone obligaciones como distinción, proporcionalidad y precaución, las cuales exigen juicio humano contextual, ético y dinámico. El debate permitió identificar tres necesidades adicionales que justifican esta nueva propuesta: (i) precisar el concepto de control humano significativo; (ii) regular los sistemas de alto riesgo que no son armas autónomas pero pueden afectar derechos fundamentales, población civil o decisiones operacionales; y (iii) incorporar reglas sobre proveedores privados, tecnologías de uso dual, industria militar, auditoría, trazabilidad e informes al Congreso.\n\n## III. MARCO CONSTITUCIONAL, LEGAL Y DE COMPETENCIA LEGISLATIVA\n\nLa Constitución Política ofrece el fundamento para una regulación sectorial del uso de inteligencia artificial en defensa y seguridad. El artículo 1 establece que Colombia es un Estado social de derecho fundado en el respeto de la dignidad humana. Este principio impide que una persona sea reducida a una variable estadística, a un perfil de riesgo o a un objetivo definido exclusivamente por un sistema automatizado. El artículo 2 dispone que son fines esenciales del Estado servir a la comunidad, garantizar la efectividad de los derechos, defender la independencia nacional, mantener la integridad territorial, asegurar la convivencia pacífica y proteger a todas las personas residentes en Colombia en su vida, honra, bienes, creencias y demás derechos y libertades. La defensa y la seguridad son funciones constitucionales legítimas; sin embargo, deben ejercerse dentro de un orden jurídico que preserve la vida, la libertad, la igualdad, el debido proceso, la intimidad y la paz. El artículo 6 establece que los particulares son responsables ante las autoridades por infringir la Constitución y las leyes, y que los servidores públicos lo son por la misma causa y por omisión o extralimitación en el ejercicio de sus funciones. Esta regla es esencial en materia de inteligencia artificial: la intervención de sistemas automatizados no puede diluir la responsabilidad de servidores públicos, comandantes, operadores, supervisores, desarrolladores, proveedores o entidades responsables. El artículo 11 consagra la inviolabilidad del derecho a la vida y prohíbe la pena de muerte. El artículo 12 prohíbe la desaparición forzada, la tortura y los tratos o penas crueles, inhumanos o degradantes. El artículo 13 protege la igualdad y prohíbe la discriminación. El artículo 15 protege la intimidad, el buen nombre, el habeas data y las garantías aplicables al tratamiento de datos. El artículo 20 protege la libertad de expresión e información. El artículo 22 reconoce la paz como derecho y deber de obligatorio cumplimiento. El artículo 29 garantiza el debido proceso. Estas normas justifican que el Estado trace límites frente al uso de inteligencia artificial cuando pueda incidir en decisiones de fuerza, vigilancia, perfilamiento, captura, clasificación o afectación de derechos. El artículo 93 incorpora el bloque de constitucionalidad en materia de derechos humanos y Derecho Internacional Humanitario. Esta disposición es central porque los sistemas de inteligencia artificial asociados al uso de la fuerza deben interpretarse conforme a las obligaciones internacionales de Colombia, en especial los principios de humanidad, distinción, proporcionalidad y precaución. El artículo 114 atribuye al Congreso la función de reformar la Constitución, hacer las leyes y ejercer control político sobre el Gobierno y la administración. El artículo 150 le confiere al Congreso la competencia general para expedir códigos y leyes en todos los ramos de la legislación, así como para regular materias de orden público cuando corresponda dentro de sus competencias. En desarrollo de estas normas, la presente iniciativa establece un marco general de límites, prohibiciones, autorizaciones estrictas y responsabilidades frente al uso de inteligencia artificial en defensa y seguridad. El artículo 189 reconoce al Presidente de la República como Jefe de Estado, Jefe de Gobierno, Suprema Autoridad Administrativa y Comandante Supremo de las Fuerzas Armadas. En particular, le corresponde dirigir la Fuerza Pública, conservar el orden público y dirigir las operaciones de guerra cuando lo estime conveniente. Por ello, el proyecto no confiere al Congreso facultades de autorización, certificación o conducción operacional. El Congreso ejerce su función legislativa y de control político, mientras que el Gobierno Nacional, a través del Ministerio de Defensa Nacional y las autoridades competentes, conserva la dirección constitucional de la seguridad nacional y de la Fuerza Pública. Los artículos 217 y 218 regulan las Fuerzas Militares y la Policía Nacional. Las Fuerzas Militares tienen como finalidad primordial la defensa de la soberanía, la independencia, la integridad del territorio nacional y del orden constitucional. La Policía Nacional tiene como fin primordial el mantenimiento de las condiciones necesarias para el ejercicio de los derechos y libertades públicas, y para asegurar que los habitantes convivan en paz. Ambos mandatos son compatibles con una regulación que permita innovación tecnológica, pero impida delegar en máquinas decisiones críticas que comprometan derechos, población civil o uso de fuerza. En materia penal, el proyecto modifica el artículo 367 de la Ley 599 de 2000 para incorporar los sistemas de armas autónomas al régimen de armas prohibidas. La denominación empleada remite a la definición del artículo 3 de esta ley y comprende los sistemas que utilicen fuerza letal o no letal. La consecuencia penal se circunscribe a las conductas descritas en el tipo y se aplica conforme a los principios de legalidad, culpabilidad y debido proceso; la existencia de un sistema automatizado no sustituye la determinación de la responsabilidad individual.\n\n## IV. JUSTIFICACIÓN DEL PROYECTO\n\nLa inteligencia artificial es una tecnología de propósito general con capacidad de transformar actividades civiles, económicas, institucionales, militares y de seguridad. En el ámbito de defensa, puede mejorar la logística, el mantenimiento predictivo, la protección de infraestructura crítica, la ciberdefensa, el análisis de información, la simulación, el entrenamiento, la búsqueda y rescate, el desminado y la protección de la Fuerza Pública. No obstante, también puede intensificar riesgos de automatización del uso de la fuerza, opacidad, sesgos, vigilancia masiva, escalamiento militar, errores de identificación, debilitamiento de la responsabilidad humana y afectación de población civil. La regulación propuesta permite el desarrollo de inteligencia artificial en defensa dentro de límites definidos por la protección de las personas y el control humano sobre el uso de la fuerza. La prohibición de sistemas de armas autónomas se fundamenta en la decisión de impedir que la identificación, selección y ataque de objetivos queden en manos de un sistema sin una decisión humana previa, específica e informada, en los términos del artículo 3. El mismo criterio se aplica cuando la fuerza empleada se presenta como no letal: la ausencia de un resultado mortal no elimina la afectación posible de la integridad, la libertad o los bienes, ni resuelve el problema de quién decide ejercer esa fuerza.\n\nLa decisión humana exigida debe recaer sobre objetivos concretos y sobre el empleo de la fuerza, incluido el momento del ataque. El control humano significativo permite valorar el contexto y las condiciones jurídicas de la operación, y evita que una autorización general de misión sea tratada como una decisión suficiente sobre personas u objetos que el sistema seleccione posteriormente. La prohibición se acompaña de límites al uso de inteligencia artificial para vigilancia masiva, perfilamiento y decisiones críticas que afecten derechos fundamentales.\n\nEl documento A/79/88 presentado por el Secretario General de las Naciones Unidas sobre sistemas de armas autónomas letales señala que la tecnología para que un arma rastree, seleccione y ataque un objetivo de forma autónoma después de su activación, sin intervención humana adicional, ya existe. También advierte que las capacidades autónomas y habilitadas por inteligencia artificial ya están presentes en campos de batalla contemporáneos, generando preocupaciones jurídicas, éticas y de seguridad. Esa realidad exige que la regulación no espere a que el daño sea irreversible. El mismo documento subraya que el control humano se ha consolidado como un componente necesario para la dimensión ética, de seguridad y de cumplimiento jurídico de los sistemas autónomos, especialmente en relación con el Derecho Internacional Humanitario. Sin embargo, también advierte que no existe claridad suficiente sobre qué significa control humano, cómo se materializa y qué nivel resulta suficiente. Este proyecto responde a esa brecha al definir el control humano significativo y establecer requisitos mínimos de comprensión del contexto, conocimiento de capacidades y limitaciones del sistema, información suficiente, tiempo razonable para intervenir, capacidad de modificar o desactivar el sistema, operador identificable, cadena de mando y responsabilidad jurídica atribuible. El riesgo no consiste únicamente en que una máquina dispare. También puede aparecer cuando sistemas de inteligencia artificial producen perfiles, alertas, priorizaciones, predicciones o recomendaciones que las autoridades aceptan de manera acrítica. Ese fenómeno, conocido como sesgo de automatización, puede llevar a que una decisión formalmente humana sea materialmente determinada por el sistema. De ahí la necesidad de capacitar operadores, exigir trazabilidad, evaluar sesgos, conservar bitácoras y preservar responsabilidad humana. La regulación también se justifica por la expansión de tecnologías de uso dual. Drones, sensores, sistemas de visión por computador, modelos de reconocimiento, software de navegación autónoma, capacidades de análisis predictivo y herramientas de ciberseguridad pueden tener usos civiles, humanitarios o defensivos; pero también pueden ser integrados a operaciones militares o policiales de alto riesgo. Por ello, el proyecto diferencia entre usos permitidos, sistemas de alto riesgo y tecnologías prohibidas. El proyecto también reconoce la importancia de la industria militar estatal y de las capacidades nacionales. Colombia no debe quedar rezagada en el desarrollo de inteligencia artificial responsable para fines defensivos, humanitarios, logísticos, preventivos, de ciberdefensa, desminado, búsqueda y rescate o protección de infraestructura crítica. Sin embargo, esa agenda de soberanía tecnológica debe tener una frontera infranqueable: la industria militar estatal no podrá desarrollar, fabricar, adquirir, transferir, comercializar, exportar, importar o desplegar sistemas de armas autónomas.\n\nLa prohibición del reconocimiento biométrico o facial para identificar, rastrear o perfilar participantes en protestas, salvo orden judicial o habilitación legal expresa, individualizada y proporcional, responde a la necesidad de proteger el ejercicio democrático de la protesta social, la libertad de expresión y la participación política. El proyecto no crea un procedimiento especial de protección de derechos, sino que establece un límite sectorial al uso de tecnologías de vigilancia por razones de defensa y seguridad. La propuesta diferencia la prohibición de sistemas de armas autónomas de la regulación de otras aplicaciones de inteligencia artificial. Las capacidades logísticas, humanitarias, de entrenamiento, búsqueda y rescate, protección de infraestructura y ciberdefensa podrán desarrollarse dentro de las condiciones previstas en el articulado. La finalidad defensiva de una tecnología no constituye, por sí sola, una excepción a la prohibición: las capacidades destinadas a enfrentar sistemas empleados por terceros deben respetar los límites del artículo 6 y el control humano significativo exigido por la ley.\n\nLa aplicación inmediata de las prohibiciones es necesaria para que los plazos de implementación no se conviertan en un período de tolerancia de las conductas que la ley excluye. Por ello, los artículos 38 a 40 separan la reglamentación, el inventario y la evaluación de sistemas de la obligación de cesar las actividades prohibidas desde la promulgación. La suspensión de sistemas que no garanticen las condiciones mínimas de control humano, trazabilidad, seguridad o legalidad tampoco queda aplazada por esos plazos.\n\n## V. ESTÁNDARES INTERNACIONALES, DERECHO COMPARADO Y LÍNEAS ROJAS DE IA\n\nEl documento CCW/GGE.1/2026/CRP.1/Rev.1, de 3 de septiembre de 2026, sirve como referente de la discusión del Grupo de Expertos Gubernamentales de la Convención sobre Ciertas Armas Convencionales. Su párrafo 25 caracteriza los sistemas a partir de la identificación, selección y ataque sin intervención humana. Aclara que programar posibles objetivos no los excluye y distingue esa programación de la determinación humana de objetivos específicos y del momento del ataque. También comprende empleos que causen lesiones o daños materiales sin muerte (GGE, 2026, párr. 25). La revisión reafirma la aplicación del Derecho Internacional Humanitario y la responsabilidad humana. Combina prohibiciones de determinados sistemas y usos con medidas de control sobre los demás; contempla control directo o indirecto y medidas anteriores o simultáneas al empleo. No establece una prohibición general de toda la categoría ni constituye, por sí misma, un tratado vinculante (GGE, 2026, párrs. 26–46).\n\nEl proyecto colombiano adopta una decisión legislativa más estricta: prohíbe todos los sistemas comprendidos en su definición de armas autónomas, con independencia de la letalidad de la fuerza. Esta opción se sustenta en los fines constitucionales de protección de la vida, la integridad, la libertad y la dignidad humana y en la preservación de una decisión humana jurídicamente responsable sobre el empleo de la fuerza. El referente internacional orienta la caracterización y las salvaguardas, pero no se invoca como fuente de una obligación internacional de prohibición absoluta. La regulación de los sistemas de alto riesgo recae sobre tecnologías y usos que no estén comprendidos en las prohibiciones de la ley. El AI Guardrails Act presentado por la Senadora Elissa Slotkin en el Senado de Estados Unidos en el presente año constituye un antecedente comparado relevante porque reconoce que la inteligencia artificial militar requiere límites específicos. Ese proyecto prohíbe al Departamento de Defensa usar IA para ejecutar el lanzamiento o detonación de armas nucleares; para monitorear, rastrear, perfilar o seleccionar individuos o grupos sin base legal individualizada y articulable; y para emplear fuerza letal mediante sistemas de armas autónomas sin niveles apropiados de juicio y supervisión humana. Aunque su diseño institucional no se traslada mecánicamente a Colombia, confirma que la discusión regulatoria debe ir más allá de las armas autónomas y abarcar vigilancia, perfilamiento, fuerza letal y sistemas de alto riesgo. La discusión internacional sobre líneas rojas de inteligencia artificial también respalda la necesidad del proyecto. The Future Society define las líneas rojas como límites claros y exigibles que los sistemas de IA no deben cruzar para proteger al público frente a daños graves e irreversibles. Según esa organización, los principios vagos, las guías voluntarias y las buenas prácticas sugeridas no son suficientes cuando se trata de riesgos inaceptables; se requieren límites duros. En la Athens Roundtable de 2025, expertos convocados por The Future Society identificaron clusters de riesgo asociados a manipulación a gran escala, amenazas químicas, biológicas, radiológicas y nucleares, capacidades ciberofensivas, control autónomo de infraestructura crítica, armas autónomas letales, escalamiento y riesgos para derechos humanos y justicia. Los participantes resaltaron la necesidad de traducir normas generales en umbrales técnicos verificables, mecanismos de cumplimiento y estándares multilaterales apoyados en el derecho internacional existente. En 2026, el taller de The Future Society y CeSIA en la conferencia IASEAI señaló que las líneas rojas exigibles requieren tres condiciones: acuerdo sobre umbrales, infraestructura de verificación y construcción de coaliciones diplomáticas. El mismo reporte identificó consenso técnico y político sobre capacidades especialmente peligrosas, incluyendo amenazas CBRN, vigilancia masiva habilitada por IA y pérdida de control sobre sistemas avanzados. La OCDE ha señalado que, sin líneas rojas claras y exigibles que prohíban usos o comportamientos inaceptables de sistemas de IA, los daños pueden volverse amplios, irreversibles y desestabilizadores. Su análisis define las líneas rojas como prohibiciones no negociables frente a usos o comportamientos considerados demasiado peligrosos, de alto riesgo o éticamente inadmisibles, e incluye como ejemplos los sistemas de armas autónomas letales, la vigilancia masiva en espacios públicos y la operación de infraestructura crítica sin supervisión humana. La OTAN, en su estrategia revisada de inteligencia artificial, reconoce principios de uso responsable en defensa como legalidad, responsabilidad y rendición de cuentas, explicabilidad y trazabilidad, confiabilidad, gobernabilidad y mitigación de sesgos. Estos estándares son compatibles con el articulado propuesto, que exige autorización previa de sistemas de alto riesgo, bitácoras, evaluaciones de impacto, revisión jurídica, capacitación, auditoría y mecanismos de suspensión. El Departamento de Defensa de Estados Unidos también ha desarrollado una estrategia de inteligencia artificial responsable orientada a construir sistemas robustos, resilientes y confiables, e incorporar criterios éticos desde el diseño, desarrollo, adquisición, despliegue y uso. Aunque Colombia debe construir su propio marco conforme a su Constitución, estos antecedentes muestran que la regulación de IA en defensa se está convirtiendo en un estándar de gobernanza democrática y seguridad internacional.\n\n## VI. DESCRIPCIÓN DEL PROYECTO\n\nEl proyecto se compone de cuarenta y dos (42) artículos organizados en diez títulos. El Título I contiene las disposiciones generales: objeto, ámbito de aplicación, definiciones y principios. La definición de sistemas de armas autónomas comprende fuerza letal y no letal contra personas u objetos, y exige una decisión humana previa, específica e informada sobre los objetivos concretos, el empleo de fuerza y el momento del ataque para delimitar la categoría prohibida. El Título II establece las decisiones no automatizables y los usos prohibidos. Allí se prohíbe de manera absoluta diseñar, desarrollar, fabricar, producir, entrenar, adquirir, poseer, almacenar, probar operacionalmente, desplegar, transferir, comercializar, importar, exportar, suministrar, financiar, facilitar o usar sistemas de armas autónomas. También se prohíben usos especiales de IA asociados a fuerza letal autónoma, vigilancia masiva, perfilamiento discriminatorio, uso de datos ilegales, sistemas no trazables y automatización de armas prohibidas por el derecho internacional. El Título III regula los usos permitidos y los sistemas de alto riesgo. Distingue entre usos lícitos de bajo o mediano riesgo, como logística, mantenimiento predictivo, entrenamiento, búsqueda y rescate, desminado, protección de infraestructura y ciberdefensa defensiva, y sistemas de alto riesgo que requieren autorización estricta del Ministerio de Defensa Nacional. El Título IV crea el Sistema de Gobernanza de Inteligencia Artificial en Defensa y Seguridad como instancia sectorial de coordinación, establece el Comité Técnico de Revisión, define sus funciones, crea el Registro Nacional Reservado de Sistemas de IA en Defensa y Seguridad, regula la evaluación de impacto y exige revisión jurídica de sistemas asociados al uso de fuerza. El Título V desarrolla reglas de control humano, operación y trazabilidad. Exige requisitos mínimos para el control humano significativo, bitácora obligatoria, capacitación de operadores y supervisores, e interfaces humano-máquina comprensibles cuando sea técnicamente posible. El Título VI regula transparencia, reserva y control político. Prevé informes semestrales al Congreso y conservación de información para acceso por autoridades competentes, sin crear un procedimiento especial de acceso a información reservada o clasificada. El Título VII regula proveedores privados, contratación e industria militar. Establece obligaciones de proveedores, cláusulas obligatorias en contratos, prohibición de sistemas no auditables y reglas sobre el rol de la industria militar estatal. El Título VIII regula importación, exportación, transferencia y tecnologías de uso dual. Distingue entre tecnologías prohibidas y tecnologías controladas sujetas a autorización previa y certificado de usuario final. El Título IX desarrolla responsabilidad, incidentes y sanciones. Contiene reglas de responsabilidad humana, responsabilidad de mando, reporte de incidentes, sanciones contractuales y administrativas, y una modificación al artículo 367 del Código Penal para incluir los sistemas de armas autónomas en el régimen de armas prohibidas. El Título X contiene disposiciones finales sobre reglamentación, inventario inicial, transición, impacto fiscal, vigencia y derogatorias. Las prohibiciones son exigibles desde la promulgación y los plazos de reglamentación y evaluación no habilitan la continuidad de actividades o usos prohibidos. El inventario registrará los sistemas y usos comprendidos en las prohibiciones y las medidas adoptadas para hacerlas efectivas. Los contratos o autorizaciones anteriores tampoco permiten mantener esas actividades.\n\n## VII. IMPACTO FISCAL\n\nDe conformidad con el artículo 7 de la Ley 819 de 2003, el impacto fiscal de cualquier proyecto de ley que ordene gasto o que otorgue beneficios tributarios debe hacerse explícito y ser compatible con el Marco Fiscal de Mediano Plazo. El presente proyecto de ley no crea entidades nuevas, no ordena la creación de cargos, no modifica plantas de personal, no establece beneficios tributarios, no crea subsidios, no impone transferencias presupuestales específicas y no ordena apropiaciones adicionales al Presupuesto General de la Nación. La arquitectura institucional se construye sobre entidades existentes, principalmente el Ministerio de Defensa Nacional, las Fuerzas Militares, la Policía Nacional y las entidades adscritas o vinculadas al sector defensa. Sin perjuicio de lo anterior, se trae a colación los dicho sobre la materia por la Corte Constitucional. La Sentencia C-502 de 2007 expresó que los requisitos establecidos en el artículo se constituyen como instrumentos de racionalización de la actividad legislativa, pero que no pueden limitar el ejercicio de la función legislativa por parte del Congreso de la República ni pueden otorgar un poder de veto al Ministerio de Hacienda y Crédito Público en relación con el trámite y aprobación de los proyectos de ley, pues ello vulneraría la autonomía del legislador y el principio de separación de las ramas del poder público. Así mismo, señaló que es el Ministerio de Hacienda y Crédito Público el principal responsable de cumplir los requisitos establecidos en el artículo 7 de la Ley 819 de 2003:\n\n“Por todo lo anterior, la Corte considera que los primeros tres incisos del art. 7° de la Ley 819 de 2003 deben entenderse como parámetros de racionalidad de la actividad legislativa, y como una carga que le incumbe inicialmente al Ministerio de Hacienda, una vez que el Congreso ha valorado, con la información y las herramientas que tiene a su alcance, las incidencias fiscales de un determinado proyecto de ley. Esto significa que ellos constituyen instrumentos para mejorar la labor legislativa.” “Es decir, el mencionado artículo debe interpretarse en el sentido de que su fin es obtener que las leyes que se dicten tengan en cuenta las realidades macroeconómicas, pero sin crear barreras insalvables en el ejercicio de la función legislativa ni crear un poder de veto legislativo en cabeza del ministro de Hacienda. Y en ese proceso de racionalidad legislativa la carga principal reposa en el Ministerio de Hacienda, que es el que cuenta con los datos, los equipos de funcionarios y la experticia en materia económica. Por lo tanto, en el caso de que los congresistas tramiten un proyecto incorporando estimativos erróneos sobre el impacto fiscal, sobre la manera de atender esos nuevos gastos o sobre la compatibilidad del proyecto con el Marco Fiscal de Mediano Plazo, le corresponde al ministro de Hacienda intervenir en el proceso legislativo para ilustrar al Congreso acerca de las consecuencias económicas del proyecto. Y el Congreso habrá de recibir y valorar el concepto emitido por el Ministerio. No obstante, la carga de demostrar y convencer a los congresistas acerca de la incompatibilidad de cierto proyecto con el Marco Fiscal de Mediano Plazo recae sobre el ministro de Hacienda”.\n\n## VIII. CONFLICTO DE INTERÉS\n\nDe acuerdo con lo ordenado por la Ley 2003 de 2019, en concordancia con los artículos 286 y siguientes de la Ley 5 de 1992, y conforme con el objeto de la presente iniciativa, se puede concluir preliminarmente que la misma no representa un conflicto de interés general para los congresistas que participen en su trámite, dado que se trata de una regulación general, abstracta e impersonal sobre el uso de inteligencia artificial en defensa, Fuerza Pública y seguridad, así como sobre la prohibición de sistemas de armas autónomas. Lo anterior se entiende sin perjuicio de la obligación que tiene cada congresista de examinar las circunstancias particulares que puedan configurarle un beneficio particular, actual y directo, a su favor, de su cónyuge o compañero permanente, o de sus parientes en los grados previstos por la ley, caso en el cual deberá declararse impedido en los términos del Reglamento del Congreso. Sobre el conflicto de interés el Consejo de Estado se ha pronunciado en Sentencia del año 2022, estableciendo que:\n\n“Siempre que se produzca un resultado provechoso por el simple ejercicio de una función oficial, que convenga al agente o a otra persona allegada, en el orden moral o material, surgirá un conflicto de intereses. Si la ley protege el interés, será lícito; pero si se persigue con fines personales, particulares, que sobrepasen el interés social, será ilícito”. También el Consejo de Estado el año 2010 sobre el conflicto de interés, conceptuó:\n\n“La institución del conflicto de intereses apunta a trazar un límite entre el ejercicio legítimo de la función legislativa y el aprovechamiento de esta función por parte del congresista para obtener beneficios personales o en favor de aquellas personas allegadas que determina la ley. Así las cosas, no se presenta conflicto entre el interés personal del congresista y el interés general cuando la ley tiene por destinataria a la generalidad de la sociedad, en abstracto, hipótesis en la cual quedan incluidos los amplios sectores sociales que son objeto de determinadas leyes, como por ejemplo las minorías étnicas o culturales, las profesiones, los contribuyentes o, como el caso que nos ocupa, las víctimas de la violencia en Colombia. No sería razonable, por consiguiente, afirmar que por el hecho de ser abogado un congresista estaría impedido para participar en la aprobación de una ley que expida el estatuto de esa profesión; que por ser indígena estaría impedido para participar en el trámite de la ley orgánica que reglamente las entidades territoriales indígenas; que por ser propietario estaría impedido para intervenir en la discusión de una ley sobre impuesto predial; o que por encajar en la definición legal de víctima del conflicto estaría impedido para intervenir en los debates a un proyecto de ley que establece de manera general las reglas de resarcimiento a las víctimas de la violencia en Colombia. En todos estos casos, ciertamente, podría el congresista derivar de la ley en cuya discusión interviene un beneficio personal, pero no por la circunstancia de ser miembro del Congreso ni porque la ley se dirija a un grupo de personas tan restringido y exclusivo (y por tanto excluyente) que convierta al congresista en un destinatario predilecto. En los anteriores ejemplos las leyes no se dirigen a todos los colombianos sino a grupos muy significativos: los abogados, los indígenas, los propietarios de inmuebles, las víctimas del conflicto. No todos los congresistas forman parte necesariamente de estos grupos, pero por la amplitud social de dichos sectores en la nación y la generalidad de las prescripciones de la ley a ellos dirigida, normalmente algunos de los congresistas podrían quedar incluidos. Pues bien, en estos casos no cabe la figura de conflicto de intereses, pues a pesar de que un congresista podría convertirse en destinatario de alguna de las disposiciones legales, tal hecho no obedece a que la ley busque favorecerlo directa, exclusiva y especialmente.” En consecuencia, se considera que la Ley y la jurisprudencia han dado los criterios orientadores que determinan circunstancias en las cuales se podría estar incurso en un conflicto de interés. Para lo cual será necesario que respecto del asunto objeto de conocimiento de parte del congresista (discusión o votación) se reporte un beneficio en el que concurran tres características simultáneas, a saber, ser actual, particular y directo. Define la Ley también las circunstancias bajo las cuales se considera que no existe un conflicto de interés, en esa medida, se señala que aun cuando el congresista pueda reportar un beneficio, pero este se funde en el interés general, en el interés de sus electores, se dará lugar a que no exista tal conflicto.\n\n## IX. CONSIDERACIONES FINALES\n\nLa incorporación de inteligencia artificial en defensa y seguridad no puede quedar sometida únicamente a decisiones administrativas, lineamientos internos o criterios de adquisición tecnológica. Cuando una tecnología puede incidir en decisiones sobre vida, libertad, vigilancia, uso de fuerza, selección de objetivos, perfilamiento o responsabilidad de mando, corresponde al legislador trazar límites claros. Colombia tiene la oportunidad de adoptar una regulación temprana, prudente y equilibrada. La propuesta no desconoce las necesidades legítimas de defensa nacional ni impide el desarrollo de capacidades tecnológicas propias. Por el contrario, diferencia entre usos permitidos, usos de alto riesgo y usos prohibidos; fortalece la soberanía tecnológica; habilita capacidades defensivas y humanitarias; y fija una línea democrática fundamental: ninguna máquina debe decidir autónomamente quién vive, quién muere, quién es objetivo, quién es vigilado o quién pierde su libertad. Este proyecto permite que Colombia mantenga liderazgo regional en la discusión sobre armas autónomas, al tiempo que amplía el debate hacia una agenda más completa de inteligencia artificial en defensa, Fuerza Pública y seguridad. La regulación propuesta es compatible con la Constitución, el Derecho Internacional Humanitario, la protección de los derechos humanos y la necesidad de construir capacidades estatales responsables frente a tecnologías emergentes.\n\n## DAVID ALEJANDRO TORO RAMÍREZ\n\nRepresentante a la Cámara\n\nPacto Histórico\n\n## X. REFERENCIAS\n\nGroup of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems [GGE]. (2026, 3 de septiembre). Report of the 2024-2025-2026 sessions of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems (CCW/GGE.1/2026/CRP.1/Rev.1). Naciones Unidas. https://docslibrary.unoda.org/Convention_on_Certain_Conventional_Weapons_- Human Rights Watch, & Harvard Law School International Human Rights Clinic. (2025, April 28). A hazard to human rights: Autonomous weapons systems and digital decision-making. Human Rights\n\nWatch. https://www.hrw.org/report/2025/04/28/a-hazard-to-human-rights/autonomous-weaponssystems-and-digital-decision-making International Committee of the Red Cross. (2021, May 12). ICRC position on autonomous weapon systems. https://www.icrc.org/en/document/icrc-position-autonomous-weapon-systems International Committee of the Red Cross. (2025). Autonomous weapon systems and international humanitarian law: Selected issues. https://www.icrc.org/en/article/autonomous-weapon-systems-andinternational-humanitarian-law-selected-issues North Atlantic Treaty Organization. (2024, July 10). Summary of NATO’s revised Artificial Intelligence (AI) Strategy. https://www.nato.int/en/about-us/official-texts-and-resources/officialtexts/2024/07/10/summary-of-natos-revised-artificial-intelligence-ai-strategy Russell, S., Segerie, C.-R., Iliadis, N., & Zoumpalova, T. (2025, September 22). AI governance through global red lines can help prevent unacceptable risks. OECD.AI Policy Observatory. https://oecd.ai/en/wonk/ai-governance-through-global-red-lines-can-help-prevent-unacceptable-risks The Future Society. (2025, July 3). Global red lines for AI: A three-part series. https://thefuturesociety.org/airedlines/ The Future Society. (2026, February 12). Defining and governing unacceptable AI risks. https://thefuturesociety.org/athens-2025-ai-red-lines-report/ The Future Society. (2026). Where do we draw the line? Inside the IASEAI expert workshop on AI red lines. https://thefuturesociety.org/ai-red-lines-iaseai-workshop/ United Nations General Assembly. (2024, July 1). Lethal autonomous weapons systems: Report of the Secretary-General (A/79/88). United Nations. https://digitallibrary.un.org/record/4059475 United States Congress. (2026). AI Guardrails Act of 2026, S. 4113, 119th Cong., 2nd Sess. United States Department of Defense. (2022, June). Responsible Artificial Intelligence Strategy and Implementation Pathway. https://media.defense.gov/2022/Jun/22/2003022604/-1/-1/0/Department-of- Defense-Responsible-Artificial-Intelligence-Strategy-and-Implementation-Pathway.pdf","changes":[],"passport":null}