Pulse · Documents · Колумбия · Палата представителей Колумбии

Law of Colombia on Ensuring Safety of Artificial Intelligence Use at Hydroelectric Plants

Por medio de la cual se establecen barreras de seguridad para el uso de inteligencia artificial en la operación de represas hidroeléctricas

law / bill no date 48 592 characters Artificial intelligence
No translation Download On the source site Original file
Current version. Last change recorded on 2026-10-29.

Bogotá, septiembre de 2026 Secretario(a) General

MIGUEL ÁNGEL SÁNCHEZ VÁSQUEZ

Cámara de Representantes Ciudad

Referencia: Radicación de proyecto de ley En mi condición de miembro del Congreso de la República me permito poner a consideración de la Honorable Cámara de Representantes el Proyecto de Ley “Por medio de la cual se establecen barreras de seguridad para el uso de inteligencia artificial en la operación de represas hidroeléctricas”, cuyo objeto es proteger la vida, las comunidades y los ecosistemas mediante obligaciones de prevención, control y recuperación frente a fallas de inteligencia artificial que incidan en funciones críticas de seguridad de estas instalaciones. Cordialmente, DAVID ALEJANDRO TORO RAMÍREZ

Representante a la Cámara

Pacto Histórico

PROYECTO DE LEY No. ____ DE 2026 CÁMARA

“Por medio de la cual se establecen barreras de seguridad para el uso de inteligencia artificial en la operación de represas hidroeléctricas”

EL CONGRESO DE COLOMBIA

DECRETA:

TÍTULO I. DISPOSICIONES GENERALES

ARTÍCULO 1. OBJETO. La presente ley establece barreras y obligaciones de seguridad para prevenir, controlar y reducir los riesgos derivados del uso de sistemas de inteligencia artificial en funciones críticas de seguridad de represas hidroeléctricas, y asegurar la capacidad de intervención y recuperación, con el fin de proteger la vida, las comunidades, los ecosistemas y la integridad de las instalaciones.

ARTÍCULO 2. DEFINICIONES. Para efectos de la presente ley se entenderá por:

1. Sistema de inteligencia artificial: sistema basado en máquinas que, para objetivos explícitos o implícitos, infiere a partir de la información que recibe cómo generar predicciones, recomendaciones o decisiones capaces de influir en entornos físicos o virtuales. Puede operar con distintos niveles de autonomía y presentar adaptación después de su puesta en funcionamiento. 2. Represa hidroeléctrica: conjunto funcional integrado por una presa, su embalse y las estructuras y equipos asociados al almacenamiento, conducción, regulación y descarga de agua, destinado total o parcialmente a la generación de energía eléctrica. 3. Operador: persona natural o jurídica que tenga a su cargo la operación de la represa hidroeléctrica. La contratación de actividades operativas no releva de sus obligaciones al titular de la instalación, de las autorizaciones o de los instrumentos ambientales, conforme al régimen aplicable. 4. Función crítica de seguridad: función cuya ejecución errónea, omisión o pérdida pueda causar una liberación peligrosa de agua, superar límites de seguridad estructural u operacional o producir daños graves a las personas, los ecosistemas o las instalaciones. Comprende las funciones de control, protección, monitoreo o alerta que sean determinantes para evitar tales consecuencias. 5. Barrera independiente: medida de protección cuya eficacia frente al escenario evaluado no dependa del mismo componente o modo de falla que deba controlar. Su independencia se determina mediante el análisis de las dependencias relevantes.

6. Estado seguro: condición operativa previamente definida y validada para limitar las consecuencias de una contingencia. No implica necesariamente detener los equipos ni cerrar o abrir todos los órganos de descarga. 7. Cambio sustancial: modificación del modelo, sus datos, parámetros, configuración, finalidad o integración que pueda alterar el riesgo, el desempeño o las condiciones de validación de una función crítica de seguridad. ARTÍCULO 3. ÁMBITO DE APLICACIÓN. La presente ley se aplica a los operadores públicos, privados o mixtos de represas hidroeléctricas ubicadas en el territorio nacional que utilicen inteligencia artificial en funciones críticas de seguridad, y a los proveedores en las obligaciones expresamente previstas en el artículo 11 de la presente Ley. Comprende los sistemas que ejecuten maniobras y aquellos cuyas recomendaciones se adopten para definir o modificar decisiones operativas con incidencia material en una función crítica. La intervención de una persona en la aprobación de una recomendación no excluye por sí sola la aplicación de esta ley. No comprende usos exclusivamente administrativos ni aplicaciones analíticas que carezcan de incidencia material en funciones críticas. Tampoco impone la adopción de inteligencia artificial.

TÍTULO II. OBLIGACIONES DE SEGURIDAD

ARTÍCULO 4. IDENTIFICACIÓN Y ANÁLISIS DEL RIESGO. El operador identificará y mantendrá actualizado el inventario de los sistemas comprendidos en esta ley y de las funciones críticas en las que intervengan. Antes de su puesta en servicio analizará los escenarios de falla y sus consecuencias, y definirá medidas de prevención, protección y recuperación. El análisis incluirá, como mínimo, la calidad y disponibilidad de los datos; errores o pérdida de sensores y comunicaciones; dependencias comunes; accesos o modificaciones no autorizados; desempeño en condiciones distintas de las previstas; interacción entre sistemas; y efectos sobre las comunidades y los ecosistemas del área de influencia. El análisis y sus medidas se integrarán a los instrumentos de gestión del riesgo, operación, mantenimiento y manejo ambiental exigibles a la instalación. Se reutilizará la información técnica válida disponible, sin crear planes paralelos con el mismo objeto.

ARTÍCULO 5. LÍMITES OPERATIVOS PROTEGIDOS. El operador identificará y documentará los límites esenciales de seguridad y las condiciones de activación de las protecciones, de conformidad con el diseño, las autorizaciones y los instrumentos aplicables. Su definición y modificación requerirán evaluación y autorización previa del responsable técnico competente, sin perjuicio de las aprobaciones que legalmente correspondan a una autoridad. Ningún sistema de inteligencia artificial podrá ampliar, deshabilitar o modificar autónomamente dichos límites o las condiciones que activan las protecciones. Esta restricción deberá asegurarse mediante controles técnicos y de acceso verificables. Las maniobras de emergencia deberán ajustarse a procedimientos previamente evaluados y validados. Su ejecución automática no habilita al sistema para redefinir los límites de seguridad.

ARTÍCULO 6. BARRERAS INDEPENDIENTES DE PROTECCIÓN. El operador implementará y mantendrá barreras independientes y proporcionadas a los escenarios identificados, que impidan que una misma falla del sistema de inteligencia artificial comprometa simultáneamente la función crítica y la protección destinada a contener sus consecuencias. La evaluación de independencia comprenderá, según el escenario, los sensores y datos, modelos y programas, comunicaciones, fuentes de energía, actuadores y demás dependencias físicas o digitales relevantes. La mera existencia de dos sistemas o proveedores diferentes no acreditará independencia. Podrán emplearse medidas físicas, electrónicas, lógicas u operativas, o su combinación, siempre que se demuestre su eficacia y oportunidad.

ARTÍCULO 7. CONTROL HUMANO E INTERVENCIÓN SEGURA. El operador designará personal cualificado, con autoridad, información y medios suficientes para supervisar los sistemas, identificar sus limitaciones, rechazar recomendaciones inseguras y activar los procedimientos de intervención y recuperación. La instalación deberá disponer de procedimientos probados para recuperar el control o alcanzar un estado seguro cuando el sistema falle o no pueda utilizarse con seguridad. Las protecciones automáticas independientes podrán actuar cuando el tiempo disponible no permita una respuesta humana oportuna. No se exigirá una operación manual técnicamente inviable ni una maniobra de desconexión que aumente el riesgo. El operador garantizará una alternativa segura frente a la pérdida del servicio del proveedor, de comunicaciones o de los componentes críticos identificados en el análisis.

ARTÍCULO 8. VALIDACIÓN Y CAMBIOS SUSTANCIALES. Antes de poner en servicio un sistema comprendido en esta ley, o de introducir un cambio sustancial, el operador evaluará sus efectos y realizará pruebas en simulación o en entornos controlados que no expongan indebidamente a las personas, los ecosistemas o la instalación.

La validación incluirá condiciones normales, contingencias y escenarios de falla relevantes, así como el funcionamiento de las barreras y la alternativa de recuperación. Se documentarán sus resultados, limitaciones y la decisión motivada de autorizar el uso. Las actualizaciones urgentes de seguridad se tramitarán mediante un procedimiento previamente establecido que permita evaluar su efecto, conservar las protecciones y verificar el resultado. La urgencia no autoriza a omitir la evaluación de seguridad ni a eliminar las barreras. El aprendizaje o ajuste durante la operación no podrá modificar las funciones críticas fuera del ámbito previamente validado. Cuando constituya un cambio sustancial requerirá una nueva validación.

ARTÍCULO 9. PRUEBAS PERIÓDICAS Y FORMACIÓN. El operador verificará periódicamente el funcionamiento de las barreras, la capacidad de intervención y recuperación y la coordinación de la respuesta a emergencias. Las pruebas serán proporcionales al riesgo y no podrán introducir peligros injustificados. El personal responsable recibirá formación y entrenamiento periódico sobre las capacidades y limitaciones del sistema, interpretación de alertas, rechazo de recomendaciones inseguras y respuesta a contingencias.

ARTÍCULO 10. TRAZABILIDAD Y EVIDENCIA DE CUMPLIMIENTO. El operador conservará documentación suficiente para reconstruir las decisiones relevantes para la seguridad tales como versiones y cambios autorizados, validaciones, eventos y alertas, actuaciones automáticas e intervenciones humanas, pruebas de barreras, acciones correctivas y las demás que sean relevantes. Los registros deberán contar con medidas de integridad, control de acceso y disponibilidad para la autoridad competente. Se conservarán durante un mínimo de cinco (5) años desde su generación y, cuando estén vinculados a una investigación o actuación en curso, hasta su terminación definitiva, sin perjuicio de plazos superiores previstos en otras normas. La recolección se limitará a la información necesaria para estos fines y observará las normas sobre datos personales, información reservada y secretos empresariales. Las reservas legalmente procedentes no impedirán el acceso de las autoridades habilitadas por la ley, sujetas a los deberes de protección correspondientes.

ARTÍCULO 11. OBLIGACIONES DE LOS PROVEEDORES. Quienes suministren o integren sistemas de inteligencia artificial destinados a las funciones comprendidas en esta ley deberán entregar al operador información suficiente sobre su finalidad, condiciones de uso, limitaciones conocidas, requisitos de datos e infraestructura y procedimientos de actualización, soporte y recuperación.

Los proveedores deberán comunicar sin demora injustificada las vulnerabilidades, fallas o cambios que conozcan y que puedan afectar la seguridad del sistema suministrado, y cooperar con el operador y las autoridades competentes en el análisis de incidentes, dentro del ámbito de sus responsabilidades. Los contratos deberán asegurar el acceso a los registros y documentación necesarios para cumplir esta ley, definir la disponibilidad y duración del soporte y prever una transición segura ante la terminación del servicio. El operador verificará estas condiciones antes de habilitar el sistema. La contratación no transfiere al proveedor los deberes de seguridad que corresponden al operador.

ARTÍCULO 12. INCIDENTES Y PROTECCIÓN DE LAS COMUNIDADES. Cuando un incidente o una pérdida de control pueda comprometer una función crítica, el operador activará de inmediato los procedimientos aplicables, adoptará las medidas necesarias para proteger a las personas y al ambiente, preservará la evidencia y notificará sin demora injustificada a las autoridades de vigilancia, ambientales y de gestión del riesgo competentes, según sus respectivos ámbitos. Las alertas a las comunidades se emitirán conforme a los protocolos de emergencia, sin esperar a determinar la causa informática o a recibir confirmación del proveedor. Deberán ser oportunas, comprensibles y accesibles, y articularse con las autoridades territoriales. Cuando el operador no pueda acreditar condiciones suficientes de seguridad, restringirá o suspenderá el uso del sistema afectado y ejecutará la alternativa validada. La suspensión tecnológica no se realizará mediante una maniobra que agrave el peligro. El operador incorporará a los mecanismos existentes de información y preparación comunitaria los escenarios pertinentes derivados del uso de inteligencia artificial, sin divulgar información cuya reserva esté prevista en la ley.

TÍTULO III. VIGILANCIA E IMPLEMENTACIÓN

ARTÍCULO 13. INSPECCIÓN, VIGILANCIA Y CONTROL. La Superintendencia de Servicios Públicos

Domiciliarios verificará el cumplimiento de las obligaciones de esta ley respecto de los operadores sometidos a su vigilancia. Para este efecto podrá requerir los soportes de cumplimiento y ejercer las facultades de inspección y control previstas en las leyes 142 y 143 de 1994. El incumplimiento de las obligaciones exigibles previstas en esta ley por tales operadores dará lugar a la aplicación del régimen sancionatorio del artículo 81 de la Ley 142 de 1994, con observancia del debido proceso, la proporcionalidad y la prohibición de sancionar dos veces por el mismo fundamento. Las autoridades ambientales y de gestión del riesgo conservarán sus atribuciones legales y actuarán dentro de sus respectivos ámbitos.

Las medidas que incidan en la operación deberán considerar sus efectos sobre la seguridad hidráulica, las comunidades y la continuidad del servicio. Las responsabilidades contractuales, civiles, penales, fiscales, disciplinarias y ambientales se determinarán conforme a sus regímenes propios.

ARTÍCULO 14. REGLAMENTACIÓN. El Gobierno nacional, por conducto del Ministerio de Minas y Energía y con la participación de las autoridades ambientales, de gestión del riesgo y de servicios públicos competentes, reglamentará esta ley dentro de los doce (12) meses siguientes a su promulgación. La reglamentación desarrollará los criterios de evaluación y validación, independencia de barreras, periodicidad de pruebas, cualificación del personal, conservación de evidencia y articulación de reportes. Graduará las exigencias según las consecuencias potenciales de falla, características de la instalación, complejidad del sistema y capacidades de respuesta. En su elaboración se promoverá la participación de comunidades potencialmente afectadas, operadores de diferentes escalas, academia y expertos independientes. Podrán reconocerse evaluaciones técnicamente equivalentes para evitar duplicidades, sin reducir las obligaciones de seguridad ni modificar competencias legales.

ARTÍCULO 15. IMPLEMENTACIÓN Y TRANSICIÓN. Desde la promulgación serán exigibles la prohibición de modificación autónoma de los límites y protecciones prevista en el artículo 5 y la preservación de la información disponible pertinente para la seguridad. Para los sistemas en funcionamiento al momento de la promulgación, las restantes adecuaciones previstas en esta ley deberán completarse dentro de los treinta (30) meses siguientes a esa fecha. Dentro de los primeros (6) seis meses el operador elaborará el inventario y establecerá un cronograma de adecuación basado en el riesgo. Los sistemas que se pongan en servicio después de la promulgación y los cambios sustanciales que se introduzcan deberán cumplir desde su habilitación los requisitos de seguridad, análisis, validación y recuperación previstos en esta ley.

ARTÍCULO 16. VIGENCIA. La presente ley rige a partir de su promulgación y deroga las que le sean contrarias.

DAVID ALEJANDRO TORO RAMÍREZ

Representante a la Cámara

Pacto Histórico

EXPOSICIÓN DE MOTIVOS

La exposición de motivos comprende: I. Objeto del proyecto de ley; II. Antecedentes; III. Marco constitucional, legal y jurisprudencial; IV. Justificación; V. Impacto fiscal; VI. Descripción del proyecto; VII. Conflicto de interés; y VIII. Consideraciones finales.

I. OBJETO DEL PROYECTO DE LEY

La iniciativa establece condiciones de seguridad para el uso de inteligencia artificial cuando sus resultados intervengan materialmente en la operación segura de una represa hidroeléctrica. Su finalidad es que la incorporación de estas herramientas preserve la protección de la vida, las comunidades y los ecosistemas, mediante límites operativos protegidos, barreras independientes y capacidad de intervención y recuperación.

El proyecto se concentra en funciones críticas. Comprende tanto la ejecución automática de maniobras como las recomendaciones que inciden materialmente en ellas. Deja fuera los usos administrativos sin esa incidencia y permite que cada operador seleccione soluciones técnicamente adecuadas a su instalación. La obligación consiste en demostrar seguridad, no en adquirir una tecnología o contratar una marca determinada.

II. ANTECEDENTES

Colombia cuenta con deberes generales de prevención aplicables a infraestructuras capaces de ocasionar desastres. El artículo 42 de la Ley 1523 de 2012 exige a las entidades públicas y privadas comprendidas en su ámbito analizar el riesgo derivado de su infraestructura y operación e implementar medidas de reducción y planes de emergencia y contingencia. Por ello, la presente iniciativa parte de obligaciones existentes y procura precisar su aplicación ante decisiones operativas mediadas por inteligencia artificial.1

En el sector eléctrico, la seguridad y la adaptación tecnológica forman parte de la misma responsabilidad de prestación. La Ley 143 de 1994 exige una operación segura y confiable y vincula el mantenimiento de instalaciones con la integridad de personas, bienes y ambiente. Su principio de adaptabilidad reconoce el aporte de la ciencia y la tecnología a la calidad y eficiencia. El proyecto desarrolla esa convivencia mediante condiciones específicas de uso seguro.2

El antecedente técnico relevante es la aparición de herramientas de aprendizaje automático capaces de proponer decisiones de operación de embalses. El trabajo de Wu y colaboradores formula una 1 Congreso de Colombia. (2012). Ley 1523 de 2012, por la cual se adopta la política nacional de gestión del riesgo de desastres y se establece el Sistema Nacional de Gestión del Riesgo de Desastres y se dictan otras disposiciones (art. 42). https://gestornormativo.creg.gov.co/gestor/entorno/docs/ley_1523_2012.htm 2 Congreso de Colombia. (1994). Ley 143 de 1994, por la cual se establece el régimen para la generación, interconexión, transmisión, distribución y comercialización de electricidad en el territorio nacional (arts. 4, 6 y 9). https://gestornormativo.creg.gov.co/gestor/entorno/docs/ley_0143_1994.htm optimización de objetivos de generación, protección ecológica y abastecimiento para los embalses Mead y Powell. Se trata de una prepublicación con resultados experimentales: muestra una aplicación posible, pero no acredita despliegue autónomo seguro en una central colombiana ni demuestra la superioridad universal de ese enfoque.3

La novedad de esta propuesta reside en establecer un conjunto sectorial de obligaciones verificables: impedir modificaciones autónomas de los límites esenciales, evaluar dependencias entre control y protección, validar cambios, preservar registros y asegurar una alternativa de recuperación. Su justificación no depende de proclamar inexistente toda regulación previa ni de atribuir a la inteligencia artificial emergencias originadas por otras causas.

III. MARCO CONSTITUCIONAL, LEGAL Y JURISPRUDENCIAL

Los artículos 2, 79 y 80 de la Constitución sustentan el deber de proteger la vida, garantizar un ambiente sano y prevenir el deterioro ambiental. Los artículos 333 y 334 permiten armonizar la iniciativa económica con el interés general, mientras el artículo 365 vincula la prestación de servicios públicos con la finalidad social del Estado. De estas disposiciones se deriva un fundamento para exigir diligencia y condiciones de seguridad a quienes incorporan nuevas herramientas a una actividad con posibles efectos colectivos.4

Las reglas propuestas complementan el análisis específico de riesgo y los planes exigidos por la legislación colombiana. Su integración documental evita que una empresa deba producir un segundo plan para describir el mismo peligro, pero no permite omitir el examen de riesgos tecnológicos nuevos. La existencia de un instrumento aprobado tampoco convierte en irrelevante una modificación posterior del sistema que interviene en una función crítica.

El capítulo 2.3.1.5 del Decreto 1081 de 2015, adicionado por el Decreto 2157 de 2017, desarrolla el Plan de Gestión del Riesgo de Desastres de las Entidades Públicas y Privadas y su articulación con sistemas de gestión existentes. Este antecedente confirma que la integración propuesta tiene un soporte reglamentario. La presente ley añade obligaciones operativas frente a fallas y accesos no autorizados, sin modificar las definiciones generales ni equiparar automáticamente todo ataque intencional a los supuestos del régimen de desastres.5

Por su parte, el artículo 2.2.2.3.9.1 del Decreto 1076 de 2015 contempla el seguimiento de las medidas ambientales, los planes de contingencia y las obligaciones de la licencia o del plan de manejo

3 Wu, R., Wang, R., Hao, J., Wu, Q., & Wang, P. (2023). Multiobjective hydropower reservoir operation optimization with transformer-based deep reinforcement learning [Prepublicación]. arXiv. https://arxiv.org/abs/2307.05643 4 Asamblea Nacional Constituyente. (1991). Constitución Política de Colombia (arts. 2, 79, 80, 150, 154, 158, 333, 334 y 365). https://www.funcionpublica.gov.co/eva/gestornormativo/norma.php?i=4125 5 Presidencia de la República de Colombia. (2015). Decreto 1081 de 2015, Decreto Reglamentario Único del Sector Presidencia de la República (capítulo 2.3.1.5, adicionado por el Decreto 2157 de 2017). https://normograma.sena.edu.co/compilacion/docs/decreto_1081_2015.htm ambiental. El proyecto preserva ese control y exige que las modificaciones tecnológicas se examinen junto con sus consecuencias físicas y ambientales. No crea una autorización de IA que sustituya las decisiones ambientales exigibles.6

La vigilancia se conecta con la estructura sectorial existente. Los artículos 79 y 81 de la Ley 142 regulan funciones de la Superintendencia de Servicios Públicos Domiciliarios y el régimen sancionatorio aplicable a sus sujetos vigilados. El artículo 13 propuesto explicita el control de estas obligaciones frente a los operadores sometidos a esa vigilancia, sin convertir a todos los proveedores de programas informáticos en prestadores de servicios públicos ni trasladar facultades ambientales a la Superintendencia.7

IV. JUSTIFICACIÓN

1. La seguridad debe acompañar la incorporación de inteligencia artificial

Una decisión sobre almacenamiento o descarga de agua puede repercutir fuera de la instalación donde se adopta. Cuando un sistema produce recomendaciones o maniobras con esa capacidad, la evaluación de su utilidad debe considerar las consecuencias de equivocarse. La precisión promedio puede ser valiosa para comparar modelos, pero no responde por sí sola si una decisión concreta mantendrá la operación dentro de condiciones seguras.

La literatura de aprendizaje por refuerzo seguro distingue entre maximizar una recompensa y respetar restricciones durante el aprendizaje y el uso. García y Fernández sistematizan enfoques que modifican el criterio de optimización o el proceso de exploración para incorporar seguridad. Su revisión permite sustentar una decisión legislativa concreta: el sistema no debe poder cambiar por sí mismo las restricciones cuya función es contener el daño, aunque hacerlo mejore un indicador de desempeño.8

Brunke y colaboradores, en una revisión sobre control basado en aprendizaje y robótica, examinan métodos para mejorar desempeño bajo incertidumbre y métodos dirigidos a certificar la seguridad de una política aprendida. El traslado al ámbito hidroeléctrico es una inferencia de ingeniería, no un resultado probado por ese artículo. Su aporte consiste en mostrar por qué una evaluación de desempeño debe acompañarse de validación y condiciones de seguridad para sistemas que actúan sobre el entorno físico.9

6 Presidencia de la República de Colombia. (2015). Decreto 1076 de 2015, Decreto Único Reglamentario del Sector Ambiente y Desarrollo Sostenible (art. 2.2.2.3.9.1). https://normograma.sena.edu.co/compilacion/docs/decreto_1076_2015.htm 7 Congreso de Colombia. (1994). Ley 142 de 1994, por la cual se establece el régimen de los servicios públicos domiciliarios y se dictan otras disposiciones (arts. 79 y 81). https://gestornormativo.creg.gov.co/gestor/entorno/docs/ley_0142_1994.htm 8 García, J., & Fernández, F. (2015). A comprehensive survey on safe reinforcement learning. Journal of Machine Learning Research, 16(42), 1437–1480. https://jmlr.org/papers/v16/garcia15a.html 9 Brunke, L., Greeff, M., Hall, A. W., Yuan, Z., Zhou, S., Panerati, J., & Schoellig, A. P. (2022). Safe learning in robotics: From learning-based control to safe reinforcement learning. Annual Review of Control, Robotics, and Autonomous Systems, 5, 411– 444. https://doi.org/10.1146/annurev-control-042920-020211

La propuesta no presume que una herramienta de inteligencia artificial sea necesariamente menos segura que una decisión humana. Una aplicación bien diseñada puede mejorar predicciones y detectar anomalías. La cuestión regulatoria es otra: establecer quién verifica su aptitud, qué límites conserva y qué ocurre cuando sus supuestos dejan de cumplirse. Estas preguntas justifican obligaciones previas a la habilitación, sin exigir que primero ocurra un accidente atribuible a esa tecnología.

2. Las barreras deben poder resistir la falla que pretenden controlar

La guía de seguridad de tecnología operacional del NIST explica que los sistemas de seguridad pueden diseñarse de forma independiente para que una falla del control básico no anule su función. También sitúa la seguridad informática dentro de exigencias de fiabilidad y seguridad física propias del entorno industrial. Este enfoque respalda analizar las dependencias entre operación y protección, en lugar de confundir independencia con la compra de equipos adicionales.10

Como criterio de diseño del proyecto, dos aplicaciones que usan la misma información errónea pueden producir respuestas coincidentes sin ofrecer una protección efectiva. La independencia debe evaluarse frente al escenario concreto: no basta contar programas, sensores o proveedores. Por esa razón, el artículo 6 exige justificar la eficacia de las barreras y permite combinaciones de medidas; no ordena una duplicación indiscriminada que podría incrementar costos sin resolver la causa común de falla.

La recuperación también requiere una definición operacional. Un estado seguro puede exigir mantener activos determinados equipos o ejecutar una secuencia controlada de maniobras. La ley no fija esa secuencia para todas las represas: exige que el operador la defina y la pruebe. Así se evita que la obligación jurídica de intervenir se interprete como un apagado instantáneo que ignore las condiciones hidráulicas y el tiempo de respuesta disponible.

3. La responsabilidad debe mantenerse durante toda la vida del sistema

El marco de gestión de riesgos de IA del NIST organiza la actuación en gobernar, identificar el contexto, medir y gestionar. Incluye inventarios, responsabilidades, revisión periódica y contingencias ante fallas de terceros; además, contempla el retiro seguro de sistemas. Es un marco voluntario, no una obligación colombiana. Sus categorías orientan aquí la traducción de principios generales en evidencias concretas de cumplimiento y gestión de proveedores.11

10 Stouffer, K., Pease, M., Tang, C., Zimmerman, T., Pillitteri, V., Lightman, S., Hahn, A., Saravia, S., Sherule, A., & Thompson, M. (2023). Guide to operational technology (OT) security (NIST SP 800-82 Rev. 3, sección 2.3.7, p. 25). National Institute of Standards and Technology. https://doi.org/10.6028/NIST.SP.800-82r3 11 National Institute of Standards and Technology. (2023). Artificial intelligence risk management framework (AI RMF 1.0) (NIST AI 100-1, funciones GOVERN, MAP, MEASURE y MANAGE). National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-1

Una validación inicial pierde valor si una actualización altera el modelo, la calidad de los datos o su conexión con equipos físicos. De ahí que el proyecto regule cambios sustanciales y conserve el historial de versiones. El mismo criterio se aplica al aprendizaje durante la operación: la capacidad de adaptación no puede convertirse en una autorización abierta para cambiar la conducta de una función crítica sin evaluar sus efectos.

La Recomendación de la UNESCO sobre la ética de la inteligencia artificial vincula proporcionalidad, prevención del daño, seguridad y supervisión humana. Sus párrafos 35 y 36 insisten en que la responsabilidad debe poder atribuirse a personas físicas o jurídicas y no ser desplazada al sistema. Este instrumento de orientación internacional apoya conservar un responsable identificable aun cuando la decisión se apoye en una herramienta automatizada.12

El artículo 7 traduce ese criterio en autoridad, información y medios efectivos para intervenir. La firma rutinaria de una recomendación no basta si quien la aprueba desconoce sus límites o carece de una alternativa. Al mismo tiempo, se reconoce que una protección automática independiente puede responder más rápido que una persona. El control humano comprende el gobierno del sistema y de sus límites, sin impedir protecciones oportunas.

4. Las comunidades deben recibir protección e información útil

El Marco de Sendai plantea comprender el riesgo, fortalecer su gobernanza, invertir en resiliencia y preparar la respuesta. Su orientación abarca la reducción de pérdidas humanas, económicas, sociales y ambientales. Este compromiso internacional de política pública respalda incorporar la prevención a la operación ordinaria y preparar a quienes pueden resultar afectados, en vez de limitar la actuación estatal a la atención posterior de la emergencia.13

La perspectiva de las comunidades está documentada por organizaciones de la sociedad civil. En un comunicado de 2019, AIDA recogió las denuncias de Ríos Vivos y de organizaciones acompañantes sobre impactos de Hidroituango y dificultades de rendición de cuentas ante sus financiadores. El documento se cita como posición de las organizaciones, no como sentencia ni prueba de una falla de IA. Su relevancia para esta iniciativa es evidenciar la necesidad de información, preparación y responsabilidades accesibles para la población expuesta.14

12 Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. (2021). Recomendación sobre la ética de la inteligencia artificial (párrs. 25–27 y 35–36). https://www.unesco.org/en/legal-affairs/recommendation-ethics-artificialintelligence 13 Oficina de las Naciones Unidas para la Reducción del Riesgo de Desastres. (2015). Marco de Sendai para la reducción del riesgo de desastres 2015–2030. https://www.undrr.org/publication/sendai-framework-disaster-risk-reduction-2015-2030 14 Asociación Interamericana para la Defensa del Ambiente. (2019, 3 de septiembre). Banco Interamericano de Desarrollo evade su responsabilidad por la riesgosa represa Hidroituango y las violaciones de derechos humanos relacionadas con ella [Comunicado de organizaciones de la sociedad civil]. https://aida-americas.org/es/prensa/banco-interamericano-de-desarrolloevade-su-responsabilidad-por-la-riesgosa-represa

El proyecto incorpora esta dimensión en una regla sencilla: una alerta necesaria no puede esperar a que se esclarezca la causa informática o a que responda el proveedor. Las comunidades requieren conocer qué hacer y por qué canal recibirán información. La coordinación debe utilizar los protocolos existentes y adaptar la comunicación a las condiciones territoriales y de accesibilidad, sin divulgar datos cuya reserva esté legalmente justificada.

5. Experiencia comparada y alcance de sus aportes

La experiencia internacional ofrece fundamentos complementarios: regulación de IA con incidencia en seguridad y regulación de la seguridad de presas. Los referentes examinados no constituyen un tratado que obligue a Colombia a adoptar este articulado ni acreditan que exista una solución universal. Permiten identificar obligaciones razonables y adaptarlas a la distribución de responsabilidades del país.

Unión Europea. El anexo III, numeral 2, del Reglamento (UE) 2024/1689 contempla sistemas de IA utilizados como componentes de seguridad en la gestión y funcionamiento del suministro de agua o electricidad, entre otras infraestructuras. Sus artículos 9 a 15 desarrollan gestión de riesgos, documentación, registros, supervisión y robustez. El precedente es funcional: la exigencia reforzada depende del uso y del riesgo, no de que todo programa de una empresa energética sea automáticamente crítico. Este proyecto recoge esa delimitación sin importar íntegramente el régimen europeo de clasificación y conformidad.15

España. El Real Decreto 264/2021 aprueba normas técnicas para presas y embalses. En el anexo II, apartado 10.1, prevé accionamientos redundantes y alimentación independiente para órganos de desagüe; el apartado 20.1 desarrolla fuentes independientes para presas de categorías A y B. El anexo III regula explotación y revisiones. Este es un antecedente directo de independencia de protecciones y control continuado de seguridad, aunque no sea una regulación específica de IA. La adaptación propuesta permite acreditar medidas equivalentes según el riesgo de cada instalación.16

Brasil. La Lei nº 12.334 de 2010, reformada por la Lei nº 14.066 de 2020, articula planes de seguridad, inspecciones, revisiones periódicas y planes de acción de emergencia, bajo condiciones de aplicación propias. El artículo 17 fija obligaciones del emprendedor. Su aporte es situar la responsabilidad y los recursos de seguridad en quien desarrolla la actividad y relacionar prevención con preparación de 15 Parlamento Europeo y Consejo de la Unión Europea. (2024). Reglamento (UE) 2024/1689, por el que se establecen normas armonizadas en materia de inteligencia artificial (arts. 6, 9–15 y 26; anexo III, numeral 2). Diario Oficial de la Unión Europea. https://eur-lex.europa.eu/eli/reg/2024/1689/oj?locale=es 16 Gobierno de España. (2021). Real Decreto 264/2021, de 13 de abril, por el que se aprueban las normas técnicas de seguridad para las presas y sus embalses (anexos II, apartados 10 y 20, y III). Boletín Oficial del Estado, 89. https://www.boe.es/eli/es/rd/2021/04/13/264/con emergencias. No se trasladan a Colombia las categorías, umbrales o sanciones brasileñas de manera automática.17

Estados Unidos. El régimen de la FERC contenido en 18 C.F.R. part 12 establece, para los proyectos sometidos a su ámbito, planes de emergencia y revisiones por consultores independientes. La subparte D exige examinar potenciales deficiencias de las obras y de su operación, y documentar resultados. Este referente muestra que la evidencia técnica y la revisión especializada tienen precedentes sectoriales. No significa que toda represa estadounidense quede sujeta a idénticas reglas ni que se haya creado allí un régimen federal específico de IA hidroeléctrica.18

De la comparación se desprende una opción normativa proporcionada: fijar por ley un núcleo de obligaciones estables y permitir que su desarrollo técnico se gradúe según consecuencias de falla y características de la instalación. El proyecto no convierte las guías internacionales en normas obligatorias por una remisión abierta ni obliga a adquirir certificaciones extranjeras.

6. Necesidad, proporcionalidad e impacto esperado

Mantener únicamente deberes generales ofrece flexibilidad, pero deja menos explícito qué evidencia debe producir un operador respecto de cambios autónomos, dependencias comunes o recuperación de un sistema de IA. Una prohibición absoluta descartaría usos potencialmente útiles. La opción escogida permite utilizarlos bajo condiciones verificables y concentra el esfuerzo en funciones cuya falla puede ocasionar daños graves.

La graduación no se limita a la potencia instalada. Una instalación de menor tamaño puede exigir medidas relevantes si sus consecuencias de falla son graves. Por ello, la reglamentación debe considerar exposición de comunidades, complejidad de la operación y capacidad de respuesta. Se permite reutilizar evaluaciones válidas y acreditar equivalencias, manteniendo el nivel de protección requerido.

Los resultados esperados son una mejor identificación de funciones críticas, mayor trazabilidad de decisiones, detección de fallas de protección y capacidad demostrable de recuperación. No se atribuye a la ley una reducción porcentual de accidentes sin una línea de base que permita sostenerla. El seguimiento puede apoyarse en inventarios completos, pruebas realizadas, hallazgos corregidos y disponibilidad de procedimientos de contingencia.

La transición conserva obligaciones inmediatas de no alterar autónomamente los límites esenciales y exige un inventario temprano. Las adecuaciones de sistemas existentes tienen un plazo máximo

17 Presidência da República do Brasil. (2010). Lei nº 12.334, de 20 de setembro de 2010 (texto consolidado con las modificaciones de la Lei nº 14.066 de 2020; arts. 8, 9, 11, 12 y 17). https://www.planalto.gov.br/ccivil_03/_ato2007- 2010/2010/lei/l12334.htm 18 Federal Energy Regulatory Commission. (s. f.). Safety of water power projects and project works. 18 C.F.R. part 12, subparts C, D y F. Electronic Code of Federal Regulations. Recuperado el 14 de septiembre de 2026, de https://www.ecfr.gov/current/title-18/chapter-I/subchapter-B/part-12 contado desde la promulgación, para que una demora reglamentaria no las postergue indefinidamente. Los nuevos usos y cambios sustanciales deben cumplir las condiciones de seguridad desde su habilitación. Esta diferencia evita consolidar nuevas dependencias inseguras durante la transición.

V. IMPACTO FISCAL

La iniciativa no crea entidades, fondos, subsidios, beneficios tributarios ni transferencias presupuestales, y asigna los costos de cumplimiento a los operadores.

El artículo 7 de la Ley 819 de 2003 exige hacer explícitos los costos fiscales y su financiación cuando una iniciativa ordene gasto o conceda beneficios tributarios, y verificar su compatibilidad con el Marco Fiscal de Mediano Plazo. La presente propuesta no contiene una apropiación ni una autorización específica de gasto público. No obstante, los efectos de cumplimiento sobre empresas públicas y vigilancia requieren evaluación durante el trámite.19

El análisis fiscal durante el trámite deberá distinguir costos privados de efectos sobre presupuestos públicos y examinar, cuando corresponda, la compatibilidad con el Marco Fiscal de Mediano Plazo.

Se trae a colación lo dicho por la Corte Constitucional en la Sentencia C-502 de 2007, en la que expresó que los requisitos establecidos en el artículo 7° de la Ley 819 de 2003 se constituyen como instrumentos de racionalización de la actividad legislativa que no pueden limitar el ejercicio de la función legislativa por parte del Congreso de la República ni pueden otorgar un poder de veto al Ministerio de Hacienda y Crédito Público en relación con el trámite y aprobación de los proyectos de ley, pues ello vulneraría la autonomía del legislador y el principio de separación de las ramas del poder público. Así mismo, señaló que es el Ministerio de Hacienda y Crédito Público el principal responsable de cumplir los requisitos establecidos en el artículo 7° de la Ley 819 de 2003:

“Por todo lo anterior, la Corte considera que los primeros tres incisos del art. 7° de la Ley 819 de 2003 deben entenderse como parámetros de racionalidad de la actividad legislativa, y como una carga que le incumbe inicialmente al Ministerio de Hacienda, una vez que el Congreso ha valorado, con la información y las herramientas que tiene a su alcance, las incidencias fiscales de un determinado proyecto de ley. Esto significa que ellos constituyen instrumentos para mejorar la labor legislativa.

Es decir, el mencionado artículo debe interpretarse en el sentido de que su fin es obtener que las leyes que se dicten tengan en cuenta las realidades macroeconómicas, pero sin crear barreras insalvables en el ejercicio de la función legislativa ni crear un poder de veto legislativo en cabeza del ministro de Hacienda. Y en ese proceso de racionalidad legislativa la carga principal reposa en el Ministerio de Hacienda, que es el que cuenta con los datos, los equipos de funcionarios y la experticia en materia económica. Por lo tanto, en el caso de que 19 Congreso de Colombia. (2003). Ley 819 de 2003, por la cual se dictan normas orgánicas en materia de presupuesto, responsabilidad y transparencia fiscal y se dictan otras disposiciones (art. 7). https://normograma.invima.gov.co/compilacion/docs/ley_0819_2003.htm los congresistas tramiten un proyecto incorporando estimativos erróneos sobre el impacto fiscal, sobre la manera de atender esos nuevos gastos o sobre la compatibilidad del proyecto con el Marco Fiscal de Mediano Plazo, le corresponde al ministro de Hacienda intervenir en el proceso legislativo para ilustrar al Congreso acerca de las consecuencias económicas del proyecto. Y el Congreso habrá de recibir y valorar el concepto emitido por el Ministerio. No obstante, la carga de demostrar y convencer a los congresistas acerca de la incompatibilidad de cierto proyecto con el Marco Fiscal de Mediano Plazo recae sobre el ministro de Hacienda” (subrayado fuera del original).

VI. DESCRIPCIÓN DEL PROYECTO

El proyecto contiene dieciséis artículos, organizados en tres títulos. Los artículos 1 a 3 definen su objeto, conceptos y ámbito. Delimitan la intervención material de la IA para que la regulación no se extienda indiscriminadamente a todas las herramientas informáticas de una empresa.

Los artículos 4 a 7 conforman el núcleo preventivo: inventario y análisis, límites operativos protegidos, barreras independientes y control humano con capacidad de recuperación. Los artículos 8 y 9 regulan validación, cambios, pruebas y formación; el artículo 10 exige evidencia trazable, y el 11 establece obligaciones de información y cooperación de los proveedores.

El artículo 12 articula respuesta, alertas y protección comunitaria. El artículo 13 conecta la vigilancia y las consecuencias del incumplimiento con el régimen de servicios públicos para los operadores sujetos a él, preservando competencias ambientales y de gestión del riesgo. Los artículos 14 a 16 establecen desarrollo reglamentario, transición, costos y vigencia, sin derogatorias generales que generen incertidumbre sobre las obligaciones existentes.

VII. CONFLICTO DE INTERÉS

La iniciativa contiene reglas generales sobre seguridad operacional. No identifica beneficiarios individuales ni exime a sujetos determinados de obligaciones. Sin embargo, esa generalidad no descarta por sí sola la existencia de conflictos de interés. Cada congresista deberá evaluar si concurren circunstancias que puedan generar un beneficio particular, actual y directo conforme al artículo 286 de la Ley 5 de 1992 y sus modificaciones.20

Sobre el conflicto de interés el Consejo de Estado se ha pronunciado en Sentencia del año 2022, estableciendo que:

“Siempre que se produzca un resultado provechoso por el simple ejercicio de una función oficial, que convenga al agente o a otra persona allegada, en el orden moral o material, surgirá

20 Congreso de Colombia. (1992). Ley 5 de 1992, por la cual se expide el Reglamento del Congreso; el Senado y la Cámara de Representantes (arts. 145 y 286, con sus modificaciones). https://www.funcionpublica.gov.co/eva/gestornormativo/norma.php?i=11368 un conflicto de intereses. Si la ley protege el interés, será lícito; pero si se persigue con fines personales, particulares, que sobrepasen el interés social, será ilícito”. También el Consejo de Estado el año 2010 sobre el conflicto de interés, conceptuó:

“La institución del conflicto de intereses apunta a trazar un límite entre el ejercicio legítimo de la función legislativa y el aprovechamiento de esta función por parte del congresista para obtener beneficios personales o en favor de aquellas personas allegadas que determina la ley. Así las cosas, no se presenta conflicto entre el interés personal del congresista y el interés general cuando la ley tiene por destinataria a la generalidad de la sociedad, en abstracto, hipótesis en la cual quedan incluidos los amplios sectores sociales que son objeto de determinadas leyes, como por ejemplo las minorías étnicas o culturales, las profesiones, los contribuyentes o, como el caso que nos ocupa, las víctimas de la violencia en Colombia. No sería razonable, por consiguiente, afirmar que por el hecho de ser abogado un congresista estaría impedido para participar en la aprobación de una ley que expida el estatuto de esa profesión; que por ser indígena estaría impedido para participar en el trámite de la ley orgánica que reglamente las entidades territoriales indígenas; que por ser propietario estaría impedido para intervenir en la discusión de una ley sobre impuesto predial; o que por encajar en la definición legal de víctima del conflicto estaría impedido para intervenir en los debates a un proyecto de ley que establece de manera general las reglas de resarcimiento a las víctimas de la violencia en Colombia. En todos estos casos, ciertamente, podría el congresista derivar de la ley en cuya discusión interviene un beneficio personal, pero no por la circunstancia de ser miembro del Congreso ni porque la ley se dirija a un grupo de personas tan restringido y exclusivo (y por tanto excluyente) que convierta al congresista en un destinatario predilecto. En los anteriores ejemplos las leyes no se dirigen a todos los colombianos sino a grupos muy significativos: los abogados, los indígenas, los propietarios de inmuebles, las víctimas del conflicto. No todos los congresistas forman parte necesariamente de estos grupos, pero por la amplitud social de dichos sectores en la nación y la generalidad de las prescripciones de la ley a ellos dirigida, normalmente algunos de los congresistas podrían quedar incluidos. Pues bien, en estos casos no cabe la figura de conflicto de intereses, pues a pesar de que un congresista podría convertirse en destinatario de alguna de las disposiciones legales, tal hecho no obedece a que la ley busque favorecerlo directa, exclusiva y especialmente.” En consecuencia, se considera que la Ley y la jurisprudencia han dado los criterios orientadores que determinan circunstancias en las cuales se podría estar incurso en un conflicto de interés. Para lo cual será necesario que respecto del asunto objeto de conocimiento de parte del congresista (discusión o votación) se reporte un beneficio en el que concurran tres características simultáneas, a saber, ser actual, particular y directo. Define la Ley también las circunstancias bajo las cuales se considera que no existe un conflicto de interés, en esa medida, se señala que aun cuando el congresista pueda reportar un beneficio, pero este se funde en el interés general, en el interés de sus electores, se dará lugar a que no exista tal conflicto.

VIII. CONSIDERACIONES FINALES

Presento esta iniciativa para que el aprovechamiento de la inteligencia artificial en la operación hidroeléctrica esté acompañado de obligaciones claras de seguridad y de una responsabilidad que pueda hacerse efectiva. La protección de la vida y de los ecosistemas exige conocer las consecuencias de falla y conservar capacidad de actuar cuando una herramienta deja de responder como se esperaba.

La propuesta permite incorporar innovación bajo controles proporcionados, integra la evidencia con los instrumentos existentes y evita que la tercerización o la automatización diluyan los deberes de quien opera. Por estas razones, someto a consideración del Congreso de la República el presente proyecto de ley.

DAVID ALEJANDRO TORO RAMÍREZ

Representante a la Cámara

Pacto Histórico