Pulse · Documents · Колумбия · Палата представителей Колумбии
Colombia: Law Requiring Human Oversight for Administrative Decisions Using Artificial Intelligence
Por medio de la cual se adiciona la Ley 1437 de 2011 para garantizar el control humano significativo en determinadas decisiones administrativas que utilicen inteligencia artificial.
Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso
Bogotá, D. C., septiembre de 2026
Secretario General
MIGUEL ÁNGEL SÁNCHEZ VÁSQUEZ
Cámara de Representantes Ciudad
Referencia: Radicación de Proyecto de Ley
En mi condición de miembro del Congreso de la República me permito poner a consideración de la Honorable Cámara de Representantes el Proyecto de Ley “Por medio de la cual se adiciona la Ley 1437 de 2011 para garantizar el control humano significativo en determinadas decisiones administrativas que utilicen inteligencia artificial”, el cual tiene por objeto reservar determinadas decisiones administrativas a las personas legalmente competentes y establecer condiciones verificables de control humano cuando utilicen inteligencia artificial. Cordialmente, DAVID ALEJANDRO TORO RAMÍREZ
Representante a la Cámara
Pacto Histórico
Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso
PROYECTO DE LEY No. ____ DE 2026 CÁMARA
“Por medio de la cual se adiciona la Ley 1437 de 2011 para garantizar el control humano significativo en determinadas decisiones administrativas que utilicen inteligencia artificial”.
EL CONGRESO DE COLOMBIA
DECRETA:
Artículo 1. Objeto. La presente ley adiciona la Ley 1437 de 2011 para reservar a las personas que legalmente ejerzan la competencia administrativa la toma de decisiones y garantizar el control humano significativo cuando se utilice inteligencia artificial con incidencia material en su preparación, mediante deberes de verificación, información, conservación de evidencia, contradicción y motivación.
Artículo 2. Definiciones. Para efectos de la presente ley y de las disposiciones que esta adiciona a la Ley 1437 de 2011, se entenderá por:
1. Sistema de inteligencia artificial. Sistema computacional que, a partir de entradas y para objetivos explícitos o implícitos, infiere cómo generar predicciones, contenidos, recomendaciones o decisiones.
2. Incidencia material. Utilización de un resultado del sistema para establecer un hecho relevante, valorar una prueba, individualizar una consecuencia o sustentar una razón determinante de la decisión. El tratamiento meramente instrumental de documentos solo queda comprendido cuando cumple alguna de estas funciones.
3. Control humano significativo. Ejercicio personal, informado y efectivo de la competencia decisoria, mediante el cual la autoridad comprende la función y las limitaciones relevantes del sistema en el caso concreto, verifica sus resultados frente al expediente, realiza una valoración propia y conserva la capacidad jurídica y material de apartarse de aquellos y de interrumpir su utilización. Este control debe ejercerse antes de adoptar la decisión y quedar acreditado mediante las actuaciones y la motivación incorporadas al expediente.
Artículo 3. Adiciónese un artículo 34B a la Ley 1437 de 2011, así:
Artículo 34B. Decisiones reservadas a la autoridad humana y control humano significativo. Corresponde a la persona o a las personas que legalmente ejerzan la competencia administrativa, y no podrá atribuirse a un sistema de inteligencia artificial, la adopción de las siguientes decisiones:
1. Determinar la responsabilidad administrativa e imponer o graduar una sanción, o disponer el archivo o la terminación de una actuación sancionatoria. 2. Suspender, cancelar, revocar o restringir licencias, permisos, autorizaciones o reconocimientos individuales previamente otorgados, en los casos y con los requisitos establecidos por la ley. 3. Adoptar medidas provisionales que restrinjan derechos dentro de las actuaciones señaladas en los numerales anteriores, cuando exista autorización legal para ello. 4. Resolver los recursos administrativos que procedan contra las decisiones anteriores.
Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso
Cuando se utilice inteligencia artificial con incidencia material para preparar estas decisiones, la autoridad deberá ejercer control humano significativo. Les corresponde a las personas interpretar los hechos relevantes, valorar las pruebas determinantes, verificar las fuentes y los fundamentos jurídicos aplicables, examinar las objeciones oportunamente formuladas, elaborar la justificación del caso y adoptar la decisión. El sistema podrá prestar apoyo, pero sus resultados no sustituirán estas operaciones de juicio humano.
La autoridad deberá contar con conocimientos suficientes sobre la función y las limitaciones relevantes del sistema, información comprensible y condiciones efectivas para realizar esas verificaciones y apartarse del resultado. Si no puede ejercer ese control, se abstendrá de utilizar el resultado como fundamento determinante de la decisión y resolverá con los demás elementos jurídicamente admisibles y suficientes. La firma, el clic de aprobación, la validación masiva o la aceptación formal de una respuesta no acreditan por sí mismos control humano significativo.
Parágrafo. Este artículo se aplica a las autoridades comprendidas en el artículo 2 cuando adelanten las actuaciones enumeradas, tanto bajo el procedimiento común como bajo un procedimiento administrativo especial.
Artículo 4. Adiciónese el artículo 34C a la Ley 1437 de 2011, así:
Artículo 34C. Información y contradicción sobre la intervención de inteligencia artificial. En las actuaciones comprendidas en el artículo 34B, la autoridad informará al interesado, sin necesidad de solicitud, la utilización material de inteligencia artificial, la función cumplida por el sistema, el resultado relevante y su incorporación al expediente. Lo hará al comunicar o notificar la actuación en la cual se utilice ese resultado o, si su utilización ocurre posteriormente, mediante comunicación incorporada al expediente, con oportunidad efectiva para controvertirlo antes de la decisión final.
La autoridad proporcionará una explicación comprensible de la relación entre los datos relevantes, el resultado utilizado y su incidencia en el caso. Identificará las limitaciones conocidas que puedan afectar esa conclusión. La explicación deberá permitir formular objeciones concretas y no se satisfará con una descripción genérica del sistema. El ejercicio de esta garantía no estará condicionado a que el interesado demuestre conocimientos técnicos o contrate un experto. Se identificará a la persona o a las personas que ejerzan la competencia decisoria, sin perjuicio de las reservas legalmente aplicables.
El acceso a información y documentos se sujetará al régimen constitucional y legal de reservas, a la protección de datos personales y a los artículos 24 a 27 de este Código. Se facilitará el acceso a los elementos no reservados y, cuando resulte procedente, a versiones parciales que permitan la defensa sin divulgar información protegida. No se establece una obligación general de entregar el código fuente ni se amplían las facultades de acceso a información reservada.
La autoridad garantizará la contradicción dentro de las oportunidades del procedimiento aplicable. Si introduce un resultado material después de la oportunidad correspondiente, deberá adoptar las medidas de corrección legalmente procedentes para asegurar su contradicción antes de decidir.
Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso
Cuando no sea jurídicamente posible garantizarla, no podrá utilizarlo como fundamento determinante de una decisión adversa. Lo mismo se aplicará cuando, pese a las medidas legalmente disponibles, la información accesible no permita controvertir efectivamente el resultado.
Parágrafo. Lo previsto en este artículo no crea un recurso adicional ni suspende, interrumpe o amplía por sí mismo los términos legales de la actuación, de caducidad o de prescripción. En las medidas provisionales de aplicación inmediata autorizadas por la ley la decisión deberá ser humana y la contradicción se garantizará en la oportunidad que establezca el régimen aplicable”.
Artículo 5. Adiciónese un parágrafo al artículo 36 de la Ley 1437 de 2011, el cual quedará así:
Parágrafo. En las actuaciones comprendidas en el artículo 34B se incorporarán al expediente los resultados de inteligencia artificial efectivamente utilizados, la identificación del sistema y de su versión o del identificador técnico equivalente, la fecha de utilización, los datos e instrucciones pertinentes suministrados al sistema y las constancias de verificación humana relevantes para la decisión y la identificación de quienes la realizaron. Podrán incorporarse referencias a repositorios institucionales cuando garanticen la integridad, conservación, recuperación y acceso jurídicamente procedente a la información durante el plazo de retención aplicable.
La información conservada deberá permitir reconstruir la intervención material del sistema en el caso. No se exigirá conservar deliberaciones internas irrelevantes ni la totalidad de los datos de entrenamiento por el solo hecho de utilizar el sistema. Los documentos electrónicos conservarán su formato y metadatos pertinentes, aunque el expediente contenga también documentos físicos.
La autoridad asegurará la integridad, disponibilidad y conservación de estos elementos conforme al régimen archivístico, a las reservas legales y a las normas de protección de datos. La contratación o utilización de servicios de terceros deberá permitir el cumplimiento de estos deberes, incluida la recuperación de los registros cuando termine el servicio. La falta de disponibilidad de evidencia necesaria impedirá utilizar el resultado como fundamento determinante de una decisión adversa cuando haga imposible su verificación o contradicción efectiva.
Artículo 6. Adiciónese un parágrafo al artículo 40 de la Ley 1437 de 2011, el cual quedará así:
Parágrafo. En las actuaciones comprendidas en el artículo 34B, cuando un resultado de inteligencia artificial se aporte como elemento probatorio o se utilice para valorar pruebas, la autoridad verificará su correspondencia con los elementos del expediente y examinará las condiciones de obtención y las limitaciones relevantes para su valoración, incluidas las imprecisiones, la desactualización y los sesgos que puedan afectar el caso. La valoración de la prueba corresponde a la autoridad humana; el empleo de una herramienta de apoyo no desplaza este deber. Su origen tecnológico no le otorga valor probatorio privilegiado ni permite presumir la exactitud de la inferencia realizada.
La autoridad no podrá exigir al interesado que pruebe un defecto de funcionamiento del sistema como condición para examinar sus objeciones. Esta regla no modifica la distribución de las cargas
Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso probatorias del procedimiento aplicable. La verificación y la contradicción se sujetarán también a lo previsto en el artículo 34C.
Artículo 7. Adiciónese un parágrafo al artículo 42 de la Ley 1437 de 2011, el cual quedará así:
Parágrafo. En las decisiones finales y en las que resuelvan recursos en las actuaciones comprendidas en el artículo 34B, la motivación identificará la incidencia material de la inteligencia artificial, expondrá las verificaciones humanas determinantes y las razones para acoger o apartarse de sus resultados y resolverá las objeciones relevantes formuladas sobre estos. La reproducción de un resultado automatizado o de fórmulas genéricas no sustituye la motivación del caso.
Estas exigencias no convierten cualquier omisión formal en causal autónoma de nulidad. Las irregularidades y sus efectos se examinarán conforme a los mecanismos de corrección, recursos y medios de control existentes y a su incidencia en las garantías y requisitos de la actuación.
Artículo 8. Adición de un numeral al artículo 49 de la Ley 1437 de 2011. Adiciónese el numeral 5 al artículo 49 de la Ley 1437 de 2011, así:
“5. Cuando se haya utilizado inteligencia artificial con incidencia material, la motivación específica prevista en el parágrafo del artículo 42”.
Artículo 9. Vigencia y aplicación temporal. La presente ley rige a partir de su promulgación y deroga las que le sean contrarias.
DAVID ALEJANDRO TORO RAMÍREZ
Representante a la Cámara
Pacto Histórico
Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso
EXPOSICIÓN DE MOTIVOS
I.
OBJETO DEL PROYECTO DE LEY
La iniciativa busca asegurar que las decisiones administrativas que pueden imponer sanciones o restringir situaciones jurídicas individuales sean adoptadas por la autoridad competente mediante un examen propio del caso, aun cuando utilice inteligencia artificial. Para ello, incorpora al Código de Procedimiento Administrativo y de lo Contencioso Administrativo —CPACA— una reserva de decisión humana y los deberes que permiten hacerla efectiva. El control humano significativo exige que quien decide pueda comprender la intervención del sistema, comprobar sus resultados y apartarse de ellos. También requiere que el interesado conozca esa intervención y pueda discutir los elementos que inciden en su situación. La información, las pruebas y la motivación del acto deben permitir establecer cómo se formó la decisión. La reforma comprende las decisiones sobre responsabilidad y sanciones administrativas, incluido el archivo de la actuación; las que suspenden, cancelan, revocan o restringen autorizaciones y reconocimientos individuales previamente otorgados; las medidas provisionales restrictivas dentro de esas actuaciones; y los recursos administrativos correspondientes. Este ámbito permite concentrar las obligaciones en decisiones que requieren especial cuidado por sus efectos sobre las personas.
II.
ANTECEDENTES
La Ley 1437 de 2011 estableció las reglas del procedimiento administrativo común y su relación con los procedimientos especiales. Posteriormente, la Ley 1755 de 2015 sustituyó la regulación del derecho de petición, mientras que la Ley 2080 de 2021 introdujo, entre otras reformas, ajustes a la actuación por medios electrónicos. Este desarrollo ha permitido incorporar herramientas digitales a la gestión pública dentro de un marco de garantías ya existente. La inteligencia artificial plantea una cuestión adicional: su participación puede alcanzar la valoración de información y la elaboración de las razones de una decisión. Por ello, junto a las condiciones de acceso y validez de los documentos electrónicos, resulta necesario precisar cómo debe actuar la autoridad cuando emplea resultados automatizados para resolver un caso. En Colombia, la Sentencia T-323 de 2024 examinó el uso de ChatGPT en una decisión judicial. Aunque se refiere a una función distinta de la administrativa, ofrece un antecedente relevante para comprender la relación entre asistencia tecnológica, razonamiento propio y responsabilidad del funcionario. La reforma recoge esa preocupación y la desarrolla en el procedimiento administrativo.
Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso
III.
MARCO CONSTITUCIONAL, LEGAL Y JURISPRUDENCIAL
1. Competencia, responsabilidad y debido proceso
El artículo 29 de la Constitución reconoce el debido proceso en toda actuación judicial y administrativa. Su cumplimiento exige que las decisiones provengan de la autoridad competente, se apoyen en elementos que puedan ser controvertidos y expresen las razones que las justifican. A su vez, los artículos 6, 121, 123 y 124 vinculan el ejercicio de la función pública con deberes y responsabilidades que permanecen en cabeza de quienes la desempeñan. El empleo de inteligencia artificial debe sujetarse a esas exigencias. La igualdad y la imparcialidad, previstas en los artículos 13 y 209, obligan a examinar la incidencia de errores o sesgos en el caso concreto. La información sobre el uso de IA debe facilitar ese examen y respetar, al mismo tiempo, la protección de datos personales y las reservas legales conforme a los artículos 15 y 74. El acceso a las razones de una decisión y la protección de la información deben hacerse compatibles dentro del procedimiento.
2. Integración con las garantías del CPACA
Los artículos 3, 36, 40, 41 y 42 del CPACA regulan el debido proceso, la formación del expediente, la prueba, la corrección de irregularidades y la motivación. La reforma desarrolla estas garantías frente a la intervención de IA: precisa qué debe conocer el interesado, qué elementos deben conservarse y qué verificaciones debe realizar la autoridad antes de decidir. El artículo 34B propuesto reserva el juicio a las personas competentes y extiende esta regla a las decisiones enumeradas, tanto en procedimientos comunes como especiales. Su aplicación debe armonizarse con las etapas, términos y competencias del régimen correspondiente. La naturaleza administrativa de la función y el catálogo de decisiones delimitan su alcance; la incorporación en la primera parte del CPACA no convierte estas disposiciones en reglas para el ejercicio de funciones jurisdiccionales. En materia sancionatoria se conserva la regulación de los artículos 47 a 49A. La adición al artículo 49 incorpora a la decisión la explicación de la intervención material de IA y de su examen humano. Las medidas provisionales mantienen las oportunidades de contradicción previstas en su régimen, incluidas aquellas que, por disposición legal, deben adoptarse de inmediato. La conservación de evidencia se integra con las reglas del expediente electrónico del artículo 59 y con las obligaciones archivísticas. Debe ser posible recuperar el resultado utilizado, sus entradas relevantes y las constancias de verificación. La forma electrónica del acto, admitida por el artículo 57, debe estar acompañada del cumplimiento de los deberes de valoración y motivación.
Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso
El acceso a esa evidencia respeta los artículos 24 a 27 del Código. Cuando exista información reservada, deberán emplearse los mecanismos legalmente disponibles para permitir la defensa. Si el resultado no puede ser controvertido efectivamente, no podrá constituir el fundamento determinante de una decisión adversa. Las irregularidades se examinarán a través de los recursos y medios de control vigentes.
3. La Sentencia T-323 de 2024
La Corte Constitucional estudió el uso de ChatGPT por el juez de segunda instancia en una tutela relacionada con la atención en salud de un niño. Concluyó que el funcionario había realizado su razonamiento y adoptado la decisión antes de incorporar las respuestas de la herramienta, por lo que no encontró sustitución de la función judicial. Sin embargo, advirtió un cumplimiento incompleto de los principios de transparencia y responsabilidad. La distinción es relevante: la presencia de IA en una providencia no permite, por sí sola, concluir que el juez fue sustituido; es necesario establecer qué uso hizo de ella y cuándo intervino. En sus criterios orientadores, la Corte vinculó la no sustitución de la racionalidad humana con la interpretación de los hechos, la valoración de las pruebas, la motivación y la adopción de la decisión. También destacó la identificación de una persona responsable y la posibilidad de ofrecer explicaciones comprensibles. El fallo reconoce usos auxiliares sujetos a verificación y señala límites frente al traslado del razonamiento jurídico a estas herramientas. Sus consideraciones sobre transparencia, privacidad, igualdad y control humano permiten entender la supervisión como una responsabilidad durante la formación de la decisión. Esta orientación resulta pertinente para la administración, donde también rige el debido proceso. El proyecto la concreta mediante deberes de examen previo, información y conservación de evidencia. Se trata de un desarrollo legislativo para actuaciones administrativas: las órdenes impartidas por la Corte al Consejo Superior de la Judicatura pertenecen al ámbito judicial y no establecen por sí mismas las reglas que aquí se proponen.
IV.
JUSTIFICACIÓN
1. La responsabilidad de decidir cuando interviene inteligencia artificial
Una decisión administrativa debe poder explicarse a partir del expediente. Cuando una herramienta produce una clasificación o recomendación, la autoridad necesita conocer los datos relevantes y comprobar si la conclusión corresponde al caso. Una firma puede identificar a quien expide el acto, pero no permite saber, por sí sola, si hubo ese examen.
Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso
La noción de control humano significativo ayuda a precisar esta responsabilidad. Santoni de Sio y van den Hoven proponen que los sistemas respondan a razones humanas relevantes y que sus resultados puedan vincularse con las personas que intervienen en su diseño y operación. Este planteamiento conceptual permite comprender por qué la supervisión requiere capacidad de intervención y atribución de responsabilidad. En el procedimiento administrativo, esas exigencias se traducen en un funcionario que examina el caso y deja razones verificables de su decisión1. La intervención humana también puede reproducir errores. En tres experimentos de encuesta realizados en los Países Bajos, Alon-Barkat y Busuioc no encontraron una tendencia general a seguir más las recomendaciones algorítmicas que las humanas, pero observaron, en parte de sus estudios, una mayor adhesión a recomendaciones compatibles con estereotipos. Estos resultados invitan a examinar cómo se acepta una recomendación, sin presumir que la participación de una persona elimina los sesgos2. Por esta razón, el proyecto exige contrastar los resultados con las pruebas y las objeciones del interesado. La autoridad debe conservar la posibilidad real de descartarlos y resolver con fundamento propio. Este deber comprende las operaciones de juicio que preceden al acto: reservar únicamente la aprobación final dejaría sin protección la valoración que determina su contenido.
2. Condiciones para un examen humano efectivo
El funcionario necesita una comprensión suficiente del uso de la herramienta y de las limitaciones relevantes para el caso. El marco voluntario de gestión de riesgos del NIST destaca que la interacción entre personas e IA depende del contexto, de la claridad de los roles y de las capacidades de quienes utilizan sus resultados. Esa interacción puede mejorar el desempeño, pero también amplificar sesgos3. El control debe, por tanto, corresponder a las condiciones reales de trabajo. Exige información y capacidad para comprobar el resultado, sin convertir al funcionario en desarrollador del sistema. También requiere tiempo para examinar las circunstancias individuales y autoridad para apartarse de la recomendación.
1 Santoni de Sio, F. y van den Hoven, J. (2018). Meaningful Human Control over Autonomous Systems: A Philosophical Account. Frontiers in Robotics and AI, 5, art. 15. Texto abierto: https://www.frontiersin.org/journals/robotics-andai/articles/10.3389/frobt.2018.00015/full
2 Alon-Barkat, S. y Busuioc, M. (2023). Human–AI Interactions in Public Sector Decision Making: “Automation Bias” and “Selective Adherence” to Algorithmic Advice. Journal of Public Administration Research and Theory, 33(1), 153–169. DOI: https://doi.org/10.1093/jopart/muac007 3 NIST (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1. DOI: https://doi.org/10.6028/NIST.AI.100-1 . Apéndice C examinado: https://airc.nist.gov/airmfresources/airmf/appendices/app-c-ai-risk-management-and-human-ai-interaction/ Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso
La investigación de Buçinca, Malaya y Gajos aporta una razón adicional para exigir deliberación. En un experimento con 199 participantes, las intervenciones que promovían un examen más activo redujeron la confianza excesiva en recomendaciones erróneas frente a explicaciones simples, aunque sus resultados variaron y algunas recibieron una menor valoración de los participantes. El estudio muestra que disponer de una explicación y examinarla son cuestiones distintas4. Estos trabajos sirven para orientar las condiciones de un control que deberá comprobarse en cada expediente. La ley debe exigir actuaciones sustantivas y permitir revisar su cumplimiento, de modo que el registro de la intervención humana refleje una valoración efectivamente realizada.
3. Información y defensa del interesado
La persona afectada necesita saber que una herramienta intervino materialmente en su caso y comprender cómo influyó. Si desconoce los datos o resultados relevantes, difícilmente podrá señalar un error o explicar por qué la conclusión no corresponde a su situación. El informe de la Agencia de los Derechos Fundamentales de la Unión Europea sobre IA, elaborado a partir de más de cien entrevistas a funcionarios, representantes empresariales y expertos, relaciona el acceso a remedios con el conocimiento del uso de estas herramientas y la posibilidad de explicar sus decisiones. Su análisis cualitativo identifica barreras para la defensa que resultan pertinentes al diseñar garantías procedimentales. El artículo 34C exige informar de oficio y ofrecer una explicación vinculada al caso. La identificación del proveedor o una descripción general del producto no permiten conocer qué influyó en la decisión. El interesado debe poder cuestionar los elementos utilizados sin tener que demostrar previamente un defecto informático ni asumir la carga de reconstruir el sistema. La evidencia que se incorpora al expediente hace posible esa contradicción. Conservar el resultado efectivamente empleado y las constancias de verificación permite examinar lo ocurrido, incluso si después cambia la versión del sistema o termina el contrato con el proveedor. Así, la información y el registro sirven a la defensa y al control administrativo y judicial.
4. Referentes normativos internacionales
El Reglamento (UE) 2024/1689 ofrece un referente sobre supervisión de sistemas de alto riesgo. Su texto publicado en 2024 exige que las personas puedan comprender las limitaciones del sistema, interpretar sus resultados e intervenir; también contempla condiciones de competencia y apoyo para 4 Buçinca, Z., Malaya, M. B. y Gajos, K. Z. (2021). To Trust or to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI in AI-assisted Decision-making. DOI editorial: https://doi.org/10.1145/3449287 . Versión abierta examinada: https://arxiv.org/html/2102.09692v1
Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso quienes supervisan, registros y explicaciones en los supuestos previstos5. Estas obligaciones tienen ámbitos y reglas de aplicación propios, incluidos el calendario y las transiciones de sus artículos 111 y 1136. La relación con la propuesta puede apreciarse en los siguientes aspectos:
Reglamento de IA
Regla de referencia
Propuesta para el CPACA
Artículo 14 Comprensión de límites e intervención humana.
El artículo 34B exige juicio propio y capacidad de descartar resultados.
Artículo 26.2 Competencia, formación, autoridad y apoyo de quienes supervisan.
El artículo 34B exige condiciones efectivas para la verificación.
Artículo 12 Registro de eventos en sistemas de alto riesgo.
La adición al artículo 36 conserva evidencia pertinente del caso.
Artículo 86 Explicación de determinadas decisiones adversas, con las exclusiones previstas.
El artículo 34C exige información de oficio en las actuaciones comprendidas.
Estas coincidencias respaldan la importancia de una supervisión que pueda ejercerse y comprobarse. El proyecto colombiano concentra sus obligaciones en un catálogo de decisiones administrativas y en la incidencia material de la IA dentro de cada actuación. Su alcance responde al procedimiento nacional, sin incorporar la clasificación europea de alto riesgo. Otro referente es el artículo 22 del Reglamento General de Protección de Datos de la Unión Europea. Esta disposición regula las decisiones basadas únicamente en tratamiento automatizado que producen efectos jurídicos o similares significativos. Contempla excepciones por necesidad contractual, autorización legal y consentimiento explícito. La autorización legal debe prever salvaguardias; para las excepciones contractual y de consentimiento, el apartado 3 reconoce intervención humana, expresión del punto de vista e impugnación7.
5 European Union Agency for Fundamental Rights — FRA (2020). Getting the future right – Artificial intelligence and fundamental rights. Informe: https://fra.europa.eu/sites/default/files/fra_uploads/fra-2020-artificial-intelligence_en.pdf 6 Parlamento Europeo y Consejo (2024). Reglamento (UE) 2024/1689, arts. 12, 14, 26.2, 86, 111 y 113. Texto oficial publicado: https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng 7 Parlamento Europeo y Consejo (2016). Reglamento (UE) 2016/679 — RGPD, art. 22. Texto oficial: https://eurlex.europa.eu/eli/reg/2016/679/oj/eng
Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso
La propuesta atiende una dificultad que puede presentarse incluso cuando participa una persona: que su intervención sea meramente formal. Por eso adopta como criterio la incidencia material de la IA y exige un examen propio en las decisiones enumeradas. Los instrumentos europeos sirven como referencia comparada para esta elección, cuya aplicación se integra al CPACA y al régimen colombiano de protección de la información.
5. Una reforma incorporada al procedimiento
La adición al CPACA permite reunir las obligaciones en el lugar donde la autoridad forma el expediente, valora las pruebas y adopta la decisión. Los principios generales adquieren así un contenido concreto: identificar la intervención material, conservar lo utilizado, responder a las objeciones y motivar el resultado del examen. El ámbito delimitado evita extender estas cargas a cualquier uso tecnológico. La transcripción o la corrección de estilo no activan por sí solas las obligaciones especiales; sí las activa el uso material de resultados en las decisiones comprendidas. Tampoco se exige revelar indiscriminadamente código fuente o datos protegidos. Cuando un resultado no pueda verificarse o controvertirse en las condiciones exigidas, la autoridad deberá resolver con los demás elementos válidos y suficientes, dentro de los términos legales. La dificultad tecnológica no puede trasladarse al interesado ni convertirse en una razón para prolongar indefinidamente la actuación. La eficacia de la reforma podrá apreciarse en la calidad del examen: si se detectan errores relevantes, si las objeciones reciben respuesta y si el expediente permite reconstruir la intervención del sistema. El propósito es fortalecer la decisión y su control, preservando los recursos y medios de protección del ordenamiento.
V.
IMPACTO FISCAL
El artículo 7 de la Ley 819 de 2003 exige hacer explícitos los costos y la financiación de las iniciativas que ordenan gasto o conceden beneficios tributarios, así como su compatibilidad con el Marco Fiscal de Mediano Plazo. El proyecto establece deberes para el uso de IA en funciones existentes. No crea entidades, cargos o fondos, ni obliga a adquirir sistemas. Se trae a colación lo dicho por la Corte Constitucional en la Sentencia C-502 de 2007, en la que expresó que los requisitos establecidos en el artículo 7° de la Ley 819 de 2003 se constituyen como instrumentos de racionalización de la actividad legislativa que no pueden limitar el ejercicio de la Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso función legislativa por parte del Congreso de la República ni pueden otorgar un poder de veto al Ministerio de Hacienda y Crédito Público en relación con el trámite y aprobación de los proyectos de ley, pues ello vulneraría la autonomía del legislador y el principio de separación de las ramas del poder público. Así mismo, señaló que es el Ministerio de Hacienda y Crédito Público el principal responsable de cumplir los requisitos establecidos en el artículo 7° de la Ley 819 de 2003:
“Por todo lo anterior, la Corte considera que los primeros tres incisos del art. 7° de la Ley 819 de 2003 deben entenderse como parámetros de racionalidad de la actividad legislativa, y como una carga que le incumbe inicialmente al Ministerio de Hacienda, una vez que el Congreso ha valorado, con la información y las herramientas que tiene a su alcance, las incidencias fiscales de un determinado proyecto de ley. Esto significa que ellos constituyen instrumentos para mejorar la labor legislativa.
Es decir, el mencionado artículo debe interpretarse en el sentido de que su fin es obtener que las leyes que se dicten tengan en cuenta las realidades macroeconómicas, pero sin crear barreras insalvables en el ejercicio de la función legislativa ni crear un poder de veto legislativo en cabeza del ministro de Hacienda. Y en ese proceso de racionalidad legislativa la carga principal reposa en el Ministerio de Hacienda, que es el que cuenta con los datos, los equipos de funcionarios y la experticia en materia económica. Por lo tanto, en el caso de que los congresistas tramiten un proyecto incorporando estimativos erróneos sobre el impacto fiscal, sobre la manera de atender esos nuevos gastos o sobre la compatibilidad del proyecto con el Marco Fiscal de Mediano Plazo, le corresponde al ministro de Hacienda intervenir en el proceso legislativo para ilustrar al Congreso acerca de las consecuencias económicas del proyecto. Y el Congreso habrá de recibir y valorar el concepto emitido por el Ministerio. No obstante, la carga de demostrar y convencer a los congresistas acerca de la incompatibilidad de cierto proyecto con el Marco Fiscal de Mediano Plazo recae sobre el ministro de Hacienda” (subrayado fuera del original).
VI.
DESCRIPCIÓN DEL PROYECTO
El proyecto contiene nueve artículos. Los dos primeros establecen su objeto y las definiciones aplicables a la ley y a las adiciones al CPACA. Los artículos 3 y 4 adicionan los artículos 34B y 34C del Código. El primero determina las decisiones reservadas al juicio humano y las condiciones para ejercerlo; el segundo regula la información que debe recibir el interesado y la explicación de la intervención material de IA. Los artículos 5, 6 y 7 adicionan parágrafos a los artículos 36, 40 y 42, respectivamente. Regulan la conservación de evidencia, la verificación y contradicción de los resultados y la motivación de la decisión. El artículo 8 adiciona un numeral al artículo 49 para incorporar esa motivación específica a la decisión sancionatoria.
Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso
El artículo 9 dispone la vigencia desde la promulgación y la derogación de las disposiciones contrarias.
VII.
CONFLICTO DE INTERÉS
Sobre el conflicto de interés el Consejo de Estado se ha pronunciado en Sentencia del año 2022, estableciendo que:
“Siempre que se produzca un resultado provechoso por el simple ejercicio de una función oficial, que convenga al agente o a otra persona allegada, en el orden moral o material, surgirá un conflicto de intereses. Si la ley protege el interés, será lícito; pero si se persigue con fines personales, particulares, que sobrepasen el interés social, será ilícito”. También el Consejo de Estado el año 2010 sobre el conflicto de interés, conceptuó:
“La institución del conflicto de intereses apunta a trazar un límite entre el ejercicio legítimo de la función legislativa y el aprovechamiento de esta función por parte del congresista para obtener beneficios personales o en favor de aquellas personas allegadas que determina la ley. Así las cosas, no se presenta conflicto entre el interés personal del congresista y el interés general cuando la ley tiene por destinataria a la generalidad de la sociedad, en abstracto, hipótesis en la cual quedan incluidos los amplios sectores sociales que son objeto de determinadas leyes, como por ejemplo las minorías étnicas o culturales, las profesiones, los contribuyentes o, como el caso que nos ocupa, las víctimas de la violencia en Colombia. No sería razonable, por consiguiente, afirmar que por el hecho de ser abogado un congresista estaría impedido para participar en la aprobación de una ley que expida el estatuto de esa profesión; que por ser indígena estaría impedido para participar en el trámite de la ley orgánica que reglamente las entidades territoriales indígenas; que por ser propietario estaría impedido para intervenir en la discusión de una ley sobre impuesto predial; o que por encajar en la definición legal de víctima del conflicto estaría impedido para intervenir en los debates a un proyecto de ley que establece de manera general las reglas de resarcimiento a las víctimas de la violencia en Colombia. En todos estos casos, ciertamente, podría el congresista derivar de la ley en cuya discusión interviene un beneficio personal, pero no por la circunstancia de ser miembro del Congreso ni porque la ley se dirija a un grupo de personas tan restringido y exclusivo (y por tanto excluyente) que convierta al congresista en un destinatario predilecto. En los anteriores ejemplos las leyes no se dirigen a todos los colombianos sino a grupos muy significativos: los abogados, los indígenas, los propietarios de inmuebles, las víctimas del conflicto. No todos los congresistas forman parte necesariamente de estos grupos, pero por la amplitud social de dichos sectores en la nación y la generalidad de las prescripciones de la ley a ellos dirigida, normalmente algunos de los congresistas podrían quedar incluidos. Pues bien, en estos casos no cabe la figura de conflicto de intereses, pues a pesar de que un congresista podría convertirse en destinatario de alguna de las disposiciones legales, tal hecho no obedece a que la ley busque favorecerlo directa, exclusiva y especialmente.”
Carrera 7 No. 8 – 68, Oficina 607B, Edificio Nuevo del Congreso
En consecuencia, se considera que la Ley y la jurisprudencia han dado los criterios orientadores que determinan circunstancias en las cuales se podría estar incurso en un conflicto de interés. Para lo cual será necesario que respecto del asunto objeto de conocimiento de parte del congresista (discusión o votación) se reporte un beneficio en el que concurran tres características simultáneas, a saber, ser actual, particular y directo. Define la Ley también las circunstancias bajo las cuales se considera que no existe un conflicto de interés, en esa medida, se señala que aun cuando el congresista pueda reportar un beneficio, pero este se funde en el interés general, en el interés de sus electores, se dará lugar a que no exista tal conflicto.
VIII.
CONSIDERACIONES FINALES
La administración debe poder responder por las razones de sus decisiones, cualquiera que sea la tecnología que utilice. Esta reforma establece las condiciones para que la inteligencia artificial apoye la actuación administrativa y para que el juicio permanezca en la autoridad competente. La información al interesado, la evidencia y la motivación permiten hacer exigible esa responsabilidad. Por estas razones, se somete a consideración del Congreso de la República el presente proyecto de ley. Cordialmente, DAVID ALEJANDRO TORO RAMÍREZ
Representante a la Cámara
Pacto Histórico
Машинный черновик — GigaChat-2, 29.10.2026. Экспертом ещё не проверен: даты, адреса норм и санкции сверяйте с текстом.
Паспорт акта
- Юрисдикция
- Колумбия
- Официальное наименование
- Por medio de la cual se adiciona la Ley 1437 de 2011 para garantizar el control humano significativo en determinadas decisiones administrativas que utilicen inteligencia artificial.
- Вид и уровень акта
- законопроект
- Дата принятия
- внесение 2026 год
- Статус
- законопроект: на рассмотрении
- Регулятор
- Конгресс Колумбии
Предмет и цель
- Проблема
- необходимость обеспечения контроля человека над решениями, принимаемыми искусственным интеллектом в административной сфере.
- Цель
- гарантировать контроль человека над определёнными административными решениями, которые используют искусственный интеллект.
- Целевые показатели
- отсутствуют
- Сфера действия
- государственные органы, принимающие административные решения, использующие искусственный интеллект.
- Исключения
- отсутствуют
Субъекты
| Роль | Кто именно | Критерии отнесения | Оценка числа адресатов |
|---|---|---|---|
| поставщик, платформа, госорган | государственные органы, ответственные за принятие административных решений, использующие искусственный интеллект | наличие использования искусственного интеллекта в процессе принятия решений | — |
- Группы особой защиты
- потребители, пользователи искусственного интеллекта
Нормы 1
Каждая строка — одна норма: кто что должен, через что она меняет поведение, во что обходится и чем подкреплена.
-
1. Госорган обязан принимать решения самостоятельно, без передачи полномочий искусственному интеллекту (адрес нормы: Art. 34B)2. Госорган обязан предоставить информацию пользователю о применении искусственного интеллекта и результатах его работы (адрес нормы: Art. 34C)3. Госорган обязан сохранять доказательства применения искусственного интеллекта и предоставлять их пользователям (адрес нормы: Art. 36)4. Госорган обязан проверять результаты искусственного интеллекта и учитывать возражения пользователя перед принятием окончательного решения (адрес нормы: Art. 40)5. Госорган обязан мотивировать своё решение, указывая роль искусственного интеллекта (адрес нормы: Art. 42)6. Госорган обязан указывать использование искусственного интеллекта в решении, вынесенном по жалобе пользователя (адрес нормы: Art. 49)
- Механизм воздействия
- распределение риска, операционные издержки
- Издержки: канал
- операционные издержки
- Издержки: характер
- регулярные
- Событие-триггер
- до начала деятельности, при сборе, по обращению, при инциденте, по запросу органа
- Санкция
- отсутствует
- Отсылка к иным актам
- Регламент (ЕС) 2024/1689, GDPR
- Форма исполнения
- цифровая
- Российский аналог
- требует проверки[ОЦЕНКА НОРМЫ]Норма создает значительные обязательства для государственных органов, связанные с контролем и проверкой решений, принятых с использованием искусственного интеллекта. Она также устанавливает дополнительные требования к прозрачности и доступности информации для граждан.
Details
| Country | Колумбия |
| Body | Палата представителей Колумбии |
| Type | law / bill |
| Language | es |
| Document date | — |
| Size | 39 170 знаков |
| Versions | 1 |
| First seen | 2026-10-29 |
| Last checked | 2026-11-16 03:08 |
| full_text_url | https://www.camara.gov.co/wp-content/uploads/2026/09/proyectos-ley/documentos/proyecto-36465/PL-CONTROL-HUMANO-EN-DECISIONES-ADMINISTRATIVAS-CON-FIRMA.pdf |
Topics
Why this document is in the base
Selection matched on the following, total weight 28.
-
inteligencia artificial
название
Artificial intelligence
…r el control humano significativo en determinadas decisiones administrativas que utilicen inteligencia artificial.…
-
inteligencia artificial
текст
Artificial intelligence
…r el control humano significativo en determinadas decisiones administrativas que utilicen inteligencia artificial”, el cual tiene por objeto reservar determinadas decisiones administrativas a las persona…
-
inteligencia artificial
текст
Artificial intelligence
…mente competentes y establecer condiciones verificables de control humano cuando utilicen inteligencia artificial. cordialmente, david alejandro toro ramírez representante a la cámara pacto histórico…
-
inteligencia artificial
текст
Artificial intelligence
…el control humano significativo en determinadas decisiones administrativas que utilicen inteligencia artificial”. ## el congreso de colombia ## decreta: ## artículo 1. objeto. la presente ley adicio…
-
inteligencia artificial
текст
Artificial intelligence
…tiva la toma de decisiones y garantizar el control humano significativo cuando se utilice inteligencia artificial con incidencia material en su preparación, mediante deberes de verificación, información,…
-
inteligencia artificial
текст
Artificial intelligence
…disposiciones que esta adiciona a la ley 1437 de 2011, se entenderá por: 1. sistema de inteligencia artificial. sistema computacional que, a partir de entradas y para objetivos explícitos o implícitos…
-
inteligencia artificial
текст
Artificial intelligence
…e legalmente ejerzan la competencia administrativa, y no podrá atribuirse a un sistema de inteligencia artificial, la adopción de las siguientes decisiones: 1. determinar la responsabilidad administrati…
-
datos personales
текст
Personal data
…información y documentos se sujetará al régimen constitucional y legal de reservas, a la protección de datos personales y a los artículos 24 a 27 de este código. se facilitará el acceso a los...…
Summary
Colombia's law amends Law No. 1437 of 2011 by requiring human oversight for certain administrative decisions utilizing artificial intelligence. It sets requirements for competent authorities, verification conditions, notification to interested parties and the right to contest decisions. AI can only serve as an auxiliary tool, with ultimate decision-making remaining with humans.