1. Siguen con buen
ritmo las aportaciones de la doctrina laboralista en la iniciativa interbloguera
puesta en marcha por los profesores Miguel Rodríguez-Piñero Royo y Adrián Todolí Signes sobre
la regulación de la Inteligencia Artificial en el mundo laboral. Ya disponemos
de las aportaciones de los dos profesores citados y también de Ignasi Beltránde Heredia , Jesús R. Mercader Uguina y José María Goerlich Peset , y de la profesora Ana Belén Muñoz , y estamos a la espera de las dos
próximas, a cargo de los profesores Daniel Pérez del Prado y Antonio Fernández García,
y la aportación final global que me ha sido asignada.
Contamos además con
otras destacadas aportaciones doctrinales laboralistas, como la del profesor
Jesús Cruz Villalón en su artículo “El control del impacto
laboral de la Inteligencia Artificial” ,
publicado el 7 de mayo, en el que aborda, al igual que se está haciendo en la
iniciativa interbloguera, cómo aborda el Reglamento europeo de IA (aún pendiente de aprobación definitiva
por el Consejo y su publicación posterior en el DOUE) el impacto de esta en las
relaciones de trabajo y efectúa un cuidado análisis de su contenido, poniendo
previamente de manifiesto que “Se trata de una norma de enorme trascendencia,
por ser la primera de carácter supranacional que aborda con enorme amplitud el
desarrollo de la IA desde una perspectiva transversal, de impacto sobre el
conjunto de la actividad económica y empresarial, incluida la vertiente
laboral. En igual medida especialmente impactante por su naturaleza de
Reglamento, por ser de incorporación automática a la normativa nacional, sin
necesidad de transposición como se exige para las Directivas”.
De no menor
interés es el informe elaborado por el Servicio de Estudios de la UGT sobre dicho Reglamento en el trabajo “Una mirada accesible a su vertiente
laboral” (abril 2024),en cuya introducción se explica con toda claridad cuál es
su objetivo: “es transmitir, de una forma ordenada y accesible, las principales
novedades que conlleva este Reglamento y sus repercusiones sobre el empleo y
los contextos laborales y sindicales, teniendo en cuenta que el papel que
juegan los Sindicatos, la RLT y los comités de empresa es crucial para que se
garantice y ejecute en plenitud la promoción de la transparencia algorítmica,
ya sea ejerciendo su derecho de participación estableciendo, por ejemplo,
protocolos conjuntos con la dirección de la empresa que garanticen la
utilización transparente de los algoritmos; ya sea ejerciendo su obligación de
informar a las personas trabajadoras del porqué, el para qué, el cómo funcionan
y las consecuencias de la utilización de algoritmos; ya sea ejerciendo su
mandato representativo en defensa de los intereses de las personas trabajadoras”.
2. Desde una
perspectiva general, es importante reseñar la aprobación por el Consejo deMinistros celebrado el 14 de mayo de la “Estrategia deInteligencia Artificial 2024” Dicha Estrategia se articula en tres grandes ejes y 8 palancas de acción. Los
primeros son “reforzar las palancas clave para el desarrollo de la IA,
facilitar la expansión de la IA en el sector público y privado, fomentando la
innovación y la ciberseguridad, y desarrollar una IA trasparente, responsable y
humanística”. Las segundas son “impulso a la inversión en supercomputación,
generar capacidades de almacenamiento en condiciones de sostenibilidad, generar
modelos y corpus para una infraestructura pública de modelos de lenguaje,
fomentar el talento en la IA, impulsar la IA en el sector público, ayudas a la expansión
de la IA en el sector privado, singularmente en pequeñas y medianas empresas,
desarrollar un marco integral de
ciberseguridad, y desarrollar las funciones de la Agencia Española de
Supervisión de la Inteligencia Artificial
(AESIA).
En la
introducción, se expone que “En el marco de esta tecnología se ha generado, en
paralelo, un extenso debate sobre los desafíos y riesgos de la IA, que ha
cristalizado en la necesidad de promover su uso adecuado y responsable para
lograr un equilibrio entre los beneficios económicos derivados de su despliegue
y el respeto a los derechos fundamentales de los ciudadanos. Europa, a la
vanguardia de este debate, ha aprobado un marco regulatorio sobre el uso de la
IA que dará cobertura a los avances que se vayan produciendo en este dominio.
Nuestro país, a través de la Agencia Española de Supervisión de la IA (AESIA)
aspira a liderar el uso de una IA responsable, segura y ética, con principios
de actuación construidos en base a un amplio consenso social”.
Y muy lógicamente
en la misma línea, el Ministro José Luis Escriba defiende en el Prólogo que “Ante
esta realidad dinámica y en transformación, esta Estrategia de Inteligencia
Artificial 2024 persigue acelerar, facilitar, acompañar y promover el desarrollo
y la expansión de la IA en nuestro país, dando respuesta a la velocidad que ha
tomado esta transformación. Para lograrlo, es esencial asentarse en las
fortalezas existentes, y potenciarlas a través de un conjunto de iniciativas
respaldadas por un Gobierno firmemente comprometido con la transición digital.
Estas medidas están diseñadas no sólo para capitalizar los beneficios de la IA,
sino también para impulsar el avance hacia una IA transparente, ética,
responsable y humanista. Este enfoque cobra especial relevancia ante el
compromiso de garantizar que esta transición se lleve a cabo respetando los
derechos humanos, promoviendo la seguridad tecnológica, la inclusión social y
económica, y observando el cumplimiento del reglamento europeo de Inteligencia
Artificial que se acordó durante la Presidencia Española del Consejo de la UE,
en el segundo semestre de 2023”.
3. A la espera de
la aprobación definitiva del Reglamento europeo de IA, el Consejo de Europa
acaba de aprobar en el 133 ª período de sesiones del Consejo de Ministros, el “Convenio
Marco sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de
Derecho”
En la muy amplia
nota de prensa publicada el día 17 de mayo se efectúa
una buena síntesis de su contenido, pudiendo acceder al texto íntegro (original
en inglés y
francés ) a través del correspondiente enlace.
En la citada nota
se recogen las declaraciones de la secretaria general del Consejo de Europa,
Marija Pejčinović, que declaró que el Convenio “es el primer tratado mundial de
este tipo que garantizará que la Inteligencia Artificial respete los derechos
de las personas. Es una respuesta a la necesidad de una norma jurídica
internacional, respaldada por Estados de distintos continentes que comparten
los mismos valores, para aprovechar los beneficios de la Inteligencia
Artificial, a la vez que se mitigan sus riesgos. Con este nuevo tratado,
pretendemos garantizar un uso responsable de la IA que respete los derechos
humanos, el Estado de derecho y la democracia”. También se explica que “El
convenio es el resultado de dos años de trabajo de un órgano
intergubernamental, el Comité sobre Inteligencia Artificial (CAI por sus siglas
en inglés), que reunió para redactar el tratado a los 46 Estados miembros del
Consejo de Europa, la Unión Europea y 11 Estados no miembros (Argentina,
Australia, Canadá, Costa Rica, Estados Unidos, Israel, Japón, México, Perú, la
Santa Sede y Uruguay), así como a representantes del sector privado, la
sociedad civil y el mundo académico, que participaron como observadores”. Se
trata, en síntesis de la nota de prensa, del “primer tratado internacional
jurídicamente vinculante destinado a garantizar el respeto de los derechos
humanos, del Estado de derecho y las normas jurídicas democráticas en el uso de
los sistemas de inteligencia artificial (IA). El tratado, que también está
abierto a países no europeos, establece un marco jurídico que abarca todo el
ciclo de vida de los sistemas de IA y que se ocupa de los riesgos que pueden
plantear, a la vez que promueve la innovación responsable. El convenio adopta
un enfoque basado en el riesgo para diseñar, desarrollar, usar y decomisar
sistemas de IA, que exige considerar cuidadosamente cualquier posible
consecuencia negativa del uso de sistemas de IA”. Se abrirá a la firma el 5 de
septiembre, con ocasión de la reunión de los Ministros de Justicia en la
capital de Lituania, Vilna.
Me ha parecido
conveniente efectuar la traducción (no oficial) del Convenio aprobado por el
Consejo de Ministros, para destacar aquellos contenidos que tienen tanto
interés general como laboral en particular, ya que toda la temática de la IA
cada vez está adquiriendo más importancia para el mundo jurídico, y cada vez
más afecta a las relaciones de trabajo, por lo que habrá que seguir muy atentos
a su desarrollo y aplicación.
Mientras tanto,
buena lectura.
Preámbulo
Los Estados
miembros del Consejo de Europa y los demás signatarios del presente,
Considerando que
el objetivo del Consejo de Europa es lograr una mayor unidad entre sus
miembros, basada en particular en el respeto de los derechos humanos, la
democracia y el Estado de derecho;
Reconociendo el
valor de fomentar la cooperación entre las Partes en esta Convención y de
extender dicha cooperación a otros Estados que comparten los mismos valores;
Consciente de los
avances acelerados en la ciencia y la tecnología y de los profundos cambios
provocados por las actividades dentro del ciclo de vida de los sistemas de
inteligencia artificial, que tienen el potencial de promover la prosperidad
humana, así como el bienestar individual y social, el desarrollo sostenible, la
igualdad de género y el empoderamiento de todas las mujeres y niñas, así como
otros objetivos e intereses importantes, mediante la mejora del progreso y la
innovación;
Reconociendo que
las actividades dentro del ciclo de vida de los sistemas de inteligencia
artificial pueden ofrecer oportunidades sin precedentes para proteger y
promover los derechos humanos, la democracia y el estado de derecho;
Preocupada por el
hecho de que determinadas actividades dentro del ciclo de vida de los sistemas
de inteligencia artificial puedan socavar la dignidad humana y la autonomía
individual, los derechos humanos, la democracia y el Estado de derecho
Preocupados por
los riesgos de discriminación en contextos digitales, particularmente aquellos
que involucran sistemas de inteligencia artificial, y su potencial efecto de
crear o agravar desigualdades, incluidas las que experimentan las mujeres y las
personas en situaciones vulnerables, en cuanto al disfrute de sus derechos
humanos y su pleno derecho de igualdad. y participación efectiva en los asuntos
económicos, sociales, culturales y políticos;
Preocupados por el
uso indebido de los sistemas de inteligencia artificial y oponiéndose al uso de
dichos sistemas con fines represivos en violación del derecho internacional de
los derechos humanos, incluso mediante prácticas de vigilancia y censura arbitrarias
o ilegales que erosionan la privacidad y la autonomía individual;
Conscientes de que
los derechos humanos, la democracia y el Estado de derecho están
intrínsecamente entrelazados;
Convencidos de la
necesidad de establecer, con carácter prioritario, un marco jurídico aplicable
a nivel mundial que establezca principios y normas generales comunes que
regulen las actividades dentro del ciclo de vida de los sistemas de
inteligencia artificial, que preserve eficazmente los valores compartidos y
aproveche los beneficios de la inteligencia artificial para la promoción. de
estos valores de manera que conduzca a la innovación responsable;
Reconociendo la
necesidad de promover la alfabetización digital, el conocimiento y la confianza
en el diseño, desarrollo, uso y desmantelamiento de sistemas de inteligencia
artificial;
Reconociendo el
carácter marco de esta Convención, que puede complementarse con otros
instrumentos para abordar cuestiones específicas relacionadas con las
actividades dentro del ciclo de vida de los sistemas de inteligencia
artificial;
Subrayando que
este Convenio tiene como objetivo abordar desafíos específicos que surgen a lo
largo del ciclo de vida de los sistemas de inteligencia artificial y alentar la
consideración de los riesgos e impactos más amplios relacionados con estas
tecnologías, incluidos, entre otros, la salud humana y el medio ambiente, y los
aspectos socioeconómicos. aspectos como el empleo y el trabajo;
Tomando nota de
los esfuerzos pertinentes para promover la comprensión y la cooperación
internacionales en materia de inteligencia artificial por parte de otras
organizaciones y foros internacionales y supranacionales;
Conscientes de los
instrumentos internacionales de derechos humanos aplicables, como la
Declaración Universal de Derechos Humanos de 1948, el Convenio para la
Protección de los Derechos Humanos y de las Libertades Fundamentales de 1950
(ETS No. 5), el Pacto Internacional de Derechos Civiles y Políticos de 1966, el
Pacto Internacional de Derechos Civiles y Políticos de 1966, el Pacto de
Derechos Económicos, Sociales y Culturales, la Carta Social Europea de 1961
(ETS N° 35), así como sus respectivos protocolos, y la Carta Social Europea de
1996 (Revisada) (ETS N° 163);
Teniendo presente
también la Convención de las Naciones Unidas sobre los Derechos del Niño de
1989 y la Convención de las Naciones Unidas sobre los Derechos de las Personas
con Discapacidad de 2006;
Conscientes
también de los derechos de privacidad de las personas y la protección de datos
personales, según sean aplicables y conferidos, por ejemplo, por el Convenio
para la Protección de las Personas con respecto al Procesamiento Automático de
Datos Personales de 1981 (ETS No. 108) y sus protocolos;
Afirmando el
compromiso de las Partes de proteger los derechos humanos, la democracia y el
estado de derecho, y fomentar la confiabilidad de los sistemas de inteligencia
artificial a través de esta Convención,
Han acordado lo
siguiente:
Capítulo I –
Disposiciones generales
Artículo 1 –
Objeto y fin
1. Las
disposiciones del presente Convenio tienen como objetivo garantizar que las
actividades dentro del ciclo de vida de los sistemas de inteligencia artificial
sean plenamente coherentes con los derechos humanos, la democracia y el Estado
de derecho.
2. Cada Parte
adoptará o mantendrá medidas legislativas, administrativas o de otro tipo
apropiadas para dar efecto a las disposiciones establecidas en este Convenio.
Estas medidas se graduarán y diferenciarán según sea necesario en vista de la
gravedad y la probabilidad de que se produzcan impactos adversos sobre los
derechos humanos, la democracia y el Estado de Derecho a lo largo del ciclo de
vida de los sistemas de inteligencia artificial. Esto puede incluir medidas
específicas u horizontales que se apliquen independientemente del tipo de
tecnología utilizada.
3. Para garantizar
la implementación efectiva de sus disposiciones por parte de las Partes, este
Convenio establece un mecanismo de seguimiento y prevé la cooperación
internacional.
Artículo 2 –
Definición de sistemas de inteligencia artificial
A los efectos de
esta Convención, por “sistema de inteligencia artificial” se entenderá un
sistema basado en una máquina que, para alcanzar objetivos explícitos o
implícitos, infiere, a partir de los datos que recibe, cómo generar resultados
tales como predicciones, contenidos, recomendaciones o decisiones que puedan
influir en las condiciones físicas. o entornos virtuales. Los diferentes
sistemas de inteligencia artificial varían en sus niveles de autonomía y
adaptabilidad después del despliegue.
Artículo 3 –
Alcance
1. El alcance de
esta Convención cubre las actividades dentro del ciclo de vida de los sistemas
de inteligencia artificial que tienen el potencial de interferir con los
derechos humanos, la democracia y el estado de derecho de la siguiente manera:
a. Cada Parte
aplicará este Convenio a las actividades dentro del ciclo de vida de los sistemas
de inteligencia artificial realizadas por autoridades públicas o actores
privados que actúen en su nombre.
b. Cada Parte
abordará los riesgos e impactos que surjan de las actividades dentro del ciclo
de vida de los sistemas de inteligencia artificial por parte de actores
privados en la medida no cubierta en el subpárrafo a, de manera conforme con el
objeto y propósito de esta Convención.
Cada Parte
especificará en una declaración presentada al Secretario General del Consejo de
Europa en el momento de la firma o al depositar su instrumento de ratificación,
aceptación, aprobación o adhesión, cómo se propone implementar esta obligación,
ya sea aplicando los principios y obligaciones establecidas en los Capítulos II
a VI de esta Convención a actividades de actores privados o adoptando otras
medidas apropiadas para cumplir la obligación establecida en este subpárrafo.
Las partes podrán, en cualquier momento y de la misma forma, modificar sus
declaraciones.
Al implementar la
obligación establecida en este subpárrafo, una Parte no podrá derogar ni
limitar la aplicación de sus obligaciones internacionales asumidas para
proteger los derechos humanos, la democracia y el estado de derecho.
2. No se exigirá a
una Parte que aplique este Convenio a actividades dentro del ciclo de vida de
los sistemas de inteligencia artificial relacionados con la protección de sus
intereses de seguridad nacional, en el entendimiento de que dichas actividades se
realicen de manera compatible con el derecho internacional aplicable, incluido
el derecho internacional. obligaciones legales en materia de derechos humanos y
con respeto a sus instituciones y procesos democráticos.
3. Sin perjuicio
de lo dispuesto en el artículo 13 y en el artículo 25, apartado 2, el presente
Convenio no se aplicará a las actividades de investigación y desarrollo
relativas a sistemas de inteligencia artificial que aún no estén disponibles
para su uso, a menos que se realicen pruebas o actividades similares de tal
manera que tengan la potencial para interferir con los derechos humanos, la
democracia y el Estado de derecho.
4. Las materias
relativas a la defensa nacional no entran dentro del ámbito de aplicación de
esta Convención.
Capítulo II –
Obligaciones generales
Artículo 4 –
Protección de los derechos humanos
Cada Parte
adoptará o mantendrá medidas para garantizar que las actividades dentro del
ciclo de vida de los sistemas de inteligencia artificial sean consistentes con
las obligaciones de proteger los derechos humanos, según lo consagrado en el
derecho internacional aplicable y en su derecho interno.
Artículo 5 –
Integridad de los procesos democráticos y respeto del Estado de derecho
1. Cada Parte
adoptará o mantendrá medidas que busquen garantizar que los sistemas de
inteligencia artificial no se utilicen para socavar la integridad,
independencia y eficacia de las instituciones y procesos democráticos, incluido
el principio de separación de poderes, el respeto a la independencia judicial y
el acceso a justicia.
2. Cada Parte
adoptará o mantendrá medidas que busquen proteger sus procesos democráticos en
el contexto de las actividades dentro del ciclo de vida de los sistemas de
inteligencia artificial, incluido el acceso equitativo de las personas al
debate público y su participación en él, así como su capacidad para formar
opiniones libremente.
Capítulo III –
Principios relacionados con las actividades dentro del ciclo de vida de los
sistemas de inteligencia artificial
Artículo 6 –
Orientación general
Este capítulo
establece principios comunes generales que cada Parte implementará con respecto
a los sistemas de inteligencia artificial de manera apropiada a su sistema
legal interno y las demás obligaciones de esta Convención.
Artículo 7 –
Dignidad humana y autonomía individual
Cada Parte
adoptará o mantendrá medidas para respetar la dignidad humana y la autonomía
individual en relación con las actividades dentro del ciclo de vida de los
sistemas de inteligencia artificial.
Artículo 8 –
Transparencia y supervisión
Cada Parte
adoptará o mantendrá medidas para garantizar que existan requisitos adecuados
de transparencia y supervisión adaptados a los contextos y riesgos específicos
con respecto a las actividades dentro del ciclo de vida de los sistemas de
inteligencia artificial, incluso con respecto a la identificación del contenido
generado por los sistemas de inteligencia artificial. .
Artículo 9 –
Rendición de cuentas y responsabilidad
Cada Parte
adoptará o mantendrá medidas para garantizar la rendición de cuentas y la
responsabilidad por los impactos adversos sobre los derechos humanos, la
democracia y el estado de derecho resultantes de actividades dentro del ciclo
de vida de los sistemas de inteligencia artificial.
Artículo 10 –
Igualdad y no discriminación
1. Cada Parte
adoptará o mantendrá medidas con miras a garantizar que las actividades dentro
del ciclo de vida de los sistemas de inteligencia artificial respeten la
igualdad, incluida la igualdad de género, y la prohibición de la
discriminación, según lo dispuesto en el derecho internacional y nacional
aplicable.
2. Cada Parte se
compromete a adoptar o mantener medidas destinadas a superar las desigualdades
para lograr resultados justos y equitativos, en línea con sus obligaciones
nacionales e internacionales aplicables en materia de derechos humanos, en
relación con las actividades dentro del ciclo de vida de los sistemas de
inteligencia artificial.
Artículo 11 –
Privacidad y protección de datos personales
Cada Parte
adoptará o mantendrá medidas para garantizar que, con respecto a las
actividades dentro del ciclo de vida de los sistemas de inteligencia
artificial:
a. los derechos de
privacidad de las personas y sus datos personales están protegidos, incluso a
través de leyes, estándares y marcos nacionales e internacionales aplicables; y
b. Se han
establecido garantías y salvaguardias efectivas para las personas, de
conformidad con las obligaciones legales nacionales e internacionales
aplicables.
Artículo 12 –
Confiabilidad
Cada Parte tomará,
según corresponda, medidas para promover la confiabilidad de los sistemas de
inteligencia artificial y la confianza en sus resultados, que podrían incluir
requisitos relacionados con una calidad y seguridad adecuadas durante todo el
ciclo de vida de los sistemas de inteligencia artificial.
Artículo 13 –
Innovación segura
Con miras a
fomentar la innovación y al mismo tiempo evitar impactos adversos sobre los
derechos humanos, la democracia y el estado de derecho, se pide a cada Parte
que permita, según corresponda, el establecimiento de entornos controlados para
desarrollar, experimentar y probar sistemas de inteligencia artificial bajo la
supervisión de sus autoridades competentes.
Capítulo IV –
Remedios
Artículo 14 –
Remedios
1. Cada Parte, en
la medida en que sus obligaciones internacionales requieran recursos y de
conformidad con su ordenamiento jurídico interno, adoptará o mantendrá medidas
para garantizar la disponibilidad de recursos accesibles y eficaces para las
violaciones de los derechos humanos resultantes de las actividades dentro del
ciclo de vida de sistemas de inteligencia artificial.
2. Con el objetivo
de apoyar el párrafo 1 anterior, cada Parte adoptará o mantendrá medidas que
incluyan:
a. medidas para
garantizar que la información relevante sobre los sistemas de inteligencia
artificial que tienen el potencial de afectar significativamente a los derechos
humanos y su uso relevante esté documentada, se proporcione a los organismos
autorizados a acceder a esa información y, cuando sea apropiado y aplicable, se
ponga a disposición o se comunique a las personas afectadas;
b. medidas para
garantizar que la información mencionada en el subpárrafo a sea suficiente para
que las personas afectadas impugnen las decisiones tomadas o sustancialmente
informadas por el uso del sistema y, cuando sea relevante y apropiado, el uso
del sistema en sí; y
c. una posibilidad
efectiva para que las personas interesadas presenten una denuncia ante las
autoridades competentes.
Artículo 15 –
Garantías procesales
1. Cada Parte
garantizará que, cuando un sistema de inteligencia artificial tenga un impacto
significativo en el disfrute de los derechos humanos, las personas afectadas
por el mismo dispongan de garantías procesales, salvaguardias y derechos
efectivos, de conformidad con el derecho internacional y nacional aplicable.
2. Cada Parte
buscará garantizar que, según corresponda al contexto, se notifique a las
personas que interactúan con sistemas de inteligencia artificial que están
interactuando con dichos sistemas en lugar de con un ser humano.
Capítulo V –
Evaluación y mitigación de riesgos e impactos adversos
Artículo 16 –
Marco de gestión de riesgos e impactos
1. Cada Parte,
teniendo en cuenta los principios establecidos en el Capítulo III, adoptará o
mantendrá medidas para la identificación, evaluación, prevención y mitigación
de los riesgos planteados por los sistemas de inteligencia artificial
considerando los impactos reales y potenciales sobre los derechos humanos, la
democracia y la Imperio de la ley.
2. Dichas medidas
serán graduadas y diferenciadas, según corresponda, y:
a. tener
debidamente en cuenta el contexto y el uso previsto de los sistemas de
inteligencia artificial, en particular en lo que respecta a los riesgos para
los derechos humanos, la democracia y el Estado de Derecho;
b. tener
debidamente en cuenta la gravedad y probabilidad de posibles impactos;
c. considerar,
cuando corresponda, las perspectivas de las partes interesadas relevantes, en
particular las personas cuyos derechos puedan verse afectados;
d. aplicar de
forma iterativa a lo largo de las actividades dentro del ciclo de vida del
sistema de inteligencia artificial;
e. incluir el
seguimiento de riesgos e impactos adversos para los derechos humanos, la
democracia y el estado de derecho;
f. incluir
documentación de los riesgos, los impactos reales y potenciales y el enfoque de
gestión de riesgos; y
g. exigir, cuando
proceda, pruebas de los sistemas de inteligencia artificial antes de ponerlos a
disposición para su primer uso y cuando se modifiquen significativamente;
3. Cada Parte
adoptará o mantendrá medidas que busquen garantizar que se aborden
adecuadamente los impactos adversos de los sistemas de inteligencia artificial
sobre los derechos humanos, la democracia y el estado de derecho. Dichos
impactos adversos y las medidas para abordarlos deben documentarse e informar
las medidas de gestión de riesgos pertinentes descritas en el párrafo 2.
4. Cada Parte
evaluará la necesidad de una moratoria o prohibición u otras medidas apropiadas
con respecto a ciertos usos de los sistemas de inteligencia artificial cuando
considere que dichos usos son incompatibles con el respeto de los derechos
humanos, el funcionamiento de la democracia o el Estado de derecho.
Capítulo VI –
Aplicación de la Convención
Artículo 17 – No
discriminación
La aplicación de
las disposiciones del presente Convenio por las Partes se garantizará sin
discriminación por ningún motivo, de conformidad con sus obligaciones
internacionales en materia de derechos humanos.
Artículo 18 –
Derechos de las personas con discapacidad y de los niños
Cada Parte, de
conformidad con su legislación interna y sus obligaciones internacionales
aplicables, tendrá debidamente en cuenta cualquier necesidad y vulnerabilidad
específica en relación con el respeto de los derechos de las personas con
discapacidad y de los niños.
Artículo 19 –
Consulta pública
Cada Parte buscará
garantizar que las cuestiones importantes planteadas en relación con los
sistemas de inteligencia artificial sean, según corresponda, debidamente
consideradas mediante debates públicos y consultas de múltiples partes
interesadas a la luz de las implicaciones sociales, económicas, legales,
éticas, ambientales y otras implicaciones relevantes.
Artículo 20 –
Alfabetización y competencias digitales
Cada Parte
alentará y promoverá una alfabetización digital y habilidades digitales
adecuadas para todos los segmentos de la población, incluidas habilidades
expertas específicas para los responsables de la identificación, evaluación,
prevención y mitigación de los riesgos que plantean los sistemas de
inteligencia artificial.
Artículo 21 –
Salvaguardia de los derechos humanos existentes
Nada de lo
dispuesto en este Convenio se interpretará en el sentido de que limita, deroga
o afecta de otro modo los derechos humanos u otros derechos y obligaciones
legales relacionados que puedan garantizarse en virtud de las leyes pertinentes
de una Parte o de cualquier otro acuerdo internacional pertinente del que sea
parte.
Artículo 22 –
Protección más amplia
Ninguna de las
disposiciones de este Convenio se interpretará en el sentido de que limita o
afecta de otro modo la posibilidad de que una Parte otorgue una medida de
protección más amplia que la estipulada en este Convenio.
Capítulo VII –
Mecanismo de seguimiento y cooperación
Artículo 23 –
Conferencia de las Partes
1. La Conferencia
de las Partes estará compuesta por representantes de las Partes en el presente
Convenio.
2. Las Partes se
consultarán periódicamente con miras a:
a. facilitar la
aplicación efectiva de esta Convención, incluida la identificación de cualquier
problema y los efectos de cualquier reserva hecha de conformidad con el
artículo 34, párrafo 1, o cualquier declaración hecha en virtud de esta
Convención;
b. considerando la
posible complementación o modificación del presente Convenio;
c. considerar
asuntos y hacer recomendaciones específicas relativas a la interpretación y
aplicación de esta Convención;
d. facilitar el
intercambio de información sobre novedades jurídicas, políticas o tecnológicas
significativas de importancia, incluso en la consecución de los objetivos
definidos en el artículo 25, para la aplicación de este Convenio;
e. facilitar,
cuando sea necesario, la solución amistosa de controversias relacionadas con la
aplicación de esta Convención; y
f. facilitar la
cooperación con las partes interesadas pertinentes en relación con los aspectos
pertinentes de la implementación de esta Convención, incluso a través de
audiencias públicas cuando corresponda.
3. La Conferencia
de las Partes será convocada por el Secretario General del Consejo de Europa
siempre que sea necesario y, en cualquier caso, cuando una mayoría de las
Partes o el Comité de Ministros soliciten su convocatoria.
4. La Conferencia
de las Partes adoptará su propio reglamento por consenso dentro de los doce
meses siguientes a la entrada en vigor del presente Convenio.
5. Las Partes
estarán asistidas por la Secretaría del Consejo de Europa en el desempeño de
sus funciones de conformidad con el presente artículo.
6. La Conferencia
de las Partes podrá proponer al Comité de Ministros formas apropiadas de
contratar expertos relevantes en apoyo de la implementación efectiva de esta
Convención.
7. Cualquier Parte
que no sea miembro del Consejo de Europa contribuirá a la financiación de las
actividades de la Conferencia de las Partes. La contribución de un país no
miembro del Consejo de Europa será fijada conjuntamente por el Comité de
Ministros y dicho país no miembro.
8. La Conferencia
de las Partes podrá decidir restringir la participación en su trabajo de una
Parte que haya dejado de ser miembro del Consejo de Europa conforme al Artículo
8 del Estatuto del Consejo de Europa (ETS No. 1) por una violación grave del
artículo 3 del Estatuto. De manera similar, se pueden tomar medidas con
respecto a cualquier Parte que no sea un Estado miembro del Consejo de Europa
mediante una decisión del Comité de Ministros de cesar sus relaciones con ese
Estado por motivos similares a los mencionados en el artículo 3 del Estatuto.
Artículo 24 –
Obligación de informar
1. Cada Parte
presentará un informe a la Conferencia de las Partes dentro de los primeros dos
años después de convertirse en Parte, y luego periódicamente, con detalles de
las actividades realizadas para dar efecto al Artículo 3, párrafo 1,
subpárrafos a y b. .
2. La Conferencia
de las Partes determinará el formato y el proceso del informe de conformidad
con su reglamento.
Artículo 25 –
Cooperación internacional
1. Las Partes
cooperarán en la realización del propósito de este Convenio. Se alienta además
a las Partes, según corresponda, a ayudar a los Estados que no son Partes en
esta Convención a actuar de manera coherente con los términos de esta
Convención y a convertirse en Partes en ella.
2. Las Partes
intercambiarán, según corresponda, información relevante y útil entre ellas
sobre aspectos relacionados con la inteligencia artificial que puedan tener
efectos positivos o negativos significativos en el disfrute de los derechos
humanos, el funcionamiento de la democracia y la observancia del Estado de
derecho. incluidos los riesgos y efectos que han surgido en contextos de
investigación y en relación con el sector privado. Se alienta a las Partes a
involucrar, según corresponda, a las partes interesadas pertinentes y a los
Estados que no son Partes en esta Convención en dichos intercambios de
información.
3. Se alienta a
las Partes a fortalecer la cooperación, incluso con las partes interesadas
relevantes cuando corresponda, para prevenir y mitigar riesgos e impactos
adversos sobre los derechos humanos, la democracia y el estado de derecho en el
contexto de las actividades dentro del ciclo de vida de los sistemas de inteligencia
artificial.
Artículo 26 –
Mecanismos de supervisión eficaces
1. Cada Parte
establecerá o designará uno o más mecanismos eficaces para supervisar el
cumplimiento de las obligaciones contenidas en este Convenio.
2. Cada Parte
garantizará que dichos mecanismos ejerzan sus funciones de manera independiente
e imparcial y que tengan los poderes, la experiencia y los recursos necesarios
para cumplir eficazmente sus tareas de supervisar el cumplimiento de las
obligaciones establecidas en este Convenio, según las apliquen las Partes.
3. En caso de que
una Parte haya previsto más de uno de esos mecanismos, adoptará medidas, cuando
sea posible, para facilitar la cooperación efectiva entre ellos.
4. En caso de que
una Parte haya previsto mecanismos diferentes de las estructuras de derechos
humanos existentes, tomará medidas, cuando sea posible, para promover la
cooperación efectiva entre los mecanismos mencionados en el párrafo 1 y las
estructuras nacionales de derechos humanos existentes.
Capítulo VIII –
Cláusulas finales
Artículo 27 –
Efectos del Convenio
1. Si dos o más
Partes ya han concertado un acuerdo o tratado sobre las cuestiones tratadas en
el presente Convenio, o han establecido de otro modo relaciones sobre dichas
cuestiones, también tendrán derecho a aplicar ese acuerdo o tratado o a regular
esas relaciones en consecuencia. siempre que lo hagan de manera que no sea
incompatible con el objeto y fin de esta Convención.
2. Las Partes que
sean miembros de la Unión Europea aplicarán, en sus relaciones mutuas, las
normas de la Unión Europea que regulen las materias comprendidas en el ámbito
de aplicación del presente Convenio sin perjuicio del objeto y fin del presente
Convenio y sin perjuicio de su plena aplicación con otras Partes. Lo mismo se
aplica a otras Partes en la medida en que estén sujetas a dichas normas.
Artículo 28 –
Enmiendas
1. Cualquier
Parte, el Comité de Ministros del Consejo de Europa o la Conferencia de las
Partes podrán proponer enmiendas al presente Convenio.
2. Cualquier
propuesta de modificación será comunicada por el Secretario General del Consejo
de Europa a las Partes.
3. Cualquier
enmienda propuesta por una Parte, o por el Comité de Ministros, será comunicada
a la Conferencia de las Partes, que presentará al Comité de Ministros su
opinión sobre la enmienda propuesta.
4. El Comité de
Ministros considerará la enmienda propuesta y la opinión presentada por la
Conferencia de las Partes y podrá aprobar la enmienda.
5. El texto de
cualquier enmienda aprobada por el Comité de Ministros de conformidad con el
párrafo 4 se enviará a las Partes para su aceptación.
6. Cualquier
enmienda aprobada de conformidad con el párrafo 4 entrará en vigor el trigésimo
día después de que todas las Partes hayan informado al Secretario General de su
aceptación.
Artículo 29 –
Solución de controversias
En caso de disputa
entre las Partes en cuanto a la interpretación o aplicación de esta Convención,
estas Partes buscarán una solución de la disputa mediante negociación o
cualquier otro medio pacífico de su elección, incluso a través de la
Conferencia de las Partes, según lo dispuesto en Artículo 23, párrafo 2, subpárrafo
e.
Artículo 30 –
Firma y entrada en vigor
1. El presente
Convenio estará abierto a la firma de los Estados miembros del Consejo de
Europa, de los Estados no miembros que hayan participado en su redacción y de
la Unión Europea.
2. Este Convenio
está sujeto a ratificación, aceptación o aprobación. Los instrumentos de
ratificación, aceptación o aprobación se depositarán en poder del Secretario
General del Consejo de Europa.
3. El presente
Convenio entrará en vigor el primer día del mes siguiente a la expiración de un
período de tres meses después de la fecha en que cinco signatarios, incluidos
al menos tres Estados miembros del Consejo de Europa, hayan expresado su
consentimiento a ser obligado por el presente Convenio de conformidad con el
párrafo 2.
4. Respecto de
cualquier signatario que posteriormente exprese su consentimiento en obligarse
por él, el presente Convenio entrará en vigor el primer día del mes siguiente a
la expiración de un período de tres meses después de la fecha del depósito de
su instrumento de ratificación, aceptación o aprobación.
Artículo 31 –
Adhesión
1. Después de la
entrada en vigor de este Convenio, el Comité de Ministros del Consejo de Europa
podrá, después de consultar a las Partes en este Convenio y obtener su
consentimiento unánime, invitar a cualquier
Estado no miembro
del Consejo de Europa que no haya participado en la elaboración del presente
Convenio a adherirse al mismo mediante decisión adoptada por la mayoría
prevista en el artículo 20.d del Estatuto del Consejo de Europa, y por
unanimidad. voto de los representantes de las Partes con derecho a formar parte
del Comité de Ministros.
2. Respecto de
cualquier Estado adherente, el presente Convenio entrará en vigor el primer día
del mes siguiente a la expiración de un período de tres meses después de la
fecha de depósito del instrumento de adhesión ante el Secretario General del
Consejo de Europa. .
Artículo 32 –
Aplicación territorial
1. Cualquier
Estado o la Unión Europea podrá, en el momento de la firma o al depositar su
instrumento de ratificación, aceptación, aprobación o adhesión, especificar el
territorio o territorios a los que se aplicará el presente Convenio.
2. Cualquier Parte
podrá, en una fecha posterior, mediante declaración dirigida al Secretario
General del Consejo de Europa, extender la aplicación del presente Convenio a
cualquier otro territorio especificado en la declaración. Respecto de dicho
territorio, este Convenio entrará en vigor el primer día del mes siguiente a la
expiración de un período de tres meses después de la fecha de recepción de la
declaración por el Secretario General.
3. Cualquier
declaración hecha en virtud de los dos párrafos anteriores podrá ser retirada,
respecto de cualquier territorio especificado en dicha declaración, mediante
notificación dirigida al Secretario General del Consejo de Europa. El retiro se
hará efectivo el primer día del mes siguiente al vencimiento de un plazo de
tres meses después de la fecha de recepción de dicha notificación por el
Secretario General.
Artículo 33 –
Cláusula federal
1. Un Estado
federal podrá reservarse el derecho de asumir obligaciones en virtud de esta
Convención de conformidad con sus principios fundamentales que rigen la
relación entre su gobierno central y los estados constituyentes u otras
entidades territoriales similares, siempre que esta Convención se aplique al
gobierno central del Estado federal.
2. Respecto de las
disposiciones de esta Convención, cuya aplicación esté bajo la jurisdicción de
estados constituyentes u otras entidades territoriales similares que no estén
obligadas por el sistema constitucional de la federación a tomar medidas legislativas,
el gobierno federal informará a la autoridades competentes de dichos estados de
dichas disposiciones con su opinión favorable, y alentarlas a tomar las medidas
apropiadas para darles efecto.
Artículo 34 –
Reservas
1. Mediante
notificación escrita dirigida al Secretario General del Consejo de Europa,
cualquier Estado podrá, en el momento de la firma o del depósito de su
instrumento de ratificación, aceptación, aprobación o adhesión, declarar que se
acoge a la reserva prevista. en el artículo 33, apartado 1.
2. No podrá
hacerse ninguna otra reserva respecto del presente Convenio.
Artículo 35 –
Denuncia
1. Cualquier Parte
podrá, en cualquier momento, denunciar el presente Convenio mediante
notificación dirigida al Secretario General del Consejo de Europa.
2. Dicha denuncia
surtirá efectos el primer día del mes siguiente al vencimiento de un plazo de
tres meses a partir de la fecha de recepción de la notificación por el
Secretario General.
Artículo 36 –
Notificación
El Secretario
General del Consejo de Europa notificará a los Estados miembros del Consejo de
Europa, a los Estados no miembros que hayan participado en la redacción del
presente Convenio, a la Unión Europea, a cualquier signatario, a cualquier
Estado contratante, a cualquier Parte y a cualquier otro Estado que ha sido
invitado a adherirse al presente Convenio, de:
a. cualquier
firma;
b. el depósito de
cualquier instrumento de ratificación, aceptación, aprobación o adhesión;
c. cualquier fecha
de entrada en vigor del presente Convenio, de conformidad con el artículo 30,
párrafos 3 y 4, y el artículo 31, párrafo 2;
d. cualquier
modificación adoptada de conformidad con el artículo 28 y la fecha en que dicha
modificación entre en vigor;
e. cualquier
declaración hecha de conformidad con el apartado b) del párrafo 1 del artículo
3;
f. cualquier
reserva y retiro de una reserva formulada de conformidad con el artículo 34;
g. cualquier
denuncia hecha de conformidad con el artículo 35;
h. cualquier otro
acto, declaración, notificación o comunicación relacionados con este Convenio.
En fe de lo cual
los infrascritos, estando debidamente autorizados para ello, firman el presente
Convenio.
Hecho en [lugar],
el... día de [mes] de 202[4], en inglés y en francés, siendo ambos textos
igualmente auténticos, en un solo ejemplar que será depositado en los archivos
del Consejo de Europa. El Secretario General del Consejo de Europa enviará
copias certificadas a cada Estado miembro del Consejo de Europa, a los Estados
no miembros que hayan participado en la redacción del presente Convenio, a la
Unión Europea y a cualquier Estado invitado a adherirse al mismo. este
Convenio.
