Así lo plantea Rodrigo Goñi (Partido Nacional): “quiero señalar que ha ingresado el proyecto que ya habíamos anunciado sobre generación y difusión de contenidos engañosos durante la campaña electoral. Inclusive, en esta Comisión el Frente Amplio nos había solicitado un tiempo para analizar la posibilidad de firmarlo en conjunto”.

Recordó que “hace una semana, el Frente Amplio nos comunicó que, si bien no lo iba a firmar en conjunto, estaba dispuesto a considerarlo. Creemos que es un proyecto que debe tratarse a la brevedad, con carácter urgente porque, como dice la exposición de motivos, el desarrollo descontrolado y exponencial de la inteligencia artificial, combinada con otras tecnologías y plataformas digitales -es decir, el potencial de falsificación, de generar lo que se conoce como deepfake, que son falsificaciones de candidatos, fundamentalmente en tiempo electoral-, puede llevar a distorsionar el resultado electoral, a una desinformación generalizada”.

Según Goñi Reyes “así lo han planteado partidos de más de cincuenta países. Más de cincuenta parlamentos de países que tienen elecciones en el 2024 están abordando proyectos de estas características para tratar de minimizar los riesgos de que se produzcan deepfakes o falsificaciones profundas, sobre todo, en forma generalizada. Sabemos que no se pueden eliminar, pero sí minimizar. Diferentes Parlamentos ya han aprobado algunas de estas regulaciones con este objetivo”.

Convocatorias

Posteriormente a pedido del legislador Goñi se pidió que sean convocados  ALAI (Asociación Latinoamericana de Internet); CUTI (Cámara Uruguaya de Tecnologías de la Información); APU (Asociación de la Prensa Uruguaya); Fiscalía General de la Nación; la Cátedra de Derecho Informático de la Facultad de Derecho de la Udelar.

Para el parlamentario del PN “el proyecto es urgente y debe ser resuelto -por sí o por no- antes de las elecciones nacionales. Estamos convencidos de que -más allá, reitero, de la aprobación o no- el solo hecho de considerarlo y abordarlo en el Parlamento -que es el ámbito de representación ciudadana- ya tiene un efecto positivo, como muestra de toma de conciencia de los riesgos. Los partidos políticos tendrán la oportunidad -a través de sus representantes en esta Comisión- de analizar los peligros y riesgos que puede generar un uso malicioso de las herramientas de inteligencia artificial en las campañas electorales, sobre todo, con el ejemplo hacia la militancia, los dirigentes y los ciudadanos comunes que hoy tienen acceso, en forma generalizada, a este tipo de herramientas”.

Reitero: “sería conveniente y útil advertir sobre los peligros y amenazas de un mal uso de estas herramientas que podrían afectar la transparencia de la campaña electoral y los resultados electorales. Todos sabemos que después se generan cuestionamientos a los resultados y también hechos de violencia. La democracia toda, de alguna manera, se puede ver afectada en la medida en que, una de sus principales bases -o la principal-, el acto eleccionario, puede quedar contaminado y ser cuestionado si se permite un uso generalizado en forma maliciosa y con intención de manipular o distorsionar la voluntad ciudadana. Por lo tanto, solicito un tratamiento urgente del proyecto. Cuando digo esto me refiero a iniciar el tratamiento urgente, con la convocatoria a todas las delegaciones que he mencionado y las que puedan solicitar los demás integrantes de la Comisión”.

El diputado Miguel Lorenzoni (Frente Amplio) solicitó que se convoque al Grupo de Seguridad Informática de la Facultad de Ingeniería de la Udelar.

La parlamentaria del FA Lilián Galán agregó a la unidad de La Diaria Verifica, que viene trabajando en estos temas hace más de dos años.

El diputado Gustavo Olmos comparte que “se trata de un tema relevante. Yo le comentaba al diputado Goñi -y escribí alguna cosa- que el proyecto tiene un encare demasiado parcial, ya que solo comprende cuatro meses y cuando las víctimas son políticos que están en campaña, pero esta problemática se da en muchas otras situaciones. Me parece que vale la pena pensarlo más globalmente, pero comparto que se trate rápidamente”. También pidió sugirió que se invite a CAinfo.

Galán también incluyó a la Usina de Percepción Ciudadana por las fake news.

Fuente Imagen: https://nordvpn.com/

The post Diputado Goñi Reyes insiste en legislar ante el “deepfake”, las falsificaciones de candidatos appeared first on Sociedad Uruguaya.

El mismo lleva la firma de los profesionales Martín Pesce; Montserrat Puente; Florencia Fitipaldo; Joaquín Avedisian; y Natalia Villarreal, y expresa lo siguiente:

El Parlamento Europeo ha ratificado la primera legislación sobre Inteligencia Artificial (IA). Esta ley busca sentar las bases para la creación de un entorno favorable para el desarrollo de la innovación en un ambiente seguro, poniendo foco en la seguridad, transparencia y responsabilidad en la utilización de esta tecnología.

Para materializar estos objetivos, establece obligaciones basadas en la evaluación de los «riesgos potenciales» y los «niveles de impacto» de la IA.  En esta línea, realiza una clasificación de cuatro niveles, dependiendo del grado de riesgo que representen:

• Riesgo inaceptable: Sistemas de IA que se consideran una amenaza para las personas y están prohibidos (por ejemplo, manipulación cognitiva del comportamiento de personas).
• Riesgo alto: Sistemas que, por su función, tengan un efecto perjudicial para la salud, la seguridad y los derechos fundamentales de las personas (por ejemplo, identificación o categorización biométrica). Estos sistemas no se prohíben, pero deberán ser evaluados de forma previa, además de preverse un monitoreo posterior.
• Riesgo limitado: Sistemas que interactúan con seres humanos, a los cuales se les impone una obligación de transparencia en el uso de IA (por ejemplo, grandes modelos de lenguaje).
• Riesgo bajo o mínimo: Sistemas permitidos que no queden comprendidos en las restantes clasificaciones (por ejemplo, videojuegos que utilicen IA).

La ley establece, además, obligaciones de transparencia para los sistemas de IA generativa, los cuales deben especificar si han generado un texto, canción o fotografía utilizando IA, y garantizar los derechos de autor en los datos empleados para entrenar dichos sistemas.

En el mismo sentido, se declara ilegal el uso de deepfake, técnica de edición de imágenes, audios y/o videos falsos de personas, lugares o sucesos que aparentan ser reales sin aclarar que han sido generados por IA, y se prohíbe a empresas establecer chatbots sin revelar que no hay una persona real detrás.

Esta nueva legislación y los principios allí expresados resultan un antecedente relevante y con seguridad, servirá de inspiración en otras jurisdicciones. No obstante, la discusión y la experiencia es todavía incipiente, por lo que sería deseable ser prudentes en su incorporación y adecuación a los países de nuestra región.

Firman:

Martín Pesce; Montserrat Puente; Florencia Fitipaldo; Joaquín Avedisian; y Natalia Villarreal.

Fuente Imagen: https://www.expansion.com/

The post Ferrere: La Unión Europea aprueba la primera Ley sobre Inteligencia Artificial appeared first on Sociedad Uruguaya.