Alvarez Larrondo: "Lo negativo de la IA es la falta de responsabilidad de los usuarios finales".

Federico Alvarez Larrondo, abogado, doctor en Derecho y profesor titular de la Universidad Nacional de Mar del Plata pasó por "Vencedores y Vencidos" y nos compartió todo lo que tiene que ver con la IA (Inteligencia Artificial) y sus alcances,

La verdad ha muerto.

Antes de desarrollar sus conceptos nuestro invitado desliza una reflexión: "Una de las cosas que dice Byung-Chul Han, que para mí es una de las más interesantes, es que la verdad ha muerto. Es muy difícil hoy reconocer qué es verdad y qué no es verdad.

"Hoy vos no podés determinar a ciencia cierta, salvo que haya marca de agua. Si no, en los hechos hay hoy videos. Para tomar dimensión, hoy están circulando los videos de una empresa china que directamente lo que te hace es generar escenas de películas. Y vos la ves a esa escena y es realmente parte de una película. Con lo cual, yo tranquilamente podría creer que estoy ante algo que se filmó en una locación, con humanos y demás. Todo real. Y todo es ficcional. Y vos lo ves y realmente es perfecto" agregó.

"Por eso es que hoy es muy difícil determinar. Algunas las podrás distinguir, pero la mayoría, y sobre todo con otra cosa, que es que eso va acompañado de la velocidad con la cual nosotros accedemos hoy a la información. Vos no tenés tiempo de detenerte" analizó.

Mirar sin leer: "Por lo tanto, lo que mirás, lo ves y lo pasás. Y entonces eso lo incorporás como si fuese una verdad. No sé si les habrá pasado, pero últimamente es muy común que uno diga,, ¿viste que pasó tal cosa? Sí vi el título. Punto. No vi nada más. Nadie lee nada. Ni la bajada" .

Herramientas para distinguir imágenes generadas por IA

Consultado sobe cómo poder distinguir imágenes reales de la IA, el profesional aporta información vital: "Hoy, en realidad, mientras no haya normativa que te obligue a vos a establecerle marca de agua, lo único que podés hacer es, con una herramienta pericial, es poder ver que estas plataformas sí dejan incrustada en las imágenes datos para que una IA pueda, por ejemplo, leer que es una IA. Por ejemplo, Sora 2 es una herramienta que la verdad es para debatirla un rato largo. ¿Por qué? Porque es la primera red social de imágenes".

"Sora 2 es de OpenAI, pero desde el origen, la idea es que todo lo que se genera ahí es artificial. Entonces, vos todo lo que vas a ver ahí, por más que va a parecer que, ¿para qué la está usando la gente? Bueno, aparece alguien promocionando el programa de radio.Vos lo vas a ver y te parece que es una persona humana, normal, que lo está promocionando y demás. Lo importante es que hay un logo que está todo el tiempo dando vuelta, que es la marca de agua, que a vos te permite saber que eso es de Sora 2. Ahora, ese tipo de marcas, hoy, sabiendo muy poco de programación, las podés quitar. Y entonces, lo que te generó la IA que vos lo ves y es realista, lo podés subir y, claramente, el tercero va a creer que lo que está viendo es real" explicó.

Tu imágen o tu voz en la escena del crimen

Ante la preocupación por parte de las personas de que su imágen y su voz se implenten en una escena del crimen, Alvarez Larrondo comenta un caso en particular: "En la Ciudad Autónoma de Buenos Aires se estuvo tramitando una medida cautelar para tratar de que no se permita que la gente pueda, a través de lo que es la red wifi libre, acceder a las herramientas de clonación".

"Hay herramientas que yo subo las fotos de cualquiera de ustedes, en tiempo real, empiezo a moverme y la imagen se mueve. Si yo, le pusiera un sonido de clonación de la voz de cualquiera de ustedes, eso lo voy a reproducir como si fuesen ustedes haciendo los gestos que estoy haciendo yo. Podemos clonar y, en una escena del crimen, poner a la persona" detalló.

"Las imágenes se pueden peritar y demostrar que están alteradas. Eso se puede hacer ahora" aseguró.

Las justificaciones y los problemas que vienen: "El problema no es hoy todavía el fake, sino el hecho de que todo el mundo va a argumentar que es la IA la que le hizo esa imagen o ese audio. Después va a venir la etapa de prueba para demostrar si eso realmente fue alterado o no fue alterado. El gran problema de la actualidad es que va a haber una sobrecarga de situaciones donde diga, esto fue la IA, aun cuando no lo haya sido".

"En este caso, lo que estamos viendo es, si no tenemos que empezar a repensar otros institutos, cuando yo lo que estoy diciendo es voy a lanzar un audio, que en realidad yo lo que te digo es, ese audio yo nunca lo dije, es IA, bueno, tratar de detenerlo antes de que el mismo salga a la luz. Pero para eso tenés que cambiar toda una estructura de pensamiento que es acorde a lo que eran las viejas" sostuvo.

El rol del Estado

Ante las situaciones planteadas surge la pregunta: ¿Cuál es el rol de los Estados en este escenario?. "Nosotros vemos que los Estados lentamente están delegando el poder que era regulador y de establecer la paz social en las propias empresas que son aquellas que hoy generan estas herramientas sin ningún tipo de límite, yo siempre digo lo mismo".

"Si yo lanzo una herramienta como una IA que me permite clonar, que me permite hacer, como es en el mundo virtual donde no hay Estados, y los Estados parece que están entretenidos en otras cuestiones. Eso no tiene ningún tipo de filtro ni de control. ¿Y qué hacen después? Bueno, miran a ver cuáles son los impactos" remarcó.

"Hoy directamente empezamos a discutir en revistas científicas como Nature que en realidad empieza a superar la inteligencia humana, ahora sí podemos hablar de que supera la inteligencia humana, bueno, claramente lo que vos tenés acá es falta de filtros", sentenció

Cómo usar la IA

Sobre los usos positivos y negativos de la IA, el profesional aseguró: "El problema es, la idea es una, era una herramienta, hoy es un agente, son dos cosas distintas. Después está cómo lo vamos a usar. Entonces, si vos me preguntás, aspecto médico, fantástico, lo que estamos viendo hoy, por ejemplo, es que empieza a haber enfermedades antes que el ojo humano, y te permite actuar preventivamente. Genoma humano, está empezando a determinar y a, por ejemplo, AlphaFold, premio Nobel del año 2024, permitió hacer todo el lineamiento de todas las enzimas que hay hoy en el mundo".

"Estamos hablando de que para el 2032 empezamos a rejuvenecer gracias a las drogas, vamos a vivir muchos más años, los que estemos vivos para el año 2032, es probable que los 100 años los vivamos tranquilamente, no hace falta nacer para vivir 100 años" comentó.

Lo positivo y lo negativo en muy poco tiempo: "Lo que dicen los científicos es que en los hechos, a partir del 2035, año que envejecés, año que recuperás, gracias a los avances de la IA. Entonces, cuando empezás a ver todo eso, vos, lo que me decís es, bueno, estamos hablando a 10 años, a 9 años, pero esos 9 años igual, van a tener en el medio un montón de situaciones. Son nueve siglos en la IA, ¿hay cosas positivas? Muchísimas. ¿Hay cosas negativas? Sí, una de las cosas es la falta de responsabilidad de los usuarios finales".

IA aplicadas a las Políticas Públicas estatales

Sobre el uso de la IA en el gobierno y como ejemplo lo implementado por Albania expresó: "Es interesantísimo. Cuando el gobierno de Albania, lanza Diela, que es esta ministra de obras públicas y de licitaciones, lo primero que dijimos nosotros desde nuestra cátedra en la Facultad de Derecho de la Universidad Nacional de Mar del Plata, es esto no se le puede hacer. No se le puede creer, porque en este caso es una herramienta entrenada".

"Hicimos una prueba, creamos un GPT que lo llamamos el Incorruptible y lo entrenamos para que siempre eligiese la misma empresa en todas las licitaciones. Entonces, hicimos un testeo, le pusimos 10 licitaciones, eligió siempre la misma empresa, pero ¿por qué? Porque lo habíamos entrenado para eso. De hecho, el equipo que administra Diela acaba de caer preso por corrupción en Albania" señaló.

Ante las evidencias expresó: "Esto demuestra que en realidad los eslogans de la IA viene para ser ecuánime, pura, etc. En realidad responde a los datos de entrenamiento que vos le hayas dado, los prompts que le hayas dado. Por eso es que nosotros ahí dábamos una solución que es utilizar la IA, pero con blockchain".

"¿Para qué? Para que vos puedas después auditar cuáles fueron los datos de entrenamiento, cuáles fueron los prompts que vos le diste, es decir, las instrucciones que le dieron. ¿Para qué? Para que después se pueda ver si es que llegó a un resultado porque había un error en la programación o porque fue realmente voluntario" concluyó.