EscucharRecientemente se dio a conocer que un joven, de 15 años, habría manipulado imágenes de sus compañeras de colegio mediante la utilización de sistemas de inteligencia artificial (IA), generando desnudos con la imagen de las muchachas, para comercializarlas a través de la plataforma Discord (programa de comunicación gratuito que permite compartir chats de texto, voz y video mediante la generación de grupos privados).
En otras palabras, este joven habría tomado fotos de sus compañeras de clase y las habría “desnudado” utilizando IA, para vender dichas imágenes en el mercado a través de la plataforma mencionada. Esta barbaridad ocurrió en la localidad de San Andrés, partido de General San Martín, provincia de Buenos Aires, Argentina.
La tecnología que se habría utilizado es la denominada deepfake que permite editar videos (voz incluída) o imágenes falsas de personas que aparentemente son reales, pero que no lo son, utilizando para ello fotografías que usualmente son tomadas de las redes sociales de las víctimas. Eso incluye la posibilidad de crear supuestas personas actuando de una manera que no es real, simulándose de ese modo acciones que nunca se ejecutaron.
A este tipo de sistemas de IA se sumó la aplicación “Sora” (de OpenIA) que permite al usuario la creación de un video a partir de instrucciones de texto, esto es, la generación de video-contenido a partir de frases.
Situaciones como la ocurrida con las alumnas del colegio de la localidad de San Andrés se multiplican, como el caso de Almendralejo (España) cuando, a fines de 2023, varias adolescentes fueron víctimas de hechos similares al ser tomadas sus imágenes de Instagram para fabricar desnudos eróticos falsos distribuidos en distintos sitios webs por un compañero.
Estrellas de la canción como Taylor Swift y de Hollywood como Scarlett Johansson, como asimismo el propio papa Francisco y Donald Trump han sido víctimas de esta tecnología, e inclusive han promovido acciones legales contra sus desarrolladores, ya que, en muchos casos, sus fotografías y/o videos han sido utilizados para desinformar e influenciar a la población en determinado sentido.
Al respecto, la Corte Suprema de Justicia de Argentina sostuvo, en reiteradas oportunidades, que el legislador ha prohibido, como regla, la reproducción de la imagen (y la voz) en resguardo del correlativo derecho a ella, restricción que solo cede si se dan específicas circunstancias que tengan en mira un interés general que aconseje hacerlas prevalecer por sobre aquel derecho.
El amparo legal se extiende a cualesquier técnica de reproducción de los rasgos físicos de una persona, con prescindencia del procedimiento empleado y del soporte material en el cual se fija la imagen.
Dicho en criollo, nadie puede utilizar ni comercializar la imagen ni la voz de otra persona sin su consentimiento bajo pena de responder por los daños y perjuicios causados. Si el autor de los hechos es menor de edad puede surgir la responsabilidad de los padres, sobre los que recae la obligación de custodia, guarda y debida vigilancia.
En cuanto a las respuestas legislativas para penalizar este tipo de acciones, sin perjuicio de que estos hechos pueden calificarse como “violencia de género digital”, se han presentado en el Congreso Nacional algunos proyectos de ley que persiguen encuadres (tipos) penales especiales.
Por ejemplo, los proyectos de ley presentados por los diputados Juan Fernando Brugge y Gerardo Milman, con similares fundamentos y diferente extensión normativa, proponen modificar el Código Penal de la Nación y establecer fuertes penas de prisión para todo aquel que incurra en este tipo de acciones, ya sea mediante la producción, financiación y/o comercialización de imágenes elaboradas y/o modificadas por sistemas deepfake.
Lógicamente, siempre es mejor prevenir que curar, por lo cual resulta aconsejable evitar este tipo de hechos con un adecuado marco de concientización en el nivel familiar y educativo, mediante su tratamiento en el aula, incluyendo una modificación en la ley de educación superior que establezca, como materia obligatoria, el tratamiento de estas cuestiones y/o cualquiera vinculada al uso responsable de herramientas informáticas y sistemas de IA.
La IA asegura grandes oportunidades y beneficios para la humanidad, aunque también facilita herramientas que permiten confundir la identidad de las cosas y de las personas, como asimismo la desinformación y la mentira.
LEA MÁS: Inteligencia artificial dificulta diferenciar entre humanos y robots, pero sus ojos dirán la verdad
Dependerá de los Estados establecer normas de juego claras que permitan identificar este tipo de situaciones y sancionarlas razonablemente, sin afectar el desarrollo de una industria que ha prometido actuar con ética proactiva, sujeta a verificación en el tiempo. Hasta que eso suceda, navegaremos aguas peligrosas.
