Contacto@ciberlegal.cl
+569 8419 1661
“Desviste a cualquiera con nuestro servicio GRATIS. Solo elige edad, tipo de cuerpo, calidad y obtén un resultado en unos segundos”
Ese es el mensaje de bienvenida que entrega una página que
genera imágenes de mujeres desnudas, a través del uso de Inteligencia
Artificial y que se ha vuelto viral hace unos días, por un grave hecho que
involucra a menores de edad en España.
Durante la semana del 18 de septiembre, se tomó conocimiento
que, en Almendralejo, municipio y ciudad española de la provincia de
Badajoz, en la comunidad autónoma de Extremadura, un grupo de al
menos 30 menores de edad fueron víctimas de esta aplicación y ellas se
enteraron de la peor forma posible.
Al volver a clases el día 14 de septiembre fueron los propios
compañeros de las menores de edad involucradas quienes les exhibieron
las (supuestas) imágenes que circulaban en donde ellas aparecían
totalmente desnudas. Incluso a una de las menores le escribió un
hombre a través de la mensajería de su Instagram pidiéndole dinero y al
negarse, le envió la imagen de ella desnuda.
El caso está actualmente en investigación y una de las madres
afectadas señaló que, al ver la imagen de su hija, sino es por que ella
conoce el cuerpo de la menor, la imagen parece totalmente real.
Independientemente del curso que siga dicha investigación y los
delitos por los cuales sean perseguidos los presuntos autores, el daño a
las menores está hecho, principalmente el daño psicológico de verse
expuestas a tal situación a los 12 años (edad promedio de las victimas)
sin tener las herramientas psicológicas y emocionales para poder
manejarlo y el juicio social que de igual forma muchas veces se realiza
sobre las victimas de un delito de carácter sexual.
Un sin número de tópicos pueden ser abordados respecto de tan
graves hechos, pero desde esta vereda nos avocaremos a tres en
particular:
a) Ética en la programación de la Inteligencia Artificial;
b) Regulación de la Inteligencia Artificial;
c) Auto regulación en el uso de las redes sociales y dispositivos
móviles.
Si bien seguiremos ese orden, el cual es aleatorio, pues todos tienen el mismo grado de importancia:
Ética en la programación de la Inteligencia Artificial
El medio utilizado para perpetrar el delito es una aplicación
generada mediante Inteligencia Artificial, alguien la programó y
consideró que era “viable” entregarla de manera gratuita.
Claramente el programador de la aplicación no tuvo dentro de su
análisis al momento de programar y desarrollar, el dilema ético y el mal
uso (no sé si podemos hablar de un bueno uso de este tipo de
herramientas) que le darían los usuarios finales de la misma.
Nótese que la aplicación ni siquiera tiene limites de edad,
simplemente hay que indicar la edad de la persona que se desea
“desnudar virtualmente” para que la aplicación le asigne el cuerpo que
corresponde a tal edad.
El problema es que llegar a determinar la identidad de los
culpables de la difusión de las fotos de las menores será complejo, la
mayoría debe haber actuado a través de perfiles falsos y con la debida
asistencia para que se desviara su IP a algún lugar recóndito del mundo
para no ser rastreado.
Desde ese punto de vista, en este caso, hay al menos culpa
directa en el actuar de los programadores de la aplicación sino es que
un dolo directo o incluso eventual, por lo que probablemente también
serán perseguidos por las policías y fiscales en la citada localidad
española.
Como hemos visto en otros casos de menor entidad en cuanto al
daño que causan los problemas éticos en la programación, como en
casos de discriminación de sexo, edad, raza o económicos en la
contratación de personal para una empresa, acá de igual forma se
encuentra graficado que el no programar éticamente una aplicación o
programa de Inteligencia Artificial, puede causar graves daños a
terceros, sobre todo menores de edad.
Regulación de la Inteligencia Artificial
Precisamente en el viejo continente, el uso de la inteligencia
artificial será regulado por la Ley de Inteligencia Artificial, la primera ley
integral sobre IA del mundo.
En abril del año 2021 se propuso el primer marco regulador de la
Unión Europea para la IA. A través de dicha propuesta, la idea es
normar que sistemas de IA que puedan utilizarse en distintas
aplicaciones se analicen y clasifiquen según el riesgo que supongan para
los usuarios. De acuerdo con el nivel de peligro que tengan, implicarán
una mayor o menor regulación. Una vez aprobadas, podrían ser las
primeras normas del mundo sobre IA.
En Chile tenemos la denominada Política Nacional de Inteligencia
Artificial, la que contiene los lineamientos estratégicos que debe seguir
Chile en esta materia durante los próximos 10 años (2021-2030) con el
objetivo de empoderar a las personas en el uso y desarrollo de
herramientas de IA, y participar en el debate sobre sus consecuencias
legales, éticas, sociales y económicas. La hoja de ruta está basada en
tres ejes: factores habilitantes, uso y desarrollo de Inteligencia Artificial
en Chile y aspectos de ética y seguridad.
Auto regulación en el uso de las redes sociales y dispositivos móviles.
Como hemos comentado en otras columnas, la tecnología avanza
más rápido que los negocios y los negocios, a su vez, más rápido que la
ley, por lo que la distancia que se produce en entre tecnología y
legalidad, es un abismo difícil de llenar.
En virtud de lo anterior. la culturización e higiene digital de los
ciudadanos en torno al correcto uso de las redes sociales y de sus
dispositivos móviles en general, es la base para lograr tener una
Sociedad Cibersegura.
Nada sacamos con tener normas que contemplen altas penas
asociadas a la comisión de este tipo de delitos, si no podemos
perseguirlos o bien si el proceso investigativo dura años en encontrar a
los culpables, revictimizando en muchos casos a las victimas a través de
la demora en la búsqueda de justicia. El daño, en definitiva, se produce
en el momento de la comisión del delito y luego lo que existe es
recuperar a la victima a través de diversas formas, pero el daño ocurrió,
es un hecho.
Es por ello que se debe Ciber educar a la ciudadanía, pero lo importante es que podamos concientizar, desde temprana edad, del daño que puede provocar el mal uso de la tecnología. De igual forma se debe Ciber educar a los estudiantes, tanto en los cursos básicos y medios, así como en la etapa de formación profesional, integrando a la ética con la programación y que tengan claro e internalizado el daño que se produce cuando nos alejamos del camino del respecto de las normas, morales, éticas y legales.
En nuestro país generalmente somos reactivos en materia
normativa, generando cuerpos legales que nacen como idea legislativa
derivada de graves hechos que ocurren en la sociedad, pero somos poco
precavidos y planificados en tales labores y en aquellos caso que si lo
fuimos, como la Ley de Protección de Datos Personales y de
Ciberdelitos, luego demoramos más de 20 años en adaptarla a los
cambios tecnológicos, es decir, son tan ineficaces normas añejas como
la falta de ellas.
Por ahora, el autocuidado por parte de padres y apoderados de los
menores de edad, parece ser la alternativa más segura para protegerlos
frente a amenazas como las descritas o bien al ciberdelito de grooming
o almacenamiento de pornografía infantil, no olvidemos que “Caras
vemos, trastornos mentales no sabemos”.