En un contexto atravesado por el constante avance de la tecnología generativa y la reciente polémica desatada en un colegio de Lomas de Zamora, el especialista en ciberseguridad y tecnología Luis Lubeck pasó por el programa Palabras Más Palabras Menos en LA CIELO 103.5. Durante la entrevista, el analista explicó el funcionamiento de las herramientas para verificar contenidos visuales, previno sobre las estafas digitales disfrazadas de “detectores de IA” y trazó pautas claras de prevención y responsabilidad ante episodios de acoso y abuso digital.
A continuación, las cuatro claves fundamentales para entender los alcances, límites y riesgos de la tecnología en la verificación de imágenes:
Frente al lanzamiento de aplicaciones destinadas a identificar si un archivo fue creado mediante Inteligencia Artificial, Lubeck explicó que estos sistemas analizan rastros técnicos invisibles a simple vista. “Estas aplicaciones van a buscar por un lado indicios técnicos, todo lo que generalmente conocemos como metadata, que es la información donde queda guardada por ejemplo la cámara o el autor”.
No obstante, el especialista aclaró que un resultado positivo no debe interpretarse de forma dogmática. “Esto no puede ser tomado al 100% al pie del cañón; para el usuario debe ser un indicio más para ejercer su pensamiento crítico”. Según detalló, existe una diferencia sustancial entre una imagen generada desde cero y una fotografía real que fue sometida a retoques menores. “La imagen a lo mejor es real y fue retocada para mejorarla, como borrar algo del fondo o cambiarle el color a una remera; la imagen sigue siendo real y figura como artificial simplemente porque fue alterada”. Asimismo, remarcó que las herramientas de empresas como Google, OpenAI o Anthropic son eficientes para reconocer creaciones de sus propios modelos (como Gemini o ChatGPT), pero pierden precisión ante imágenes producidas por plataformas competidoras.
El peligro de las “páginas trampa”: malware y robo de datos
Ante la proliferación de portales web que prometen analizar fotos o documentos de forma gratuita, Lubeck lanzó una dura advertencia sobre las trampas montadas por ciberdelincuentes. “Así como aparecen muchas herramientas, aparece mucho código malicioso haciéndose pasar por herramientas de Inteligencia Artificial, tanto para crear contenido como para verificación”.
El experto alertó sobre el uso de anuncios pagados en buscadores para engañar a los usuarios. “Hoy hay muchas campañas maliciosas que invierten en publicidad para aparecer primeros en los resultados patrocinados y nos hacen entrar en sitios que buscan robarnos datos personales o hacernos descargar algún tipo de malware o virus”. Para navegar de forma segura, recomendó recurrir de manera exclusiva a los dominios oficiales de las desarrolladoras principales. “La manera responsable es usar únicamente las plataformas oficiales: OpenAI, Gemini, Claude; con esas tres opciones tenemos el 95% del mercado de Inteligencia Artificial al alcance de la mano de forma segura”.
El caso Lomas de Zamora: “No es una broma de chicos, es un delito”
Al ser consultado sobre el episodio ocurrido en el Colegio Modelo Lomas de Zamora —donde se utilizaron los rostros de decenas de alumnas para confeccionar imágenes pornográficas falsas mediante IA—, Lubeck hizo hincapié en el abordaje humano e institucional. “Lo primero que tenemos que evitar es revictimizar a las personas, realmente acompañarlas en el sentimiento de que no son culpables de lo que está pasando”.
Asimismo, rechazó categóricamente cualquier intento de minimizar la gravedad del hecho. “Hay que abarcarlo desde la prevención y la concientización, entendiendo que esto no es una broma; cuando decimos que es una broma o algo de chicos, estamos minimizando que el daño es real sobre las chicas”. El especialista recordó que la fabricación y conservación de este material trasciende el ámbito escolar para convertirse en un ilícito de índole penal. “En la Argentina la simple tenencia de material de abuso sexual infantil es un delito; se están cometiendo delitos en la creación, en la difusión y en la tenencia, y el responsable ahí es el adulto o el titular del dispositivo digital”. A esto sumó la persistencia del daño en el tiempo: “Lamentablemente esto se vuelve parte de la huella digital de las personas porque es muy difícil borrarlo de internet por completo”.
Cómo actuar: cortar la cadena de difusión y hacer la denuncia judicial
En cuanto a las medidas concretas de acción ante situaciones de violencia digital o manipulación de imágenes, Lubeck enfatizó la necesidad de no colaborar con la propagación del contenido. “Algo con lo que se puede trabajar muy fuerte es en la cuestión de no ser parte: si yo corto la cadena y no lo viralizo, freno el impacto; a veces de buena fe uno reenvía lo que pasó para avisar, pero está viralizando material de abuso sexual infantil”.
En caso de recibir este tipo de archivos, la consigna es eliminar el contenido de inmediato. Para las víctimas o familiares afectados, el especialista diferenció los reclamos administrativos en redes sociales de las acciones legales formales. “El reporte en redes sirve para borrar el material de las plataformas, porque hoy trabajan de manera coordinada ante casos de menores; pero hay que llevar la denuncia judicial adelante porque la justicia está de nuestro lado para este tipo de casos que son un delito”.
