Presentación_PROT_TCUE24-25_024

CURSO 2024-2025

TÍTULO DEL PROYECTO:

Convocatoria Prototipos orientados al mercado en TCUE CURSO 2024-2025

IslamoWatch (IW-GENY): Detección multimodal de islamofobia Autor/a: William Steven González Baquero Tutor/a Académico: Carlos Arcila Calderón Colaboradoras: Patricia Sánchez Holgado

CURSO 2024-2025

Contexto y reto • La islamofobia circula en formatos audiovisuales breves (memes, música, texto en pantalla, edición).

• Los enfoques solo-texto omiten señales implícitas multimodales.

• Se requiere cribado con alta sensibilidad y trazabilidad para investigación, verificación y administraciones.

CURSO 2024-2025

Objetivos Desarrollar un prototipo que detecte automáticamente islamofobia en vídeos cortos en español (enfoque multimodal con IW-GENY).

Construir y documentar un corpus representativo (recogida vía APIs, limpieza y normalización) con validación humana como línea base.

Entrenar y evaluar el modelo con métricas estándar (precisión, recall, F1) y criterios de gobernanza (trazabilidad y explicaciones).

Desplegar una aplicación web que permita subida de vídeos (≤10 MB), etiqueta + explicación + transcripción, y exportación CSV.

CURSO 2024-2025

IW-GENY: ¿Qué hace?

Analiza de forma nativa imagen + audio + texto en un único pase (multimodal).

Devuelve etiqueta (0/1), explicación (reasoning) y transcripción (evidencia).

CURSO 2024-2025

Flujo de uso (app web) 1) Subir vídeos (MP4/MOV/M4V, ≤ 10 MB).

2) Procesar → cola (queued → processing → done/error).

3) Revisar resultados por vídeo: etiqueta + explicación + transcripción.

4) Exportar CSV para auditoría/informes.

CURSO 2024-2025

Datos y validación (línea base humana) • Validación: 1.210 vídeos (doble anotación), α de Krippendorff = 0,681.

• Caso real (Torre-Pacheco, julio 2025): 4.464 descargados; 3.417 evaluables.

• Métricas IW-GENY (validación): Recall 95,2%, Precisión 33,9%, F1 0,50.

CURSO 2024-2025

Aplicabilidad y transferencia • Investigación: muestreo amplio y reproducible con evidencia por caso.

• Verificación y redacciones: pre-filtro de alto recall + exportación CSV. • Administraciones: monitoreo y reportes, gobernanza RGPD por diseño.

CURSO 2024-2025

Ética y gobernanza (by design) • Trazabilidad: manifiestos, versiones de modelo/prompt, minimización de datos.

• Uso responsable: revisión humana obligatoria en decisiones sensibles.

• Límites: tamaño ≤10 MB y precisión moderada (gestión con explicación + transcripción).

CURSO 2024-2025

Roadmap breve (próximos pasos) • Panel de casos frontera y búsqueda en transcripciones.

• API de integración y despliegue on-premise/VPC (según cliente).

• Verticalización por dominios (otros tipos de odio) y mejoras de explicabilidad.