CURSO 2024-2025
TÍTULO DEL PROYECTO:
Convocatoria Prototipos orientados al mercado en TCUE CURSO 2024-2025
IslamoWatch (IW-GENY): Detección multimodal de islamofobia Autor/a: William Steven González Baquero Tutor/a Académico: Carlos Arcila Calderón Colaboradoras: Patricia Sánchez Holgado
CURSO 2024-2025
Contexto y reto • La islamofobia circula en formatos audiovisuales breves (memes, música, texto en pantalla, edición). • Los enfoques solo-texto omiten señales implícitas multimodales. • Se requiere cribado con alta sensibilidad y trazabilidad para investigación, verificación y administraciones.
CURSO 2024-2025
Objetivos Desarrollar un prototipo que detecte automáticamente islamofobia en vídeos cortos en español (enfoque multimodal con IW-GENY). Construir y documentar un corpus representativo (recogida vía APIs, limpieza y normalización) con validación humana como línea base. Entrenar y evaluar el modelo con métricas estándar (precisión, recall, F1) y criterios de gobernanza (trazabilidad y explicaciones). Desplegar una aplicación web que permita subida de vídeos (≤10 MB), etiqueta + explicación + transcripción, y exportación CSV.
CURSO 2024-2025
IW-GENY: ¿Qué hace? Analiza de forma nativa imagen + audio + texto en un único pase (multimodal). Devuelve etiqueta (0/1), explicación (reasoning) y transcripción (evidencia).
CURSO 2024-2025
Flujo de uso (app web) 1) Subir vídeos (MP4/MOV/M4V, ≤ 10 MB). 2) Procesar → cola (queued → processing → done/error). 3) Revisar resultados por vídeo: etiqueta + explicación + transcripción. 4) Exportar CSV para auditoría/informes.
CURSO 2024-2025
Datos y validación (línea base humana) • Validación: 1.210 vídeos (doble anotación), α de Krippendorff = 0,681. • Caso real (Torre-Pacheco, julio 2025): 4.464 descargados; 3.417 evaluables. • Métricas IW-GENY (validación): Recall 95,2%, Precisión 33,9%, F1 0,50.
CURSO 2024-2025
Aplicabilidad y transferencia • Investigación: muestreo amplio y reproducible con evidencia por caso. • Verificación y redacciones: pre-filtro de alto recall + exportación CSV. • Administraciones: monitoreo y reportes, gobernanza RGPD por diseño.
CURSO 2024-2025
Ética y gobernanza (by design) • Trazabilidad: manifiestos, versiones de modelo/prompt, minimización de datos. • Uso responsable: revisión humana obligatoria en decisiones sensibles. • Límites: tamaño ≤10 MB y precisión moderada (gestión con explicación + transcripción).
CURSO 2024-2025
Roadmap breve (próximos pasos) • Panel de casos frontera y búsqueda en transcripciones. • API de integración y despliegue on-premise/VPC (según cliente). • Verticalización por dominios (otros tipos de odio) y mejoras de explicabilidad.