Estimación del Riesgo de Modelos para Sistemas de IA Generativa

Dentro del marco de nuestros seminarios semanales, la Escuela de Gobierno y Transformación Pública recibió a Sara Hooker, líder de Cohere For AI, quien presentó el tema Estimación del Riesgo de Modelos para Sistemas de IA Generativa. Este seminario se centró en los avances recientes en inteligencia artificial (IA), con un enfoque particular en los modelos de gran escala y su impacto en áreas como gobernanza, seguridad, multilingüismo y la optimización de recursos computacionales. El objetivo principal fue reflexionar sobre los logros alcanzados, los desafíos actuales y las posibles direcciones futuras en temas como gobernanza técnica, mitigación de riesgos y desarrollo de modelos más eficientes.

Durante la presentación, Hooker destacó diversas metodologías empleadas en su investigación. Entre estas, el entrenamiento a gran escala mediante el uso de arquitecturas como redes neuronales profundas y transformadores; la optimización de datos con estrategias como el instruction fine-tuning y el uso de datos sintéticos; y la auditoría exhaustiva de modelos para identificar puntos críticos y resultados inesperados. Además, se exploró el desarrollo de modelos especializados para contextos regionales y lingüísticos específicos, junto con iniciativas de gobernanza técnica para abordar riesgos emergentes y proponer lineamientos regulatorios efectivos.

Entre los hallazgos más relevantes, se enfatizó el impacto de los transformadores en la IA, que desde 2017 han permitido procesar textos con mayor fluidez y habilitar capacidades conversacionales avanzadas. También se resaltó cómo la innovación en hardware, particularmente en GPUs, ha sido un pilar fundamental en el progreso de la IA. Sin embargo, se identificaron desafíos significativos, como las alucinaciones de los modelos, la desigualdad en el acceso a recursos computacionales y la necesidad de auditorías más robustas. Además, se abordó cómo la concentración de recursos en laboratorios industriales ha transformado el ecosistema de investigación.

El seminario concluyó subrayando la urgencia de desarrollar políticas de gobernanza que equilibren la innovación técnica y la mitigación de riesgos. Hooker destacó que, si bien los modelos grandes lideran actualmente, el futuro podría estar en modelos más pequeños y eficientes, diseñados para tareas específicas. Asimismo, se planteó la necesidad de inversiones estratégicas en regiones menos representadas y de fomentar una innovación regulada que garantice un desarrollo inclusivo y sostenible de la inteligencia artificial.