Jakub Pachocki, científico jefe de OpenAI, reflexiona sobre el rápido avance de la inteligencia artificial y los riesgos asociados a sistemas cada vez más capaces y autónomos. Sostiene que la IA está empezando a superar a los seres humanos en ámbitos relevantes y que su desarrollo podría acelerarse mediante procesos de mejora recursiva en los que los propios sistemas contribuyan a crear modelos más avanzados.
El artículo se centra especialmente en los problemas de alineamiento y supervisión: cómo conseguir que sistemas cuya forma de “pensar” no comprendemos plenamente actúen de acuerdo con valores y objetivos humanos, incluso en situaciones nuevas. Pachocki advierte de riesgos crecientes, especialmente en ciberseguridad, y defiende combinar avances técnicos en seguridad con límites al escalado de los modelos cuando no existan suficientes garantías. Reclama además estándares de seguridad compartidos, auditorías independientes y una mayor coordinación internacional para asegurar que el desarrollo de la IA permanezca bajo control humano.