Jakub Pachocki, científico jefe de OpenAI, reflexiona sobre el rápido avance de la inteligencia artificial y los riesgos asociados a sistemas cada vez más capaces y autónomos. Sostiene que la IA está empezando a superar a los seres humanos en ámbitos relevantes y que su desarrollo podría acelerarse mediante procesos de mejora recursiva en los que los propios sistemas contribuyan a crear modelos más avanzados.

El artículo se centra especialmente en los problemas de alineamiento y supervisión: cómo conseguir que sistemas cuya forma de “pensar” no comprendemos plenamente actúen de acuerdo con valores y objetivos humanos, incluso en situaciones nuevas. Pachocki advierte de riesgos crecientes, especialmente en ciberseguridad, y defiende combinar avances técnicos en seguridad con... Leer más →