The worries that artificial intelligence is degrading education have been building for months. Students are using it for everything, including cheating, and a recent report out of M.I.T. said it is triggering “cognitive surrender.”

Many university leaders are embracing A.I. with enthusiasm anyway.

As A.I. leaders warn about the dangers of their own technology, the dissonance between the optimism of university leaders and the fears of many students and professors may increase. Professors and students are often in a bind about what they should do: Use more A.I. to stay relevant, or dial back to preserve learning and thinking?

Jakub Pachocki, científico jefe de OpenAI, reflexiona sobre el rápido avance de la inteligencia artificial y los riesgos asociados a sistemas cada vez más capaces y autónomos. Sostiene que la IA está empezando a superar a los seres humanos en ámbitos relevantes y que su desarrollo podría acelerarse mediante procesos de mejora recursiva en los que los propios sistemas contribuyan a crear modelos más avanzados.

El artículo se centra especialmente en los problemas de alineamiento y supervisión: cómo conseguir que sistemas cuya forma de “pensar” no comprendemos plenamente actúen de acuerdo con valores y objetivos humanos, incluso en situaciones nuevas. Pachocki advierte de riesgos crecientes, especialmente en ciberseguridad, y defiende combinar avances técnicos en seguridad con... Leer más →