Gonzalo Abio (Universidade Federal de Alagoas, Brasil) documenta dos fallos de los resúmenes generados por IA del buscador de Google que le ocurrieron en la misma semana, y los contrasta con la respuesta de otra herramienta a la misma consulta.
El primero se produjo en una búsqueda rápida sobre métodos y enfoques de enseñanza de lenguas hecha antes de dar una clase: el resumen automático que apareció, acompañado de una lista, contenía un elemento incorrecto. El segundo, mientras redactaba un texto sobre autoheteroecoformación tecnológica: necesitaba la referencia completa de un capítulo de Maximina Freire y Vilson Leffa y buscó «autoheteroecoformação + leffa», eligiendo Leffa por ser el apellido menos común. El resumen de IA atribuyó el concepto a «Paulo Freire y Antonio Leffa», inventando los dos nombres de pila.
Repitió entonces la misma consulta en Perplexity y publicó la captura de pantalla junto con el enlace público a la conversación completa, una práctica de transparencia que recomienda sistemáticamente. El resultado fue mejor: «al menos aquí no inventaron los nombres», aunque matiza que algunas de las referencias ofrecidas no son de las mejores —usa una entrada de blog para explicar el término— y que en ambos casos habría que ir a las referencias de los textos sugeridos para localizar la obra buscada. De ahí su insistencia en enseñar estrategias de búsqueda académica: Google Académico ordenado por relevancia o por fecha, rastrear quién cita a quién.
Su argumento central apunta al riesgo para el estudiante: la advertencia al pie de que la IA es experimental y puede contener errores no resuelve nada, porque «¿cómo va a saber el estudiante que una determinada parte de esa información no es verdadera?». Y lo formula con una preferencia clara: «Considero que es mejor tener una información insuficiente, porque siempre será posible buscar más en otras fuentes, que el problema que representa que Google proporcione una información falsa que creemos verdadera». Considera además que «alucinación» es un eufemismo para lo que en realidad es un fallo de estos sistemas.
- Inicie sesión para enviar comentarios