Reacción a "Empeora la fiabilidad de los grandes modelos de lenguaje, como la IA generativa"

A tenor de mi experiencia, corrobora el gran mito que se levantó con Chat GPT-3 y similares. Como suele ocurrir en estos casos, una gran cantidad de gente se puso, no solo a usarlo como mera herramienta, sino a impartir docencia al respecto, desconociendo los fundamentos de esta herramienta. Y ahí es donde radican los excesos y los errores que se están cometiendo, cuyas consecuencias van más allá de un mero fallo porque, debido a su mecanismo de funcionamiento, hacen que dichos errores se tomen como ciertos y realimenten al sistema, lo que nos hace entrar en un bucle muy peligroso.

En resumen, las conclusiones de los autores de este artículo no me sorprenden en absoluto, sino que corroboran una sospecha que ya tenía.