Mucha gente va a las bibliotecas a buscar libros que no existen: los inventó una IA – La nación

El contenido basura creado con IA se cuela por todos los rincones de Internet: destruye la autenticidad de Etsy y Wikipedia, nos confunde a la hora de buscar piso en Idealista y por supuesto azota las redes sociales. El “aumento” de la IA está llegando al mundo real, en particular a las bibliotecas.

Lo que sucede. ellos lo dicen Científico americano. Hay gente que busca en bibliotecas y archivos libros o artículos científicos que no aparecen por ningún lado por una razón: no existen. Cruz Roja Internacional ha llamado la atención sobre la situación y culpa de ello a herramientas de IA como Gemini, ChatGPT o Copilot. Afirman: “Estos sistemas no realizan investigaciones, no verifican fuentes ni recopilan información. Generan contenido nuevo basado en patrones estadísticos y, por lo tanto, pueden producir resultados inventados”.

Los bibliotecarios están hartos.. El director de investigación de la Biblioteca de Virginia estima que al menos el 15% de las solicitudes recibidas por correo involucran documentos y trabajos generados por ChatGPT y herramientas similares. “Es mucho más difícil para nuestros empleados demostrar que no existe un historial consistente”, afirma. Un usuario de Bluesky cuenta una experiencia similar cuando un estudiante le pidió que encontrara un conjunto de referencias. Después de buscar durante un tiempo sin éxito, le preguntó al estudiante de dónde había sacado la lista y este le confesó que procedía de los resúmenes de IA de Google.

Las citas ficticias no son algo que sucedió anteayer, Ya hubo discusiones al respecto en 2023.. La Universidad de Seattle descubrió que esto suele ser así Es muy difícil verificar estas citas inventadas.. La razón es que la IA suele dar títulos de revistas o libros que existen, pero lo que no existe es el capítulo o número en el que se encuentra la información. Mezcla información para que parezca convincente cuando en realidad es un callejón sin salida.

IA y libros. Las referencias inventadas no son el único problema, hay bibliotecarios que también tienen el problema Critican libros creados íntegramente con IA por “increíblemente malo” y recientemente nos enteramos de la caída de Corea del Sur y el rotundo fracaso de su programa de libros de texto impulsado por IA.

Por otro lado, tenemos el problema de los derechos de autor. Al igual que las obras de arte, los libros se han utilizado para entrenar la IA sin pagar a sus autores. Por este motivo, un grupo de autores demandó a Anthropic, pero el juez falló a favor de la empresa.

Artículos sobre IA, creados con IA. En un artículo de futurismo Dijeron que una consecuencia de la crisis de la IA es que los trabajos relacionados con la IA en sí se están creando con IA. Se estima que la cantidad de artículos sobre IA se ha duplicado en los últimos años, y revistas como NeurIPS han tenido que pedir ayuda a estudiantes graduados con la revisión. Hay un caso específico de un investigador llamado Kevin Zhu que contribuyó a más de 100 artículos en un año. para los expertos una cifra exorbitante. Para sorpresa de nadie, muchos de estos artículos son un verdadero desastre. citas inventadas, errores evidentes y a veces texto oculto para manipular los propios sistemas de calificación.

Alucinaciones. Es bastante común que la IA invente cosas. Son lo que en el lenguaje de la IA se conoce como alucinaciones y son uno de los puntos débiles de los modelos de lenguaje; El progreso es enorme, pero la realidad es que todavía no podemos confiar en la IA y es necesario verificar la información. Las alucinaciones son a menudo la razón por la que se descubre a quienes utilizan la IA en su profesión, como la consultora Deloitte, que presentó un informe al gobierno australiano que contenía referencias a informes completamente inventados.

Imagen | Estudio Cottonbro, Pexels

En Xataka | El nacimiento de un movimiento antilectura: cada vez más personas admiten que utilizan la IA para resumir libros

(función() { ventana._JS_MODULES = ventana._JS_MODULES || {}; var headElement = document.getElementsByTagName(‘cabeza’)[0]; if (_JS_MODULES.instagram) { var instagramScript = document.createElement(‘script’); instagramScript.src=” instagramScript.async = verdadero; instagramScript.defer = verdadero; headElement.appendChild(instagramScript); } })();

–
la noticia Mucha gente va a las bibliotecas a buscar libros que no existen: los inventó una IA fue publicado originalmente en Xataka Por Amparo Babiloni.