Libros llenos de errores sobre hongos escritos por IA pueden ser mortales

La Sociedad Micológica de Nueva York alertó en las redes sociales la proliferación de libros sobre hongos que comercializa Amazon y que han sido escritos por IA con errores, cuyo impacto en la salud de los lectores puede ser vital.

En ocasiones Amazon se ha visto envuelto en variadas denuncias. Una de las más recientes la emprendió la Comisión Federal de Comercio al demandar, al gigante de comercio electrónico y servicios de computación, por engañar a sus clientes con el servicio «Prime». La Sociedad Micológica y 404 Media hicieron un seguimiento sobre libros dedicados a los hongos que circulan en la red de Amazon.

El interés por el mundo de los hongos y setas está expandiéndose, tanto por la gastronomía como por investigadores. Es tal su diversidad que a veces es difícil diferenciar los que se pueden comer e incluso tocar o usar, de los peligrosos. Para ello existen manuales para intentar separar lo bueno de lo malo, como ‘Wild Mushroom Cookbook: una guía para principiantes’.

En su volumen se pueden aprender los conceptos básicos de la cocina, recetas completas, buenas para la salud y deliciosas, disponible en Amazon. Sin embargo existen trabajos publicados esa empresa, que a veces resultan escritos por inteligencia artificial y con graves errores.

El gremio médico advirtió que estos libros de búsqueda de alimento generados por IA podrían “significar la vida o la muerte”.

🚨: PSA Alert!
🔗: link in bio@Amazon and other retail outlets have been inundated with AI foraging and identification books.

Please only buy books of known authors and foragers, it can literally mean life or death. pic.twitter.com/FSqQLDhh42

— newyorkmyc (@newyorkmyc) August 27, 2023

Errores mortales en libros sobre hongos

Amazon tiene un problema con los textos generados por IA que ha sido documentado por periodistas durante meses, entre ellos los referidos a hongos. Muchos de estos textos son obviamente diseñados para ganar dinero. Pero los expertos dicen que los libros sobre búsqueda de hongos y alimento generados por IA, podrían en realidad matar a las personas si comen el hongo equivocado.

«Hay cientos de hongos venenosos en América del Norte y varios que son mortales», señala Sigrid Jakob, presidenta de la Sociedad Micológica de Nueva York. “Pueden parecerse a especies comestibles populares. Una mala descripción en un libro puede inducir a error a alguien a comer un hongo venenoso”.

404 Media ejecutó las descripciones de estos libros a través de la detección de texto generada por IA ZeroGPT. Esta herramienta estimó qué cantidad de una selección de texto podría escribirse con un generador de texto de IA como ChatGPT. Y más del 85% de ambos fueron escritos por IA.

El “Libro de Cocina de Setas Salvajes para principiantes: la guía completa sobre cómo buscar y cocinar setas con deliciosas recetas para disfrutar de su favorito”, fue escrito por “Mageret Lawrence”. Ha publicado 19 títulos, en su mayoría guías prácticas sobre dieta y nutrición en Amazon en los últimos dos meses. Su página de autor es sospechosamente vaga y cita experiencia en nutrición y en investigación. Pero no especifica en qué instituciones trabajó o en qué instituciones obtuvo sus títulos.

New from 404 Media: AI-generated mushroom foraging books are all over Amazon. This is not a game—if someone eats the wrong mushroom because of a ChatGPT generated book it is life or death. Amazon removed when 404 Media contacted for comment. https://t.co/UH3X3QFtKh

— Joseph Cox (@josephfcox) August 29, 2023

 La descripción de este libro de cocina puede ser generada al menos parcialmente por ChatGPT, según ZeroGPT.

Autores inexistentes

Otro autor potencialmente generado por IA, “Dr. Kimberly Thorpe”, ha escrito 37 libros sobre nutrición y salud en Amazon, incluido uno sobre hongos y setas. Todos tienen el mismo estilo que los ejemplos anteriores, y el detector GPT dijo que es 100% IA. A diferencia de los demás, Thorpe menciona haber escrito para el Huffington Post y el New York Times. Pero no se pudo encontrarla en ninguno de estos lugares. Un portavoz de UC Davis señaló que consultaron el registrador y no tienen ningún exalumno con ese nombre en sus registros.

Después de que 404 Media solicitara comentarios y enviara a la empresa enlaces a estos libros sospechosos de IA, Amazon eliminó ‘The Ultimate Mushroom Books Field Guide Of The Southwest’, ‘Psilocybin Mushroom Book’ y ‘Wild honghoom cookbook’ para principiantes.

Shouldn’t regulation be around the harms a system might cause?

Why tie it to a relative determination? In principle you then could have a situation with successively more harmful systems being deregulated simply because more dangerous systems are invented. https://t.co/LNjY8hab1t

— Gary Marcus (@GaryMarcus) August 30, 2023

«Amazon evalúa constantemente las tecnologías emergentes y se compromete a brindar la mejor experiencia de compra. Lectura y publicación posible para nuestros autores y clientes», dijo la portavoz de Amazon Ashley Vanicek a 404 Media. “Todos los editores de la tienda deben cumplir con nuestras pautas de contenido, independientemente de cómo se creó el contenido. Invertimos mucho tiempo y recursos para garantizar que se sigan nuestras pautas y eliminamos los libros que no las cumplen”, añadió.

Las falsas morillas y los gorros mortales son dos especies que se encuentran en el suroeste de EE UU y que se parecen mucho a sus contrapartes comestibles y no venenosas y pueden matarte en cuestión de horas. La búsqueda segura de hongos puede requerir una verificación profunda de los datos, la selección de múltiples fuentes de información y una experiencia personal con el organismo, dijo un experto. Nada de lo cual ChatGPT tiene la capacidad de hacer. «Los libros escritos por humanos pueden tardar años en investigarse y escribirse», añadió.

Ir con cuidado

Rebecca Lexa hizo sonar la alarma en Tumblr sobre los libros sobre búsqueda de alimento generados por IA y utilizó como ejemplo a un autor que figura en Amazon llamado «Jason Cones». Cones, precisó la escritora, tiene 26 libros en Amazon (incluido uno dirigido a principiantes en búsqueda de comida). Pero ninguna otra presencia en línea.

«Si lo buscas en línea, la única página de un autor llamado Jason Cones es la página de autor de Amazon. No hay sitio web, ni redes sociales. Ni entrevistas, nada», escribió Lexa. «Incluso un autor nuevo tendrá al menos algo más que su página de Amazon. Y mencionará su experiencia, credenciales y otra información biográfica». La biografía del autor de Cones, como la de Lawrence, es totalmente vaga.

Lee también en Cambio16.com:

Los hongos pueden limpiar hasta derrames petroleros

Suscríbete y apóyanos «Por un mundo más humano, justo y regenerativo»

Gracias por leer Cambio16. Vuestra suscripción no solo proporcionará noticias precisas y veraces, sino que también contribuirá al resurgimiento del periodismo en España para la transformación de la conciencia y de la sociedad mediante el crecimiento personal, la defensa de las libertades, las democracias, la justicia social, la conservación del medio ambiente y la biodiversidad.

Dado que nuestros ingresos operativos se ven sometidos a una gran presión, su apoyo puede ayudarnos a llevar a cabo el importante trabajo que hacemos. Si puedes, apoya a Cambio16 ¡Gracias por tu aportación!