Gli errori nelle immagini generate dall’IA di Google, in particolare riguardo ai funghi, hanno suscitato preoccupazione tra i cercatori e i micologi. Questo problema, che presenta rappresentazioni inaccurate di funghi potenzialmente tossici, comporta rischi significativi per coloro che si affidano all’identificazione visiva durante la raccolta di funghi.
Errore di immagine generata da AI di Google
L’errore di immagine generata da AI nei risultati di ricerca di Google deriva dall’uso da parte dell’azienda di siti di immagini stock come Freepik, che ospitano contenuti creati da AI. Nonostante queste immagini siano chiaramente etichettate come generate da AI sui loro siti di origine, gli algoritmi di Google non riescono a distinguerle dalle fotografie autentiche, portando alla loro inclusione nei frammenti di ricerca. Questo errore solleva preoccupazioni sulla affidabilità della funzione di ricerca per immagini di Google e mette in evidenza la necessità di migliorare i meccanismi di rilevamento dei contenuti generati da AI.
- L’errore è stato identificato per la prima volta da un utente di Reddit noto come MycoMutant, moderatore della comunità r/mycology.
- I frammenti di immagine di Google sono stati trovati a presentare frequentemente immagini errate per varie specie di funghi.
- La prominenza di queste immagini generate da AI nei risultati di ricerca potrebbe influenzare gli algoritmi di identificazione AI, perpetuando imprecisioni nei database delle specie fungine.
- Questo problema si estende oltre i funghi, indicando un problema più ampio con i contenuti generati da AI nei risultati di ricerca su vari argomenti.
Misrappresentazione del Coprinus Comatus
La misrappresentazione del Coprinus comatus, noto anche come cappello d’inchiostro o mane lanosa, nei risultati di ricerca di Google evidenzia i pericoli specifici delle immagini generate da AI. Questo caso esemplifica il problema più ampio delle informazioni visive inaccurate nelle risorse per la raccolta.
- Il motore di ricerca di Google ha mostrato un’immagine generata da AI per il Coprinus comatus che non rappresentava accuratamente il vero fungo.
- L’immagine errata è apparsa nel frammento in evidenza sopra i risultati di ricerca, conferendole prominenza e potenziale credibilità.
- L’immagine generata da AI è stata prelevata da Freepik, un sito di immagini stock, dove era etichettata come “generata da AI” ma erroneamente contrassegnata come “Coprinus comatus”.
- Il Coprinus comatus è un fungo commestibile, rendendo la sua misrappresentazione particolarmente preoccupante per i raccoglitori che si affidano all’identificazione visiva.
- Questo caso specifico sottolinea il rischio che i contenuti generati da AI infiltrino fonti informative affidabili senza una corretta verifica o etichettatura.
- L’incidente solleva preoccupazioni sull’impatto potenziale sugli algoritmi di identificazione AI, che potrebbero utilizzare queste immagini prominenti ma inaccurate come dati di addestramento.
Rischi per la salute e problemi di fiducia
Le conseguenze potenziali dell’errore dell’immagine generata da AI di Google vanno oltre la semplice misidentificazione. I raccoglitori che si affidano a queste immagini inaccurate potrebbero erroneamente consumare funghi tossici, portando a gravi problemi di salute o addirittura alla morte. Questo errore mina l’affidabilità dei motori di ricerca come fonte di informazioni accurate, specialmente su argomenti critici come l’identificazione dei funghi. L’incidente fa parte di un modello più ampio in cui i contenuti generati da AI causano potenziali danni, con problemi simili segnalati in libri sulla raccolta dei funghi generati da AI su Amazon. Queste occorrenze evidenziano l’urgenza della necessità di processi più rigorosi per la supervisione e la verifica dei contenuti generati da AI, in particolare in aree in cui l’accuratezza è cruciale per la sicurezza pubblica.
Esperti chiedono supervisione
Gli esperti chiedono un aumento della supervisione e della responsabilità nell’uso dei contenuti generati da AI nei risultati delle ricerche, in particolare su argomenti potenzialmente pericolosi come l’identificazione dei funghi. Elan Trybuch, segretario della New York Mycological Society, ha sottolineato la necessità che i motori di ricerca non solo rimuovano contenuti inaccurati generati da AI ma anche etichettino chiaramente qualsiasi arte sospettata di essere generata da AI. Questo sentimento è condiviso dagli appassionati di micologia e dai raccoglitori che enfatizzano l’importanza di fare affidamento su informazioni verificate dagli esperti piuttosto che sulle immagini generate da AI per l’identificazione dei funghi.
- Gli esperti raccomandano l’uso di guide sul campo affidabili e la consultazione con raccoglitori esperti invece che fare affidamento esclusivamente sui risultati delle ricerche online.
- Ci sono richieste affinché le aziende tecnologiche implementino processi più rigorosi per la verifica dei contenuti generati da AI, specialmente in aree dove l’accuratezza è cruciale per la sicurezza pubblica.
- L’incidente mette in evidenza la necessità di migliorare i meccanismi di rilevamento dei contenuti generati da AI e una maggiore etichettatura delle immagini generate da AI nei risultati delle ricerche.
- Alcuni esperti suggeriscono che i motori di ricerca dovrebbero dare priorità ai contenuti verificati e forniti da esperti per argomenti con implicazioni potenziali per la salute e la sicurezza pubblica.