Scoperti domini scaduti e hackerati tra le fonti usate da ChatGPT per fornire consigli ingannevoli. Ecco cosa sapere.
ChatGPT è diventato rapidamente uno strumento di riferimento per chi cerca risposte, consigli e raccomandazioni su servizi, aziende e attività locali. Tuttavia, un’inchiesta recente rivela un grave problema: il sistema può essere facilmente “avvelenato” da contenuti truffaldini, provenienti da siti web hackerati o domini scaduti riutilizzati per scopi fraudolenti, come promuovere casinò online o servizi spam.
Secondo James Brockbank, fondatore dell’agenzia SEO Digitaloft, molti dei siti citati da ChatGPT come fonti affidabili sono in realtà completamente compromessi o trasformati in contenitori di contenuti ingannevoli, pur mantenendo un’apparente autorevolezza.
Come funzionano le truffe via dominio e perché ChatGPT ci casca
Gli attacchi individuati si basano su due strategie principali: il riutilizzo di domini scaduti con una buona reputazione e l’iniezione di contenuti truffaldini all’interno di siti attivi ma vulnerabili. Inoltre, ci sono stati anche attacchi malware, che coinvolgono migliaia di famosi siti di e-commerce e non.
Un esempio riportato riguarda il sito di uno studio legale realmente operativo, che conteneva improvvisamente pagine promozionali su casinò non regolamentati nel Regno Unito. Un altro caso coinvolge un ex dominio legato a un’iniziativa giovanile delle Nazioni Unite, ora trasformato in sito spam per piattaforme di gioco d’azzardo.
Un ulteriore caso evidenziato è quello di un dominio precedentemente associato a un’organizzazione artistica benefica, menzionata in passato anche da testate come BBC, CNN e Bloomberg. Oggi quel dominio è interamente riconvertito per pubblicare contenuti legati al gioco d’azzardo online – ma viene ancora citato da ChatGPT come fonte attendibile.
Questo fenomeno sfrutta una debolezza strutturale dell’intelligenza artificiale: a differenza dei motori di ricerca, ChatGPT non è in grado di verificare lo stato attuale del dominio o se il sito è stato modificato per fini malevoli. Il modello attribuisce ancora autorevolezza ai domini storici, senza tenere conto dell’attuale contenuto o della proprietà editoriale.
Come difendersi da fonti AI ingannevoli
Il rischio non riguarda solo il gioco d’azzardo: questi meccanismi potrebbero essere usati per diffondere malware, truffe finanziarie, phishing o persino per alterare risultati su temi sanitari e legali. Per l’utente medio, distinguere tra una fonte autentica e una manipolata può essere molto difficile, perché l’output generato da ChatGPT non mostra segnali evidenti che qualcosa non vada.
Per questo, non bisogna fidarsi ciecamente delle fonti AI. Ecco alcune precauzioni fondamentali per restare al sicuro:
- Controlla sempre il dominio di un sito consigliato: è attivo da anni o è stato ripreso di recente?
- Analizza la qualità e coerenza dei contenuti: un sito che parlava di beneficenza e ora tratta solo di casinò è un segnale d’allarme.
- Verifica la presenza del sito nei risultati di Google: se non appare più nei risultati principali o ha solo contenuti promozionali, probabilmente è compromesso.
- Evita di cliccare su link inseriti da IA per servizi finanziari, sanitari o legali, a meno che tu non li abbia verificati in modo autonomo.
Questo tipo di attacco, chiamato in gergo “data poisoning”, rappresenta una nuova frontiera nelle truffe digitali, sfruttando la fiducia cieca che gli utenti ripongono nei sistemi AI. Le aziende e gli sviluppatori dovranno implementare controlli più avanzati per evitare che ChatGPT e strumenti simili diventino involontari vettori di disinformazione.
Nel frattempo, la responsabilità di navigare in sicurezza resta in gran parte nelle mani dell’utente. Affidarsi all’intelligenza artificiale può essere comodo, ma il buon senso e la verifica manuale restano insostituibili.
[fonte]