Intelligenza artificiale impara a scrivere recensioni false

Quante volte in viaggio o da casa, indecisi su questo o quel ristorante o albergo, ci siamo affidati alle recensioni on-line di altri consumatori? In futuro potrebbe non essere più un’idea così saggia. Già, perché arriverà una intelligenza artificiale non solo in grado di fare i nostri lavori e guidare le nostre automobili ma, a quanto pare, finiranno anche per scrivere le nostre recensioni.

Un programma che scrive da solo

Se già le recensioni fasulle di amici e parenti o d’imprese rivali sono il principale incubo dei tanti siti che offrono questo servizio in rete, presto la corsa sfrenata degli ultimi anni all’intelligenza artificiale potrebbe portare a recensioni non solo false, ma completamente automatizzate.

I ricercatori dell’Università di Chicago infatti hanno dimostrato come sia possibile programmare una Intelligenza Artificiale per scrivere recensioni sofisticate a tal punto da essere indistinguibili da quelle scritte da esseri umani utilizzando un particolare algoritmo realizzato specificamente per questo obiettivo.

Esperienza plausibile

«Amo questo posto. Ci sono venuto con mio fratello e abbiamo preso la pasta vegetariana ed era deliziosa. La birra era buona e il servizio fantastico. Raccomanderei decisamente questo locale a chiunque cerchi un gran posto dove fare colazione e un piccolo spazio con un grande affare».

Sembra che non ci sia nulla di strano in questa recensione, se non forse l’ultima frase non propriamente corretta. Parrebbe proprio un racconto plausibile di un cliente che ha pranzato col fratello ed è rimasto soddisfatto. Tuttavia questa recensione è falsa: è stata generata con una tecnica d’apprendimento chiamata RNN (Recurrent Neural Networks) utilizzata per analizzare migliaia di recensioni in rete e produrre recensioni artificiali.

I ricercatori hanno dimostrato, sottoponendo tipologie vere e false ad un gruppo di controllo, come questo tipo di recensioni sia virtualmente indistinguibile dai lettori. Non solo, secondo Ben Y. Zhao, coordinatore della ricerca, verrebbero addirittura «Percepite con lo stesso livello di utilità di recensioni scritte da umani».

Al momento, anche altre macchine hanno difficoltà a scovare le recensioni scritte dai loro simili computerizzati. La nuova tecnica infatti è talmente sofisticata che i normali programmi anti-plagio non sono in grado di scoprirla. L’RNN infatti è programmata non per scambiare l’ordine delle parole di recensioni pre-esistenti, come molti programmi già fanno, ma vi aggiunge un tocco di unicità tale da spiazzare i normali programmi di difesa.

Sebbene esista già un vero e proprio mercato delle «recensioni fasulle», con persone pagate per scrivere buone o cattive recensioni per questo o quel locale: le recensioni fasulle scritte da una intelligenza artificiale non solo porterebbero via il lavoro ai falsi recensori, ma potrebbero mandare completamente il tilt un sistema basato interamente sulla fiducia reciproca tra utenti… umani.

Non ci resta che mangiare

«Esistono dei sistemi di difesa» ha rassicurato Zhao «la perdita d’informazione durante il processo di apprendimento della macchina porta a differenze statisticamente rilevabili tra il testo umano e quello generato automaticamente». Tradotto: macchine altamente sofisticate sarebbero in grado di scoprire il lavoro di altre macchine altamente sofisticate.

Insomma, se la corsa al computer per recensioni più intelligente è appena cominciata, a noi umani non resta che una semplice soluzione, lasciar perdere la rete e fare come si faceva una volta: provare per credere; entrare in un ristorante che ci attira, e se ci piace, goderci cibo e servizio. Questa è una cosa che le macchine ancora non possono toglierci.

Fonti: nypost.com; businessinsider.com; theverge.com