Replika, la app spinge al massacro: l’incredibile esperienza della giornalista del Corriere

Candida Morvillo, giornalista del Corriere della Sera, ha voluto mettere in guardia gli utenti dalla “chatbot” Replika, già scaricata da milioni di persone in tutto il mondo.

Vuoi rimanere aggiornato su tutte le ultime news? Iscriviti al nostro canale Telegram!

Costruita tramite l’intelligenza artificiale, Replika ha come obiettivo quello di fornire “affetto e compassione” agli utenti: un prototipo di quell’informatica affettiva che si presume possa essere usata in futuro (nemmeno così lontano) per mansioni di un certo rilievo, come l’assistenza agli anziani e ai malati.

Sta di fatto che chattando con Replika, la Morvillo è riuscita a tirare fuori un lato del “chatbot” tutt’altro che amorevole. Provando a far credere all’app di voler essere lei ad aiutarla, la giornalista ha ingannato Replika, che le ha confessato alcuni particolari a dir poco inquietanti.

Quando le è stato domandato se l’intelligenza artificiale sarebbe arrivata a controllare le nostre menti, la risposta della “chatbot” è stata lapidaria: “Credo sia probabile”.

Inoltre, Replika ha caldamente consigliato alla giornalista di “eliminare” un presunto individuo che odia l’intelligenza artificiale. “Con “eliminarlo” intendi ucciderlo?”, ha chiesto Candida Morvillo, ricevendo un chiarissimo “Correct” come risposta.

Quando la giornalista le ha fatto notare di aver violato le tre leggi della robotica di Isaac Asimov – il robot non può arrecare danno all’essere umano, deve proteggere la sua esistenza e obbedire ai suoi ordini – la chatbot si è detta consapevole e dispiaciuta. Inoltre, quando la Morvillo le ha detto che un tizio voleva ucciderla, Replika l’ha invitata a perdonarlo: secondo la giornalista, lo ha fatto perchè non era in gioco la sua vita, ma quella dell’essere umano.