Google ha creato Perspective, una tecnologia sperimentale che rivede i commenti assegnando un punteggio (da 1 a 100), basato su quanto siano simili ai commenti identificati come offensivi.
Un sistema di machine learning, ovvero che migliora con il tempo, per identificare troll e bloccare i commenti offensivi. La tecnologia è open source ed è basata sull’intelligenza artificiale, sviluppata dall’incubatore tecnologico Jigsaw (ex Google Ideas).
In queste mesi Jigsaw ha testato Perspective con Wikipedia e il New York Times, esaminando decine di migliaia di commenti, etichettati da revisori umani.
Per ora Perspective è disponibile solo in inglese. Questo strumento è disponibile per tutti gli editori, essendo open source saranno loro a decidere come utilizzarlo. I commenti possono essere rivisti dai moderatori, cui spetterà poi la decisione finale sull’includerli o meno nelle conversazioni.
“La sfida è creare le possibilità per garantire buone conversazioni su Internet. Ci sono molte persone che cercano di impegnarsi in discussioni online serie, ma spesso finiscono per lasciare la conversazione. E lo fanno a causa di insulti o di mancanze di rispetto da parte di altri”. Jared Cohen, fondatore e presidente di Jigsaw.