Prima mossa per Adam Mosseri, nuovo capo dell’app videofotografica: una soluzione di machine learning che individua in automatico immagini, montaggi e didascalie offensive, aggressive e umilianti. E una collaborazione con la teen star Maddie Ziegler
Qualche tempo fa il “social della gentilezza” – così amano definirlo i suoi top manager – aveva annunciato un programma di interventi dedicato a contrastare episodi di cyberbullismo sulla piattaforma. Adesso Instagram, dopo varie novità come un filtro dei commenti aggressivi e dello spam che da poco è attivo anche nei video dal vivo, lancia un nuovo strumento: l’app controllata da Facebook ha appena annunciato di aver iniziato a sfruttare un nuovo sistema di machine learning in grado di individuare elementi di bullismo nelle foto e nelle didascalie, i brevi testi che possono accompagnare le immagini pubblicate sul social network. Cosa accadrà ai post individuati in maniera automatica e in odore di cyberbullismo? A quanto pare saranno inviati a un team dedicato, il Community operations, che li analizzerà uno ad uno decidendo poi le azioni più opportune. Fondamentalmente un moderatore in carne e ossa stabilirà se lasciarli online o rimuoverli. “Il bullismo online è complesso e sappiamo di avere molto lavoro da fare per limitarlo in modo più deciso e diffondere gentilezza su Instagram” ha spiegato Adam Mosseri, appena nominato nuovo capo della piattaforma dopo l’addio dei cofondatori storici Kevin Systrom e Mike Krieger. Importante che il manager newyorkese, già responsabile del newsfeed di Facebook, abbia scelto un tema così delicato per il suo primo intervento pubblico sulle strategie del social, ormai usato da oltre un miliardo di utenti ogni mese con una media d’età piuttosto bassa. Un portavoce di Instagram ha poi aggiunto che le tecnologie sfoderate possono individuare il bullismo e le molestie in modo molto preciso. Per esempio nel caso di attacchi all’aspetto di una persona – diffusissimi sull’app – così come al suo carattere o ancora le minacce alla sua salute e al suo benessere generale. Un esempio specifico? Le soluzioni di machine learning potranno identificare tipici atteggiamenti di cyberbullismo come comparare, classificare e valutare immagini e testi, si pensi al caso in cui qualcuno viene umiliato con un montaggio “spit screen” nel quale viene confrontato ad altri in modo negativo. La novità, certo positiva, è in fase di distribuzione in queste settimane. Non solo: la piattaforma sta lanciando anche la “Kindness camera effect” insieme alla ballerina, attrice e modella statunitense Maddie Ziegler, 16 anni, 12,4 milioni di follower, un patrimonio da oltre 5 milioni di dollari inserita da Time fra le teenager più influenti al mondo nel 2015, nel 2016 e nel 2017. Chiunque la segua disporrà automaticamente di un nuovo effetto nella propria fotocamera: in modalità selfie appariranno dei cuori sullo schermo mentre, usando la fotocamera posteriore, appariranno frasi e commenti gentili in diverse lingue.
Simone Cosimi, La Repubblica