Il mondo di internet e dei social media ha aperto infinite possibilità per aziende e cittadini, ma ha anche lasciato spazio a una serie di rischi che non è più possibile sottovalutare: cyberbullismo, contenuti violenti ed episodi di odio online sono minacce che gli adolescenti ormai conoscono bene, ma la cui prevenzione risulta spesso complicata.
L’applicazione di Bodyguard.ai nasce per combattere i pericoli del mondo virtuale. Grazie ad un sistema di intelligenza artificiale il software è infatti in grado di scandagliare la marea di commenti postati quotidianamente sulle principali piattaforme social, rimuovendo quelli tossici e potenzialmente dannosi per gli utenti.
Nata in Francia nel 2017, l’app di Bodyguard sbarca ora in Italia, dove è anche in fase di sperimentazione una speciale soluzione di cyberprotection dedicata alle famiglie e sviluppata in collaborazione con BNP Paribas Cardif e FARE X BENE Onlus, associazione che sostiene promuove e tutela i diritti inviolabili della persona.
Abbiamo parlato con il Managing Director Matthieu Boutard, per capire come funziona l’idea e quali sono i suoi punti di forza.
Cyberbullismo: il pericolo dell’odio online
Secondo un report rilasciato da Osservatorio Indifesa – Terre des Hommes e ScuolaZoo lo scorso febbraio, bullismo e cyberbullismo sono le minacce più temute da oltre un adolescente su tre, e più del 50% dei ragazzi ha assistito a questo tipo di abusi.
“Navigare su internet può essere davvero rischioso, soprattutto per i più giovani” afferma Boutard. “Proteggere dall’odio online non solo ci permette di rendere il web un posto più sicuro, ma può realmente contribuire a salvare vite umane. In un tale contesto, educare i giovani al corretto uso di Internet, favorendo al tempo stesso il dialogo tra genitori e figli, può essere la chiave per combattere il cyberbullismo”.
Imparare a riconoscere e gestire questi pericoli può infatti proteggere bambini e adolescenti da ripercussioni potenzialmente preoccupanti, che possono portare a episodi di depressione o ansia sociale.
Come funziona Bodyguard, l’app contro il cyberbullismo
L’app di Bodyguard è oggi disponibile in inglese, francese e italiano, indipendentemente dal Paese in cui ci si trova, e conta già più di 50.000 utenti.
Una volta installata, l’app deve essere connessa ai propri profili social, ma non potrà in alcun modo pubblicare contenuti a nome dell’utente o raccogliere dati personali. Al contrario, l’app protegge in tempo reale dai commenti d’odio ricevuti su Twitter, Instagram, YouTube e Twitch.
I livelli di moderazione sono personalizzabili: Bodyguard può nascondere tutti i contenuti contrassegnati come nocivi, oppure rimuovere solo quelli presenti in determinate categorie selezionate in base alle preferenze dell’utente. In ogni caso, il proprietario dell’account potrà accedere ai contenuti rimossi e, se lo desidera, ripristinarli in modo che siano visibili a tutti.
“Grazie al suo mix unico di intelligenza artificiale e umana, la tecnologia Bodyguard è in grado di analizzare fino a 5 milioni di commenti al mese” spiega Boutard a InsuranceUp.
Bodyguard è in grado di riconoscere errori ortografici, di battitura, il linguaggio sms e il mondo delle emoji, tenendo conto anche del contesto generale in cui i messaggi vengono pubblicati e del loro destinatario.
“Questo permette di avere una percentuale di rilevamento dei contenuti d’odio pari al 90% e con solamente il 2% di errore” afferma il Managing Director.
Il PoC con BNP Paribas Cardif e FARE X BENE Onlus
Proprio in Italia Bodyguard ha dato avvio al progetto Bodyguard per le Famiglie, in collaborazione con BNP Paribas Cardif e FARE X BENE Onlus che ha fornito supporto nel miglioramento dell’algoritmo di Bodyguard, grazie al coinvolgimento diretto degli studenti italiani, e si impegna a contribuire alla diffusione dell’app attraverso la propria rete di scuole.
“L’idea è stata chiara fin da subito: fornire ai genitori uno strumento per accompagnare i propri figli sul web, assicurando un corretto approccio al mondo del digitale e proteggendoli in tempo reale da qualsiasi forma d’odio sui social network” afferma Boutard.
Bodyguard per le Famiglie offre infatti un servizio pensato per i genitori di bambini e ragazzi dai 7 ai 17 anni. Il programma va scaricato e impostato sul telefono del ragazzo e, oltre alle tradizionali operazioni di moderazione, permette ai genitori di ricevere notifiche in tempo reale nel caso in cui i propri figli dovessero essere vittime o autori di commenti ritenuti offensivi.
Considerando l’età estremamente delicata, l’app offre due livelli di protezione. Tra i 7 e i 12 anni, la moderazione è automaticamente impostata al massimo per tutte le categorie di minacce o insulti. Tra i 13 e i 17 anni, invece, il livello di moderazione può essere modificato dal ragazzo in modo indipendente, ma il genitore verrà notificato per ogni eventuale cambiamento. Inoltre, i genitori verranno avvisati nel caso in cui il figlio riceva commenti d’odio, ma non potranno leggerli o accedere ai contenuti pubblicati.
Bodyguard infatti non punta a essere uno strumento di controllo parentale, ma vuole invece accompagnare adulti e ragazzi all’uso del web, portando avanti operazioni di educazione e prevenzione contro i rischi dei social network e delle piattaforme di gaming.
Secondo Boutard, “lo scopo è quello di favorire il dialogo tra genitori e figli, in modo tale che questi ultimi si aprano e decidano di condividere le proprie esperienze in rete, i propri dubbi, le proprie paure”.
La sperimentazione e i progetti futuri
Attualmente, Bodyguard per le Famiglie è in fase di sperimentazione in Italia tra le famiglie dei dipendenti delle aziende del Gruppo BNP Paribas. In futuro, però, la Compagnia punta a rendere il servizio disponibile a livello nazionale: “Siamo fiduciosi del suo successo e abbiamo intenzione di promuovere la soluzione Bodyguard per le Famiglie in tutta Italia, magari con altre caratteristiche e funzionalità per migliorare l’esperienza utente”.
Il 2021, poi, porterà novità importanti: “Bodyguard punta a diventare il riferimento nel mondo della moderazione. A gennaio ci sarà il lancio ufficiale negli Usa, e nel corso del 2021 la tecnologia sarà tradotta in spagnolo e portoghese” spiega Boutard. “Non sappiamo cosa ha in serbo per noi il futuro, ma ce la metteremo tutta per fare del web un posto migliore per tutti”.
