L'algoritmo per verificare l'età dei naviganti Internet

 

Google inizierà a utilizzare algoritmi di apprendimento automatico addestrati con informazioni ottenute dall'azienda stessa per la verifica dell'età per fornire quelle che definisce "esperienze appropriate all'età".

Il modello di stima dell'età utilizzerà dati sugli utenti esistenti, tra cui le pagine che visitano, il tipo di video che guardano su YouTube o l'età del loro account, per determinare la loro età. 

Quando pensa che un utente possa essere minorenne, l'azienda lo informerà che ha modificato alcune delle sue impostazioni per impedirgli di accedere a determinati tipi di contenuti e offrirà consigli su come può verificare la sua età se lo desidera, scattando un selfie, inserendo i dettagli della carta di credito o utilizzando un documento d'identità ufficiale.
L'iniziativa è una risposta alle pressioni degli enti di regolamentazione che chiedono misure per proteggere i minori, nello stesso modo in cui ha fatto Meta. Ma sebbene possa sembrare una buona idea, l'implementazione di questi tipi di controlli è irta di problemi sulla loro affidabilità, nonché sull'uso di dati personali e sul loro impatto sull'esperienza utente.
Gli algoritmi di stima dell'età sono notoriamente inaffidabili. I database di formazione utilizzati spesso introducono pregiudizi che influenzano determinati gruppi etnici o fasce di età, a volte portando a falsi positivi o negativi. Inoltre, alcuni utenti sembrano più giovani o più vecchi della loro età reale. Anche l'esperienza utente è condizionata. Chiedere continuamente alle persone di "superare un test" è intrusivo e crea attriti, che possono comportare una riduzione dell'adozione di determinati strumenti o la ricerca di scorciatoie o metodi per aggirare la verifica.
Inoltre, il crescente utilizzo di queste tecnologie solleva la questione dell'aumento della sorveglianza; se saranno estese ad altre aree oltre alla semplice verifica dell'età. I ​​sistemi originariamente progettati per uno scopo specifico possono evolversi ed essere applicati ad altri scopi, spesso senza un dibattito pubblico sufficiente o chiare garanzie di trasparenza e responsabilità.

Ci sono importanti implicazioni etiche per la società qui: da una certa normalizzazione della sorveglianza, che crea un precedente per i giganti della tecnologia per giustificare la sorveglianza intrusiva sotto le mentite spoglie della "sicurezza dei bambini", alla verifica dell'età utilizzata per annunci mirati, monitoraggio o sistemi di credito sociale. Inoltre, iniziative simili di Meta in questo ambito potrebbero portare a una "corsa al ribasso" negli standard di privacy per la verifica dell'età e all'istituzione di un potere privato centralizzato che consolidi il controllo di queste aziende sulla definizione di "contenuto appropriato", sollevando preoccupazioni sulla censura.
L'idea di applicare l'apprendimento automatico per stimare l'età e proteggere i minori può sembrare una bacchetta magica, ma deve essere vista nel contesto della vasta quantità di contenuti sul web e delle informazioni che la grande tecnologia accumula sugli utenti attraverso le sue reti pubblicitarie. 

Ecco perché è essenziale affrontare queste questioni in sospeso prima che vengano implementate in massa. Una maggiore trasparenza, il miglioramento dell'accuratezza degli algoritmi e il rispetto dei diritti degli utenti sono essenziali per garantire che la tecnologia aggiunga davvero valore, che non trasformiamo Internet in un luogo in cui siamo controllati da algoritmi e, soprattutto, che non sacrifichiamo i nostri diritti fondamentali.