Il giorno delle elezioni si avvicina e vorrei che il CEO di Nextdoor, Nirav Tolia, si esprimesse su un punto.
Abbiamo sentito parlare molto di intelligenza artificiale, di intelligence di vicinato e del valore dei dati di Nextdoor. Sono argomenti importanti.
Ma ecco una domanda che merita altrettanta attenzione:
Cosa succede quando una discussione di quartiere assume risvolti politici e qualcuno con accesso a informazioni sensibili degli utenti decide di farne un uso improprio?
La politica può diventare accesa. Le persone hanno opinioni diverse. I moderatori locali cercano di far rispettare le regole della community, ma nessun sistema di moderazione può garantire che ogni discussione rimanga civile.
Consideriamo ora cosa distingue Nextdoor da molte altre piattaforme social: il collegamento tra gli account e gli indirizzi di quartiere verificati.
Ciò solleva un'importante questione in merito all'accesso, alla privacy e alla responsabilità.
Il rischio non risiede solo in ciò che le persone pubblicano, ma anche in chi può accedere a tali dati.
Immaginate che un vicino di casa abbia un'accesa discussione politica con qualcuno su Nextdoor.
Cosa succede se il disaccordo si trasforma in qualcosa di più di semplici commenti?
Cosa succederebbe se qualcuno cercasse di scoprire dove vive un'altra persona, di divulgarne il numero di telefono, di intimidirla offline o di utilizzare informazioni private per vendicarsi?
Non sto affermando che ciò sia effettivamente accaduto o che i moderatori di Nextdoor stiano abusando delle informazioni di qualcuno. Sto chiedendo quali misure di sicurezza esistano per prevenirlo.
Se un moderatore o qualcuno con privilegi sulla piattaforma può accedere a informazioni sensibili associate ad account verificati, cosa impedisce loro di abusare di tale accesso?
La capacità di una persona di moderare una conversazione non dovrebbe automaticamente implicare la necessità di accedere alle informazioni private di quella persona.
Nirav, ecco cosa vorrei sapere
Controlli di accesso: chi può accedere agli indirizzi verificati, ai numeri di telefono e ad altre informazioni sensibili degli utenti?
Principio del minimo privilegio: i moderatori sono limitati alle informazioni di cui hanno effettivamente bisogno per svolgere le proprie mansioni?
Tracce di controllo: Nextdoor registra e monitora l'accesso alle informazioni sensibili degli utenti? Un'attività sospetta può innescare un'indagine?
Responsabilità dei moderatori: quali strumenti di selezione, formazione e supervisione contribuiscono a prevenire l'abuso dei privilegi di moderatore?
Segnalazione e risposta: Se un utente sospetta che le proprie informazioni siano state utilizzate in modo improprio, come può segnalarlo e quali protezioni e procedure di risposta sono disponibili?
Preparazione in vista delle elezioni: Nextdoor dispone di procedure specifiche per gestire molestie politiche, doxing, minacce e tentativi di trasformare le controversie online in scontri fisici?
Non si tratta di accuse. Sono domande basilari sulla privacy, la sicurezza e la gestione del rischio.
Gli indirizzi verificati creano responsabilità
Il modello di vicinato di Nextdoor si basa sul connettere le persone a comunità reali. Questo può contribuire a rendere rilevanti le conversazioni locali.
Ma la sola verifica non garantisce un buon comportamento.
Un indirizzo verificato è un segnale di fiducia, ma non una garanzia che tutti coloro che hanno accesso alla piattaforma si comporteranno in modo appropriato.
La sicurezza deve andare oltre la semplice verifica dell'appartenenza a un quartiere. Deve anche regolamentare chi può accedere alle informazioni sensibili, perché può accedervi e cosa succede quando qualcuno abusa di tale privilegio.
Ciò è particolarmente importante quando i disaccordi diventano personali.
L'intelligenza artificiale può aspettare. Parliamo di come proteggere le persone.
Nirav, sono interessato alla strategia di intelligenza artificiale di Nextdoor. Mi interessa l'intelligenza di vicinato e come l'azienda intende diventare redditizia.
Ma con l'avvicinarsi del giorno delle elezioni, credo che anche la privacy e la sicurezza meritino un confronto diretto.
Le persone non dovrebbero essere costrette a scegliere tra partecipare alla vita del proprio quartiere e temere che le proprie informazioni personali possano essere usate contro di loro.
Quali misure di sicurezza adotta Nextdoor per proteggere gli utenti quando i disaccordi politici si fanno accesi, e come si assicura che chi gode di accesso privilegiato ne risponda delle proprie azioni?
Non sto chiedendo a Nextdoor di divulgare dettagli sulla sicurezza che potrebbero aiutare qualcuno a eludere le sue protezioni. Chiedo una spiegazione chiara delle misure di sicurezza, della supervisione e delle procedure di segnalazione che tutelano i suoi utenti.
Giorno 123. Voglio ancora che Nextdoor abbia successo. Proteggere le persone che rendono la piattaforma preziosa dovrebbe essere parte integrante di questo successo.
👉 Segui il mio studio di caso in corso su NielFlamm.com/blog
