Giorno 133: Nextdoor ha tempo per l'intelligenza artificiale. E per quanto riguarda la protezione dei dati dei vicini?
Lunedì. Poco prima di mezzogiorno.
Oggi è stata una giornata tranquilla su Nextdoor. Ho saltato il giorno 132 perché non c'era molto da segnalare. Ora, sono passati quattro giorni senza una risposta pubblica alle domande che ho sollevato sulla responsabilità dei moderatori, sulla privacy dei vicini e sulla protezione delle informazioni non pubbliche.
Anche Nirav Tolia non ha risposto a queste domande.
A questo punto, il silenzio sembra una routine.
Nel frattempo, stamattina ho controllato NXDR. Il titolo è scambiato intorno ai 2,37 dollari, in calo rispetto ai 2,63 dollari di venerdì. Si tratta di una variazione significativa, sebbene non abbia prove che la colleghino a quanto ho discusso finora.
Ma il prezzo delle azioni non è la notizia di oggi.
La storia di oggi riguarda gli argomenti che Nextdoor sceglie di trattare e quelli che decide di non trattare.
Giorno 133: Le domande restano
La mia domanda è semplice.
Quali misure di sicurezza adotta Nextdoor per proteggere i vicini nel caso in cui un moderatore volontario abusi della propria posizione o acceda a informazioni non pubbliche per scopi non correlati alla moderazione?
Non sto accusando un moderatore in particolare di cattiva condotta. Sto chiedendo quali controlli dovrebbero essere presenti prima che si verifichi un problema.
Il Contratto di adesione di Nextdoor negli Stati Uniti stabilisce che i volontari che hanno accesso a informazioni non pubbliche tramite le funzionalità del proprio account devono utilizzarle esclusivamente nell'ambito del loro ruolo di volontari. Questa è una regola importante.
Ma una regola è solo una parte di una misura di salvaguardia.
Quali sono i fattori che limitano l'accesso? Come fa Nextdoor a monitorare i potenziali abusi? Cosa succede quando un vicino segnala che un moderatore ha abusato dei propri privilegi? Come indaga Nextdoor sulle segnalazioni quando la persona segnalata fa parte del sistema di moderazione?
Quale formazione devono seguire i moderatori per comprendere le proprie responsabilità in materia di riservatezza, conflitti di interesse e ritorsioni personali?
Vorrei che Nextdoor spiegasse pubblicamente queste misure di protezione in un linguaggio semplice e comprensibile.
Non perché io sappia che si è verificata una violazione. Non lo so.
Non perché so che un moderatore abbia fatto un uso improprio di informazioni non pubbliche. Non lo so.
Vorrei che l'azienda spiegasse come previene che queste cose accadano e come reagisce qualora si verificassero.
Giornate dell'IA: un'iniziativa interessante, ma è davvero la priorità di cui i nostri vicini hanno bisogno?
La scorsa settimana, Tony Castellanos, responsabile delle risorse umane di Nextdoor, ha messo in evidenza gli AI Days mensili dell'azienda, giornate dedicate ai dipendenti per sperimentare strumenti di intelligenza artificiale ed esplorare modi per migliorare il proprio lavoro. Anche HR Brew ha parlato di questa iniziativa.
La sperimentazione può essere utile. Le aziende dovrebbero esplorare strumenti che aiutino i dipendenti a lavorare in modo più efficace.
La mia preoccupazione non è che Nextdoor stia esplorando l'intelligenza artificiale.
La mia preoccupazione riguarda la discrepanza tra gli argomenti promossi dall'azienda e le domande pratiche a cui gli utenti necessitano ancora di risposta.
Sentiamo parlare di sperimentazione sull'intelligenza artificiale, di analisi pubblicitaria a livello di quartiere e di iniziative di prodotto. Questi argomenti potrebbero essere rilevanti per la strategia aziendale di Nextdoor.
Ma dov'è una spiegazione pubblica altrettanto chiara su come l'azienda protegge le persone che rendono preziosa la sua piattaforma?
Dove si trova una discussione chiara e diretta sull'accesso dei moderatori, la riservatezza, la responsabilità e le misure di salvaguardia contro le ritorsioni?
L'intelligenza artificiale può aiutare un'azienda a muoversi più velocemente. Non può però sostituire politiche solide, una supervisione efficace o la responsabilità.
Nirav Tolia, quali sono le misure di sicurezza?
Nirav, non ti sto chiedendo di rispondere personalmente a ogni mio post. Sto chiedendo a Nextdoor, in quanto azienda basata su vicini verificati e relazioni locali, di spiegare come protegge le informazioni e la fiducia su cui si fondano tali relazioni.
Ecco le domande a cui vorrei una risposta:
Accesso: a quali informazioni non pubbliche possono accedere i moderatori volontari e come viene limitato tale accesso?
Monitoraggio: quali controlli rilevano o indagano su potenziali abusi dei privilegi di moderatore?
Formazione: I moderatori volontari devono partecipare a corsi di aggiornamento o di conformità annuali? Cosa includono?
Reclami: Come possono i vicini segnalare presunti abusi da parte dei moderatori senza timore di ritorsioni?
Responsabilità: chi esamina i reclami gravi quando il moderatore è oggetto della segnalazione?
Trasparenza: dove possono gli utenti leggere una spiegazione chiara di queste misure di sicurezza e di come vengono applicate?
Le politiche pubbliche di Nextdoor forniscono alcune informazioni sul comportamento atteso. Quello che vorrei capire è come l'azienda mette in pratica queste aspettative.
Pubblicare le regole è importante. Spiegare le tutele che esse garantiscono è altrettanto importante.
Quattro giorni di silenzio, un altro giorno di domande
Ho avviato questo studio di caso per esaminare il divario tra la promessa di Nextdoor e la sua effettiva realizzazione.
Lo sto ancora facendo.
Non mi aspetto una risposta a ogni domanda e riconosco che l'azienda non può divulgare ogni dettaglio delle sue procedure di sicurezza. Esistono validi motivi per non pubblicare informazioni che potrebbero aiutare qualcuno a eludere un controllo di sicurezza.
Ma c'è una differenza tra rivelare dettagli tecnici sensibili e spiegare i principi, la formazione, la supervisione e le misure di responsabilità utilizzate per proteggere le persone.
Un'azienda può essere trasparente riguardo al proprio approccio senza per questo fornire ai malintenzionati una tabella di marcia.
È proprio quello che chiedo.
Mentre scrivo queste righe, lunedì 26 ottobre, NXDR è in calo rispetto alla chiusura di venerdì e, dal mio punto di vista, le mie domande sulle misure di sicurezza adottate dai moderatori rimangono senza risposta. L'andamento del titolo è un dato, ma le domande senza risposta rappresentano un problema a parte.
Nextdoor ha annunciato che pubblicherà il suo prossimo rapporto sugli utili il 5 novembre. Gli investitori verranno informati sui risultati aziendali e sono sicuro che ci sarà molto di cui discutere.
Spero però che Nextdoor tenga presente che il suo futuro a lungo termine dipende da ben più che da fatturato, coinvolgimento e nuove tecnologie.
Dipende dalla fiducia che i vicini ripongono nella piattaforma e dalla capacità dell'azienda di dimostrare di prendere sul serio la loro privacy e la loro sicurezza.
Smettiamola per un attimo di dare risalto all'intelligenza artificiale. Spiegate ai vostri vicini come li state proteggendo.
Questo è l'aggiornamento che stavo aspettando.
👉 Segui il mio studio di caso su Nextdoor su NielFlamm.com/blog.