Abbiamo chiesto al CEO di Flock degli abusi di sorveglianza. Ecco cosa ha detto.

Nel 2017, Flock Safety è iniziata come progetto parallelo in un garage di Atlanta.

Oggi è un’azienda da diversi miliardi di dollari che gestisce oltre 120.000(nuova finestra) telecamere con lettore automatico di targhe (ALPR) in 49 stati degli USA, che leggono 20 miliardi di targhe al mese per più di 5.000 forze dell’ordine.

Flock si presenta come un fornitore di tecnologia per la sicurezza pubblica. I critici, tuttavia, la definiscono una rete di sorveglianza finanziata da venture capital, ricca di abusi e con scarsi controlli.

Decine di città e agenzie hanno abbandonato Flock nell’ultimo anno, Los Angeles ha lasciato scadere il contratto(nuova finestra) per preoccupazioni sui diritti civili, e un dipartimento di polizia della California ha spento le sue telecamere(nuova finestra) dopo che le agenzie federali hanno acceduto ai suoi dati senza preavviso.

Durante la realizzazione del nostro ultimo documentario Proton sulle telecamere Flock, lo stesso CEO di Flock, Garrett Langley, ha accettato un’intervista con il nostro conduttore, Richie Koch.

Di seguito la trascrizione della conversazione completa, leggermente modificata per ragioni di lunghezza e chiarezza.

—

Richie Koch: Quindi, prima domanda. In tutta la piattaforma Flock, non solo nei lettori di targhe. È possibile per la polizia cercare una persona?

Garrett Langley: Vendiamo diversi prodotti incentrati sul fare bene due cose. Garantire la sicurezza. Garantire la privacy. Promuovere la responsabilità. Questo è l’obiettivo per noi, giusto? Abbiamo alcuni prodotti incentrati sui veicoli, i nostri lettori di targhe. Abbiamo prodotti incentrati sull’audio, la rilevazione di colpi da arma da fuoco. E poi vendiamo quelle che i tuoi spettatori potrebbero conoscere come telecamere Pan, tilt, zoom. E queste vengono tradizionalmente distribuite nei luoghi frequentati dai pedoni.

Richie: Okay. Sì. E ho sentito parlare delle telecamere Condor.

Garrett: È una PTZ.

Richie: Sì. Okay. E poi mi chiedevo, non ho necessariamente ottenuto un “sì” o un “no” definitivo. Quindi mi chiedevo se potessi magari approfondire un po’ cosa fanno le PTZ Condor?

Garrett: Ecco un ottimo esempio. Spesso queste telecamere, che siano nostre o che ci siano probabilmente un paio di centinaia di grandi produttori di telecamere a livello globale che costruiscono telecamere pan, tilt, zoom. Che si tratti di noi o di qualcun altro. Le città spesso le distribuiscono nei parchi. Giusto. La città spende decine di milioni di dollari per costruire un bellissimo parco. L’ultima cosa che vuole fare è che quel parco diventi un luogo in cui avvengono spacci di droga, la gente si fa male, ecc. E se guardi la mia città natale, Atlanta, solo cinque anni fa c’è stato un orribile, orribile incidente. Puoi leggerne a riguardo. Una donna stava passeggiando con il cane nel cuore della notte, uccisa violentemente, un cold case. Sai perché? C’erano telecamere, ma non funzionavano. Se le loro telecamere fossero state lì e funzionanti, mi piace pensare con discreta certezza che quel caso non sarebbe un cold case. E quindi, il più delle volte, i nostri clienti distribuiscono i nostri prodotti in quel caso per mantenere le persone al sicuro, che sia in un parco o su una strada pubblica.

Richie: Potresti spiegare un po’ come funziona la ricerca? Abbiamo stabilito che queste telecamere esistono, che questa capacità esiste. Come si presenta una ricerca?

Garrett: Per quale prodotto? … Sono molto diversi, perché tracciamo una linea molto netta tra le nostre telecamere ALPR. Non puoi cercare le persone. Sono progettate nello specifico per leggere una targa e rilevare le caratteristiche di un veicolo. Ora, le nostre telecamere pan, tilt, zoom si concentrano sulle persone. Perché le persone di solito vanno nei parchi, di solito vanno nei parchi.

Richie: Potresti semplicemente spiegare come funzionerebbe la ricerca con il pan, tilt, zoom?

Garrett: In realtà ci sono due modi principali per cercare. C’è quella che si può definire la ricerca tradizionale, quella che ho, sai, sulle mie telecamere a casa. O posso semplicemente guardare una cronologia e andare avanti e indietro. Giusto. Ed è uno scorrimento piuttosto tradizionale. E poi il secondo è che abbiamo un prodotto chiamato Freeform. E Freeform ti consente di cercare cose in testo normale. Ora, ciò che vorrei aggiungere a questo, che è importante. E penso che non sia un’esclusiva nostra. È coerente in tutto il settore. Non puoi semplicemente fornire quel tipo di ricerca senza rappresentazione di quella che chiamiamo la Costituzione, giusto? Abbiamo diritti, abbiamo certe restrizioni. E quindi c’è una Policy di moderazione integrata in quella ricerca per prevenire qualsiasi tipo di ricerca abusiva.

Richie: Flock può modificare le funzionalità di un prodotto distribuito tramite un aggiornamento software senza che il consiglio comunale o il pubblico approvino tale nuova funzionalità?

Garrett: Hmmm. Voglio dire, alla base delle nostre relazioni commerciali, giusto. Che si tratti di un quartiere, di un’azienda o di una città, come puoi vedere dai nostri contratti, si tratta di un contratto annuale, giusto. E ogni anno dobbiamo dimostrare il nostro valore. Quindi c’è un’aspettativa da parte dei nostri clienti che migliori ogni singolo giorno.

Richie: Giusto. Tuttavia, puoi capire come questo possa portare a una deviazione dagli scopi originali. C’è stato un recente rapporto di 404 Media in cui, per un breve periodo, le vostre telecamere ALPR sono state trasformate in telecamere con diretta streaming. C’è stato un altro rapporto dell’EFF in cui il vostro sistema di Monitoraggio acustico dei colpi da arma da fuoco è stato utilizzato brevemente per monitorare le grida di soccorso umano. In entrambi i casi, sembra che queste funzionalità siano state aggiunte senza alcun addendum al contratto. Senza alcun nuovo tipo di consultazione con il consiglio comunale.

Garrett: Sì, sì. Quindi penso che più in generale, se allarghi la prospettiva, ci siano due cose vere. Prima cosa, giusto, dobbiamo continuare a costruire un prodotto migliore, e un prodotto migliore significa più sicurezza, più privacy, più responsabilità. Ma ciò di cui non ci occupiamo è imporre ai nostri clienti cosa usare e cosa non usare. E quindi, a titolo di esempio, sai, abbiamo lanciato il nostro strumento di assistenza all’audit circa un mese e mezzo fa, giusto. È una funzionalità aggiuntiva per rilevare comportamenti potenzialmente abusivi o illeciti nel nostro sistema. Non lo richiediamo oggi. Ora, più di un terzo dei nostri clienti lo ha attivato e noi spingiamo i nostri clienti: dovresti usare questo, dovresti usare questo. Ma credo sia compito del consiglio comunale, del commissario, spingerli a fare da drive per una maggiore responsabilità. E direi lo stesso sul lato della sicurezza. Quindi è piuttosto raro che imponiamo qualcosa ai nostri clienti rispetto a costruire qualcosa e farlo sapere al mondo, come ad esempio free form. E poi, se una città sceglie di adottarlo, sta a loro prendere una decisione su cosa sia opportuno condividere con il consiglio comunale o semplicemente andare avanti.

Richie: Non per entrare… non voglio rimanere sul generale, non entrare nei dettagli, ma nei casi segnalati sembrava meno che ci fosse stata una consultazione da parte dei rappresentanti della città, del consiglio comunale, del governo cittadino e più semplicemente che il dipartimento di polizia avesse deciso di spuntare la casella per attivare la funzionalità. Questo sembra non concordare necessariamente con il tuo principio di governance locale.

Garrett: C’era una domanda?

Richie: Direi…

Garrett: Scusa.

Richie: Daresti il tuo supporto nel richiedere un’esplicita, esplicita approvazione pubblica prima che una capacità di sorveglianza sostanzialmente nuova possa essere attivata su una tecnologia già implementata nella comunità?

Garrett: Al 100%. Sento fortemente che i dipartimenti di polizia sono semplicemente una parte di un governo locale, e quei governi locali hanno delle Policy, e la maggior parte di quei governi locali ha delle Policy non solo sulla sorveglianza ma anche sugli elementi di bilancio. Giusto. Quindi, quando la guardo, dico che c’è un sistema in atto e dovremmo continuare a fare affidamento sui nostri funzionari eletti localmente per fare questi compromessi su come mantenere la comunità al sicuro.

Richie: Okay. Quindi questo, non per metterti le parole in bocca, ma sembrerebbe che tu lo faccia. Se sei disposto a dare il tuo supporto a questo, significherebbe potenzialmente andare al consiglio comunale prima di introdurre una nuova funzionalità e non semplicemente distribuirla. Promuoverla. È corretto?

Garrett: Ecco come la penso. Se un dipartimento, se un dipartimento di polizia sceglie di aggiungere una funzionalità, devo anche fare affidamento su quel cliente affinché comprenda i valori della propria comunità, le sue Policy, le sue procedure. E sai, abbiamo quasi 7000 dipartimenti di polizia a questo punto, città con cui lavoriamo. Sono tutte molto uniche. Cleveland è molto diversa da Cincinnati, da Toledo. E non siamo ancora usciti dall’Ohio. Ti sposti nel mio stato natale, la Georgia, o in California o a Washington. E il punto è che hanno tutti regole di acquisto diverse. Hanno revisioni delle Policy diverse, tutto ciò esiste a un livello molto locale. Quindi ad alto livello, al 100%, non penso che i dipartimenti di polizia dovrebbero adottare davvero alcuna nuova Policy, rimuovere che si tratti dei miei prodotti o di quelli di un mio concorrente, o persino un cambio di divisa come quello, spetta alla città decidere quale livello di revisione sia necessario città per città.

Richie: Ci sono stati diversi casi di agenti di polizia che avrebbero abusato di Flock per perseguitare persone. Quando ciò accade, quale responsabilità si assume la stessa Flock?

Garrett: Qualsiasi livello di abuso superiore a zero è inaccettabile e mi fa schifo. Abbiamo costruito un prodotto. Ho fondato un’azienda per rendere le persone più sicure. Ho tre bambini piccoli. Ritengo che il mio obbligo principale come loro padre sia di mantenerli al sicuro. E quindi quando vedo individui prendere pessime decisioni usufruendo dei nostri prodotti in un modo per cui non erano stati pensati, è frustrante. E sapevamo che questo era un rischio nove anni fa. Ecco perché, ecco perché abbiamo ideato i log di controllo. Sai, se torni a prima di Flock, parliamo di LPR. Gli LPR sono sempre esistiti. Non c’è alcuna Conservazione dei dati.

Richie: Sì.

Garrett: Giusto? Veniva venduto commercialmente. Lo è ancora. Giusto. I carri attrezzi girano e vendono i dati commerciali. E non c’era alcuna responsabilità integrata. Quindi non mi sorprende che mentre andiamo avanti su questo. Giusto. E dato che ora abbiamo aggiunto l’assistenza all’audit, continueremo a spingere di più su questo. Per me, ritengo che il nostro lavoro sia costruire un prodotto quasi impossibile, così difficile da usare al di fuori dello scopo previsto. E penso che in realtà questo possa essere controintuitivo. Penso che sia fantastico quando vedo il livello di attenzione dei media, perché voglio che gli agenti sappiano che se provi a usare Flock, sarai ritenuto responsabile se provi a usarlo in modo abusivo. E ci sono altri sistemi che sai che non vengono tracciati. E penso che sia un male.

Richie: Sembri sentire molto fortemente questo tema. Quindi quanti contratti con i dipartimenti di polizia Flock ha sospeso o rescisso a causa di abusi sistemici? Abusi dilaganti da parte degli agenti e del tuo sistema?

Garrett: Sì, penso sia una domanda davvero, davvero interessante. Ed è interessante perché ogni giorno, ad esempio, vedo almeno tre, se non quattro storie di successo di un bambino rapito riportato a casa. Vedo da centinaia a migliaia di reati risolti. Se vivessi in una città che ha un dipartimento di polizia che abusa di Flock, l’ultima cosa che vorrei fare è smantellare questo sistema che è così efficace nel risolvere i reati. E quindi l’abuso di cui parli è eccezionalmente raro. Ora, tornando al mio punto: qualsiasi cifra superiore a zero è inaccettabile. Ma stai parlando di centinaia di migliaia di agenti di polizia che usano Flock ogni singolo giorno a fronte di cifre a una sola cifra, dozzine che ne stanno potenzialmente abusando. Non penso dovresti ritenere responsabile l’intera città solo per le cattive decisioni di pochi.

Richie: Se posso dedurre da questa risposta, direi che il numero è zero.

Garrett: Non voglio travisare una risposta, quindi non ho risposto. Non voglio dirti una cosa e poi è…

Richie: Okay. È giusto. La terremo come un caso eccezionalmente raro e andiamo avanti.

Richie: C’è un livello di abuso che ti spingerebbe a decidere che un’agenzia, un’agenzia non dovrebbe più accedere alla tua tecnologia? C’è una soglia?

Garrett: Sì. Quindi penso che ciò che stai descrivendo sia in un evento in cui, chiamiamolo così, l’intero dipartimento di polizia viene dimostrato colpevole di abusi e probabilmente non solo con Flock, ma con molte altre cose. E in quei casi, c’è un processo federale per gestire la cosa. Il governo federale in genere interviene, il governo statale interviene. E in quelle situazioni è improbabile che tengano Flock perché probabilmente stanno smantellando l’intero dipartimento di polizia. Quindi non penso che mi verrebbe mai presentato quel problema o quella decisione.

Richie: Okay. Quindi di nuovo, semplicemente per dedurre un po’, mettendo la ciliegina sulla torta, sarebbe una soglia eccezionalmente alta. Giusto?

Garrett: Sì. Tu cosa ne pensi? In realtà sono curioso. Hai un punto di vista su quando una società tecnologica dovrebbe…

Richie: La mia opinione non conta davvero. Sei tu il CEO qui. Mi piacerebbe dirtelo davanti a una birra. Dici che una delle garanzie di Flock è il controllo locale, ma diverse città della California affermano che i loro dati sono stati condivisi con terze parti, a volte con il governo federale, senza il loro permesso. In che modo questo è coerente con la tua affermazione che i clienti controllano i propri dati?

Garrett: Non sono d’accordo con queste affermazioni.

Richie: Okay, posso dirti che l’ho preso da una rivendicazione di Mountain View, California. Sostengono che Flock abbia attivato la ricerca a livello nazionale con i dipartimenti di polizia senza il loro permesso, e le agenzie federali abbiano poi acceduto ai dati. E allo stesso modo, South Pasadena ha citato la condivisione involontaria dei dati come motivo per cui ha annullato il proprio contratto. Uno è stato riportato sul Guardian, l’altro era semplicemente una dichiarazione della città. Tu…

Garrett: Quindi, i clienti controllano i propri dati, controllano quali caselle di controllo vengono selezionate. Semmai, abbiamo frainteso il nostro obbligo nei confronti dei clienti di rendere loro impossibile commettere errori. E quindi, se prendi un caso come la California, c’è la legislazione statale per cui i dati LPR non dovrebbero uscire dallo stato. Due anni fa non ritenevamo fosse nostro compito codificarlo nel nostro prodotto. Ora, poiché abbiamo sentito clienti che inavvertitamente hanno fatto clic su un pulsante o qualcuno ha fatto clic sul pulsante e ha detto, ehi, in realtà vogliamo attivare la ricerca nazionale, glielo abbiamo reso troppo facile. E quindi ora nello stato della California, nello stato di Washington e nello stato della Virginia, dove c’è una chiara legislazione per cui i dati LPR non possono uscire dallo stato, rendiamo impossibile che ciò accada. Non c’è nemmeno una casella di controllo. E quindi, semmai, Richie, il modo in cui lo descriverei è che l’obbligo di Flock in questa conversazione è aumentato. Vedo la nostra responsabilità maggiore, ed è per questo che sono un grande fan delle normative in generale. Perché ora in un posto come Washington, sai, c’è una legge che dice questo è il modo in cui pensiamo che l’LPR debba funzionare a Washington. E quando quelle leggi sono ben scritte, non necessariamente nella sostanza, ma nell’applicabilità, penso che sia un’ottima cosa. E quindi in un posto come la California, ora abbiamo cambiato e aumentato il nostro profilo in modo tale che sia impossibile che ciò accada persino.