Nous avons interrogé le PDG de Flock au sujet des abus de surveillance. Voici ce qu’il a déclaré.

En 2017, Flock Safety a débuté comme un projet secondaire dans un garage d’Atlanta.

Aujourd’hui, c’est une entreprise de plusieurs milliards de dollars qui exploite plus de 120 000(nouvelle fenêtre) caméras de lecture automatique de plaques d’immatriculation (ALPR) dans 49 États américains, lisant 20 milliards de plaques par mois pour plus de 5 000 forces de l’ordre.

Flock se présente comme un fournisseur de technologies de sécurité publique. Ses détracteurs y voient toutefois un réseau de surveillance financé par le capital-risque, en proie aux abus et à un manque de contrôle.

Des dizaines de villes et d’agences ont abandonné Flock au cours de l’année écoulée, Los Angeles a laissé son contrat expirer(nouvelle fenêtre) en raison de préoccupations concernant les libertés civiles, et un service de police de Californie a éteint ses caméras(nouvelle fenêtre) après que des agences fédérales ont accédé à ses données sans préavis.

Lors du tournage de notre dernier documentaire Proton sur les caméras Flock, le PDG de Flock lui-même, Garrett Langley, a accepté d’accorder une interview à notre présentateur, Richie Koch.

Vous trouverez ci-dessous la transcription de la conversation complète, légèrement modifiée par souci de longueur et de clarté.

—

Richie Koch : Première question. Sur l’ensemble de la plateforme Flock, et pas seulement sur les lecteurs de plaques d’immatriculation. Est-il possible pour la police de rechercher une personne ?

Garrett Langley : Nous vendons donc plusieurs produits axés sur deux objectifs bien précis. Assurer la sécurité. Garantir le respect de la vie privée. Favoriser la responsabilité. C’est l’objectif pour nous, n’est-ce pas ? Nous avons des produits axés sur les véhicules, nos lecteurs de plaques d’immatriculation. Nous avons des produits axés sur l’audio, la détection des coups de feu. Et puis nous vendons ce que vos spectateurs connaissent peut-être sous le nom de caméras panoramiques, orientables et à zoom. Et celles-ci sont traditionnellement déployées dans les endroits fréquentés par les piétons.

Richie : D’accord. Oui. Et j’ai entendu parler des caméras Condor.

Garrett : C’est une caméra PTZ.

Richie : Oui. D’accord. Je me demandais, je n’ai pas vraiment obtenu de « oui » ou de « non » ferme sur ce point. Je me demandais si vous pouviez préciser un peu ce que font les caméras Condor PTZ s ?

Garrett : Voici un très bon exemple. Bien souvent, ces caméras, qu’elles viennent de chez nous ou d’un autre fabricant parmi la centaine de grands constructeurs dans le monde qui fabriquent des caméras panoramiques, orientables et à zoom… Que ce soit nous ou quelqu’un d’autre, les villes vont souvent les déployer dans des parcs. N’est-ce pas ? La ville dépense des dizaines de millions de dollars pour construire un magnifique parc. La dernière chose qu’elle souhaite, c’est que ce parc devienne un endroit où l’on vend de la drogue, où des gens se font agresser, etc. Et regardez ma propre ville natale, Atlanta, il y a cinq ans à peine, il y a eu un horrible, un affreux incident. Vous pouvez lire des articles à ce sujet. Une femme promenait son chien au milieu de la nuit, tuée sauvagement, une affaire classée sans suite. Vous savez pourquoi ? Il y avait des caméras, mais elles ne fonctionnaient pas. Si ces caméras avaient été là et fonctionnelles, j’aime à penser avec certitude que cette affaire ne serait pas classée sans suite. Ainsi, le plus souvent, nos clients déploiement nos produits s dans ce cas pour assurer la sécurité de leur population, que ce soit dans un parc ou sur la voie publique.

Richie : Pourriez-vous expliquer un peu comment fonctionne la recherche ? Nous avons établi que ces caméras existent, que cette possibilité existe. À quoi ressemble une recherche ?

Garrett : Pour quel produit ? … Ils sont très différents, car nous établissons une distinction très nette pour nos caméras ALPR. Vous ne pouvez pas rechercher des personnes. Elles sont spécialement conçues pour lire une plaque d’immatriculation afin de détecter les caractéristiques d’un véhicule. En revanche, nos caméras panoramiques, orientables et à zoom se concentrent sur les personnes. Parce que les gens vont généralement dans les parcs, ils vont généralement dans les parcs.

Richie : Pourriez-vous simplement expliquer comment les caméras panoramiques, orientables et à zoom… comment la recherche fonctionnerait ?

Garrett : Il y a donc deux façons principales de rechercher. Il y a la recherche traditionnelle, vous savez, comme celle que j’ai sur mes caméras à la maison. Où je peux simplement regarder une chronologie et faire défiler d’avant en arrière. C’est un défilement assez classique. Et la seconde, c’est que nous avons un produit appelé Freeform. Et Freeform vous permet de rechercher des éléments en texte brut. Ce que j’aimerais ajouter à cela est important. Et je pense que ce n’est pas propre à nous. C’est cohérent dans toute l’industrie. Vous ne pouvez pas simplement fournir ce type de recherche sans représentation de ce que nous appelons la Constitution, n’est-ce pas ? Nous avons des droits, nous avons certaines restrictions. Il y a donc une politique de modération intégrée à cette recherche pour empêcher tout type de recherche abusive.

Richie : Flock peut-elle modifier les fonctionnalités d’un produit déployé par le biais d’une mise à jour logicielle sans qu’un conseil municipal ou le public ne valide cette nouvelle fonctionnalité ?

Garrett : Hmmm. Je veux dire, au cœur de notre relation commerciale, n’est-ce pas, que ce soit avec un quartier, une entreprise ou une ville, comme vous pouvez le voir dans nos contrats, c’est un contrat annuel. Et chaque année, nous devons prouver notre valeur. Nos clients s’attendent donc à ce que cela s’améliore chaque jour.

Richie : Soit. Cependant, vous pouvez comprendre comment cela pourrait conduire à un détournement de fonction. Un rapport récent de 404 Media a révélé que, pendant un court moment, vos caméras ALPR ont été transformées en caméras de flux en direct. Un autre rapport de l’EFF mentionnait que votre système de surveillance acoustique des coups de feu avait été brièvement utilisé pour surveiller les cris de détresse humaine. Dans ces deux cas, il semble que ces fonctionnalités aient été ajoutées sans aucun avenant au contrat. Sans aucune nouvelle consultation du conseil municipal.

Garrett : Oui, oui. De manière plus globale, si l’on prend du recul, deux choses me semblent vraies. Premièrement, nous devons continuer à concevoir un meilleur produit, un meilleur produit signifiant à la fois plus de sécurité, plus de respect de la vie privée et plus de responsabilité. Mais notre rôle n’est pas d’imposer à nos clients ce qu’ils doivent utiliser ou non. À titre d’exemple, nous avons lancé notre outil d’assistance à l’audit il y a un mois et demi environ. C’est une fonctionnalité supplémentaire pour détecter des comportements potentiellement abusifs ou malveillants dans notre système. Nous ne l’imposons pas aujourd’hui. Désormais, plus d’un tiers de nos clients l’ont activé et nous incitons nos clients : vous devriez l’utiliser. Vous devriez l’utiliser. Mais je pense qu’il incombe au conseil municipal, aux commissaires, de les pousser à un drive de plus de responsabilité. Et je dirais la même chose du côté de la sécurité. Il est donc plutôt rare que nous imposions quelque chose à nos clients au lieu de créer quelque chose, de le faire savoir au monde entier, comme Freeform par exemple. Et si une ville choisit de l’adopter, c’est à elle de décider ce qu’il convient de partager avec le conseil municipal ou simplement de transférer.

Richie : Sans entrer dans… Je ne veux pas rester vague, ni entrer trop dans les détails, mais dans les cas signalés, il semblait moins s’agir d’une consultation des représentants de la ville, du conseil municipal ou de l’administration municipale, que du simple fait que le service de police a décidé de cocher la case pour activer la fonctionnalité. Cela ne semble pas forcément cadrer avec votre principe de gouvernance locale.

Garrett : Y avait-il une question ?

Richie : Je dirais…

Garrett : Désolé.

Richie : Apporteriez-vous votre support à l’exigence d’une approbation publique explicite, tout à fait explicite, avant qu’une nouvelle capacité de surveillance substantielle puisse être activée sur une technologie déjà mise en œuvre dans la communauté ?

Garrett : À 100 %. Je suis convaincu que les services de police ne sont qu’une composante du gouvernement local, et que ces gouvernements locaux ont des politiques, dont la plupart concernent non seulement la surveillance, mais aussi des éléments budgétaires. N’est-ce pas ? Ainsi, quand je regarde la situation, je me dis qu’un système est en place et que nous devrions continuer à faire confiance à nos élus locaux pour faire ces compromis afin de garantir la sécurité de la communauté.

Richie : D’accord. Sans vouloir vous faire dire ce que vous n’avez pas dit, il semblerait donc que vous soyez d’accord. Si vous êtes prêt à apporter votre support à cela, cela signifierait qu’il faudrait potentiellement s’adresser au conseil municipal avant d’introduire une nouvelle fonctionnalité, et ne pas simplement la déployer. La lancer directement. Est-ce exact ?

Garrett : Voici comment je vois les choses. Si un service, si un service de police choisit d’ajouter une fonctionnalité, je dois également faire confiance à ce client pour comprendre les valeurs de sa communauté, ses politiques, ses procédures. Et vous savez, nous travaillons aujourd’hui avec près de 7 000 services de police et villes. Ils sont tous très uniques. Cleveland est très différente de Cincinnati ou de Toledo. Et nous n’avons même pas encore quitté l’Ohio. Passez à mon État d’origine, la Géorgie, ou à la Californie, ou à l’État de Washington. Le fait est qu’ils ont tous des règles d’approvisionnement différentes. Ils ont des révisions de politiques différentes, tout cela existe à un niveau très local. Donc, de manière générale, à 100 %, je ne pense pas que les services de police devraient adopter une nouvelle politique, retirer qu’il s’agisse de mes produits ou de ceux d’un concurrent, ou même effectuer un changement d’uniforme de ce type. C’est à la ville de décider quel niveau d’examen est nécessaire, ville par ville.

Richie : Il y a eu de nombreux cas d’officiers de police accusés d’avoir utilisé Flock de manière abusive pour traquer des personnes. Lorsque cela se produit, quelle responsabilité Flock assume-t-elle ?

Garrett : Tout niveau d’abus supérieur à zéro est inacceptable et me donne la nausée. Nous avons conçu un produit. J’ai créé une entreprise pour renforcer la sécurité des personnes. J’ai trois jeunes enfants. Je considère que mon obligation principale en tant que père est de veiller sur leur sécurité. Alors quand je vois des individus prendre de très mauvaises décisions en utilisant nos produits d’une manière non prévue, c’est frustrant. Et nous savions que c’était un risque il y a neuf ans. C’est pourquoi nous avons mis au point un journal d’audit. Vous savez, si l’on remonte avant Flock, parlons des LPR. Les LPR existent depuis toujours. Il n’y avait aucune conservation des données.

Richie : Oui.

Garrett : N’est-ce pas ? C’était vendu dans le commerce. Ça l’est toujours. Les dépanneuses roulent en drive et vendent les données commerciales. Et il n’y avait aucune responsabilité intégrée. Ce n’est donc pas une surprise pour moi qu’au fur et à mesure que nous avons transférer cela. Et comme nous avons maintenant ajouté l’assistance à l’audit, nous allons continuer à insister encore plus là-dessus. Pour ma part, je considère que notre travail consiste à créer un produit qu’il est presque impossible, tellement difficile d’utiliser en dehors de son usage prévu. Et je pense en fait que cela peut sembler contre-intuitif, mais je trouve s formidable de voir l’attention des médias, parce que je veux que les policiers sachent que si vous essayez d’utiliser Flock, vous devrez rendre des comptes si vous tentez de l’utiliser de manière abusive. Et il existe d’autres systèmes qui, vous le savez, ne sont pas suivis. Et je pense que c’est une mauvaise chose.

Richie : Vous semblez très à cœur sur ce sujet. Combien de contrats avec des services de police Flock a-t-elle suspendus ou résiliés en raison d’abus systémiques ? D’abus généralisés de la part d’officiers avec votre système ?

Garrett : Oui, je pense que c’est une question très, très intéressante. Et c’est intéressant parce que chaque jour, par exemple, je vois au moins trois, si ce n’est quatre histoires positives d’un enfant enlevé qui rentre chez lui. Je vois des centaines, voire des milliers de crimes résolus. Si j’habitais dans une ville dont le service de police abusait de Flock, la dernière chose que je voudrais, c’est supprimer ce système qui est si efficace pour résoudre les crimes. L’abus dont vous parlez est donc exceptionnellement rare. Pour en revenir à ce que je disais, tout ce qui est supérieur à zéro est inacceptable. Mais vous parlez de centaines de milliers d’officiers de police qui utilisent Flock au quotidien et de quelques unités, voire dizaines tout au plus, qui en abusent potentiellement. Je ne pense pas que vous devriez tenir toute la ville pour responsable des seules mauvaises décisions de quelques personnes.

Richie : Si je peux déduire de cette réponse, je dirais que le chiffre est de zéro.

Garrett : Je ne veux pas déformer une réponse, donc je n’ai pas répondu. Je ne veux pas vous dire une chose et qu’ensuite ce soit…

Richie : D’accord. C’est équitable. Nous allons considérer qu’il s’agit d’un cas exceptionnellement rare et passer à autre chose.

Richie : Y a-t-il un niveau d’abus qui vous amènerait à décider qu’une agence ne devrait plus accéder à votre technologie ? Y a-t-il un seuil ?

Garrett : Oui. Je pense donc que ce que vous décrivez concerne un événement où, disons, l’ensemble du service de police est reconnu coupable d’abus, et probablement pas seulement avec Flock, mais avec beaucoup d’autres choses. Dans ce cas, il existe une procédure fédérale pour gérer la situation. Le gouvernement fédéral intervient généralement, le gouvernement de l’État intervient. Et dans ces situations, il est peu probable qu’ils conservent Flock, car ils sont probablement en train de démanteler l’ensemble du service de police. Je ne pense donc pas que je serai jamais confronted à ce problème ou à cette décision.

Richie : D’accord. Donc encore une fois, simplement pour en déduire un peu, pour couronner le tout, ce serait un seuil exceptionnellement élevé. N’est-ce pas ?

Garrett : Oui. Qu’en pensez-vous ? Je suis curieux de le savoir. Avez-vous un point de vue sur le moment où une entreprise technologique devrait…

Richie : Mon opinion n’a pas vraiment d’importance. C’est vous le PDG ici. J’aimerais vous raconter ça autour d’une bière. Vous dites que l’une des garanties de Flock est le contrôle local, mais plusieurs villes de Californie affirment que leurs données ont été partager avec des tiers, parfois avec le gouvernement fédéral, sans leur autorisation. En quoi cela est-il cohérent avec votre affirmation selon laquelle les clients contrôlent leurs données ?

Garrett : Je ne suis pas d’accord avec ces déclarations.

Richie : D’accord, je peux vous dire que je tiens cela d’une affirmation de Mountain View, en Californie. Ils prétendent que Flock a activer la rechercher à l’échelle nationale avec des services de police sans leur autorisation, et que des agences fédérales ont ensuite pu accéder aux données. De même, South Pasadena a invoqué le partage involontaire de données comme raison d’annuler son contrat. L’un des cas a été rapporté dans le Guardian, l’autre provenait simplement de la ville. Vous…

Garrett : Ainsi, les clients contrôlent leurs données, ils contrôlent les cases à cocher qui sont sélectionner. À tout le moins, nous avons mal compris notre obligation envers nos clients de leur rendre impossible de commettre des erreurs. Si vous prenez le cas de la Californie, la législation de leur État stipule que les données LPR ne doivent pas quitter l’État. Nous n’estimions pas qu’il nous appartenait de coder cela dans notre produit il y a deux ans. Désormais, comme nous l’avons entendu de la part de clients qui ont involontairement cliqué sur un bouton ou dont quelqu’un a cliqué sur le bouton en disant « hé, nous voulons en fait activer la recherche nationale », nous leur avons rendu la tâche trop facile. Ainsi, aujourd’hui dans l’État de Californie, dans l’État de Washington et dans l’État de Virginie, où il existe une législation effacer interdisant aux données LPR de quitter l’État, nous faisons en sorte qu’il soit impossible que cela se produise. Il n’y a même pas de case à cocher. Donc, Richie, la façon dont je le décrirais, c’est que l’obligation de Flock dans cette conversation a augmenté. Je considère que notre responsabilité est plus grande, c’est pourquoi je suis un grand adepte des réglementations en général. Parce que maintenant, dans un endroit comme Washington, il y a un projet de loi qui dit voilà comment nous pensons que la LPR devrait fonctionner à Washington. Et lorsque ces projets de loi sont bien rédigés, pas nécessairement sur le fond, mais sur leur applicabilité, je pense que c’est une excellente chose. Ainsi, dans un endroit comme la Californie, nous avons modifié et renforcé nos règles de sorte qu’il soit impossible que cela se produise.