Axon, l’entrepreneur en sécurité publique qui a popularisé le Taser, a lancé un nouveau produit qui est moins effrayant activement mais qui concerne toujours vaguement : un logiciel alimenté par l’IA qui permet aux flics d’automatiser leurs rapports de police.
Axon appelle son nouveau produit Premier brouillon. Selon un communiqué de presse publié mardi, Draft One est un « nouveau logiciel révolutionnaire qui rédige des récits de rapports de police de haute qualité en secondes.”Le logiciel est alimenté par le puissant grand modèle de langage GPT-4 et peut soi-disant rédiger des rapports en transcrivant automatiquement l’audio. de les caméras corporelles de la police qu’Axon vend. Forbes était le premier à signaler sur le lancement du nouveau produit.
Axon présente son nouveau logiciel comme un moyen de réduire le travail de bureau de la police afin que les policiers puissent passer plus de temps dans leurs communautés. Dans son communiqué de presse, l’entreprise présente les avantages de sa technologie comme suit :
Les services de police à travers les États-Unis manquent de personnel. Alors que les agences mettent l’accent sur le recrutement et le maintien en poste, la demande pour pourvoir des postes ouverts est faible. Il en résulte une pénurie. en raison de délais de réponse plus longs aux appels de service et aux agents effectuant des heures supplémentaires, ce qui peut conduire à l’épuisement professionnel et coûter cher aux contribuables. Draft One a le potentiel d’augmenter et d’amplifier les agents, en leur donnant du temps pour mieux servir leurs communautés.
Toutefois, certains critiques ont été prompts à noter que ce produit, qui a été conçu pour résoudre des problèmes pour la police, pourrait également causer une multitude de problèmes pour tout le monde. Forbes’ L’article cite Dave Maass, directeur des enquêtes sur les technologies de surveillance à l’Electronic Frontier Foundation, qui a qualifié le nouveau produit de « sorte de cauchemar ». Maass a noté que la plupart des policiers ne sont pas formés à l’utilisation de l’IA et ne peuvent donc pas être habitués à reconnaître ses faiblesses. Daniel Linskey, L’ancien surintendant en chef du département de police de Boston, qui a également été interviewé par le média, a également exhorté à la prudence dans le déploiement de la technologie.
De manière problématique, l’IA est connue “halluciner”-c’est-à-dire pour inventer du charabia. En même temps, il semble possible que la police puisse, dans certains cas, utiliser le logiciel pour s’exonérer de toute responsabilité légale. C’est-à-dire si quelque chose de douteux apparaissait dans un rapport de police et que le rapport était « rédigé ». Avec le nouveau logiciel d’Axon, il semble plausible que les flics puissent à tort blâmer le logiciel pour des erreurs ou des inexactitudes qui ont été réellement insérées par un humain – semant le doute tout au long du chemin. En tant que tel, tout déploiement de cette technologie nécessiterait des directives réglementaires strictes pour garantir qu’elle n’est pas utilisée à mauvais escient. par les services de police.
Axon affirme dans son communiqué de presse qu’une « série de garanties critiques ont été instituées par le logiciel doit être examiné et approuvé par un agent humain, garantissant l’exactitude et la responsabilité des informations avant que les rapports ne soient soumis. » Pourtant, le réconfort que vous ressentez dans ces assurances dépend probablement du degré de confiance que vous avez dans le fait que les policiers feront leur correctement. Pour certains membres du public, cette confiance est probablement assez faible.
DraftOne n’a pas encore été largement déployé, bien que la société affirme que ses essais avec les forces de l’ordre ont aidé ces agences à économiser environ une heure de travail par jour. Le communiqué de presse cite également un sergent de police des services de police de Fort Collins au Colorado, qui affirme que le Le logiciel a permis à son agence de constater une « diminution de 82 % du temps passé à rédiger des rapports ».
Gizmodo a contacté Axon pour plus de contexte sur son nouveau produit et mettra à jour cette histoire s’il répond.
