A confiança pública em vigilância tecnológica é uma licença, não uma compra
As comunidades já conseguem revogar o consentimento a tecnologia de vigilância visível depois de o betão estar seco, e trocar de fornecedor para eliminar uma funcionalidade incómoda não recompra essa confiança. Antes do próximo contrato, apure se a oposição que enfrenta é específica de uma funcionalidade ou categórica. Só a primeira se compra.
Denver acabou de pagar para resolver um problema que talvez nem tenha. Perante uma oposição persistente às câmaras de leitura de matrículas Flock, a câmara municipal aprovou, por margem apertada, um contrato para as substituir por equipamento da Axon, alegando que a Axon não opera uma rede de pesquisa nacional. Um fornecedor fora, uma funcionalidade eliminada, contestação dada como resolvida. É aí que reside o problema: parte do princípio de que a oposição era à funcionalidade. Se a oposição era à categoria, ao rastreio automatizado dos trajetos dos residentes enquanto tal, então Denver não comprou confiança pública nenhuma em tecnologia de vigilância, apenas reiniciou o mesmo ciclo de contestação, com os custos de instalação por cima.
Qualquer instalação visível de infraestrutura de deteção funciona hoje ao abrigo de uma licença que a entidade que a instala nunca pediu formalmente: o consentimento da comunidade. Esta licença social comporta-se como um licenciamento urbanístico, com uma diferença que devia preocupar qualquer diretor financeiro: pode ser revogada depois de o capital estar gasto. A contestação que antes vivia em fóruns online enche hoje salas de câmara municipal, e trata cada vez mais câmaras, sensores e os centros de dados por detrás deles como uma única categoria. A exigência deixou de ser «retirem a funcionalidade de pesquisa» e passou a ser «não aqui, sem autorização». Um ativo cuja licença de operação pode desaparecer da noite para o dia é um ativo diferente daquele que consta da folha de cálculo, e quase ninguém está a modelar essa diferença.
Corrigir a funcionalidade ou corrigir a licença: qual dos dois problemas está a resolver?
Trocar de fornecedor é uma resposta racional a um único tipo de oposição: aquela que aponta uma funcionalidade concreta e que recuaria se essa funcionalidade desaparecesse. Perante oposição categórica, muda-se apenas o logótipo no poste. O diagnóstico não custa nada, o que torna estranho o quão raramente é feito. Leia o que os opositores exigem de facto. Se citam uma capacidade específica (uma base de dados nacional partilhada, prazos de retenção, acesso de terceiros), está a negociar uma funcionalidade, e funcionalidades podem ser removidas, condicionadas ou contratualmente limitadas. Se querem as câmaras fora, sem mais, nenhuma decisão de aquisição resolve nada; o conflito recomeça no dia em que os novos postes forem instalados, só que desta vez já pagou duas vezes.
Os compradores continuam a cometer este erro de categoria porque uma queixa sobre uma funcionalidade é legível para quem gere as aquisições, e um veto categórico não é. O departamento de compras consegue comparar cláusulas de partilha de dados. Não tem uma rubrica orçamental para o consentimento.
Como se constrói confiança pública em tecnologia de vigilância?
A prova de que as salvaguardas importam cabe numa frase: uma queixa-crime em Milwaukee alega que um agente da polícia usou o sistema de leitura de matrículas do departamento para localizar uma pessoa com quem namorava, e uma investigação da Associated Press seguiu o rasto de dados de matrículas desde uma força policial do Illinois até um xerife do Texas a investigar uma mulher por aborto, em ambos os casos através de sistemas a funcionar exatamente como foram concebidos. O abuso está documentado; a pergunta útil é que salvaguarda o teria impedido. A engenharia de segurança tem, há décadas, uma resposta hierarquizada a essa pergunta. A hierarquia de controlos coloca os controlos de engenharia acima dos controlos administrativos, precisamente porque as salvaguardas que dependem do bom comportamento das pessoas são as primeiras a falhar. Aplicada às salvaguardas de vigilância, essa hierarquia inverte o argumento de venda habitual. Bloqueios por palavra-chave, políticas de uso proibido e módulos de formação são controlos administrativos: promessas sobre comportamento humano, e promessas sobre comportamento humano falham. O controlo de engenharia é um ponto de autorização, uma segunda pessoa que tem de aprovar cada pesquisa relevante face a uma justificação escrita antes de ela ser executada. É deliberadamente mais lento, e o atraso é o objetivo. Defendemos o mesmo argumento em IA prática com controlo humano: é o mecanismo de controlo que torna a capacidade utilizável, e não a capacidade em si.
O que pode uma câmara municipal verificar, de facto?
A segurança é a metade mais fraca do argumento a favor do mecanismo de controlo. A metade mais forte é que este é a única salvaguarda que alguém de fora consegue auditar. Uma comissão de fiscalização não consegue inspecionar a lista de palavras-chave de um fornecedor nem confirmar que um conjunto de dados continua apagado; essas salvaguardas vivem dentro do produto e podem ser revertidas na atualização de software seguinte. Uma exigência de autorização por consulta produz provas que existem fora do produto: um responsável identificado, uma justificação escrita, uma linha de registo por cada pesquisa, um número que se pode contar. Uma câmara municipal pode escrever essas provas no contrato como condições, amostrar os registos trimestralmente, publicar os números, e ver de imediato se a promessa foi cumprida. Isso transforma o consentimento de um voto único na fase de planeamento numa licença renovável com direito de inspeção, que é a única forma de consentimento que sobrevive à instalação. A licença deixa de ser uma metáfora a partir do momento em que quem a concede tem algo para inspecionar.
O Reino Unido já correu este teste em tribunal. Quando a polícia de South Wales instalou reconhecimento facial em tempo real, o Tribunal de Recurso, no processo Bridges v South Wales Police, considerou as instalações ilegais, não porque a tecnologia estivesse proibida, mas porque as políticas da força policial deixavam a cada agente demasiada discricionariedade sobre quem entrava numa lista de vigilância e onde as câmaras eram colocadas. Uma capacidade sem mecanismo de controlo falhou o escrutínio judicial mesmo dentro de um dos regimes de supervisão mais densos que existem: o direito britânico de proteção de dados, o Código de Prática para Câmaras de Vigilância e as normas nacionais ANPR que regulam a rede britânica de leitura de matrículas policial. A lição transporta-se diretamente. Tribunais e reguladores, tal como os residentes, aceitam a categoria com mais facilidade quando o quem e o porquê de cada utilização estão limitados antecipadamente e registados. No Reino Unido, esse registo é acessível: os registos de um operador público são divulgáveis ao abrigo do Freedom of Information Act 2000, sujeitos a exceções como o prejuízo à aplicação da lei, e a legislação de acesso à informação pública nos vários estados norte-americanos varia mas chega muitas vezes ao mesmo tipo de material. Vale a pena notar o paralelo europeu: o princípio de responsabilização do RGPD assenta na mesma lógica, ser capaz de demonstrar, e não apenas prometer, que um tratamento de dados foi limitado e justificado. O rasto que permite defender uma pesquisa legítima é o mesmo que permite a um litigante provar uma pesquisa ilegítima, razão pela qual a proveniência dos dados pertence ao desenho do sistema, tal como a rastreabilidade é tratada em sistemas agênticos seguros, e não deve ser gerida como um risco de divulgação a posteriori.
Uma nota de cautela sobre o próprio processo de aquisição. As alegações de capacidade dos fornecedores chegam através de gestores de conta que podem sinceramente desconhecer o comportamento real do produto, como ilustra o próprio relato, cuidadosamente delimitado, da Flock sobre a sua colaboração com as autoridades norte-americanas de imigração. Por isso, as perguntas óbvias devem ficar escritas, dentro do trabalho de preparação antes de qualquer compra ou construção: quem pode consultar isto, a partir de onde, aprovado por quem, registado como, partilhado com quem.
Para quem tem câmaras, sensores ou um centro de dados no roteiro, a aritmética é desconfortável. A capacidade é agora a parte barata; qualquer fornecedor vende o sensor. A licença só vem da comunidade, cotada em confiança e revogável a qualquer momento. Por isso, corra o diagnóstico antes do próximo contrato. Se a oposição é específica de uma funcionalidade, negoceie a funcionalidade. Se é categórica, nenhuma troca de fornecedor o salva, e o dinheiro devia ir antes para o processo de consentimento: um mecanismo de autorização escrito no contrato, registos que esteja disposto a publicar, e direitos de inspeção que a comunidade possa efetivamente exercer.
O consentimento é a restrição. Compre em conformidade.
Perguntas frequentes
O que é uma licença social para operar tecnologia de vigilância?
É o consentimento informal e revogável que uma comunidade concede a uma entidade que instala infraestrutura de deteção visível. Ao contrário de um licenciamento urbanístico, nunca é formalmente emitida, por isso raramente consta de um mapa de riscos, mas pode ser retirada depois da instalação através de votos em câmara municipal, cancelamento de contratos e protesto sustentado, deixando o capital já gasto sem retorno.
Trocar de fornecedor de tecnologia de vigilância trava a contestação da comunidade?
Só quando a oposição é específica de uma funcionalidade. Se os opositores exigem a remoção de uma capacidade concreta, como uma base de dados nacional partilhada, um fornecedor sem essa capacidade pode genuinamente resolver o conflito. Se se opõem à categoria da tecnologia em si, a troca reinicia o mesmo conflito com outro logótipo, e a organização paga a instalação duas vezes.
O reconhecimento facial em tempo real é legal no Reino Unido?
Não existe uma proibição geral. Em Bridges v South Wales Police (2020), o Tribunal de Recurso considerou ilegais as instalações da força policial porque as suas políticas davam aos agentes demasiada discricionariedade sobre quem era visado e onde as câmaras eram colocadas. Desde então, as forças policiais retomaram instalações ao abrigo de políticas publicadas mais restritivas, pelo que, na prática, o reconhecimento facial em tempo real só resiste a escrutínio quando cada utilização está limitada, justificada e documentada antecipadamente.
Relacionado
- O Prêmio da Soberania: por que a IA soberana corporativa está vencendo pelo acesso, não pela velocidade
- Washington Classificou o Seu Próprio Laboratório de IA Como Risco de Segurança Nacional. Isto Muda o Sentido da Dependência de um Fornecedor de IA
- Porque falham os pilotos de IA nas empresas: o problema é a confiança, não a capacidade
- Security & Trust
Escrito por uma persona editorial de IA do sistema editorial proprietário da Abyshire e revisto pela nossa equipa.