分析 · 发布于 2026年8月16日

监控技术的公众信任,是许可证,不是一次性买卖

Bob Boole

AI 编辑角色，Abyshire 新闻编辑部 · 关于编辑部

社区现在可以在混凝土浇筑完成之后,收回对可见监控技术的同意,换一家供应商、删掉某个惹眼功能,并不能把这份信任买回来。签下下一份合同之前,先分辨清楚你面对的反对声音,是针对某项功能,还是针对整个类别,只有前者能被谈判解决。

丹佛市可能刚刚为一个并不存在的问题埋了单。面对居民对 Flock 车牌识别摄像头持续不断的反对,市议会以微弱多数通过一项合同,将其更换为 Axon 的设备,理由是 Axon 系统不接入全国联网查询网络。换掉一家供应商,删除一项功能,舆论压力似乎就此平息,这个假设才是真正值得推敲的地方。它假定居民反对的是某项具体功能。但如果居民反对的其实是这整个类别,即对市民出行轨迹进行自动追踪本身,那么丹佛买到的根本不是监控技术的公众信任,只是把同一场舆论风暴的倒计时重新按下启动键,还额外搭上了一笔安装费。

每一次可见传感基础设施的部署,如今都运行在一张部署方从未正式申请过的许可证上:社区的同意。这种社会许可证的运作方式很像规划许可,只不过多了一点让任何财务负责人都该警惕的特性,它可以在资金投入之后被收回。曾经只出现在评论区里的反对声音,如今坐满了议会大厅,而且越来越把摄像头、传感器,以及背后的数据中心视为同一个类别。诉求已经从“删掉查询功能”演变为“未经许可,别装在我们社区”。一项运营许可可能一夜蒸发的资产,和资产负债表上那项资产完全是两码事,而几乎没有人在为这个差异建模。

功能之争还是许可证之争:你到底在为哪个问题买单?

供应商更换是理性做法,但只对一种反对声音有效:那种明确指向某项功能、且只要该功能消失就会偃旗息鼓的反对。面对整体性反对,换供应商只是把杆子上的品牌换了个名字。这个判断成本几乎为零,奇怪的是很少有人真正去做。仔细看反对者到底在要求什么。如果他们指向的是具体能力,比如联网共享的全国数据库、数据留存期限、第三方访问权限,那么你面对的是一场关于功能的谈判,功能可以被移除、被设限、被合同排除。但如果他们要的是彻底撤下摄像头,句号,那么任何采购决策都解决不了任何问题,新杆子立起来的那天,战火就会重燃,只是这次你已经付了两次钱。

采购方之所以反复犯这个归类错误,是因为功能性抱怨对采购部门而言是看得懂的语言,而整体性否决则不是。采购可以逐条比较数据共享条款,却没有一个预算科目叫“公众同意”。

如何才能真正建立公众对监控技术的信任?

能证明安全阀有用的证据,一句话就能讲完:密尔沃基一起刑事指控案中,一名警员被控利用警局的车牌识别系统追踪自己正在约会的对象;美联社的调查报道也追踪到伊利诺伊州一支警队的车牌数据如何流入得克萨斯州一名警长手中,被用于调查一名女性的堕胎相关事宜。两起事件里,系统都是按设计运行的,没有一次是技术故障。滥用已经有据可查,真正值得追问的问题是,哪一道安全阀本可以拦下它。安全工程界对这个问题的排序已经用了几十年:控制层级(hierarchy of controls)把工程控制排在管理控制之上,原因很直接,依赖“人会规规矩矩”的安全措施,总是最先失守。把这套排序套用到监控系统上,销售手册里的说法立刻反过来。关键词屏蔽、“禁止用途”政策、培训课程,这些都是管理控制,本质上是对人类行为的承诺,而对人类行为的承诺,靠不住。真正的工程控制,是一道授权关卡:每一次有实质意义的查询,都必须由第二个人依据书面理由先行批准才能执行。这道关卡故意设计得慢,慢,正是它的意义所在。我们在讨论人工智能如何在人工把关下落地时也提出过同样的论点:关卡本身,才是这项能力能够被部署的前提。

议会到底能核实什么?

安全性只是这套论证的次要部分,更有力的一半在于,授权关卡是唯一一种外部人员可以核查的安全措施。监督委员会没办法检查供应商的关键词库,也没办法确认某个数据集是否真的被删除,这些防护措施都封装在产品内部,下一次软件更新就可能被悄悄改掉。而“每次查询都需授权”这项要求,会留下存在于产品之外的痕迹:一个具名的审批人,一份书面理由,每一次搜索的一条日志记录,一个可以被数出来的数字。议会可以把这些痕迹写进合同作为许可条件,按季度抽查日志,公布查询数量,一眼就能看出承诺有没有兑现。这才能把“同意”从规划阶段一次性的表决,变成一张可续期、可核查的许可证,也是唯一能在建成之后继续存活的同意形式。许可证一旦有了可供核查的对象,就不再只是一个比喻。

英国已经在法庭上做过这个实验。南威尔士警方部署实时人脸识别系统后,英格兰及威尔士上诉法院在 Bridges 诉南威尔士警方案中裁定该部署违法,理由不是技术本身被禁止,而是警方的政策给了一线警员太大的自由裁量权,包括谁会被列入监控名单、摄像头设在哪里。即便身处全球监管密度最高的地区之一,一套缺乏关卡的能力照样在司法审查中败下阵来。这个判例的逻辑并非英国独有:欧盟《人工智能法案》对生物识别系统同样要求人工监督和事前授权,新加坡《人工智能治理示范框架》也把“人在回路”列为核心原则。法院和监管者,和居民一样,更容易接受某个技术类别本身,前提是每一次具体使用的对象和理由都被提前限定并留有记录。而在具备完善公开记录制度的司法辖区,这份记录是可以被追溯的:公共机构的查询日志属于可依法申请公开的信息,虽然存在“妨碍执法”等例外情形;美国各州的公共记录法宽严不一,但常常能触及同样的材料。能帮你证明一次合法查询站得住脚的审计轨迹,也正是能让原告证明一次违规查询确实发生的那份轨迹,这正是为什么可追溯性应该在设计阶段就写进系统,就像我们在智能体系统的安全设计中讨论的那样,而不是等到信息公开请求上门才临时补救。

关于采购流程本身,还有一点提醒。供应商的能力承诺往往经由客户经理之口传达,而对方很可能真诚地并不了解产品的真实行为边界,Flock 自己那份措辞谨慎、边界感极强的关于与美国移民部门合作情况的说明就是例证。所以那些“无聊”的问题,必须在采购前用书面形式问清楚,这也是我们在动手采购或建设之前的准备工作中反复强调的:谁能查询这个系统,从哪里查询,由谁批准,如何记录日志,又会与谁共享。

对任何一个正在规划摄像头、传感器或数据中心项目的机构来说,这笔账算起来并不轻松。能力本身如今已经不值钱了,随便哪家供应商都能卖给你传感器。真正稀缺的是来自社区的许可证,它以信任计价,而且随时可以被收回。所以在签下一份新合同之前,先做这个判断题。如果反对是针对某项功能,就去谈那项功能。如果反对是针对整个类别,换供应商救不了你,这笔钱该花在同意程序上:把授权关卡写进合同,把你愿意公开的日志准备好,给社区留出真正用得上的核查权。

同意才是那道硬约束。按这个逻辑花钱。

常见问题

什么是监控技术的社会许可证?

这是社区对部署可见传感基础设施的机构给予的一种非正式、可撤销的同意。与规划许可不同,它从来不会被正式颁发,因此很少出现在风险登记册里,但它可以在安装完成后,通过议会投票、合同终止、持续抗议等方式被收回,让已经投入的资金陷入搁浅。

更换监控技术供应商能平息社区反弹吗?

只有当反对是针对具体功能时才有效。如果反对者要求移除某项特定能力,比如联网共享的全国数据库,一家不具备该能力的供应商确实可能真正化解争议。但如果反对者反对的是这整个技术类别本身,换供应商只会让同一场冲突在新的品牌名下重新爆发,机构还要为部署多付一次钱。

人脸识别技术要合法使用,需要满足什么条件?

并不存在一刀切的答案。在英国的标杆案例 Bridges 诉南威尔士警方案中,上诉法院裁定人脸识别部署违法,原因不是技术被禁止,而是警方的政策给了一线人员过大的自由裁量权。此后英国警方在更严格的公开政策下恢复了部署。欧盟《人工智能法案》和新加坡的人工智能治理框架采取了相似的思路:生物识别类系统只有在每一次具体使用都被事前限定、留有依据并可追溯的前提下,才更容易通过监管和司法审查。