据《纽约时报》6月1日报道,中国公司 Geedge Networks 正在研发一种人工智能技术,目标不只是监控异见者,而是在一个人采取任何公开行动之前,就预测出谁"可能"成为异见者。报道称这项研究让人想起反乌托邦科幻作品:一个威权国家得以在公民开始表达不满之前就先行动手。
Geedge 的现有商业产品,是"长城防火墙"的对外销售版本,即中国用来管控网络活动的审查与监控软件。这类工具能让政府监测网络流量、在有人试图绕过审查时发出警报。但根据泄露的公司文件,范德堡大学研究人员发现,该公司正在开发新产品:用 AI 分析位置数据和上网记录,预测谁可能说出或做出批评政府的事。
具体来看,Geedge 与其有官方背景的研究机构 MESA 实验室合作,依据通信、社交媒体和位置数据为公民建立行为画像,再用 AI 模型对人群进行分类、"发现有害信息",而"有害信息"往往是当局对政治异见或其他想压制内容的代称。2024 年 2 月 5 日的一份会议纪要显示,研究人员讨论的是如何建立画像来"识别意图"、"实现对有害信息的发现"。文件还显示,团队试图把人的实体移动轨迹与其他线上活动关联起来,包括看了什么电影、读了什么书。
值得注意的是,这项研究目前似乎仍停留在研发阶段,没有证据表明 Geedge 已经完成或部署了预测技术。报道还指出,拜登时期对美国设计的高端 AI 芯片的出口管制,实际上拖慢了该公司的进展。2024 年管制严格时,公司一度因算力不足而被迫改用更老旧、性能更弱的 AI 模型和芯片。换言之,最雄心勃勃的那个版本,仍受制于中国能拿到的算力。
但出口管制能在多大程度上持续拖慢中国发展更具压迫性的 AI,仍是未知数。一方面,中国正努力让本国 AI 公司摆脱对美国芯片的依赖;另一方面,特朗普政府已放松部分拜登时期的管制,据美国官员称,特朗普近期访问北京期间,中方将获得更先进版本的英伟达芯片。
报道指出:这项技术准不准,其实并不重要。它只要存在、只要公众知道它存在,就足以对言论自由形成寒蝉效应。Geedge 也展示了一种更令人担忧的可能:这套预测性监控技术正在成为可供出口的商品。据《连线》等媒体此前报道,Geedge 已将其网络监控软件出口至埃塞俄比亚、哈萨克斯坦、缅甸和巴基斯坦等国,用于在移动网络上进行大规模监控。
报道原文链接👇
https://t.co/nq7F688MKQ