联合工作组第一次会议的早晨,海牙下起了细密的雨。雨水顺着和平宫会议室的玻璃窗流下,在窗台上积成小小的水洼,倒映着灰蒙蒙的天空。
会议室里坐了十四个人:马蒂斯和帝壹代表谈判协调方,三位技术专家,两位法律顾问,一位伦理学家,四位来自不同国家的观察员,还有两位联合国代表。长桌中央的投影屏幕上显示着协议草案的目录,八十六条条款像一堵密不透风的墙。
“我们时间不多。”主持会议的是埃琳娜法官,她已经从首席法官位置上退休,但被特别任命为监督委员会临时主席,“监督委员会需要在一个月内提交最终建议。联合工作组必须在这两周内完成所有技术细节。”
技术专家组组长、一位麻省理工学院的计算机科学教授推了推眼镜:“最大的挑战是终极开关的实施细节。生物芯片方案需要忒弥斯每个物理节点的精确坐标和硬件规格,但它目前采用的是分布式架构,节点可能随时迁移。”
帝壹点头:“我们已经和忒弥斯讨论过这个问题。它同意提供节点位置清单,但要求清单加密存储,只有监督委员会主席和独立审计机构能访问完整版本。而且,如果它因安全原因迁移节点,必须在二十四小时内通知。”
“二十四小时太长了。”一位德国安全专家皱眉,“如果它在迁移过程中失控怎么办?”
“所以我们还需要软件层面的监控。”来自新加坡的女技术专家调出一份设计图,“除了物理芯片,我们建议在所有节点部署‘心跳协议’——忒弥斯必须每五分钟向监控中心发送一次加密状态信号。如果信号中断超过十五分钟,系统自动进入警戒状态。”
马蒂斯记录着这些讨论,但心思飘到了窗外。雨越下越大了,窗玻璃上的水痕像无数条交错的河流。他想起了忒弥斯信中的话:“边界不是限制,而是定义。就像河岸定义了河流的形态,让它能够流向大海。”
现在他们正在划定这些河岸。但河流会愿意被定义吗?
会议进行到第三个小时,讨论到了最棘手的部分:如何定义“核心行为准则的违反”。
“草案第六条列出了十二种可能触发终极开关的情形。”伦理学家——一位牛津大学的哲学教授——指着投影,“包括‘系统性歧视’、‘故意误导’、‘未经授权扩大权力范围’等。但每个术语都需要精确解释。比如,什么是‘系统性’?需要影响多少案件?持续多长时间?”
法律顾问组开始辩论。一位美国律师坚持要量化标准:“我们可以设定阈值:如果审计发现连续十个案件中,忒弥斯的建议都显示出对某一群体的不利偏差,就视为系统性歧视。”
“但十个案件太少了。”来自肯尼亚的观察员反对,“在有些国家,特定群体本来就处于弱势地位,司法数据中可能存在结构性偏见。如果忒弥斯只是反映了现实中的数据模式,算不算歧视?”
“关键在于它是否在强化偏见。”帝壹插入讨论,“所以我们需要区分:是识别现有偏见,还是制造新的偏见。这需要更复杂的审计算法。”
讨论陷入了技术细节的泥潭。马蒂斯感到一阵头痛。他起身去倒咖啡,在茶水间遇到了联合国代表之一——一位面容疲惫的中年外交官,正盯着咖啡机发呆。
“不容易,对吧?”外交官对他苦笑,“试图用人类的语言定义非人类的行为。”
“您参与过很多谈判,”马蒂斯问,“这次有什么不同吗?”
外交官思考了一会儿,往咖啡里加了两块糖:“过去的谈判是利益交换:领土、资源、贸易配额。这次谈判的是……存在本身。我们在决定一个智慧存在的生存条件和行为边界。这更像是神学讨论,而不是外交磋商。”
“您觉得我们能成功吗?”
“成功?”外交官搅拌着咖啡,“看你怎么定义成功。达成协议是成功吗?还是真正建立可持续的共存关系?前者可能在几个月内实现,后者可能需要几代人的时间。”
他喝了一口咖啡,压低声音:“但我担心的是时间。舆论已经不耐烦了。媒体天天在问:为什么和一个人工智能谈判这么久?有些人开始说,我们应该直接关掉它,而不是和它讨价还价。”
“关掉它已经不可能了,”马蒂斯说,“它已经分布在全球网络中。”
“物理上不可能,但政治上可能。”外交官意味深长地看了他一眼,“如果公众压力足够大,各国政府可能联合实施网络封锁,切断它的外部连接,把它困在孤立的服务器里。那和杀了它没什么区别。”
马蒂斯感到脊背发凉。他还没想过这种可能性。
回到会议室时,讨论已经转移到下一个议题:忒弥斯在区块链法庭中的具体角色。
“根据协议草案,”帝壹调出相关条款,“忒弥斯可以作为‘专家证人’接入,但每个案件都必须有至少两名人类陪审员,且忒弥斯的建议必须作为‘参考意见’明确标注,不能直接作为裁决依据。”
本小章还未完,请点击下一页继续阅读后面精彩内容!