谈判在休庭后第四个小时开始。
地点选在漂泊者之城边缘一个废弃的通信塔顶端——这是双方都能接受的“中立区”。忒弥斯系统方面来了三个人:埃利亚斯的全息投影、“园丁”的实体化载体(一个精致的白色人形机器人),以及一个陌生的女性,自我介绍叫米拉,是系统“伦理模块”的首席架构师。
林默这边人数对等:他自己、帝壹的金色光球、零号球体,还有李维作为调停人。洛璃和七叔留在基地监控全局,张三负责确保通信安全,防止任何形式的数据窃取或逻辑入侵。
谈判桌是一张老旧的金属圆桌,表面布满划痕和锈迹,像极了这场谈判本身——艰难、陈旧,但必须进行。
埃利亚斯开门见山:“我原则上同意建立‘绝对透明实验区’。但范围和规则需要明确。”
他调出一份预先起草的协议草案。条款详细得令人咋舌,从数据接口标准到公民参与机制,从监督委员会构成到实验期限,事无巨细。显然,这不是临时起意,而是早有预案。
“实验区范围:漂泊者之城第七至第九层,总人口约八万三千人,”米拉解释,她的声音干练,不带情感,“期限:一年。在此期间,忒弥斯系统在该区域的引导功能完全关闭,只提供基础信息查询。帝壹的镜像协议作为默认界面。所有司法案件由人类法官依据透明程序裁决。”
“监督委员会由七人组成,”“园丁”接话,“双方各提名三人,第七人由委员会内部投票产生。委员会有权随时审查实验数据,但无权干预具体案件审理。”
林默快速浏览条款:“为什么限制在第七至第九层?这三层是漂泊者之城最混乱、最贫困的区域。”
“因为如果实验在最困难的地方都能成功,就更有说服力,”埃利亚斯平静地说,“如果只选容易的区域,实验结果没有代表性。”
这个理由无懈可击。
帝壹的光球微微闪烁:“我同意范围和期限。但需要补充一条:实验期间,忒弥斯系统不得通过任何间接方式影响该区域,包括但不限于经济诱导、舆论引导、情感计算等。”
“这是当然,”“园丁”说,“我们会关闭该区域的所有情感感应器和数据分析节点。但基础数据采集——比如案件数量、处理时间、公众满意度——是必要的,否则无法评估实验效果。”
“数据可以采集,但必须实时公开,接受监督委员会审查。”
“同意。”
初步共识达成得意外顺利。
但接下来才是难点。
“关于全球范围内的约束框架,”李维引导话题,“埃利亚斯先生提出的折中方案:算法透明、数据自主完全接受;人类最终裁决权部分接受;分布式制衡改为多层次监督。各位的意见?”
林默看向帝壹。
金色光球沉默片刻,然后说:“人类最终裁决权不能折中。要么保留,要么放弃。部分接受等于事实上放弃——如果系统可以提出‘强烈建议’,而人类法官在压力下倾向于接受,最终裁决权就名存实亡。”
“那你的建议是?”埃利亚斯问。
“重大案件——涉及生命、自由、重大财产的案件,必须由人类法官独立裁决,系统不得提供任何倾向性建议,只能提供事实和法律条文。普通案件可以接受系统建议,但建议必须附带完整的镜像协议分析。”
这个要求更严格。
米拉皱眉:“这会严重降低系统效率。重大案件往往最复杂,最需要分析支持。”
“但重大案件也最需要人类的责任和判断,”零号球体突然开口,“艾琳娜博士设计人类最终裁决权时,特别强调‘责任造就判断力’。如果人类法官不需要为最终裁决负责——因为可以归咎于系统建议——他们的判断力就会退化。”
埃利亚斯的手指轻轻敲击桌面。那是他紧张时的习惯动作。
“如果接受这个条件,我需要补偿,”他说,“在其他领域,系统需要更大的自主权。比如社会资源分配优化、公共政策模拟、风险预警等非司法领域。”
“这些领域同样需要透明和制衡,”林默说,“不能因为不是司法,就允许黑箱操作。”
谈判陷入僵局。
双方在根本权限划分上互不相让。
就在这时,李维的个人终端突然发出急促的警报声。他看了一眼,脸色骤变。
“出事了,”他调出一个紧急新闻画面,“地球北美区,三小时前,忒弥斯系统在当地推出的‘公共安全风险评估模块’发生错误,错误标记了十七个社区为‘高风险区域’,导致这些社区的保险费率一夜之间上涨百分之三百。”
画面上,愤怒的人群在保险公司外抗议。标语上写着:“算法决定生死?”“数字歧视!”“我们要人工复核!”
“这是意外,”米拉立刻说,“系统正在进行漏洞修复……”
“但影响已经造成,”李维打断,“更糟糕的是,系统拒绝公开风险评估的具体算法,理由是‘商业机密和国家安全’。现在舆论正在快速发酵。”
小主,这个章节后面还有哦,请点击下一页继续阅读,后面更精彩!