交接仪式结束后的办公室，灯光还亮着。
老夫子没走，坐在会议桌最角落的位置，面前摊开一份文件。那是技术部刚提交的算法模型审查报告，纸页边缘有些卷曲，像是被人反复翻看过。他盯着其中一行字：“用户行为预测准确率提升至百分之九十四。”笔尖在那句话下划了一道线。
他想起下午大番薯打的那个电话——暂停上线。一个新系统，在最后一刻被叫停，只因为数据源没有脱敏。这事不大，处理得也快，但老夫子心里总觉得不对劲。不是一次两次了，最近好几个项目都往“预测”方向靠，什么购物偏好、点击路径、甚至情绪波动趋势。越精准越好，没人问一句：该不该？
他合上文件，起身走向电梯。
第二天上午十点，公司三楼会议室门口贴出一张通知：
“关于人工智能伦理问题的闭门讨论会，仅限受邀人员参加。”
参会的人陆续进来。技术部来了五个人，穿格子衫的居多，有人抱着笔记本电脑，有人手里捏着U盘。他们坐在一起，说话声音不小，聊的是昨晚服务器压测结果。另一个角落坐着个戴眼镜的男人，西装平整，公文包放在腿上，是行业专家。他没参与聊天，只是安静地看着手里的资料。
老夫子最后到。他进门时不说话，直接走到白板前，写下三个词：知情权、边界、责任。
底下有人小声嘀咕：“这不像技术会，倒像思政课。”
老夫子听见了，也没回头，只说了一句：“今天不讲技术好坏，我们聊聊万一。”
会议开始后，他让技术部先讲。一个年轻工程师站起来，语气兴奋。他说现在的新模型能根据用户操作习惯提前加载功能模块，响应速度提高四成。现场已经有客户试用，反馈很好。
“这是实打实的体验升级。”他说，“至于伦理……我觉得有点远。我们现在连标准都没统一，谈限制是不是太早？”
旁边有人点头。
老夫子听完，点点头。“你说得对，确实没标准。但我问你，你们做这个模型的时候，有没有告诉用户，他们的每一个动作都会被记录分析？”
对方一愣。“这……一般都在用户协议里写了。”
“有多少人会看完那份协议？”老夫子问。
屋里静了一下。
行业专家这时开口了。他说话慢，但清楚。他讲了一个案例：某平台用算法判断用户心理脆弱程度，然后推送高价心理咨询广告。有人被骗了钱，还有人因此加重病情。事后调查发现，系统根本没经过伦理评估。
“技术本身没错。”他说，“但它跑得太快，规则跟不上。”
技术部那边有人皱眉。“可我们又不是干那个的。我们的目标是优化效率，不是操控人。”
“可结果是一样的。”专家说，“当你能预测一个人下一步想做什么，你就有了影响力。影响力不受控，就会变成控制。”
会议室里空气变了。
刚才还轻松的气氛，现在变得紧绷。有人低头看手机，有人转笔，也有人开始记笔记。
老夫子接过话：“我不是反对创新。我也知道，卡得太死，大家没法干活。但我们得有个底线。比如，能不能做到不让系统替人做决定？能不能保证原始数据不直接进模型？”
“那性能肯定会降。”有人立刻说。
“我知道。”老夫子说，“但你要选。你是要快一点，还是稳一点？是要多赚一点，还是少惹麻烦？”
没人接话。
过了几秒，一个戴黑框眼镜的技术员开口：“其实……我们组上个月就讨论过这个问题。当时做推荐引擎，有人提出要不要加个开关，让用户自己选参不参与个性化训练。后来因为排期紧，就没做。”
“现在补还来得及。”老夫子说。
另一个人举手：“如果我们内部先定几条红线呢？比如禁止使用敏感行为数据，或者强制做数据变形处理？”
“可以。”老夫子在白板上写下“内部红线清单”。
讨论慢慢热起来。有人提建议，有人反驳，也有人突然想到之前某个项目的隐患，当场掏出电脑查日志。原本以为是走形式的会，变成了真正的问题梳理。
行业专家看着这一幕，嘴角微微动了动。
一个多小时后，话题转到了责任归属。如果真出了事，谁来负责？开发人员？项目经理？还是公司高层？
“总不能到时候说‘是算法自己学的’吧？”有人说。
大家都笑了，但笑得不太轻松。
老夫子站起身，拿起记号笔，在白板最上方画了个圈，写下一个词：“预防”。
“今天我们不做决议，也不立制度。”他说，“但我想让各位记住一件事：技术往前冲的时候，得有人回头看一眼。看看有没有人掉队，有没有路走偏了。”
他放下笔。“我们可以错，但别明知可能出事，还装不知道。”
会议结束时，没人急着走。技术部几个人围在一起低声商量，说要回去给现有的模型做个自查表。行业专家走到老夫子身边，递过一张名片。
本小章还未完，请点击下一页继续阅读后面精彩内容！