第313章 模型杀人进入公民科技素养

　　周三上午，市教研院的多功能教室临时改成了一个小型片场。讲台后方挂着新印的横幅——“公民科技素养·数据伦理课试讲”。横幅下面是一行更小的字：“让模型回到人，先让人看懂模型。”

　　我站在讲台左侧，手心有一点汗。不是紧张，是一种将要把痛感翻译成教学语言的沉重。祁树院长坐在第一排旁听，怀里夹着教材送审稿；纪南川在侧台整理“合法性链路”的注解；安然蹲在投影机旁，调试她写的交互式“模型拆解器”。孩子们陆续进场，教师席和家长观察席也坐满了。

　　“同学们好。”我把麦克风举起，“今天我们要上一堂数据伦理课，主题叫——‘模型如何杀人？’”教室里一瞬间安静，几个孩子下意识地侧过脸，表情里写着“这课题有点吓人”。我点开第一屏，投影上出现我们从“城改评估案”里抽取的虚拟案例：三个变量、五个权重、一张流向图。标题不再是新闻式的重锤，而是白底黑字的一个问题：“如果它说你不值得，谁替你反问？”

　　安然把“模型拆解器”的面板推到台前：“今天，我们不背定义，我们拆东西。”她把三个变量“交通、绿地、人口结构”放进透明的玻璃筒里，每个变量用不同颜色的玻璃珠代表。“这就是数据。——现在加入权重。”她抓起一把小铅块，投进“交通”那一筒，玻璃珠立刻沉了下去。“权重加重，意味着它的影响力变大。”孩子们集体“哦”了一声。

　　“那如果有人偷偷换了权重呢？”我把第二个玻璃筒的铅块倒掉一半。投影屏上的“家庭病史／经济脆弱度”曲线随之跳动。“这不是算法自己长歪，是人在它背后动了手。”我停顿两秒，“当它决定谁该被搬迁、谁该被排除、谁拿不到‘蓝条’，它就不是冷冰冰的公式了——它在替人做价值判断**。**”

　　我让孩子们分组，用“模型拆解器”做三个动作：

　　1）把权重公开：写下你们的权重，贴到黑板“可解释栏”；

　　2）学会反问：当模型伤到人，请你们写一句“为什么”；

　　3）把“为什么”翻译成动作：比如“重测样本”“补充变量”“移除带偏历史标签”。

　　一个扎丸子头的女孩举手：“老师，为什么一开始不把‘贫穷’这个词删掉？”

　　我点开“变量污名库”，让她看历史数据的污染。“删不删‘贫穷’这件事，是个伦理决策。有时候删掉会看不见脆弱，不删会放大偏见。——所以我们在这门课里教你们两步：一，标红它；二，用温柔变量（例如‘资源可达性’）去替换‘贫穷’这个标签型变量，然后做一次结果对比。”

　　纪南川上台，把“合法性链路”贴到投影的右侧：“让数据成为证据，先把它的来源、处理、保存讲清楚——谁采的、怎么采的、放在哪里、谁能看。”他把“训练日志”的截图打出来，手指指着时间戳，“像书页一样，一页页翻，你才能在法庭上说这不是造出来的。”

　　“那模型如果已经造成伤害呢？”后排一位家长问。

　　“就得有失败回执。”我把《条例二读》里的新条款投上墙，“数据失败＝‘拒绝解释／解释不清／解释不实’。一旦失败，系统必须在两个小时内发出失败回执：谁负责、为什么失败、下一步补救动作、何时当面解释。”我望向孩子们，“记住，道歉不是目的，补救才是。”

　　教材试讲的最后一段，我们播放了一个短片——安然用周末的时间剪出来的，“模型如何杀人·一分钟”。不是恐吓，是翻译：

　　**“权重扭曲”**如何把资源挤走；

　　**“变量污名”**如何把人贴上坏标签；

　　“不可质疑”如何把伤害变成沉默。

　　短片的结尾，是三个动作：“问为什么—看怎么做—签谁的名字。”

　　“现在把模型放回人手里。”我请三位孩子上台，给他们每人一个写着“为什么”的黄色便签。“模型说这个社区该搬走，你问它为什么；模型说这家孩子不值得补助，你问它为什么；模型说这条路该直着修，你问它为什么。问完以后，看‘当面页’，上面有没有动作；如果没有，贴一张‘失败回执’。”

　　“贴到哪儿？”小男孩问。

　　“贴到墙上。”我笑，“这座城市的每一堵公共墙，都应该留一块给‘为什么’。”

　　下课铃响了。孩子们把玻璃珠倒回筒里，小心地把黄色便签夹进课本。走出教室，阳光从走廊尽头斜着打进来，灰尘在光里慢慢旋。我想起自己十二年前被“偷捐款”那张照片钉在墙上的午后——那时候我没有“为什么”的课，没有“失败回执”的墙。这一次，我们把墙和课都造出来了。

　　教研员过来握手：“这堂课进教材，送审。”

　　我点头，心里的那口气这才缓慢平下来。祁树院长在旁边轻声道：“让孩子先学会‘问’，城市才会学会‘答’。”

　　晚上，我把**“数据伦理课·试讲版”上传到证据室“教材版”模块，备注写：“模型杀人，不是修辞；把杀人的人找出来，是教育。”** 安然回我四个字：“好使则留。”
　　http://www.hlys.cc/50522/313.html

　　请记住本书首发域名：http://www.hlys.cc。翰龙中文网手机版阅读网址：http://m.hlys.cc