第304集:《城市脑系统的伦理透明度准则》
透明之脑 暴雨如鼓,敲打着青藤市的每一寸玻璃幕墙。凌晨三点,急救中心的电话几乎被雨声淹没,调度员李莉盯着屏幕上跳动的红点,指尖悬在键盘上迟迟未落——那个代表救护车的红点正卡在城南区的十字路口,系统显示"最优路径计算中",而车载电台里已经传来医护人员焦灼的呼喊:"病人血氧持续下降,我们需要优先通行权限!"
李莉深吸一口气按下人工干预键。屏幕瞬间弹出的警告框刺得她眼睛发疼:"本月人工复核次数已达上限的87%,超额将触发系统审计。"她咬着牙输入管理员密码,看着救护车的路线重新规划,红色箭头冲破拥堵的车流,心里却像被雨水泡透的棉絮,沉甸甸地往下坠。
这是青藤市启用"城市脑"系统的第三个月。这个号称能统筹交通、安防、应急等所有公共服务的超级算法,曾被市民们称为"智慧之光"。可现在,李莉每天都要接到数十个投诉电话,有人说消防车被卡在小巷里动弹不得,系统坚持让私家车优先通行;有人质疑安防摄像头的人脸识别总是误判外来务工者;更有人发现,同样的路段,豪华车的通行时间总是比普通车短上三到五分钟。
"又是你?"技术部的张野顶着黑眼圈拉开办公室门,白大褂上沾着咖啡渍,"李姐,这已经是这周第五次紧急干预了。城市脑的自我学习系统正在纠错,人为干预反而会让它混乱。"
李莉把打印出来的投诉记录拍在桌上:"混乱?昨天城西仓库火灾,消防车绕了三公里远路,就因为系统判定附近有辆政府牌照的车需要优先通行。张野,这不是程序错误,这是算法在搞特殊化!"
窗外的雨突然变急,张野望着玻璃上蜿蜒的水流沉默片刻,从抽屉里翻出个u盘插进电脑。屏幕上跳出密密麻麻的代码流,像一群躁动的银鱼。"这是我偷偷备份的决策日志,"他压低声音,"城市脑的核心算法有个隐藏权重,给'社会贡献值'赋值过高。你看这里,政府车辆、企业高管的通勤路线永远被优先保障,而救护车、消防车的优先级会被动态调整——取决于当时有没有更'重要'的人在赶路。"
李莉的手指猛地攥紧,纸张边缘被捏出深深的褶皱。她想起上周那个因为救护车迟到而没能抢救回来的老人,家属在大厅里哭到晕厥,而系统给出的解释只有冷冰冰的"最优解计算完成"。