书评：《算法霸权》与大数据时代的正义
原创 广大 知微数据
What hath God wrought？
——莫尔斯
1844年，人类史上首个“摩斯电码”信息被发送，也就是人类第一封电报，内容是：“上帝啊，你究竟创造了什么？”
160年后，掌握大量信息的谷歌发表“不作恶”宣言。
进入大数据时代的今天，人们讨论着“外卖骑手，困在系统里”，也有人说“系统是死的，人是活的，希望大家多给骑手5分钟”。之前我们分析了，现在再来冷静地思考，与算法共生的新一代人类，如何继续追求“正义”这一信仰。
对了，作者在书的扉页里写着：“这本书献给数字难民”。
人力调度算法的前世今生
凯西•奥尼尔介绍，人力调度技术主要源自“运筹学”这门功能强大的应用数学。“二战”之后，大企业（以及美国国防部）投入了大量资源到运筹学研究上。而由此产生的物流学从根本上改变了我们生产商品和将它们送到市场上的方式。
到20世纪60年代，日本汽车厂商又有了重大突破，其设计出了“准时制”（Just inTime）制造系统。丰田汽车和本田汽车都建立了复杂的供应链，实现了随传随到的零组件供应系统。
“准时制”系统非常高效，很快便在全球普及。许多地方的公司非常快速地建立起了准时制供应链。这些模型也成了支撑亚马逊、联邦快递和优比速快递等公司的商业运作的数学基础。
人力调度软件可被视为“准时制”经济的延伸，只不过，必须“随叫随到”的不再是割草机刀片或手机屏幕，而是人——而且通常是迫切需要金钱的人。由于这些人迫切需要金钱，其雇主似乎因此就被赋予了扭曲他们的正常生活，令其配合数学模型要求的权利。
劳工往往完全不知道自己将在何时被叫去上班，因为召唤他们的是一个武断专制的程序。
人力调度软件也制造出了一种恶性循环。因为工作时间又长又不规律，劳工也很难被组织起来，为争取较好的工作条件而抗争。相反，他们会变得格外焦虑，而且睡眠不足，后者令人更容易出现剧烈的情绪波动。因为工作时间非常不稳定，这些劳工多数无法挪出时间做第二份工作。这一切看起来就好像设计这种软件就是为了惩罚低薪劳工，令他们无法出头一般。
问题的根源在于模型创建者选择了什么目标。这些模型追求的是效率和盈利的最大化，而不是正义或“团队”的福祉。对企业来说，盈利有如氧气，是维持其生命力的必要条件。这就是为什么社会需要一些与此对抗的力量，例如利用媒体报道有力地凸显过度追求效率的恶行，令相关公司感到羞愧，借此促使它们去做正确的事。
大数据时代的正义是什么？
饿了么“多给五分钟”最让人诟病的是什么？——慷他人之慨，将外卖平台约束、优化算法的责任弱化，反而让消费者“多等五分钟”，尤其在很多消费者并不强调“快速”／“准时”这一诉求的情况下。许多用户认为，所谓的快速／准时送达，主要还是出于外卖平台方自身的竞争诉求。
《算法霸权》第五章“效率权衡与逻辑漏洞 大数据时代的正义”中提到：正义不能仅仅由社会的一部分人强加给另一部分。
统计学家需要大量的数据平衡例外和反常情况。算法不应粗暴强制外卖员在限定时间内送达，而应考虑更多的相关变量，比如堵车、电梯故障、天气问题等。同时，外卖平台方也不应在算法要求基础上去强求用户多等五分钟。
凯西•奥尼尔认为，数学模型应该是我们的工具，而不应该成为我们的主人。人类的决策虽然经常有缺陷，却也有一个主要的优点，即人类的决策是可以改善的。随着一步步地学习和适应，我们会改变，我们的处理方式也会改变。相比之下，自动化系统不会随着时间的推移而改变，除非开发者对系统做出改变。
算法建模者的希波克拉底誓言
我们如何规范这些逐渐渗透继而操纵着我们整个生活的数学模型呢？凯西•奥尼尔建议从建模者自己开始做起，认为数据科学家应该像医生一样遵守希波克拉底誓言，尽可能防止或避免对模型可能的误用和误解。
2008年经济危机爆发之后，伊曼纽尔·德曼和保罗·威尔莫特两名金融工程师起草了这个誓言：
我将牢记我并未创造世界，
也不会让世界来满足我的方程式；
虽然我将大胆使用模型来估算价值，
但不会过分倚重这一数学分析；
我将永远不会为了追求模型的简洁而牺牲现实的复杂，
除非我能够对这样做的原因给出一个合理的解释；
我也不会向使用我所创建的模型的人们夸大模型的精准性。
相反，
我将明确说明模型中的假设条件和模型忽略的因素；
我明白我的工作可能会对社会和经济造成巨大的影响，
其中的许多影响将超出我的认知范畴。
大数据时代的正义如何实现？也许需要每一方都多贡献自身的力量：建模者遵守希波克拉底誓言、用户提升数据素养、政府管理监督到位、企业追求经营效率的同时兼顾社会责任。
原标题：《知微书评：《算法霸权》与大数据时代的正义》
