自动不平等 下载 pdf 电子版 epub 免费 txt 2025

随着高科技日新月异的发展，数字革命如火如荼地进行，数据追踪以及在此基础上的决策机制已经成为治安管理、政治预测、市场营销、信用报告、企业管理、金融业务、公共项目管理甚至刑事判决惯常使用的工具。当我们生活在一个欢庆数字化时代时，本书作者尤班克斯却在追问，数字革命是否是一场由精英主导的游戏？普通人特别是贫困人口在数字时代的命运是什么？算法是否比人类更加中立、公正和明智？作者选取了三个故事：印第安纳州尝试用自动化程序挑选符合福利系统资格的申请者；洛杉矶对无家可归者采用电子登记方式；宾夕法尼亚州阿勒格尼县采取了一种很有风险的模式，预测哪些儿童将来可能成为被虐待或忽视的受害者。通过作者的调研，得到的结果令人惊讶，美国各地的贫困人口和工人阶层都已经成为新数字贫困管理工具的对象，算法的错误和有意排斥严重影响他们的生活质量，甚至危及其生存。算法的自动决策导致的数字歧视将让所有人处在数字济贫院而不自知。

引言：标红警示

第一章 从济贫院到数据库

第二章 美国中部地区的福利资格自动化处理系统

第三章 天使之城的高科技无家可归服务

第四章 阿勒格尼县算法

第五章 数字济贫院

结论: 拆除数字济贫院

致谢

文献和方法

索引

弗吉尼亚•尤班克斯（Virginia Eubanks）是反贫困和福利权利组织“我们的知识，我们的力量”（OKOP）的联合创始人。她曾在纽约州立大学奥尔巴尼分校的女性研究系任教，现为该校政治学副教授。代表作：《数字化的死胡同：为信息时代的社会公正而战》（Digital Dead End: Fighting for Social Justice in the Information Age）（与Alethia Jones合著，MIT Press，2012）以及《不会让任何人使我转向：四十年的运动建设》（Ain’t Gonna Let Nobody Turn Me Around: Forty Years of Movement Building）（与Barbara Smith合著，State University of New York Press，2014）。

李明倩，1984年生，华东政法大学法学博士，复旦大学政治学博士后，华东政法大学外语学院副教授，主持、参与多项国家级、省部级课题，曾在《中国法学》（英文版）、《华东政法大学学报》、《法制史研究》等核心刊物发表多篇论文、译文，专著《与近代国际法》。译著有《美国与国际法》《牛津国际法史手册》《美国法律体系》《因为性别》。

暂无出版社相关信息，正在全力查找中！

暂无相关书籍摘录，正在全力查找中！

在线阅读地址：自动不平等在线阅读

在线听书地址：自动不平等在线收听

在线购买地址：自动不平等在线购买

暂无原文赏析，正在全力查找中！

书籍介绍

随着高科技日新月异的发展，数字革命如火如荼地进行，数据追踪以及在此基础上的决策机制已经成为治安管理、政治预测、市场营销、信用报告、企业管理、金融业务、公共项目管理甚至刑事判决惯常使用的工具。当我们生活在一个欢庆数字化时代时，本书作者尤班克斯却在追问，数字革命是否是一场由精英主导的游戏？普通人特别是贫困人口在数字时代的命运是什么？算法是否比人类更加中立、公正和明智？作者选取了三个故事：印第安纳州尝试用自动化程序挑选符合福利系统资格的申请者；洛杉矶对无家可归者采用电子登记方式；宾夕法尼亚州阿勒格尼县采取了一种很有风险的模式，预测哪些儿童将来可能成为被虐待或忽视的受害者。通过作者的调研，得到的结果令人惊讶，美国各地的贫困人口和工人阶层都已经成为新数字贫困管理工具的对象，算法的错误和有意排斥严重影响他们的生活质量，甚至危及其生存。算法的自动决策导致的数字歧视将让所有人处在数字济贫院而不自知。

• 作者：伦神门下走狗 发布时间：2022-02-16 20:07:42

  写得有些混乱

• 作者：盐少女 发布时间：2021-06-30 14:23:32

  只适合对“算法歧视”完全没有了解的人读，案例写得混乱、零散且无聊，对机构和对受助者两方都没有集中深入的跟踪调查，只有非常松散的数字和引言。对我来说，全书保留最后一章大概就够了。回归到内容，其实科技创造的不平等在如今已经越来越多被关注到，数据当然是客观的，但处理数据的方法却是带着立场和偏见的，因此，算法永远都不可能真正中立。

• 作者：u758212 发布时间：2021-07-01 00:56:02

  非常、非常漂亮的定性研究佳作。尽管我对其中的部分论断持有不同意见，但本书提出的问题、分析的案例，无论是写作还是内容都很精彩。作者强调大数据会给行政机关提供一道屏障，掩盖其背后对穷人权利的侵犯。作者提出的两大原则值得在此引用：“该技术工具是否增加了贫困人群的自决权？如果该工具的目标对象是非贫困人群，他们是否可以容忍？”

• 作者：Rosin 发布时间：2021-07-18 00:09:09

  质性研究学习素材，但是整体思路感觉很散不是很流畅……阅读过程总让我走神有些累。其实概括下来无非就是追求效率无可厚非但算法带来了更大的阶级分化，我感觉这更像是政策的制定就没有真正从受政策影响者的角度去考虑。“为你好”永远都是一种傲慢和自以为是。书里提到的算法逻辑，在我看来像是被精致愿景包装的“西比拉系统”，因为个体差异，我从来都不认为人的行为是可以被准确预判的。阅读过程就觉得……从存在主义又陷回了虚无主义当中。

• 作者： 发布时间：2021-07-30 12:41:30

  有视野的质性研究，案例以一种惊骇的逻辑渐次推进（排除穷人-锁定/治安管控-代际算法预测的永恒性），锋利地指向以文化否定为根基的算法歧视。结论过于乐观，“拆除数字济贫院”的呼喊固然激昂，但难免太简单，将研究有失深度的缺陷放大了（如果结合现代治理术去讨论，还会这么乐观吗），容易拉低学术效力。不过考虑到主题并不新颖，所以更有价值的是如何用一种温柔的视线去关注挣扎在苦难的命运红线上的社会底层，如何定位一个杜绝屈身俯就的平视姿态，如何敏锐地把人性交还给算法统治之下的社会。

• 作者：Érasme 发布时间：2019-10-31 10:48:43

  太难了

• 数字赋能还是助纣为虐？数字帷幕的背后是politics

  作者：u758212 发布时间：2021-07-01 02:11:23

  这本书讲的是大数据被引入行政管理后，穷人如何受到伤害。读过之后有三方面感想。第一方面是对作者观点的一些批评，涉及对大数据和算法缺陷的一些认知。第二方面是关于“数字济贫院”背后的真问题究竟为何。笔者的观点是：真问题仍然是“济贫院”。第三方面，则涉及到“数字”给“济贫院”带来的新特点。

  书中的三个案例谈到了穷人如何被行政系统的算法所伤害。算法有缺陷并不新奇，从“算法偏误”的角度攻击算法的使用也没有什么力量。第一，算法和大数据虽然会犯错，但大量的实证证据显示，在很多领域算法和大数据比临床专家失误的概率要低。丹尼尔卡尼曼在新书《noise》中做出了如下总结：“临床判断明显不如机械预测。”如果行政管理改革的目标是降低犯错的可能性，那么没有理由专门指责算法。第二，算法的缺陷是客观的、可修改的，因而并不是不可以纠正的。相比之下，行政人员的判断失误常常难以客观评价，更不用说问责和改进。

  相比于大数据的一些技术缺陷，技术背后的politics和power才是问题的核心。例如，在印第安纳州福利审核系统的例子里，系统过分严厉地拒绝了许多本应合格的申请者。但是，这是因为运用了大数据系统吗？即便仅从作者的描述中，我们也能看到，是共和党州长缩减福利的政治议程，规定了这套系统过分严格审核的设计理念。再如，洛杉矶警察利用大数据对无家可归者的骚扰，只是其一贯方针在大数据加持下的延续。

  讲到这里，“数字济贫院”的第一个新特征就出现了：“数字”为“济贫院”设置了帷幕。在传统时代，行政机关对穷人权利的侵犯是显性的，容易被发现、分析、批评。在披上了大数据的外衣后，政策设计背后的politics就被算法的具体内容所掩盖；社会的关注点都被吸引到技术层面，而决定这套系统的politics则可以躲在帷幕之下。这一特点带来的后果，是让真问题被忽略，让真正重要的结构改革无限期推迟。

  “数字济贫院”的第二个新特点，是“数字”对“济贫院”的能力进行了大幅强化。第一，大数据与行政管理结合后，传统上被认为是私人领域的许多空间，被毫无保留地暴露在了行政权力面前；数字时代的私域被大大压缩。第二，在这种暴露下，弱势的个体最后的武器“躲避”也遭到剥夺，不得不直面强势的行政权力。第三，大数据的一个重要特征，是数据可能比你更了解你自己。这一特征不仅使得行政部门掌握了关于你的更多信息，同时还在某种程度上剥夺了你反抗的正当性。这三个特点，让politics决策的影响被放大，规制产生的不确定性大大增加。

  在讲清楚了上面三方面内容后，就可以很自然地给出如下的公共建议。第一，算法和大数据的时代已经到来，不可抗拒。无论是公共管理人员，还是被管理的普通人，为了自己的liberty，都应该尽可能掌握大数据的基本知识。第二，大数据时代不要被技术的新奇迷惑，我们仍然应该关注那些决定社会公共生活的基本问题、基本结构。第三，大数据对行政部门是一柄利剑，但挥舞不慎则可能造成灾难性后果。在强调风险管理、底线意识的今天，运用大数据需要比以往更多的审慎。这一点对mainland China的我们，比对大洋彼岸的美国人显得更加重要。

• “数字济贫院”幕后的政府外包——读《自动不平等》

  作者：wutianhaoilove 发布时间：2021-06-23 02:19:23

  “数字济贫院”幕后的政府外包——读《自动不平等》

  吴天昊

  翻开《自动不平等》的引言，立刻就能感受到这本书和其他法律著作的区别。这是一本和现实主义小说一样好读而深刻的社科作品。全书没有拗口的法学术语，而是用一个又一个真实的访谈和调查，直指自动化决策对所有人民主的侵害。

  一 、自动化决策暗修“数字济贫院”

  作者弗吉尼亚·尤班克斯的男友被袭击。因存在多项“异常”，保险被算法自动中断，纠正机器错误决定的过程极为艰辛。一个有资源的中产阶级和高知分子，因为算法的自动决策，狼狈不堪、负债累累。

  （一）起底“数字济贫院”

  正是亲身经历过这样不清不楚的算法制裁，作者起底自动化机制弊病的决心被勾起。走访了全美多地，查阅了大量档案，和那些被算法钳制的穷人相处，倾听他们的故事，感受他们无奈和悲伤。癌症晚期却被自动化断保的欧米茄·扬，直到去世，都没等到申诉的胜利。贫穷的母亲因为害怕孩子被政府接走而不敢接受救助。数字工具正悄无声息地重建着更加严密的“数字济贫院”。

  回顾历史，比美国宪法早125年的济贫院，抱着高效消灭贫困的理想而来，但基于偏见的“祛贫”，不仅没有实现经济和人道，反而制造恐慌并消灭了大量贫困的人。而如今这一切正在以更加隐蔽的方式重新上演。“济贫院”的隐喻意味着当我们谈论新科技时，不要忘记历史的伤痛。

  （二）作恶的自动化决策系统

  书中介绍了三个系统来说明“数字济贫院”的运作方式。第一个系统是美国中部地区使用的福利资格自动化处理系统，由IBM提供的糟糕服务，使得大量本该得到救助的穷人丧失资格，公共资源被“自动转移”。公共服务体系和民主程序遭到削弱。第二个系统是天使之城洛杉矶为无家可归者提供协调入住的系统。这个系统使用分类穷人的评分来决定优先入住。但获得救助的同时，穷人的标签就此贴上，将受到更加严苛的监管。第三个系统是阿勒格尼县使用的儿童虐待救助系统，这个系统具有“预测能力”，能预警虐待的可能。但预警的灵敏度和贫穷程度正相关。

  在本书的后半部分，作者呼吁读者认清自动不平等的“济贫院”会长期、广泛存在，并且认为这样的“数字济贫院”会伤害我们所有人，损害国家平等包容的价值观，并左右政治。同时提出了拆除“数字济贫院”的理想主义路径，例如恢复普惠性援助，对新技术进行民主监测和宣誓制约。

  二、“数字济贫院”的幕后：政府业务委托外包

  （一）算法的转介偏见

  “数字济贫院”有多项机制和问题值得探讨，其中对我国行政法研究有价值的一个重要问题便是“转介偏见”。在本书讲述儿童虐待救助算法的章节，作者在研究寄养儿童种族失衡的问题时，观察到转介偏见的问题。

  因为模型需要采集数据进行决策，这些数据来源于举报电话。而打给热线举报黑人和混血种族家庭的电话远多于举报白人家庭的。算法接收到这样的信息予以迭代，便进一步加深、放大了种族歧视。

  （二）“数字济贫院”的幕后的转介偏见：政府外包收集数据或突破程序正当

  对该问题的以往讨论，多集中在算法扩大歧视的后果和防果措施上。而笔者则关注智慧行政中转介偏见的来源问题。这就要引出政府幕后的角色，政府监管外包下的供应商。

  随着“互联网+行政”的进程如火如荼，政府招标网站上每天都有诸多高科技监管项目启动，被各家互联网或信息技术公司中标。刨去制作、运维网页这类不涉及监管权的标的，在涉及监管权的项目中，行政权力直接外包的占比不多，大多是采买数据服务或对数据监测业务进行外包。

  不将行政权力直接外包，一是基于了禁止授权的考量，将数据采集的前期行为外包显然会比直接将行政决策权外包，显著降低民主风险。二是因为我国基层的客观信息技术情况，还不允许大面积地使用机器和算法代替人工决策。这也确实保障了我国行政决策的广泛可控，很难出现《自动不平等》书中描述的社会保障大面积错误情形。

  但是，数据服务的采购或外包带来的转介偏见风险却长期被忽视。大量外包给私主体进行采集（或从私主体处购买）的数据，裹挟着商业的利益、技术成本的考量、监管职责的懈怠、基层行政人员的干预等各种“偏见”。使用这些数据进行行政决策，又会进一步自动强化“偏见”，形成恶性的闭环。以互联网广告监测的数据外包为例，如果基层行政人员因为近期国家大力动员A行业整改，而加大对A行业广告数据的需求，据此作出的监管决策就会突破程序正义，过度侵入式地监管A行业。这样不常规的监管力度又将发现更多的A行业的问题而引发连锁的监管反应。

  这种行政监管中的转介偏见，更危险的地方在于对人民民主权利的侵害。政府监管项目的中标公示一般公众很难找到，而这已是最后一道被大众所知的程序。后期除了宣传智慧监管政绩的零星新闻通告外，公众视野中再也没有这些监管项目的身影。而受到自动化监管决策的行政相对人，在进入其他民主程序时，甚至都不知道自己因何受到监管。

  三、“数字济贫院”的扩建与规制

  可见，“济贫院”的隐喻已不能概括问题的本身，济贫院需要扩建了。不仅是穷人会被自动化不平等地决策监管，所有人都身在其中。

  作者在书中也有类似的论述，作者的角度是随着贫富差距的加大，中产阶级已开始逐渐感受到危险，面临一定可能的贫困滑坡。而“数字济贫院”则像悬崖下的深渊，等坠落的一刻，便永无翻身之日。

  而笔者的角度，则要从我的亲身经历说起。2015年，我上大学本科期间，曾在宿舍里开了一间小卖部，每天夜里都会使用某支付工具收款。当我已经告别卖货生涯半年之后，我的支付工具中自动多了一个“商家贷款”的功能，我的个人贷款权限也取消了。我打给客户反馈我是一个个人用户，不是商家。但客服表示，这一切都是机器自动判定，他们也不知道我的账户为什么会被修改为商家版。并且客服表示他们无权，也不知道怎么将我的支付工具版本恢复。此后两个月内，在我写了多封投诉邮件后，我的支付工具才恢复成正常状态。

  回顾这件往事，我深刻体会到自动化不平等监管的对象不再是穷人，而是所有人。监管的主体，也不局限于政府，而包括了民营化下所有承担监管职能的主体。监管的场景也不局限于政府对个人、企业的监管。也包括实际发挥社会约束作用的行业监管和企业监管，“数字济贫院”早已开始扩建了。

  在笔者开始阅读《自动不平等》的同一天，《数据安全法》通过了。这部法律首次给政府外包中的数据加上了一道象征性的枷锁。《数据安全法》第40条，国家机关委托他人建设、维护电子政务系统，存储、加工政务数据，应当经过严格的批准程序，并应当监督受托方履行相应的数据安全保护义务。受托方应当依照法律、法规的规定和合同约定履行数据安全保护义务，不得擅自留存、使用、泄露或者向他人提供政务数据。

  虽然这部法律还远远达不到约束合作行政转介偏见的效果，法条仅约定了数据安保义务，并没有禁止权利滥用义务（经老师指正，可以用合目的性约束）。该法并没有规定受托方违反义务的法律责任，行政机关的法律责任也仅仅是对责任人予以处分。但至少表明立法机关注意到了公私合作中的数据，会产生的问题，并在立法层面予以了关注。

  正义不会自行到来，我们应期待并积极推动对自动不平等算法的反思和研究，早日拆除“数字济贫院”。