2020 年初，基于应用程序的快递公司 Shipt 的零工注意到他们的薪水有些奇怪。该公司于 2017 年被 Target 以 5.5 亿美元收购，提供当地商店的当日送货服务。这些货物是由 Shipt 工人完成的，他们购买这些物品并将它们送到客户家门口。在大流行开始时，由于 COVID-19 封锁使人们留在家中，业务蓬勃发展，但工人们发现他们的薪水变成了......不可预知的。他们做着他们一直以来所做的工作，但他们的薪水往往比他们预期的要少。他们不知道为什么。
在Facebook和Reddit上，工人们比较了笔记。以前，他们知道工资会有什么期望，因为 Shipt 有一个公式：它给工人的基本工资是每次送货 5 美元，外加客户通过应用程序订购的总金额的 7.5%。该公式允许工人查看订单金额并选择值得他们花时间的工作。但希普特在没有提醒工人的情况下改变了付款规则。当该公司最终发布有关这一变化的新闻稿时，它只透露新的薪酬算法根据“努力”向工人支付工资，其中包括订单金额、购物所需的估计时间和行驶里程等因素。
本文引用地址：
流程图显示了基于文本的工具如何解析工作人员屏幕截图中的数据并提取相关信息。购物者透明度工具使用光学字符识别来解析工人的屏幕截图并找到相关信息（A）。每个工人的数据被存储和分析（B），工人可以通过发送各种命令来与工具进行交互，以了解有关其工资的更多信息（C）。达娜·卡拉奇
该公司声称，这种新方法对工人更公平，并且它更好地将工资与订单所需的劳动力相匹配。然而，许多工人只是看到他们的薪水减少。由于希普特没有发布有关该算法的详细信息，它本质上是一个黑匣子，工人看不到里面。
工人们本可以悄悄地接受他们的命运，或者在其他地方寻找工作。相反，他们联合起来，收集数据并与研究人员和组织建立合作伙伴关系，以帮助他们理解他们的薪酬数据。我是一名数据科学家;我在 2020 年夏天被吸引到这个活动中，我开始构建一个基于短信的工具——购物者透明度计算器——来收集和分析数据。在该工具的帮助下，有组织的工人及其支持者基本上对算法进行了审计，发现它给40%的工人大幅减薪。工人们表明，尽管公司愿意，但可以反击算法的不透明权威，创造透明度。
我们如何构建审计 Shipt 的工具
它始于一位名叫威利·索利斯（Willy Solis）的希普特员工，他注意到他的许多同事都在在线论坛上发帖，谈论他们不可预测的工资。他想了解薪酬算法是如何变化的，他认为第一步是文档。当时，希普特雇用的每位工人都被添加到一个名为“希普特名单”的Facebook群组中，该群组由公司管理。索利斯在那里发布了消息，邀请人们加入一个不同的、由工人运营的Facebook群组。通过第二组，他要求工人向他发送截图，显示他们不同月份的工资收据。他手动将所有信息输入到电子表格中，希望他能看到模式，并认为也许他会带着这个故事去找媒体。但是他得到了成千上万的屏幕截图，光是更新电子表格就花费了大量的时间。
Shipt 计算器：使用工人工资单挑战零工经济黑匣子算法
就在那时，索利斯联系了 Coworker，这是一个非营利组织，通过帮助请愿、数据分析和活动来支持工人的倡导。时任 Coworker 数字活动总监的 Drew Ambrogi 向我介绍了 Solis。我当时在麻省理工学院媒体实验室攻读博士学位，但对此感到有些失望。那是因为我的研究重点是从社区收集数据进行分析，但没有任何社区参与。我把 Shipt 案例看作是与社区合作并帮助其成员控制和利用他们自己的数据的一种方式。我一直在阅读有关大流行期间送货零工的经历，他们突然被认为是必不可少的工人，但他们的工作条件只会变得更糟。当 Ambrogi 告诉我 Solis 一直在收集有关 Shipt 工人工资的数据，但不知道如何处理这些数据时，我看到了一种有用的方法。
一个女人把一个袋子放在汽车后备箱里的照片。一张微笑的男人跪在商店清洁过道上的照片。希普特制作的一系列光鲜亮丽的照片显示，穿着希普特T恤的工人面带微笑，愉快地购物和运送杂货。在整个工人抗议活动中，希普特只表示，它已经更新了薪酬算法，以更好地将薪酬与工作所需的劳动力相匹配;它不会提供有关新算法的详细信息。其企业照片呈现了快乐的 Shipt 购物者的理想化版本。希普特
商业模式依赖零工的公司有兴趣保持其算法的不透明性。这种“信息不对称”有助于公司更好地控制员工——他们在不泄露细节的情况下设定条款，而员工唯一的选择是是否接受这些条款。例如，这些公司可以每周改变薪酬结构，通过实验来了解他们能支付多少工资，同时仍然让工人接受工作。没有技术原因说明为什么这些算法需要成为黑匣子;真正的原因是维持权力结构。
对于 Shipt 员工来说，收集数据是获得影响力的一种方式。索利斯启动了一个社区驱动的研究项目，该项目正在收集良好的数据，但效率低下。我想自动化他的数据收集，这样他就可以更快、更大规模地完成。起初，我以为我们会创建一个网站，让员工可以上传他们的数据。但索利斯解释说，我们需要建立一个系统，让员工只需用手机就能轻松访问，他认为基于短信的系统将是吸引员工的最可靠方式。
基于该输入，我创建了一个文本机器人：任何 Shipt 员工都可以将他们的工资收据屏幕截图发送到文本机器人，并获得包含有关他们情况信息的自动回复。我用简单的 Python 脚本编写了文本机器人代码，并在我的家庭服务器上运行它;我们使用一个名为 Twilio 的服务来发送和接收文本。该系统使用光学字符识别技术（与在PDF文件中搜索单词的技术相同）来解析屏幕截图的图像并提取相关信息。它从 Shipt 那里收集了有关工人工资的详细信息、客户的任何提示以及工作的时间、日期和地点，并将所有内容都放入 Google 电子表格中。字符识别系统很脆弱，因为我对它进行了编码，以便在屏幕截图的某些位置查找特定信息。项目开始几个月后，当 Shipt 进行更新时，工人的工资收据突然看起来不同，我们不得不争先恐后地更新我们的系统。
除了公平的薪酬，工人还希望透明度和能动性。
每个发送屏幕截图的人都有一个与他们的电话号码绑定的唯一 ID，但我们收集的唯一人口统计信息是工人的都会区。从研究的角度来看，看看工资率是否与其他人口统计数据（如年龄、种族或性别）有任何联系会很有趣，但我们希望向员工保证他们的匿名性，这样他们就不会担心 Shipt 仅仅因为他们参与了这个项目而解雇他们。从技术上讲，共享有关其工作的数据违反了公司的服务条款;令人惊讶的是，工人——包括被归类为“独立承包商”的零工——往往对自己的数据没有权利。
一旦系统准备就绪，索利斯和他的盟友就通过邮件列表和Facebook和WhatsApp上的工人团体传播了这一消息。他们称该工具为购物者透明度计算器，并敦促人们发送屏幕截图。一旦一个人发送了10张屏幕截图，他们就会收到一条消息，其中包含对他们特定情况的初步分析：该工具确定该人是否在新算法下获得报酬，如果是，它会说明如果Shipt没有改变其薪酬系统，他们会多赚多少钱。工人还可以要求提供有关他们的收入中有多少来自小费以及他们都会区其他购物者的收入的信息。
Shipt Pay 算法如何缩短工人
截至 2020 年 10 月，我们收到了来自 200 多名工人的 5,600 多张屏幕截图，我们暂停了数据收集以处理这些数字。对于在新算法下获得报酬的购物者，我们发现40%的工人的收入比在旧算法下低10%以上。更重要的是，通过查看所有地理区域的数据，我们发现大约三分之一的工人的收入低于所在州的最低工资。
这并不是一个明显的工资盗窃案例，因为在新计划下，60%的工人的收入大致相同或略高。但我们认为，重要的是要关注那些通过黑匣子过渡而突然减薪的 40% 的工人。
除了公平的薪酬，工人还希望透明度和能动性。这个项目凸显了 Shipt 工人为获得这种透明度付出了多少努力和基础设施：需要积极进取的工人、一个研究项目、一个数据科学家和定制软件来揭示有关这些工人状况的基本信息。在一个更公平的世界里，工人拥有基本的数据权利，法规要求公司披露他们在工作场所使用的人工智能系统的信息，这种透明度将默认提供给工人。
我们的研究没有确定新算法是如何得出其支付金额的。但 Shipt 技术团队在 2020 年 7 月的一篇博客文章中谈到了该公司拥有的有关其合作商店规模的数据，以及他们计算购物者在空间中走动需要多长时间的数据。我们最好的猜测是，Shipt的新支付算法估计了工人完成订单所需的时间（包括在商店中寻找商品所花费的时间和开车时间），然后尝试每小时支付15美元。似乎被减薪的工人花费的时间可能比算法预测的要多。
索利斯和他的盟友利用这些结果来吸引媒体的关注，因为他们在阿拉巴马州伯明翰的希普特总部和明尼阿波利斯的塔吉特总部组织了罢工、抵制和抗议活动。他们要求与希普特的高管会面，但他们从未得到公司的直接回应。它对媒体的声明含糊其辞，只说新的支付算法根据工作所需的努力来补偿工人，并暗示工人占了上风，因为他们可以“选择是否接受订单”。
抗议活动和新闻报道对工人条件有影响吗？我们不知道，这令人沮丧。但是我们的实验为其他希望使用数据进行组织的零工工作者提供了一个榜样，它提高了人们对算法管理缺点的认识。我们需要的是平台商业模式的大规模改变。
算法管理的未来？
自 2020 年以来，已经向前迈出了几步充满希望的一步。欧盟最近就一项旨在改善零工工人条件的规则达成了协议。所谓的“平台工人指令”与最初的提案相比大大淡化，但它确实禁止平台收集有关工人的某些类型的数据，例如生物识别数据和有关其情绪状态的数据。它还赋予工人有关平台算法如何做出决策的信息的权利，并有权审查和解释自动化决策，并由平台支付独立审查费用。虽然许多工人权利倡导者希望该规则走得更远，但它仍然是监管的一个很好的例子，它控制了平台的不透明性，并赋予工人一些尊严和能动性。
一些关于零工数据权利的辩论甚至已经进入了法庭。例如，英国的 Worker Info Exchange 在 2023 年赢得了针对 Uber 的诉讼，该诉讼涉及其解雇两名司机的自动决定。法院裁定，必须向司机提供有关他们被解雇原因的信息，以便他们能够有意义地挑战机器人解雇。
在美国，纽约市通过了该国第一部针对零工的最低工资法，去年该法律在DoorDash、Uber和Grubhub的法律挑战中幸存下来。在新法律出台之前，该市已经确定其 60,000 名送货工人的平均时薪约为 7 美元;法律将费率提高到每小时约20美元。但法律对零工工作中的权力失衡无能为力——它没有提高工人确定工作条件、获取信息、拒绝监视或对决定提出异议的能力。
在世界其他地方，零工工作者正在聚集在一起，想象替代方案。一些送货员已经开始了工人拥有的服务，并加入了一个名为CoopCycle的国际联合会。当员工拥有平台时，他们可以决定要收集哪些数据以及如何使用这些数据。在印度尼西亚，快递员创建了“大本营”，他们可以在那里为手机充电、交换信息并等待下一个订单;有些甚至建立了非正式的应急响应服务和类似保险的系统，以帮助发生交通事故的快递员。
虽然希普特工人的反抗和审计的故事没有童话般的结局，但我希望它仍然能激励其他零工工人以及工作时间越来越受到算法控制的轮班工人。即使他们想更多地了解算法如何做出决策，这些工人也往往无法获得数据和技术技能。但是，如果他们考虑有关工作条件的问题，他们可能会意识到他们可以收集有用的数据来回答这些问题。还有一些研究人员和技术人员有兴趣将他们的技术技能应用于此类项目。
零工并不是唯一应该关注算法管理的人。随着人工智能逐渐渗透到我们经济的更多领域，白领发现自己受到自动化工具的影响，这些工具定义了他们的工作日并判断了他们的表现。
在 COVID-19 大流行期间，当数以百万计的专业人士突然开始在家工作时，一些雇主推出了软件，可以捕获员工计算机的屏幕截图，并通过算法对他们的生产力进行评分。不难想象，当前生成式人工智能的繁荣将如何建立在这些基础之上：例如，大型语言模型可以消化员工写的每封电子邮件和 Slack 消息，为管理人员提供员工生产力、工作习惯和情绪的摘要。这些类型的技术不仅损害了人们的尊严、自主权和工作满意度，还造成了信息不对称，限制了人们挑战或谈判工作条款的能力。
我们不能让它走到这一步。零工工人正在进行的战斗是争取工作场所权利的更大战争的领先战线，这将影响我们所有人。现在是时候定义我们与算法的关系了。
“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
