哈希力量归集文库路径访问: 首页 > 通用人工智能 > 学界观察 • 分析短评

我的老板是AI

何承波 ☉ 文 收录源:南风窗 2022-11-14 @ 哈希力量

【小哈划重点:当今社会的数字化进程,带来了人体的抽象化。在工作场所、公共场合乃至私密领域,人已经不再是一个实体,而是抽象为离散的流动状态,也就是数据化的我们,流向了公共服务部门、商业实体。我们以无法自我控制的方式,被分类、标记、分析,并且成为一个个干预目标。】

AI监控员工-哈希力量uDu哈希力量 | 消除一切智能鸿沟

亚马逊以AI打造的距离助手(Distance Assistant),能够跟踪员工的举动,并提供社交距离的实时反馈uDu哈希力量 | 消除一切智能鸿沟

100年前,英国经济学家凯恩斯如此想象我们今天的生活:uDu哈希力量 | 消除一切智能鸿沟

技术的进步,解放了劳动效率,因此,2030年的人类,每周只需工作15个小时,如何利用闲置的时间,将是他们面临的最大挑战。uDu哈希力量 | 消除一切智能鸿沟

在《我们后代的经济前景》一文,他把这种现象定义为技术性失业。uDu哈希力量 | 消除一切智能鸿沟

凯恩斯的论调,既是启发,又是警示,唤醒了我们对技术、机器与劳动之间的想象:在办公室,在工厂,人类终将被驱逐,只剩忙碌无休的机器人游荡着。人工智能的出现,更是加剧了这种集体焦虑。uDu哈希力量 | 消除一切智能鸿沟

审视当下,凯恩斯所设想的未来,还没有完全到来。但另一种技术性失业正在成为现实:不是技术取代了人类的工作岗位,而是由技术决定,谁能胜任这份工作,谁又必须被驱逐。uDu哈希力量 | 消除一切智能鸿沟

比如,2022年8月,Facebook母公司Meta宣布使用算法解雇了60名合同工。裁员邮件未表明具体原因,只说这是算法评估的结果。uDu哈希力量 | 消除一切智能鸿沟

没错,淘汰我们之前,人工智能率先成了我们的“老板”。全世界范围内,这种趋势正愈演愈烈。uDu哈希力量 | 消除一切智能鸿沟

不祥之兆uDu哈希力量 | 消除一切智能鸿沟

几年前,美国人卡罗尔·克莱默接受了一份新工作——一家软件公司的高级副总裁,主管财务,报酬也不错:每小时200美元。但她很快发现,到手工资其实很低。uDu哈希力量 | 消除一切智能鸿沟

原来,公司使用了一款监控软件,用来捕捉他们积极劳动的时间。系统检测到了几分钟,就是几分钟的工资。更让克莱默感到糟糕的是,她的很多劳动,并没有被登记下来。有些“离线工作”,比如,作为财务主管,她在纸稿上演算的时间,或者,一个正常脑力劳动者都会有的思考时间。uDu哈希力量 | 消除一切智能鸿沟

甚至起身打印也不算。uDu哈希力量 | 消除一切智能鸿沟

这家公司位于得克萨斯州,名叫Crossover。该公司在全球范围内寻找软件工程师,承诺高额的时薪,每周只工作40个小时,主要面向那些想在家,或者在咖啡馆工作的人。uDu哈希力量 | 消除一切智能鸿沟

在美国科技企业中,Crossover名不见经传,但来头不小。Crossover隶属于奥斯汀私募股权公司ESW Capital。后者的持有人是乔·利曼特——1990年代美国科技界的传奇人物。1996年,30岁的他,登上了福布斯400富豪榜,净资产5亿美元。他所创办的Trilogy公司,当年是每个年轻程序员都向往的殿堂,以充满男性荷尔蒙的工作环境而著称,以跑车、赌博、性与酒精混合而闻名,是硅谷男孩俱乐部的典范。uDu哈希力量 | 消除一切智能鸿沟

2001年互联网泡沫破灭后,利曼特宣布隐退。但他并未消失,他看清了互联网的本质与未来,创新远没有盈利来得重要。uDu哈希力量 | 消除一切智能鸿沟

他决定伺机而动。uDu哈希力量 | 消除一切智能鸿沟

过去的12年里,利曼特持有的ESW公司,已悄悄收購了大约75家软件公司,诸如Nextance、Infopia、Kayako,听过的人也许不多,但这些公司的业务和客户,却遍及整个美国企业界。uDu哈希力量 | 消除一切智能鸿沟

比起马斯克那样的高调,利曼特是极其务实的。为了稳定的盈利,他极力控制研发成本、削减员工福利,并把第三世界劳动力战略推向极致。Crossover,只是这个庞大体系中的招聘部门,他们的员工,从巴基斯坦到埃及,遍及全球130多个国家。C++程序员的工资,只相当于亚马逊的仓库工人,每小时15美元。uDu哈希力量 | 消除一切智能鸿沟

当然,也有美国本土的高级人才,比如克莱默这样的高管。uDu哈希力量 | 消除一切智能鸿沟

公司使用了一款监控软件,用来捕捉他们积极劳动的时间。系统检测到了几分钟,就是几分钟的工资。uDu哈希力量 | 消除一切智能鸿沟

利曼特要求员工必须同意安装一款跟踪软件,这样,系统就可以记录员工点击鼠标、操控键盘的次数,软件还会每十分钟就进行一次截屏,并从电脑摄像头中抓取照片,以判断员工的工作状态。uDu哈希力量 | 消除一切智能鸿沟

系统根据软件所捕捉的数据,对员工进行工作考核、业绩结算。uDu哈希力量 | 消除一切智能鸿沟

2017年,50多岁的利曼德,借此重回了福布斯400富豪榜,净资产达30亿美元。但此时他变得很低调,回绝了所有媒体采访,称自己注重隐私,很低调。uDu哈希力量 | 消除一切智能鸿沟

当他以另一种姿态重回福布斯时,带来了一丝不祥之兆。公众逐渐意识到,这位昔日英雄,如今正悄然把计算机编程的世界,打造成一座庞大的血汗工厂。uDu哈希力量 | 消除一切智能鸿沟

一些Crossover的前员工对媒体表示,使用这款工作软件,他们变得焦虑不安,并对其准确性产生怀疑:“有些时候,你只是为了移动光标而移动,这个工具很强大,但也很危险。”uDu哈希力量 | 消除一切智能鸿沟

Crossover并不是孤例。uDu哈希力量 | 消除一切智能鸿沟

利曼特只是这股浪潮中的小小推手。uDu哈希力量 | 消除一切智能鸿沟

入侵工作场所uDu哈希力量 | 消除一切智能鸿沟

过去,依赖主观判断的人力资源部门,如今普遍成了一项热门的分析业务。uDu哈希力量 | 消除一切智能鸿沟

这就是“用户行动监测”行业。软件制造商们竞相提供的功能有:员工评级、应用程序活动报告、显示谁在做什么的彩色编码图表等。这个行业突然爆发,预计2023年达到33亿美元的市场规模。uDu哈希力量 | 消除一切智能鸿沟

Salesforce,记录了向客户发送什么邮件,拨打了什么电话。Sonar公司开发的InterGuard,为雇主提供了记录和分析员工的电子邮件、社交媒体、即时信息、击键、互联网、地理位置、文件和打印活动的可能性。uDu哈希力量 | 消除一切智能鸿沟

在某些金融公司,也有监控软件记录着关于员工如何花费时间与注意力。uDu哈希力量 | 消除一切智能鸿沟

除了记录员工与客户以及彼此间的对话,对员工的电脑屏幕进行截图,并记录所有执行的操作(使用的软件、打开的文件、输入的文本等),雇主也越来越多地使用生物识别信息进行身份和访问控制,比如视网膜和虹膜扫描、电子指纹、手部几何学等。uDu哈希力量 | 消除一切智能鸿沟

“用户行动监测”的本质在于,将雇员变成可监控的数据流,以帮助雇主实现算法管理。数据是算法的基础,而数据采集,则是通过实时监控实现。uDu哈希力量 | 消除一切智能鸿沟

互联网零工经济,正是算法管理最成熟的试验场,外卖骑手,也是一个绝佳的案例。uDu哈希力量 | 消除一切智能鸿沟

基于手机软件,有关外卖员的数据源源不断地生成,比如位置、路线,骑行时间、配送娴熟程度、接单量,以及最重要的客户反馈(差评与好评),一一纳入平台的大数据,以喂养出更智能的派单系统。uDu哈希力量 | 消除一切智能鸿沟

好评率、接单量、送餐速度,则是骑手能否被算法临幸的指标;严厉的等级奖励体系下,它不断激励骑手,要送得更快、更多,要得到更多的好评。越如此,越容易被算法眷顾。uDu哈希力量 | 消除一切智能鸿沟

反过来,当高效和快速的数据越来越多,算法自身也会进化,当算法判定骑手可以更快的时候,它会无形中推动一轮新的加速。uDu哈希力量 | 消除一切智能鸿沟

在Uber,算法也会监测司机的一举一动,并在五星级的基础上,对他们进行排名。持续的低评分意味着,他们会被踢出应用程序。uDu哈希力量 | 消除一切智能鸿沟

亚马逊也投入了具有生物识别反馈指标的摄像头,以追踪其司机,监测其是否偏离道路、超速。uDu哈希力量 | 消除一切智能鸿沟

同样是亚马逊,仓库装卸工人携带的设备,可以指出通往货架的最短路线,实时提醒他们是否落后于工作目标,以及落后的程度。系统还会向他们发送消息,告诉他们加速、停止说话,或下达其他任何命令。uDu哈希力量 | 消除一切智能鸿沟

与此同时,2021年5月,当时的亚马逊首席执行官杰夫·贝索斯还宣布,他计划加强公司的侵入性监控,用腕带振动来指导工人的手部运动,并跟踪工人的动作,以了解他们的肌肉群活动情况。uDu哈希力量 | 消除一切智能鸿沟

此类例子不胜枚举。uDu哈希力量 | 消除一切智能鸿沟

如今,“用户行动监测”技术应用非常广泛,特别是在美国。根据美国管理协会的数据,66%的公司监控其员工的互联网使用,45%的公司记录键盘点击,43%的公司跟踪员工的电子邮件。uDu哈希力量 | 消除一切智能鸿沟

算法控制也不局限于互联网零工经济,而是广泛运用于各国企业与跨国公司。uDu哈希力量 | 消除一切智能鸿沟

比如,世界500强企业联合健康集团,严格记录了员工的键盘敲击情况。当他们停止键盘活动超过一小段时间,笔记本电脑就会标记为 “闲置”,系统会根据各种情况给出1—5分的绩效判定,这直接跟他们的工资挂钩。uDu哈希力量 | 消除一切智能鸿沟

有时候,这套系统也会出现某种“误判”。比如,员工跟病人进行敏感内容的谈话期间,系统也会判定闲置。uDu哈希力量 | 消除一切智能鸿沟

受这套系统的控制,员工们不得不一边开会、培训,一边摇晃手中的鼠标。uDu哈希力量 | 消除一切智能鸿沟

算法炒了我uDu哈希力量 | 消除一切智能鸿沟

有些“用户行动监测”公司开发的工具,可以分析工作中的社会动态,员工如何相互交谈,交谈多长时间,用什么语气,午餐时如何坐,与谁喝咖啡等等。uDu哈希力量 | 消除一切智能鸿沟

“用户行动监测”的本质在于,将雇员变成可监控的数据流,以帮助雇主实现算法管理。数据是算法的基础,而数据采集,则是通过实时监控实现。uDu哈希力量 | 消除一切智能鸿沟

波士顿的分析公司Sociometric Solutions向20家公司提供了装有麦克风、位置传感器和加速度计的员工身份徽章,以研究员工的互动如何影响绩效。uDu哈希力量 | 消除一切智能鸿沟

其客户之一,便是美国银行。借助这套系统,他们发现,食堂里,有人坐四人桌,有人坐12人桌。系统数据给出了一个结论,那些乐于与众人坐大桌的员工,一周的工作效率高出36%。因此坐小桌的员工,成了裁员时的首选目标。uDu哈希力量 | 消除一切智能鸿沟

把裁员的判断交给算法,也是算法管理趋势下的典型做法。uDu哈希力量 | 消除一切智能鸿沟

2021年8月,俄罗斯的Xsolla公司裁掉1/3的员工,150人。他们在裁员邮件中明确写到,我们的大数据团队分析了你的数据,包括但不限于Jira、Confluence、Gmail、聊天、文档、仪表板中的活动,并判定你是一个不敬业、且效率低下的员工。uDu哈希力量 | 消除一切智能鸿沟

以算法作为裁员标准,看上去还算常规。uDu哈希力量 | 消除一切智能鸿沟

很多互联网高科技企业,则直接把裁员大权委托给算法,实现了监督管理和裁员的一条龙服务。uDu哈希力量 | 消除一切智能鸿沟

还是亚马逊。其配送服务FLEX,毫不避讳自己采用算法对员工进行监督、奖惩,并利用算法自动裁员。2020年,在亚马逊工作了4年的美国司机斯蒂芬·诺曼丁,突然无法登录系统了。一封来自亚马逊的自动邮件很快告诉了他真相:你已经被终止与亚马逊的合作。原因:由算法给出的个人评分已经低于亚马逊的规定分数。uDu哈希力量 | 消除一切智能鸿沟

亚马逊这套AI系统,早在2019年就曝光过。该系统可以跟踪统计员工的摸鱼时间——Time Off Task,自动生成工作效率报告,直接绕开任何人类管理者,对员工发出警告或者做出裁员决定。据报道,当时就有近900名员工,被算法判定为“工作效率低”,自动解雇。uDu哈希力量 | 消除一切智能鸿沟

2020年疫情期间,英国Uber的金牌驾驶员沙希德,也发现自己无法登录平台了,因为算法监测到他对Uber平台进行了持续的不当使用,营运资格被取消,也就是说,他被自动解雇了。uDu哈希力量 | 消除一切智能鸿沟

他的系统4.96分(满分5分),他过去五年兢兢业业,想不通自己错在哪里。而Uber也拒绝公开他做了什么。uDu哈希力量 | 消除一切智能鸿沟

沙希德不是个案。同样在英国,还有多名司机在没有通知的情况下被解雇,完全是基于算法的自动处理。随后,几名司机将Uber告上英国法庭。漫长的官司后,也就是2022年4月,英国法院勒令Uber恢复他们的工作。uDu哈希力量 | 消除一切智能鸿沟

至此,我们不难发现,算法管理的本质,其实是一个黑箱。它并不透明,而且标准复杂、苛刻,其中很容易混入偏见、片面评估甚至误判,这进一步加剧了雇员与雇主之间的不平等。uDu哈希力量 | 消除一切智能鸿沟

绩效专家奥利维亚·詹姆斯认为,严密的监控,会引发反抗或逃跑反应。她解释说:“当你的大脑处于危险模式时,你无法创造性地思考或发现问题。这本质上违背了它提高生产力的目的。”uDu哈希力量 | 消除一切智能鸿沟

目前,法律规定还是很模糊。老板监控员工的电子邮件和互联网浏览习惯,是一种相当标准的做法。但生物识别和位置跟踪,界定模糊,也很难辩护。美国的劳动法和隐私政策相对宽松,就算一向严苛的欧盟,《通用数据保护条例》 (GDPR)也允许工作场所的监控——只要雇员被告知,不违反GDPR,并且雇主有充分的理由这样做。uDu哈希力量 | 消除一切智能鸿沟

理由总是好的,可以保护公司、客户的利益或员工的利益。uDu哈希力量 | 消除一切智能鸿沟

新冠疫情时代,远程办公成为一种常态。原先可能会受到谴责的职场算法管理,如今得到了某种程度的正当化与合理性,迅速普及开来。uDu哈希力量 | 消除一切智能鸿沟

历史的衔尾蛇uDu哈希力量 | 消除一切智能鸿沟

算法管理,可能听起来很未来,但它也暗藏着来自过去的回声。uDu哈希力量 | 消除一切智能鸿沟

在资本主义视角里,人类的劳动能力,是一种商品,对其进行监督、管理和评估,是一种必要行为。uDu哈希力量 | 消除一切智能鸿沟

员工管理的每一次进化,都是技术带来的。uDu哈希力量 | 消除一切智能鸿沟

18世纪,时钟技术得到发展,并进入了每个工作场所。时钟带来了变革,工作时间得到了抽象化,成为商品化的时间。工作时间与报酬的结合,是彼时工厂的标准。uDu哈希力量 | 消除一切智能鸿沟

秒表出现后,泰勒主义的科学管理得以萌发。uDu哈希力量 | 消除一切智能鸿沟

18世纪末,美国费城米德威钢铁公司的总工程师,弗雷德里克·泰勒,一个名副其实的工作狂人,手持秒表,来到生产车间。uDu哈希力量 | 消除一切智能鸿沟

为了提高生产效率,他坚决杜绝工人的时间浪费,如减少步行距离,消除不必要的动作,整肃那些慢工出细活的工人。其次,借助秒表,他拆分了劳动过程,将动作细节进行切割,并规定相应动作的完成时间,让工人的劳作过程得到了量化和标准化。uDu哈希力量 | 消除一切智能鸿沟

秒表带来的作用,是在监督者的视角下,建立了一种行为的解剖学模式。至此,很多工厂将泰勒的做法奉为圭臬,纷纷掐表研究每个劳动动作的所需时间。生产效率得到了质的飞跃。但随之而来的,也是更为严酷的剥削。uDu哈希力量 | 消除一切智能鸿沟

一封来自亚马逊的自动邮件很快告诉了他真相:你已经被终止与亚马逊的合作。原因:由算法给出的个人评分已经低于亚马逊的规定分数。uDu哈希力量 | 消除一切智能鸿沟

福特公司则最早建立了算法管理的“原始模型”。1913年,福特公司引入了先进的装配线,标志着现代工业的滥觞。但生产设备的进步,也意味着劳动强度的空前提高,这就加剧了工人的流失率。福特公司提高了薪酬,但有一个条件:员工要采用健康的、有道德的生活方式。uDu哈希力量 | 消除一切智能鸿沟

比如,“22岁以上的男性雇员,过着干净、清醒和勤劳的生活”,每天可获得5美元工资。在家里经常洗澡,使用大量肥皂和水,每天也额外支付5美元。福特公司成立了一个社会学部门,配备30多名监督员,随时搜集这些雇员的家庭与个人情况,跟踪身体健康状态,以避免他们在装配线上筋疲力尽。uDu哈希力量 | 消除一切智能鸿沟

本质上,福特公司检查员所做的工作,与今天的人工智能没有区别,只是后者可以更加全面地收集和挖掘数据(且成本更低),以确保人们高效工作。uDu哈希力量 | 消除一切智能鸿沟

沃顿商学院管理学教授林赛·卡梅伦一直研究现代工作场所的变化,在她看来,算法管理,本质是一种现代的泰勒主义。uDu哈希力量 | 消除一切智能鸿沟

当今社会的数字化进程,带来了人体的抽象化。在工作场所、公共场合乃至私密领域,人已经不再是一个实体,而是抽象为离散的流动状态,也就是数据化的我们,流向了公共服务部门、商业实体。我们以无法自我控制的方式,被分类、标记、分析,并且成为一个个干预目标。uDu哈希力量 | 消除一切智能鸿沟

工作场所,是一个非常独特的地方。在这里,不同形式的数据流在日益聚集:雇主可以收集有关雇员的生产力、通信内容、工作场所内外的活动,乃至雇员的身体状况,如体重指数、胆固醇水平、饮食、运动、生活方式等方面的数据,以实施从内到外的算法管理,完成从招聘到工作成果的评估、绩效的判定,以及裁员。uDu哈希力量 | 消除一切智能鸿沟

福柯从圆形监狱发展出一个生物政治学的概念——“全景敞视主义”,即社会权力对身体实施的全方位管控、规训。福柯认为,这种权力对资本主义的发展是必要的,因为它为资产阶级提供了有效且廉价的手段,以处理其社会后果,如越来越多的乞丐、流浪者、强盗和无纪律的工人,并向普通民众灌输适当的工作习惯,如服从、尊重权威、时间管理和效率。uDu哈希力量 | 消除一切智能鸿沟

无论技术怎么演进,历史似乎总像一条衔尾蛇。今天,全景监狱以人工智能的方式,发挥着几乎相同的作用。uDu哈希力量 | 消除一切智能鸿沟



收录源追溯链接或暂略


本文收录后固定可引用URL链接
    http://www.haxililiang.com/toutiao/redian/35140.html


☉ 文库同一主题内容智能推荐 ☉
哈希力量 ☉ 人机智能科普文库