数字的反乌托邦:算法是怎样责罚穷汉的?

本文来自微信民众号:作育(ID:xingshu100),作者:黄一成,题图来自:原文

从美国伊利诺斯州的小镇到英格兰的罗奇代尔,从澳大利亚的珀斯到印度北部的杜姆卡,一场关于政府怎样看待穷汉的反动正在进行。

你大概没有听说过也看不到反动的发作。它是由工程师和编码职员在阔别民众视野的隐藏政府机构中闭门谋划的。

由于人工智能、展望算法、风险建模和生物辨认手艺是背地的驱动力,因而只要数学家和计算机科学家可以完整明白这个庞大的变化。但假如你正处于福利革新吸收端的数百万弱势人群当中,你一定会体会到个中严峻以至是致命的影响。

数字的反乌托邦:算法是怎样责罚穷汉的?

一场关于政府怎样看待穷汉的反动正在悄悄发作

《卫报》过去三个月一直在观察,怎样投入数十亿美圆用于AI立异,由于这些立异正在爆炸性地重塑低收入人群与国度的互动体式款式。我们在美国、英国、印度和澳大利亚的记者们,配合探讨了数字福利国度的降生。

这些记者的事情展现了赋闲救济金、后代抚养费、住房和食品补助等等是怎样在网上炒作的。在此历程当中,工业化国度和发展中国度的政府正消费大批资金使“贫穷自动化”,并将弱势国民的须要转化为数字,用机械的无情无义的决议设计庖代人类办事员的推断。

最令人生畏的是,《卫报》的记者们描写了一幅21世纪狄更斯(Charles Dickens)笔下的反乌托邦图画,它正以惊人的速率成形。美国政治学家弗吉尼亚·尤班克斯(Virginia Eubanks)总结出一个词:“数字穷人窟”。

数字的反乌托邦:算法是怎样责罚穷汉的?

无情无义的机械决议设计庖代了人类办事员的推断

假如你关注政府的谈吐,就会听到关于新手艺怎样将贫穷转变为一个高贵和良性的团体的严重许诺。它们将加快福利付出,进步效力和透明度,减少糟蹋,为纳税人节约资金,消弭人类的毛病和私见,并确保有限的资本可以抵达最须要的人手中。但许多时刻,这些许诺已落空了。

在压缩政策主导政治款式的时刻,数百万人的福利被计算机程序减少或住手,这些程序的运作体式款式好像很少有人可以掌握以至明白。毛病似乎流行病平常,没有门路让毛病的受害者追求弥补。

贫穷的自动化将走向天下舞台。作为联合国赤贫问题监督机构的人权状师菲利普·阿尔斯顿(Philip Alston)将在纽约向联合国大会提交一份开创性报告,该报告将敲响急于将社保数字化对人权影响的警钟。

阿尔斯顿的剖析基于他在联合国对英国和美国贫穷的研讨,以及来自34个国度的政府、人权构造和专家提交的材料。它供应了天下如今所处的状态和走向的速写,特别是那些生活在越来越大的数字穷人群体面对的骚扰、针对和责罚。

在伊利诺斯州,《卫报》发明,州政府和联邦政府联手请求福利领取者了偿“逾额付出”,有些以至追溯到30年前。这类经由历程手艺兵器化的“僵尸债权”系统正在唤起社会最弱势群体的恐惊和困苦。

正如一名被请求退款者形貌的:“你欠的东西是已给过你的。”

在英国,我们观察了纽卡斯尔郊野的平安政府站点,那边正消费数百万英镑用于开发新一代福利机械人来庖代人类。一个由环球首位机械人范畴的亿万富翁在纽约的公司正在加快这一历程,并制造了全新名词:“假造劳动力”、“加强决议设计”和“机械人历程自动化”。

只管英国的“默许运用数字手艺”的议程已给数百万低收入英国人带来痛楚,但政府仍在抓紧推动。被索赔人报告了他们忍耐的饥饿、腌臜、恐惊和惊愕。

在澳大利亚,《卫报》普遍报导了“机械人债权”设计,该设计被诘问诘责经由历程有缺点的算法毛病地收回汗青欠债。我们发明,政府已拓荒了一个新的数字阵线:应用自动化来停息数百万的福利付出。收款人在未经关照的情况下不再收到款子。

最令人不安的故事来自印度的杜姆卡。在这里,我们相识到Aadhaar这个印度政府向一切住民发出的12位的唯一辨认号码给家庭带来的恐怖影响,这可谓天下上最大的生物辨认手艺试验。

莫特卡·曼吉(Motka Manjhi)就由于电脑毛病而没法辨认他的Aadhaar密钥而付出了价值。他保持生计的口粮被停掉,他由于没有食品而变得骨瘦如豺。5月22日,他昏死在屋外,他的家人也确认他是因饥饿而死。

数字的反乌托邦:算法是怎样责罚穷汉的?

国度生物辨认项目Aadhaar证件

《卫报》的观察展现了这些新系统的配合特性。无论是在发展中国度照样发达国度,无论是东方照样西方,最显著的相似之处是,这一切正在以闪电般的速率发作,高科技要领囊括了社会效劳、事情和养老金、残疾和医疗康健范畴,而民众辩论或问责每每少少。

在这场反动中,福利国度的人为因素正在被稀释。如今,庖代亲身评价人们福利需求的人类员工的是在线指导程序,展望剖析将给将来风险打分,而算法将决议被评价人的运气。

在新的天下中,不平等和轻视将根深蒂固。假如你是英国500万成年人之一,没有上网的时机,很少或基础没有计算机学问,会发作什么?假如算法只是在现有的种族和阶层的歪曲中变本加厉,使富人和穷汉、白人和黑人、受过大学教诲的和膂力劳动者之间的鸿沟越发不可逾越呢?

另有一个令人心寒的卡夫卡式的问题正影响环球。正如曼吉的发明展示出的消极状态,毛病会犯,机械会毛病,但假如没有将人视为一个个别,而是视为一段要处置惩罚的12位数字,那末效果多是致命的。

数字的反乌托邦:算法是怎样责罚穷汉的?

假如机械涌现毛病,效果多是致命的

电脑上写着“查无此人”。你能怎么办?

(本文未经作育受权,制止转载。)

本文来自微信民众号:作育(ID:xingshu100),作者:黄一成,版面:田晓娜

原创文章,作者:admin,如若转载,请注明出处:https://www.2lxm.com/archives/21031.html