我把头像改成猛男,也不能避免“算法”的风险_重庆晚报慢新闻_慢新闻_重庆晚报网_重庆新闻

我把头像改成猛男,也不能避免“算法”的风险

发布时间:2018-05-16 14:57:12 来源 澎湃新闻

今天早上看到朋友圈文章,几个女孩子都把滴滴打车的头像资料改成了猛男。乍一看好笑,但莫名感觉好心酸。

她们这么做无非是试图自保,“吓跑”那些不安好心的顺风车司机,这个手动淘汰机制也算是对滴滴的一个小小反抗吧。

可是这招真的有用吗?我的朋友在这篇文章下面留言:结果很可能就是她很难打到车了。

在个体无法控制算法时代未知风险的时候,人们有自保和提高警惕的想法似乎是自然而然的,问题是那多大程度改变是足够的?自保和提高警惕又在多大程度上真的有用?

滴滴顺风车司机对乘客的评价。微信公众号截图

滴滴顺风车司机对乘客的评价。微信公众号截图

算法时代让社会弱势群体更加危险?

一位曾服务于美团和滴滴的境外投资者,署名“伦敦交易员”的作者发表了一篇题为《滴滴是如何走向邪恶的》文章。作者认为,滴滴为了维持更高的估值,圈进更多的资本来扩张,而需要“具有想象力”的故事,也就是“就怕你不约”的异性社交。

他还分析了“顺风车”社交的产品“优势”:男女比例均衡、车内场景封闭(姑娘不能轻易下车)等。换言之,滴滴顺风车在经济刺激不足的情况下,靠异性社交弥补,抓住了顺风车主“能赚个油钱,还能勾搭个妹子”的心理动机。一段时间以来,滴滴顺风车甚至还搞过“我们约会吧”的广告、“不怕贴标签、就怕你不约”的口号。

“伦敦交易员”判断滴滴的产品经理不会不明白他们产品设计的潜在风险。

我不相信存在所谓中立的技术,因为技术是为了人类生活服务的,“伦敦交易员”的分析验证了我的看法。英国莱斯特大学的讲师陈玉洁也认为数据本身就是“以目的为导向”的。互联网技术让数据的复制和再使用变得十分容易,此次滴滴乘客遇害凸显的正是数据肆无忌惮的越界造成的不良反应。

以此次事件为例,数据科学家们对数据的使用显然更多的是在利用整个社会对女性的偏见。"性别友好"不在他们的词典里,他们对打破社会偏见更是毫无兴趣,能以她们为“诱饵”吸引到更多的“直男”用户注册,何乐而不为?

包括共享经济平台在内的很多互联网科技企业都坚决否认自己是服务提供者,只是服务提供者和获取者之间的联结者,以对他们的社会责任“甩锅”。以此次空姐顺风车遇害事件为例,它让原本弱势的群体更加弱势。

悖谬的是,在滴滴此次案件中,侵害人和受害人都是最容易冒风险的弱势群体。

算法将不可避免地让阶层地位更高的人受益,在美国他意味着受教育程度更高的白人男性。在中国,他意味着经济宽裕的直男。新技术的危害则往往被社会中处于弱势地位的人群所承受,在空姐遇害案爆出后,帖文的评论大部分都是女性、女学生群体。

滴滴顺风车的“印象标签”的糟糕之处在于它损害了“匿名性”。匿名性保证了人们有做事情的能力,但没有人知道你是谁。我开头提到的几个女孩子,她们把头像资料改成猛男也正是为了在滴滴后台重新恢复自己的“匿名性”,而不是之前被动的被贴标签。

在人类学家看来,匿名是人类文明中的一种核心互动,因为没有它,我们就不会有各种新的合作。我们不会有像维基百科这样的互联网产品,不同类型的社会群体的融合也更加艰难。

但是并不像我们想象的那样发达国家就做得更好。以美国为例,关于种族的数据是被输入大数据的,也就是关于个人种族身份的“匿名性”根本无法保证,它带来的结果就是,由于种族和经济背景的数据,数据背后的人也已经系统性的被决定为“高风险个体”了,譬如黑人的身份数据往往意味着更高的保释费、更长的坐监时间。这无疑进一步再生产了他们的弱势地位。

换言之,在现实中,算法和共享经济并没有给我们一个乌托邦的世界:鼓励资源分享,社区和谐相处,打破传统交通行业的垄断。实际上它加强了歧视、扩大了阶级差异,甚至导致弱势群体的处境更加糟糕。

曾经有一位著名的分享经济平台的老总还说互联网+将颠覆传统交通行业“忽视用户的体验”的弊端。可是如今我们看到的却是,如技术专家熊节所说,今天的职业司机的状况比二十年前还要糟糕,滴滴的垄断使得它不断压低司机的报酬、延长他们的工作时间。而对用户呢?2016年浙江东阳市女乘客投诉被司机性骚扰后只得到了50元的快车券的补贴。

大数据和算法的使用让社会弱势群体处于更加危险的境地一个原因是“视野失灵( horizon deficiency )” :除了近在眼前的事情,人们看不到其他风险所在。

共享经济的风险是很多普通民众意识不到的,而我们媒体人能做的就是提醒公众让他们意识到自己进入了“视野失灵”的模式。

关心人的温度,而不是冷冰冰的数字

署名“张累累”的作者发表了《一群年轻女性给滴滴的信:请给我们一个免于恐惧的理由》的信,其中认为滴滴除了应该加强对司机的审核,以及投诉机制的通畅高效外,还应该在车上配反性骚扰小册子给乘客。

她认为还应当加强对顺风车的路线规范,反馈非正常路线偏离以及非正常停车。滴滴的紧急求助按钮应当着重标识;在司机接单后应自动发送给乘客安全提示,告知如何用按钮求助或报警。滴滴的相互评价系统当中不应当提供与出行内容无关选项,如司机进行物化女性等的评价,应当进行降级,降级到一定程度不应接单。

这些都是很好的具体建议。但是更重要的是,我们必须知道这些互联网企业的高层到底是些什么人,必须知道他们的价值是什么?他们接受过怎样的训练?

我们如何能够影响他们运用自己的财富和权力的方式?从某种程度上而言,这些公司的领导的影响力不亚于政治家,而他们如何言行举止,如何平衡企业扩张和社会责任,是一个亟待关注的问题,而公众却对此一无所知。

人类学家Tracia Wang 在纽约经营一家名为“SUDDEN Compass”的咨询公司。她是一位擅长“厚数据”的科技咨询者。厚数据,顾名思义,比大数据更有厚度,更讲究数据的“质”而不是“量”。Tracia 认为仅仅强调数据的量和规模是不够的,定性的数据、描述性的数据,厚数据才是未来应该被重视的。

在纽约,她的工作就包括不断的说服数据科学家们可以接受她的观点,所幸,这些观点渐渐开始被他们所接受和认可。

在我看来“厚数据”也是像滴滴这样的互联网巨头公司未来应该发展的方向。以滴滴顺风车为例,它对人的分类是传统的粗暴的,大不了就是年龄、教育水平、性别等等扁平化的信息。根据披露出的滴滴顺风车逻辑,有多少女性用户,就有多少能被吸引来的男性用户。现在的大数据把人的参数做的过于简单:女性是0,男性是1,缺乏对个体复杂性的描述。而如果能够引入“厚数据”,也许滴滴可以促成有相近的音乐品味、价值观等的司机和乘客的“配对”,让他们的旅程真正变成一种美好的体验。

美国势头大好的Netflix公司就发现,一个都市白人男性实际上和一个70岁的居住在乡村的老奶奶有更多的共同点,说不定他们会欣赏同一个真人秀节目。

Netflix相信,人们的身份本来就是流动的,她们需要根据场景的不同而变换身份,而在滴滴的逻辑里,孤男寡女进入了封闭的乘车空间,“就怕你不约,”实在是种强盗逻辑。

这恐怕是因为很多数据科学家或产品经理是男性,欠缺女性经验,同时视野失灵导致的。他们估计从未尝过被司机骚扰是什么滋味,如果他们了解过,也许会对他们曾经的“约会(pao)”设计后悔不已。他们应该与真正的乘客,特别是那些女性乘客互动,了解她们的需要、把她们当成活生生的人,而不只是被标记为大长腿等这些物化指标的对象。

如果这些大数据专家也“视野失灵”了,看不到弱势司机的视角、乘客的视角,他们的设计就只是为了部分人的,对于“盒子以外”的人就是不友好的。

大部分普通人都不知道关于自己的数据是如何被分享和使用的。而每一天,我们的身份都正在被变成谈判的工具、被放在各种“数据实践”的风险中。

在互联网数字时代的今天,我们最应该关心的仍然应该是人的温度,而不是冷冰冰的数字。普通人自己在多大程度上能决定我们的未来,在多大程度上能有自主权、去做真正想做的事、去真正想去的地方?

“数据就是人,人就是数据,所以这些东西是可以互换的。” 正如人类学家Tracia所说,数据和人有着千丝万缕的联系。我们需要更多的数据专家能够把用户当成活生生的人,设身处地的为他们的福祉考虑。

责编 姜京谷 总值班 官毅

重庆晚报慢新闻APP,全心关注重庆,深度解读重庆,名家名记名专栏齐聚,做最有重庆特色的小、精、深原创客户端。并且还能加入重庆晚报抗癌爱心互助会,为家人健康做一个保障哦!扫描二维码下载
免责声明:
1、重庆晚报网是重庆晚报社唯一官方网站,未经重庆晚报社许可,任何人不得非法使用重庆晚报(含下属频道作品)以及本网自有版权作品。
2、本网转载其他媒体之稿件,以及由用户发表上传的作品,不代表本网赞同其观点和对其真实性负责。
3、如因作品版权和其它问题可联系本网,本网确认后将在24小时内移除相关争议内容。

分享到:


  • 重庆晚报

  • 都市热报

  • 慢新闻

  • 重庆一分钟

  • 重庆走走族

  • 文创联盟

  • 法律帮帮帮

  • 重庆六一班

  • 轨客网

  • 重庆单身狗

  • 爱真相

  • 影友会

  • 妙人志

  • CQ慢生活

  • 重庆房生活

  • 重晚副刊

  • 重晚体育

  • 大石化报

晚报简介  |  报纸广告  |  联系我们  |  晚报发行
重庆晚报 版权所有  经营性网站备案号: 渝ICP备17003974号-1  渝公网安备 50011202500889号 
地址:渝北区同茂大道416号重报集团21-24楼  互联网违法和不良信息举报电话:023-966988 互联网出版许可证:新出网证(渝)字004号