潘多拉的代价:“全知”的算法vs.“无知”的权利
张一苇
原创文章
2019/01/03

本文由智堡翻译,支持智堡请下载智堡APP并订阅我们的付费会员

原文基于创作共同协议(BY-NC)经翻译后在智堡发布。

免责声明:以下内容仅代表作者观点,不代表智堡的立场和观点。

We Need to Save Ignorance From AI

在这个“全知”算法的时代里,我们怎样才能选择“不知”?

In an age of all-knowing algorithms, how do we choose not to know?

作者Christina Leuker和Wouter Van Den Bos,系马克斯·普朗克人类发展研究所 (MPI für Bildungsforschung,位于德国柏林的著名社科研究机构) 博士生研究员 (前者) 与研究科学家 (后者)。

正文部分

在柏林墙倒塌之后,东德公民们均有机会查阅斯塔西 (Stasi,国家安全部)——臭名昭著的东德秘密警察机构——围绕他们个人构建的档案。时至今日,据估计仅有10%的人真的去翻看了自己的“黑材料”。

2007年,詹姆斯·华生 (James Watson),脱氧核糖核酸 (DNA) 双螺旋结构的发现人之一,要求医疗机构不要向他提供任何有关其本人载脂蛋白E(ApoE) 基因的信息,该等位基因是阿尔兹海默症(俗称老年痴呆症)的已知风险因素之一。

民意调查中,大部分人表示即便能知道自己确切的死亡日期,他们也宁愿选择不知道——就连大喜事的未来日期也不想知道。

上述都是“有意无知” (willful ignorance) 的例子。 苏格拉底可能是说过“未经审视的人生是不值得过的”,霍布斯也许是认为“好奇心是人类的主要欲望”,但也有许多非常古老的故事,教诲我们知道得太多同样危机四伏。从亚当和夏娃偷尝智慧之果,到普罗米修斯窃取火的秘密,这些故事告诉我们,生活需要在选择知道和选择不知之间达到微妙的平衡。

放慢脚步?:硅谷文化将“快速投入实验”视为金科玉律,但在处理我们的个人数据上这恐怕事与愿违。 图源:Frederic Legrand - COMEO/ Shutterstock.com

但若是一项技术的出现,对这种平衡造成难以预料的改变,并打乱我们何时保持无知的决定,又该怎么办呢?这项技术就在眼前:它叫做人工智能 (AI)。

AI可以从大数据当中找到规律,再运用相对较少的数据进行比对。例如,只需要分析几条Facebook“喜欢”,就可以预测你的个性、种族和性别。另一种计算机算法号称仅基于他们的照片就可以区分同性恋和异性恋男性,准确率高达81%,区分同性恋和异性恋女性的准确率为71%。一种名为COMPAS(“替代制裁的惩教罪犯管理画像”)的算法,可以从青少年逮捕记录、家庭暴力记录、受教育程度、社会孤立程度和休闲活动当中预测犯罪分子的累犯行为,准确率为65%。

在上述每一个案例中,结论的性质都与所用数据的性质发生了惊人的背离(即便部分结果的有效性仍在争论中)。 这使得我们很难控制自己所知的信息。在这个领域当中也没有监管条例可以帮助我们选择“不知”:“无知的权利”并不受到保护。

这就助长了一种“快速行动、横冲直撞” ("move fast and break things",Facebook的老座右铭) 的社会氛围。但是一旦涉及到我们个人隐私的细节,“横冲直撞”真的是我们想做的事吗?

本篇为免费文章,请登录后阅读完整内容
登录后添加评论...