伦敦大学学者呼吁人们应加强对计算机算法监管

【环球网综合报道】英国《卫报》9月17日报道刊发伦敦大学学院城市的数学讲师汉娜•弗莱(Hannah Fry)博士的文章，呼吁在当今科技被越来越多协助人们完成各种各样工作等同时，人们也应对其加强监管。

以下是对其文章的编译：

一位名叫罗伯特•琼斯(Robert Jones)的男子因听信导航的错误指示而撞上木栏险些掉下悬崖。事后，罗伯特表示，导航显示这条路是前往加油站的捷径，所以他就相信了，“毕竟我没有理由不相信导航，也没有想到导航竟然会指引我开到悬崖边。”而这种盲目信赖科技产品的错误，几乎每个人都会犯。人们不断地追求自动化和科技创新，但是这也让人们养成了盲目信赖科技的习惯。

当今时代，计算机算法为人们提供了各种方便又准确的信息，让人们免于进行复杂的思考。人工智能已应用于医院、学校、商店、法庭、警局等地方，利用人们的数据来代替人们做决定。这种科技的发展具有巨大的社会效益——它可以帮助我们诊断乳腺癌，捕获连环杀手，避免飞机失事等。

但是算法同样也有破坏性、以及引发不公正和不公平的可能性。如果人们允许这些有缺陷的算法来代替人类做决定性的决策，人们必须想好当情况变遭时会发生什么。

2012年，由于美国卫生福利部投资运用的一款软件“budget tool”算法逻辑错误，导致美国爱达荷州16名残疾居民每人均被削减了上千美元的护理预算，而另外一些人的预算却被增加。审核机构事后发现，该软件的算法、数据计算错误百出，一直都是在随机发放福利。由此，我们所有人都不得不对机器决策导致的不受限制的权力感到恐惧。

在当今社会，对AI和算法的约束明显不足，那些针对发明而作出的大胆而又未经证实，甚至是不负责任言论比比皆是。对此，唯一的解决办法就是利用监管规则来监控算法。最好的方法就是托尼•本(Tony Benn)为超能人设置的五个问题：你有什么能力？你的能力是怎么得来的？你会为了谁使用你的能力？你效忠于谁？人们怎么摆脱你？因为最终我们不能单独考虑算法，我们也要考虑到算法出错时带来的危险，以及使用者运用这些算法时会引发的危险。(实习编译：王鑫 审稿：谭利娅)