我们是巨头算法的奴隶

大家知道么,谷歌有一个神秘实验室 Google X。

这个实验室一直调研并实践着谷歌最前沿,最大胆,最不可思议的项目。

譬如,增强现实眼镜 Google Glasses,通过热气球建立起遍布世界的互联网 Google Loon,无人机送货项目 Google Wing,还有已经声名大噪的无人车 Waymo。

前几天,美国著名杂志 The Verge 公布了一个从谷歌内部泄露的视频 —— 《 The Selfish Ledger》,引起轩然大波,它就是在 2016 年由 Google X 实验室设计负责人制作的。

一如既往的高科技,但是也让人胆寒发竖。

视频的开头从生物学家 Lamarck 的生物演化理论引入,每个生物会通过基因来将自己的特性传递给下一代,由此影响下一代的生理特性。

而人类在互联网上产生越来越多的数据,行为、决定、喜好、运动、人际关系。。。所有这些数据,可以累积成一个数据 Ledger( 账本 )。

这个数据 Ledger,跟上面提到的基因十分类似,它不仅构成了我们自己本身,还包含我们不断演化的所有过程,然后它还可以传递给其他人。。

改变一个生物的基因,就等于改变了这个生物;那么改变了数据 Ledger,也能改变一个人。

在谷歌举的例子中,人们在打车时,Ledger 主动给你推荐更加环保的 Uber Pool( Uber 拼车 )。

在你选择食物的时候,它主动给你推荐本地的水果。

这些推荐,并不是人为干预的,而是 Ledger 出于自身目标做出的决策。

如果你想减肥, Ledger 除了给你制定一个减肥计划,它还会做更多。譬如它想知道这个减肥计划的效果怎么样。。

这时候,它发现自己没法得到你的真实体重数据。

怎么办呢?

很简单,Ledger 会在广告推送算法中,不断尝试给你推荐各种各样的体重秤,直到拿到你的体重为止。

是的,Ledger 缺什么,它会主动想办法得到它。

不止于此。

数据可以在人与人之间互传,新的用户可以从上一代的行为和决策中获得经验。

Ledger 不断挖掘数据的潜能,对未来的人的行为预测会越来越准确。

视频中,旁白表达了一种意思,Ledger 可以通过修改 Ledger 本身的模型,从而影响整个人类群体的决策、行为和思想。

也就是说,程序会自我进化,是不是有一种末日 AI 既视感?

其实,用数据控制人们的行为,离我们并不遥远。

其实前阵子,剑桥分析公司 Cambridge Analytica 利用 Facebook 上 1600 万人的社交数据,直接影响了美国大选和英国脱欧大选结果

何况是 Google 这种覆盖全球,几乎是除了中国大陆以外,所有地区使用量最高的互联网搜索引擎。

它可是拥有全世界最多的个人数据。

差评君看了一下,Google 真的忠实记录了我的每一个行为。

往好的方面想,掌握了人类这些数据,Ledger 可以打造一个人人充满爱,人人奔小康、路不拾遗,夜不闭户的社会。

但是往坏了方面想,人类的未来可能很大程度上都会受一个程序的主导了。

虽然技术无罪,技术中立,但是看看国内的例子吧。。

成长初期的快手,今日头条,代码本身是并不能分辨内容的好坏,但是为了流量、阅读量,最后结果都走向推荐猎奇、低俗内容来抓人眼球,带来盈利的路子。

所以,差评君不知道,一旦 Google 给 Ledger 背上了盈利 KPI,那。。。它会不会因为短期目标,而自身发展出一种策略,故意引导人们作出错误选择,了解错误的信息,发展错误的舆论呢。。。

现实版《 黑镜 》?

视频被报道后,谷歌赶紧发表了声明,这个视频的内容只是几年前一个设计团队的想法,他们故意提出这些令人不舒服的思想和概念,来促进大家的讨论辩论。

Ledger 这个概念和目前以及未来所有的产品都没有关系。

谷歌虽然这么声明,但是人们挖到了谷歌几年前和这个概念很像的一个产品 “ 检测和纠正用户行为中的潜在错误 ” 专利 。。

它里面举了一个例子,它可以根据你在 Google 中的数据,在你并没有要它导航时,依然会在发现你走错路时提醒你。

当然,这肯定少不了收集你的各种数据。

未来,也许摆在我们面前的问题不再是愿不愿意用隐私换便利,而是愿不愿意为便利而受控制。

来源:差评 WeChat ID:chaping321

未经允许不得转载:博海拾贝 » 我们是巨头算法的奴隶