算法与AI的暗黑面:3星|《算法的陷阱》

左其盛
2018-06-25 21:21:10

全书讲算法与AI的暗黑面:价格歧视、导致算法军备竞赛、导致商家降价冲动降低、平台作恶(向劣质商家收费导致品质下降、与开发商一起分析用户隐私)等。

作者从商业、法律、经济等三个方面做了相关分析。基本结论是法律还不能及时有效制裁算法的暗黑面。

读后感觉不够深入。讲的这些暗黑面,大部分是已知的。

算法导致商家失去降价动力的“电子眼场景”中,作者假设主要竞争参与者都能收集到全部数据,一方降价后另一方马上跟进,导致主动降价者降价带来的收益非常低,因此各方没有降价的冲动。这个推导我认为逻辑不严谨,主动降价一方可以是提高了生产效率获得了更高的利润,发起价格战降低对手利润率。这个场景仅限于作者的想象,给出的实际案例是一个交通封闭的度假小岛“马撒葡萄园岛”。

篇幅比较长,不过有30%的篇幅是注释。

总体评价3星,有参考价值。

以下是书中一些内容的摘抄,#号后面是kindle电子版中的页码:

1:对已经掉队的沃尔玛来说,遗憾的是,它那为人称道的运营效率实难为大数据分析与动态定价模型输血。#314

2:当亚马逊与其他电商将他们的定价策略推广到所有商品门类时,不论对实体商铺,还是对各大

...
显示全文

全书讲算法与AI的暗黑面:价格歧视、导致算法军备竞赛、导致商家降价冲动降低、平台作恶(向劣质商家收费导致品质下降、与开发商一起分析用户隐私)等。

作者从商业、法律、经济等三个方面做了相关分析。基本结论是法律还不能及时有效制裁算法的暗黑面。

读后感觉不够深入。讲的这些暗黑面,大部分是已知的。

算法导致商家失去降价动力的“电子眼场景”中,作者假设主要竞争参与者都能收集到全部数据,一方降价后另一方马上跟进,导致主动降价者降价带来的收益非常低,因此各方没有降价的冲动。这个推导我认为逻辑不严谨,主动降价一方可以是提高了生产效率获得了更高的利润,发起价格战降低对手利润率。这个场景仅限于作者的想象,给出的实际案例是一个交通封闭的度假小岛“马撒葡萄园岛”。

篇幅比较长,不过有30%的篇幅是注释。

总体评价3星,有参考价值。

以下是书中一些内容的摘抄,#号后面是kindle电子版中的页码:

1:对已经掉队的沃尔玛来说,遗憾的是,它那为人称道的运营效率实难为大数据分析与动态定价模型输血。#314

2:当亚马逊与其他电商将他们的定价策略推广到所有商品门类时,不论对实体商铺,还是对各大电商来说,为了确保自己不在这一轮营销竞赛中落败,它们都会竞相将定价算法技术纳入自己的信息技术支持部门,而亚马逊在该领域的开拓可以被看成是“大数据军备竞赛”的缩影。#338

3:2015年,一则新闻引起了人们的注意:美国司法部向反垄断律师、经济学家与相关领域的研究人员发出了警告,提醒后者留意一些企业暴露出来的非法使用复杂定价算法的问题。同时,几家在亚马逊网站上售卖明信片的贺卡制造商被美国司法部指控非法操纵市场价格。#796

4:当定价算法取代了以往的秘密会议与谋篇布局,高管有时甚至没有意识到自己是在犯罪。作为中间人的计算机顺带洗刷了他们的罪行。#854

5:目前,优步的定价算法已被称作“算法的垄断”,原因在于它只是真实市场价格的一个假象。21在使用中,优步的合作车主并不和乘客议价。取而代之的是在“没现金、无小费、省麻烦”政策的安排下,由定价算法确定的乘车资费将自动从乘客的信用卡中被自动划款。#1006

6:如果企业自行开发的定价算法程序可以迅速捕捉到竞争对手的降价信息,并及时做出回应,那么恐怕鲜有企业还可以从降价中得到甜头。毕竟,短暂的价格优势网罗不住太多客户。相应地,企业降价的冲动也会不断消退。就这样,一个意在促进竞争的油价查询App终于沦为寡头垄断企业手中的工具。#1270

7:2014年,SEC首次对使用复杂计算机算法操纵证券价格的高频交易公司做出惩戒。34在此前,代号为“飞来横财”的算法程序参与了“逐日盯紧收盘价”(Marking the Close)的行动。#1362

8:在电子眼场景中,假设市场中所有企业都掌握了拥有“上帝视角”的信息技术,那么市场透明度的提升会令各家公司使用的算法都不敢轻易地通过秘密降价、提高产品质量、抢夺客户等手段来拓展市场份额。原因在于,这些行动都有可能被竞争对手的算法发现,从而招致价格战或者其他报复性措施。#1434

9:但在电子眼场景中,执法者无法再依赖对犯罪意图的认定来惩处违法者。事实上,他们的执法工具箱里已经没有了弹药。更加矛盾的是,相比动荡的市场环境(价格忽涨忽跌),有些市场监管者也许还会对这种由算法普及带来的稳定市场环境表示欢迎。#1543

10:2012年,《华尔街日报》曝光了办公用品公司史泰博的价格歧视行为。记者发现,该公司线上销售平台的定价算法正在基于消费者的所在位置向其呈现不同的产品价格目录。#1705

11:一个在IT圈内广为流传的玩笑大肆宣扬了大数据分析的惊人能力:在一场重要的董事会办公会上,有位高管神色慌张地急于离场,旁人赶忙问其缘由。这位高管指着自己的手机说道:“我刚收到一连串报警装置和安保系统的广告,我猜我家可能被盗了!”#1967

●是谁在收集有关我们的信息?●我们的个人信息又被用在哪些方面?●还有谁可能接收到我们的个人信息?●这些个人信息能够在多大程度上代表我们个人?●我们被分在了哪个客户分组当中?●收集个人信息的手段都有哪些?●数据质量如何?●我们如何控制个人信息的收集和传播?直到本书正式出版的时候,在世界上大多数司法管辖区(包括美国),个人是无权查阅这些个人信息的,更别提对它们做出修正与辩驳。#2190

12:在一系列的调查研究中,消费者往往将商家的价格歧视行为视作“道德上的污点”:#2379

13:由此可见,在追求完美行为歧视的路上,企业实施的客户分组和行为定向会酿成对消费者的实质性歧视。#2468

14:总结以上内容,即便竞争就发生在天涯若比邻的线上市场,互联网平台仍有办法拉低用户体验与服务品质。尤其,(1)当互联网平台有能力和经济动机去劣化质量;(2)消费者又无力准确评估这种质量的下滑;(3)外界也难于让消费者感受到这种内在质量差异或者说服他们改弦易张,改投其他卖家的怀抱。#2677

15:在MFN条款与代理分销模式组合的“双重威慑”下,降价的企图总会遭遇失败,就算是不惜赔本赚吆喝的新入行者也休想赢得可乘之机。#2717

16:有趣的是,超级平台既没有禁止优步在后台运行的情况下追踪用户位置信息的行为,也没有对其搜集用户通信录信息的做法提出异议。事实上,谷歌倒是为优步的数据采集活动开了后门。#3089

17:例如,对于iPhone和iPad的用户来讲,我们可以在使用Safari浏览器时使用广告拦截技术来限制行为广告。但同样的方法并不能套用在iOS系统的第三方应用程序上面。为什么会有这样的差别待遇?#3207

18:那么到头来,谷歌究竟把谁踢出了局?是那款会偷偷摸摸追踪用户地理位置信息的手电筒App,还是那个给予用户保护自身网络活动隐私权的App?答案是Disconnect。如今,Brightest Flashlight Free仍在GooglePlay商店上傲视群雄。#3347

19:为了提高用户在一个手电筒应用程序上的广告点击次数,谷歌与黄金海岸线科技公司摇身一变成为一致行动人,它们要对用户感兴趣的广告类型做出预判,以切实提升自己的广告收入。#3427

20:在2014年年度报告中,谷歌提及了种种可能对其业务模式、财务状况、业绩表现、现金流状况及其股价波动带来不利影响的风险,“新研发的广告拦截技术”位列其中。#3517

21:同样,脸书也向投资者发出警告,线上隐私保护技术的精进会对脸书的商业模式造成威胁。和谷歌一样,脸书的绝大部分收入来自广告业务,并且呈逐年上升之势。#3523

22:与虚拟助手的互动越多,我们就越变得疏于使用搜索引擎、比价网站或者翻看旁人给出的产品评价和其他获取资讯的工具。语音激活与沟通的便捷性限制了我们接触外部选择的机会。#3677

23:然而,正如我们在前述案例中见识到的那样,超级平台可能会出于保护自己公司利益的目的而蓄意拉低搜索结果的质量。于是,也难怪保守派人士会剑指脸书的热点新闻工作组,指责对方曾在2016年美国大选中故意忽视一些保守派关心的话题,从而抑制保守派观点的传播12(对此,脸书表示否认)。#3748

24:作家迈克尔·刘易斯在《高频交易员》一书中讲述的故事就真实发生在股票交易所中。当传统的投资者(养老基金、私人投资者诸如此类)还在根据他们所见的市场价格做出投资决策时,呈现在计算机屏幕前的股价却早已不是当前时点的股票真实价格。#4134

25:所以,留给我们的政策空间还有多少?行政干预的反对者称反托拉斯法并不适用于今天的数据驱动市场,而现有的执法工具也无法为执法机构的出手干预提供依据。#4218

26:在欧洲,执法者已经实践了这些设想。一般意义上的隐私权,尤其是用户个人隐私,被视为公民的基本权利。这其中,发挥重要作用的是欧盟《一般数据保护法案》(General Data Protection Regulation)。#4283

27:政府可以通过吸引更多参与者进入某个行当,从而扰乱市场中现有的默许共谋与行为歧视。一个有效的方法是为编写反制措施的算法开发商发放补贴,从而重塑市场竞争机制。#4297

28:与之相似的一种手段是扶植卖家中的“价格叛徒”。这类异见者往往会率先采取降价措施(或是抵制竞争对手的抬价企图),又或者率先扩大产能。#4305

29:因此,脸书一直在试图将我们架上“数据跑步机”,努力生产数据。比如,自2015年5月以来,为了促进用户的在线交流与分享,脸书根据用户的点赞内容和位置信息,在用户新闻流的显要位置安排弹出与之相关的“热点趋势”。#4429

30:就在美国联邦贸易委员会对谷歌展开滥用市场支配地位的调查事实被曝光前一周,谷歌额外聘用了12家游说公司,60而当年的游说费用支出也增加了88%,从而使谷歌成为“试图影响联邦政府决策的前十大金主”。#4605

31:对于那些熟识“运作流程”的经济学家、政治说客和反垄断顾问来说,他们对于模糊的法律标准欢迎之至,因为这为他们打开了一个劝说行政机关不要介入反竞争场景的窗口。#4641

32:人类学教授戴维·格雷伯(David Graeber)指出,“如果1%的人口控制着全球大部分的可支配财富,我们所谓的‘市场’实际上反映了他们对待事情的看法”。#4644


更多良心书评参见我的公众号:左其盛经管新书点评

0
0

查看更多豆瓣高分好书

回应(0)

添加回应

推荐算法的陷阱的豆列

了解更多图书信息

豆瓣
免费下载 iOS / Android 版客户端