读算法的陷阱:超级平台、算法垄断与场景欺骗笔记15_虚拟助手

1. 虚拟助手

1.1. 站在全球视角,这些公司是:亚马逊、脸书、谷歌和苹果

1.1.1. 苹果的Siri

1.1.2. 亚马逊的Alexa

1.1.3. 脸书Messenger应用上的M

1.1.4. 谷歌语音助手Assistant

1.2. 借由人工智能技术,虚拟助手将对用户的个人电子档案、日常行为等数据进行分析整合

1.3. 我们的时间宝贵,不应被浪费在生活琐事之上

1.3.1. 超级平台的目标和实践路径非常清晰:在它们所预见的未来里,人们无须为生活琐事太过费心

1.3.2. 免去了周遭生活琐事环绕的纷扰,用户可以既高效又有生活品质地管理自己的时间

1.4. 管家的重要职责在于揣摩主人的心意,熟识他的生活习惯,并在私下协调组织其他用人完成这些工作

1.4.1. 与管家的职责相近,人工智能的虚拟助手也将成为我们与生活琐事的交互界面

1.4.2. 一名专业管家的所长,熨帖地料理我们的生活,满足我们的需求,不让我们为此操心

1.4.3. 各大超级平台开发虚拟助手的终极愿景,通过语音或文字的交互方式成为我们首要并且唯一的生活助理

1.5. 在智能助手兴起的进程中,我们已经察觉到了两处深刻的转变

1.5.1. 这项技术正在由被动回应转变为主动出击

1.5.1.1. 虚拟助手开始主动预测我们的需求,而非原地待命

1.5.1.2. 不论是线上还是线下,虚拟助手简化了用户为完成某项任务所需的工作步骤

1.5.2. 巨大的风险也正在与人工智能的技术发展相伴而行

1.5.2.1. 当我们从移动互联网世界走向人工智能主导的平台时,我们将主要与虚拟助手进行交流

1.5.2.2. 通过机器学习,后者可以越来越好地“把准我们的脉”

1.6. 躲在理想助手背后的却是一个最终可能损害我们利益的精密机器

1.6.1. 在我们不知情的情况下,“私人管家”可能会在暗中推动默许共谋,并“号召”零售商团结起来向完美行为歧视靠拢

1.6.2. 当虚拟助手的工作越发得心应手,它也将被赋予更多职责,进而强化超级平台对我们所见所闻与消费决策的干预

1.6.3. 我们对虚拟助手的依赖越重,我们所能获取到的外部选择就越少,超级平台因此排除异己,操控我们的虚拟世界

1.7. 反垄断执法机构手中缺少一个标尺来判断这期间是否存在产品质量的下滑或是对垄断势力的暗中助长

1.7.1. 如果用户继续对自己的网络活动疏于提防,执法机构的政策与工具箱也一成不变,那么超级平台对虚拟助手的操控将成为一个大概率事件

1.7.2. 在低信息开放度、高个性化的交互界面中,具备高度自主性的算法将给反垄断执法带来更多挑战

1.8. 不论是在法制层面还是在人类的认知层面,执法机构与民众都被超级平台所俘虏,没人意识到这些风险,而我们将在对科技进步的欢呼雀跃中缓慢步入真实的“楚门的世界”

2. 作恶

2.1. 在多边市场中,享用了免费服务的我们并不直接为虚拟助手的服务付费

2.1.1. 虽然人们会怀着开放的心态欢迎这种个性化体验,并逐渐与之建立起亲密关系,但它的“心”和根基却始终在其真正的主人那里

2.1.2. 如果我们双方的利益契合,那么这将是个皆大欢喜的局面

2.1.3. 我们有时甚至根本就察觉不到自己与超级平台之间的分歧

2.2. 我们留意到了人机交互界面的更替

2.2.1. 当有一个热切的(还不收取费用的)私人管家在侧,我们不免会对其产生依赖

2.3. 与虚拟助手的互动越多,我们就越变得疏于使用搜索引擎、比价网站或者翻看旁人给出的产品评价和其他获取资讯的工具

2.3.1. 和大多数人一样,我们习惯于使用手机的默认设置

2.3.2. 如果用户开始不再直接参与搜索与(一部分)决策过程,那么就意味着权力之棒被间接交给了超级平台

2.3.3. 虚拟助手可能会在向用户推荐产品和解决方案时自行发挥

2.4. 基于海量个人数据的获取与分析,虚拟助手已在与用户的互动过程中成长为一个可靠的私人管家,这也在无形之中抬高了用户的转换成本

2.4.1. 超级平台所能为用户提供的个性化体验是其他中小型企业所无法媲美的

2.4.2. 作为虚拟助手的真正雇主,超级平台所能攫取到的用户数据极为可观

2.4.3. 超级平台已经投入了巨大的人力、财力、物力用于追踪用户行为数据,并以此充实自己的用户个人信息数据仓库

2.4.4. 通过为用户提供一款虚拟助手软件,超级平台可以获得更多维的用户数据

2.4.5. 随着超级平台实力的增强,破坏市场竞争秩序的风险等级也再度提高

2.5. 行为歧视场景

2.5.1. 收集到了更多用户数据的虚拟助手将会更好地对用户的消费能力和偏好做出分析研判

2.5.2. 它的目标是将适合我们的产品和服务以适当的价位呈现在我们面前

2.5.3. 由于这种个性化辅导是为我们的孩子量身打造的,所以我们无法判断这笔辅导费用究竟是市场公允价格还是恰好契合了我们的支付能力

2.6. 由算法驱动的共谋场景

2.6.1. 当虚拟助手充当起了用户日常生活消费的协调组织者时,它俨然就是中心辐射式共谋的枢纽中心,令所有零售商分支上行下效

2.6.2. 虚拟助手可以从促成的每一单交易中抽取佣金,那么高价产品与服务势必意味着更高的佣金回报

2.6.3. 随着虚拟助手逐渐融入我们的日常生活,用户再难绕过它的存在而主动去发现一款低价商品

2.6.4. 贴心的私人管家却总能在关键时刻用意料之外的折扣码来为我们制造惊喜

2.6.4.1. 这样做实则是为了惩戒那些自行采取降价销售策略的零售商,令后者再不敢轻易背叛这个定价团体

2.7. 竞合场景

2.7.1. 在多边市场,虚拟助手打着“个性化”的名义,明晃晃地为自家生态系统里的产品摇旗呐喊,然后又不露声色地驱赶走了竞争对手

2.7.2. 超级平台强者越强,独立应用程序则将走向式微

2.7.3. 准入门槛的抬高令经济与政治力量被汇聚到了更少人的手中

3. 操控

3.1. 一旦我们对虚拟助手形成了依赖,它将有机会了解到用户的社会阶层、政治观点、日常行为以及对种种事物的成见与看法

3.1.1. 我们对免费的服务心怀感激,但是我们无法准确知晓所要为其付出的代价

3.2. 它的种种行为是出于帮助我们的目的,还是仅仅在操纵我们的日常行为

3.2.1. 它已经悄无声息地为用户筑起高墙,令后者无缘接触到超级平台生态系统外的广阔选择

3.2.2. 它会暗中监视用户的聊天记录,以确认我们是否对它的服务(或是提供的产品折扣)不甚满意

3.3. 虚拟助手的普及不仅会改变我们的消费方式与生活方式,它还会对我们的世界观产生影响

3.3.1. 已在我们日常生活中扮演多重角色的虚拟助手或许正在重塑我们的世界观

3.4. 一个值得信赖的私人助手会令其真正的雇主享有终极权力

3.4.1. 对人类的认知施加影响并引导舆论

3.4.2. 通过影响人们对世界的看法来干预政治选情

3.4.2.1. 通过操纵搜索结果排名,“谷歌的搜索算法可以轻易地将未决选民的投票偏好提高20%或更多,在特定人群中,这个数字甚至会达到80%,而没人知道他们的政治立场正遭到互联网企业的操纵”。

3.5. 作为资讯入口的看门人,备受用户信赖的虚拟助手将协助其背后的真正雇主从智识上捕获用户

3.5.1. 虚拟助手会对信息进行筛选后推送给用户

3.5.2. 越来越多的人却开始依赖超级平台的算法为其推荐自己感兴趣的文章

3.5.3. 当定价方式趋于个性化,市场中将缺乏一个能被视作标尺的公允价格

3.5.4. 个性化的新闻推送令读者难以察觉系统后台对推送内容的筛选和审查,人们想当然地会认为旁人接收到的新闻会与自己不同

3.5.5. 用户之所以倚重超级平台,部分原因在于他们相信超级平台提供的算法可以公允地为他们提供与被搜索问题最为相关的答案

3.5.6. 由数据驱动的网络效应、庞大的数据库、复杂精妙的算法、纵向一体化战略、多元化的服务种类与超强的系统互通性似乎照亮了超级平台的未来

3.6. 倘若虚拟助手会蓄意引导社会舆论向有益于超级平台的方向倾斜,我们恐怕也恍然不知

3.6.1. 虚拟助手将与我们如影随形,我们甚至感受不到它的存在

3.7. 随着我们越来越依赖于虚拟助手,它给我们带来的负面影响也正被看淡

3.7.1. 你必须习惯性地假设自己的每点声音都有人监听。除非身在暗处,否则一举一动都有人监视。这种习惯已经成为本能,生活早已如此。

3.7.1.1. 《1984》乔治·奥威尔(George Orwell)

4. 纯净版虚拟助手

4.1. 纯净版虚拟助手会在行为歧视暗中作祟,在我们险些忽略更好的外部选择,在我们的个人信息数据遭到泄露时向我们发出警告,它甚至可以在用户面对这类风险时采取反制措施以保护我们的利益不受侵犯

4.2. 它将成为守护用户利益的屏障,时刻记挂着我们的喜好,守护着我们的个人隐私安全

4.3. 你是选择了一款不会收集用户信息,保障用户隐私不被侵犯的引擎(比如DuckDuckGo),还是超级平台生态系统内的那款会为你提供个性化搜索结果的引擎

4.4. 可能的后果将为纯净版虚拟助手的诞生制造不小的阻碍

4.4.1. 为了做好自己的工作,虚拟助手必须清楚地知道用户的生活习惯与喜好

4.4.1.1. 脸书M的基础代码和算法主要是开源的

4.4.1.1.1. 这是因为虚拟助手的核心资产并非算法(否则脸书怎么会无所介怀地开放这些资源),这项业务的真正价值体现在数据的规模与算法的机器学习能力上面

4.4.1.2. 从实际效用上来讲,用户可以帮助超级平台的算法主动发现并纠正模型中的错误

4.4.1.3. 只有少数公司拥有相应规模与维度的个人数据以及利用真实数据进行模型校验的机会,来让它们的虚拟助手产品从理想走进现实

4.4.2. 由数据驱动的网络效应还将进一步激化超级平台之间的竞争

4.4.2.1. 超级平台的目标是要让自家的虚拟助手成为我们独家的私人助理

4.4.3. 借助虚拟助手这个一体化问题解决方案,超级平台得以高效地整合它的产品线与服务,并将自己的主打产品推向消费者

4.5. 我们要学会主动控制交互界面中应用程序的隐私权限,并且懂得“免费也有可能很昂贵”这个道理

热门相关:校花之贴身高手   来自异世界的诺诺   我能看到隐藏机缘   重生嫡女谋天下   万妖帝主