投稿问答最小化  关闭

万维书刊APP下载

洪杰文、陈嵘伟 | 意识激发与规则想象:用户抵抗算法的战术依归和实践路径

2022/9/28 15:54:03  阅读:193 发布者:

内容提要

论文聚焦移动新媒体用户的算法意识及其算法抵抗行为,从内生体验的角度出发,运用深度访谈与扎根理论的方法对用户的算法意识、算法想象及算法抵抗行为进行全流程考察。研究发现,特定情境下的算法意识激发与基于“相关性”的算法规则想象是用户底层战术表达得以成为可能的重要因素。在日常使用中,用户通过将算法推荐结果与自我情境、兴趣及行为进行相关性比较,感知算法存在并“想象”其运作规则,当其遭遇信息诉求未满足、负面的体验评估以及自我隐私管理失控的情况时,既有的算法意识与规则想象得到激活、颠覆或强化,用户据此组织和实施以数据归类与数据干预为代表的获得式抵抗战术或以数据隐藏和数据阻断为代表的防御式抵抗战术。伴随着动态浮现的算法意识,通过对算法的执行后果加以逆向追问,人与算法形成绵延不绝的治理性缠斗。

关键词

算法推荐 算法意识 算法抵抗

正文

一、引言

进入移动互联网时代,智能手机、平板电脑、移动视听设备等移动新媒体成为公众接入虚拟网络的主要终端,搭载其上的各类移动新媒体应用(APP)也正日益成为受众获取信息、进行娱乐和展开社会交往的重要平台。当下各类技术公司争相将算法运用到自己的产品之中,一系列以算法为基础架构与运行机制的数字应用如抖音、快手、今日头条纷纷出现,发展势头迅猛。与此同时,算法带来的一系列价值伦理问题也逐渐引起社会反思。算法本质上是平台用于增强用户黏性,进行商业变现的工具,其推荐服务在搜集和处理用户数据的基础上无限趋近用户个人喜好,从而提高用户的使用时长和使用依赖。由于算法运行的“黑箱化”,普通用户很难对其运作机制产生明晰完整的认知,甚至在日常使用的过程中难以注意到算法的存在,对可能遭遇的风险缺乏警觉。尽管如此,在无处不在而又“隐于无形”的算法面前,用户能够通过多种途径感知其带来的种种风险与负面体验,并在使用过程中主动采取行为加以规避,例如刻意点击不相干内容、不评论、不点赞等等。这些“不配合”算法的抵抗行为展现了用户在自我数据管理方面的主动角色,凸显其对算法运行规则的认知理解程度,标志着用户自主意识的觉醒。

当下学界已经关注到用户这种与算法“斗智斗勇”的使用方式,并围绕其特定抵抗战术展开研究,但主要以“是什么”作为考察重点,包括对隔绝算法产品、重组算法规则、反向控制算法、重塑算法身份等行为的描摹,而较少关注“为什么”的研究,即用户为什么要抵抗算法?他们是如何抵抗算法的?用户的抵抗又是如何成为可能的?这些问题是本研究关注的重点。通过对移动新媒体用户抵抗算法影响因素的研究,能够对帮助用户摆脱技术无意识状态,达成算法善用具有一定的帮助。因此本研究从用户内生体验的角度出发,对曾经或正在抵抗算法的移动新媒体用户进行半结构化访谈,探讨促使其抵抗算法的影响因素。

二、文献综述

(一)作为规则维护工具的算法和“无意识”的用户

吉尔·德勒兹认为,现代数字资本主义社会是一种通过数字语言实现控制任务的控制社会。算法在其中扮演着关键角色。算法是基于用户将如何行动和行动意味着什么的潜在假设来理解用户行为的,通过对用户行为即时且精准的识别,进而将其需求纳入代码运算中,算法在此基础上实现服务提供与程序循环。在此过程中,偏离规则的用户行为如刷好评、搜索优化、诱导分享等往往意味着难以识别,会对算法系统的常规运作形成威胁,并破坏系统运行结果的完整性。因此算法是一种防止偏差出现的管理机制,为了最大程度取消偏离规则的用户实践,算法也可以被视为是推动行为规范的治理工具。

通过日常使用中的规则维护与行为引导,深度嵌入现代生活的算法逐渐将其技术规则发展为知识体系,并浸入用户意识促使其陷入“技术无意识”状态。学者比尔(Beer)首次提出“技术无意识”,用来表示信息技术在不知不觉中形塑着我们的日常生活。多项研究表明,大量算法推荐类APP用户并不知晓算法的存在及其影响。伊斯拉米(Eslami)等发现,在40位接受访谈的Facebook用户中,不知道其所浏览的内容是由算法选择的人数达到25人。黄忻渊对1075名今日头条使用者进行问卷调查发现,67%的用户在使用时可以感知到推荐算法,但对其背后的运行规则并不了解。技术意识的缺乏使得算法对个体的钳制不断加剧,同时也剥夺了用户适当调整推荐结果的能力。另一方面,当算法的存在对用户而言越发习以为常,其也会再次融于使用环境,变得难以察觉。

布拉希姆(Brahim)等将算法意识定义为人们对算法在特定媒体环境中的行为的准确感知程度,以及算法对用户消费和体验媒体内容的影响,并将用户的算法意识分为内容过滤意识、自动决策意识、人机交互意识及道德考虑意识。方正指出,公众对算法环境的认知不在于拥有阅读构成算法的代码与程序的能力,而是指向用户对算法运作流程的了解程度,有学者认为,对算法如何运作感到好奇也是算法一时的体现。格兰(Gran)指出,意识到算法的功能和对平台、服务和搜索引擎的影响,并能够有意识地和批判性地与其互动,应当被视为一项重要的能力。综上,算法意识指的就是用户在使用移动新媒体应用的过程中,对其算法系统形成的不同程度的认知与理解,包括算法是否存在、算法如何运行以及算法可能造成的风险等诸多方面内容。

尽管算法逻辑是黑箱式的,难以追踪或质疑,但用户仍然能够通过多种途径发现相关线索。算法尤其在中断、意外和崩溃的时刻显示自己。由于算法经常以微妙且不透明的方式嵌入对象和系统中,因此很大程度上形成了只有在错误或失败时才被注意到的技术无意识。德维托(Devito)等发现,媒体报道是用户获取关于个性化推荐相关知识的重要途径。Youtube美妆博主们则主要通过相互交流和谈话等“八卦”的方式获取关于算法如何工作的信息。刘涛等发现,作为算法技术在屏幕上的“显影”与“化身”,Instagram的图像标签也有助于人们感知其算法原理和规则。正是借由对算法规则的“发现”或“再发现”,用户方能实现对算法系统的多样化使用,其中便包含对算法规则的逾越、颠覆及利用。

(二)算法民间理论与基于“想象”的抵抗战术

对绝大多数用户而言,理解算法是困难的。一方面,为保持商业领域的竞争优势,算法拥有者不会向外界过多公开关于算法的技术细节;另一方面,大多数平台的算法系统规模庞大,谷歌的算法系统代码甚至超过20亿行,这样的数量级让即便设计该算法的程序员也无法确定最终的运作结果。如果再考虑到算法于迭代升级方面的频繁性,那么其在某种程度上几乎“从不采用持久的、可观察的形式”。由于理解算法所需的专业门槛和知识壁垒,普通用户只能通过日常使用中的种种痕迹如系统新旧差异、界面功能变动等感知算法,进而理解其运作机制。与专业人士具备的技术知识不同,用户对技术变化的响应是基于他们自己的假设、期望和对系统如何工作的知识,即民间理论(folk theory)。布赫(Bucher)将其进一步总结为“算法想象”,她认为普通用户通过想象算法是如何运作的,以弥合他们对算法系统理解上的差距,并指导其如何使用算法。因此相较于揭示算法的实际工作方式,关注人们理解算法和开发干预算法的策略的方式,对于打开算法“黑箱”可能更为关键。

在形成与发展民间理论的过程中,用户也逐渐意识到自己在塑造算法运作过程中所起的作用,并开始通过自己认为正确的方式干预算法的正常运作,通过将算法重新定位并部署,以影响算法结果的输出。吴筱玫运用德赛图的日常生活实践理论,对Facebook使用者的打卡实践进行研究发现,打卡地标名称的使用与用户的心情相关,当打卡过程遭遇技术限制,用户会采取多种“战术”,将科技原始设计挪用为资源,创造出反规训的自我空间。纳迪亚(Nadia Karizat)等通过对15TikTok用户进行半结构化访谈,发现这些用户采取故意点击不感兴趣的内容、关注更多具备跨领域身份的博主、发布与自我现实社会身份相符的视频等行为,以抵制算法对其社会身份的边缘化。内格尔(Nagel)发现,为绕过算法的关键词屏蔽以实现特定内容的交流,Facebook用户会在测试屏蔽词名单后,采用“伏地魔”式的语词替换和“截屏”两种迂回方式实现交流沟通。张萌将算法受众的抵抗战术置于控制社会的技术背景中分析,发现其战术表达体现为对算法产品的空间隔绝、对算法规则的自我重组和主动嵌入、对算法逻辑的反向规训与控制。对技术知识的了解、掌握和驾驭,逐渐成为系统与用户相互协商、妥协和平衡的关键因素。

德赛图(Michel De Certeau)和斯科特(James C. Scott)发展了“日常抵抗”的思想,以研究人们在日常生活中面对主导的权力结构和霸权文化形式时,如何行使他们的代理权。德赛图提出“策略”与“战术”两个概念:策略是霸权主导者设立的规则与形成的既定结构,它要求弱者在特定的场合中呈现合适的、符合规范的行为举止;战术则是反霸权者的故意之举,指的是其在特定的场合采取的各种游击式的抵抗行为。这种反抗不是激进的革命或是全盘的推翻,而是微小的、即身的,是不需要离开权力体系就可以进行的,意即“避让但不逃离”。与将用户和算法之间的关系描述为被动的消费者和无所不能的机器不同,抵抗算法这一用户基于“想象”下的使用实践能够帮助我们更好地理解系统中个体的代理、能力和策略。

当下研究大多聚焦于用户具体的抵抗实践,研究平台分散且过于个人化,缺乏对用户“为什么抵抗”以及“抵抗战术如何制定”等问题的系统探讨。与算法抵抗行为“是什么”相比,用户算法抵抗的形成过程更具现实与理论意义,能够为用户的意识觉醒及素养培育提供参考路径,这恰恰是既有研究所甚少关注的。用户于抵抗情境下的算法意识具有更强烈的自主意涵,其目标更明确,由此产生的算法想象图谱及行动战术也更加具体,这为对其展开“为什么”的研究提供了重要抓手,即用户为什么要抵抗算法?处于“无意识”状态下的用户的抵抗战术是如何成为可能的?这种“想象”借由哪些线索发展而来?用户又是如何去利用这些线索以实施抵抗?

为回答上述问题,本研究将以算法为底层技术支撑的移动新媒体应用视为构成现代生活的“基础设施”与现代人的“日常生活平台”,将移动新媒体用户的算法抵抗视为“日常生活中的抵抗”,进而拓展了移动新媒体用户算法意识与算法抵抗的研究视野。在此基础上,本研究以算法善用为终极指向,以移动新媒体用户的主体驾驭为解决路径,将移动新媒体用户的算法意识与抵抗算法的行为联系起来,对其算法意识、算法想象及算法抵抗进行从意识至行为的全流程考察。这既为算法意识相关研究进行了有益补充,同时也为后续研究提供了可行的切入角度,能够为用户摆脱“技术无意识”状态,规避算法风险,进而达成算法善用提供可行的思路。

三、研究设计

(一)研究方法与数据收集

本研究采取质性研究方法,运用半结构化深度访谈和扎根理论进行资料收集、数据分析与理论建构。如前所述,由于算法技术强大的遮蔽性,大部分用户在使用过程中均处于“算法无意识”状态,难以敏锐感知到算法的存在及其带来的种种威胁,因此用户具备算法意识成为实施抵抗战术的必要前提。而算法意识受到自身使用体验和学历水平的影响,使用时间越长、使用功能越丰富、受教育程度越高的用户拥有更高的算法意识。

由于判定用户是否具有算法意识较为困难,因此本研究从算法抵抗行为入手,以正在或曾经进行过算法抵抗行为的用户作为访谈对象,访谈对象主要通过豆瓣“反技术依赖小组”和微信朋友圈以滚雪球的方式进行访谈对象招募。豆瓣“反技术依赖小组”聚集了34000多名想要和算法“过招”的年轻人,该小组并不是反对所有的技术,而是旨在讨论“如何规范使用大数据、算法技术,让其在有限的边界内,更好地为人服务”。综合考虑“反技术依赖小组”成员的算法抵抗行为及算法意识水平,研究者于202112月至20222月对上述方式选取的正在或曾经实施过抵抗算法的27名移动新媒体用户进行了半结构化深度访谈(访谈对象基本信息见表1)。访谈主要线上进行,每人3045分钟,每次访谈结束后,研究者即对访谈内容进行转录,并删除与主题无关的信息,共得到文本材料约98000字。

经统计,访谈对象均有超过3款算法推荐APP的使用经验,参与访谈的受访者经常使用的算法推荐类应用包括有抖音(14)、小红书(17)、淘宝(22)、微信(12)、哔哩哔哩(21)、微博(17)、知乎(6)、豆瓣(15)等,使用时长均不少于1年,学历集中在本科及以上层次。格兰研究发现算法意识水平在年龄、教育、性别、地理位置方面具有显著差异。年龄较大的受访者的“无算法意识”比例最高,最年轻的受访者的算法意识水平最高,赵龙轩等研究也指出青年群体倾向于报告较高的算法意识。而用户具备算法意识成为实施抵抗战术的必要前提,因此本次访谈的访谈对象年龄集中于1835岁,其中女性14人,男性13人。

研究者根据既有研究设计访谈提纲,并在预访谈阶段及正式访谈过程中进行不断调整。本研究的访谈提纲主要分为以下几个部分:一、受访者个人基本信息;二、受访者的算法认知,包括算法存在感知、对算法所持态度等;三、受访者实施抵抗战术的对应平台及该平台日常使用情况;四、受访者抵抗算法情况,包括抵抗原因、效果及具体战术。

1  访谈对象基本信息

(二)基于扎根理论的编码分析

1. 开放式编码

开放式编码是一个将已收集资料揉碎、打散、概念化,再重新组合起来进而界定类属、发现范畴的操作过程。在开放式编码阶段,研究者将访谈得到的23份材料导入Nvivo11软件中。通过对访谈材料的反复阅读、仔细推敲与逐句编译,共获得121个初始概念。经过对相似或相同概念的聚拢合并,并删去出现频率小于3的初始概念后,最终获得28个初始概念及13个范畴,见表2

2  开放性编码形成的初始概念与范畴

2. 主轴编码

在主轴编码阶段,研究者对开放式编码获得的13个范畴进行分类与比较,提炼得到6个主范畴,分别是:相关程度、信息诉求、体验评估、边界感知、获得性战术、防御性战术。同时对其具体内涵进行阐述,为下一步理论建构做准备,如表3所示。

3  主范畴及范畴内涵

3. 选择性编码

在选择性编码阶段,研究者对通过主轴编码获得的6个主范畴间关系进行比较和分析,并回溯至研究主题,从用户内生体验的角度出发,最终确定能够统领整个研究框架的核心范畴“移动新媒体用户抵抗算法影响因素”。之后,研究者通过探索核心范畴与主范畴之间的关系,描绘整个结构的“故事线”,并将所有范畴进行系统性联结,在此基础上构建主范畴典型关系结构,见表4。如图1所示,围绕核心范畴“移动新媒体用户抵抗算法影响因素”的典型关系结构可以表述为:相关程度、信息诉求、体验评估、边界感知是移动新媒体用户抵抗算法的影响因素。

 4  主范畴的典型关系结构

1  移动新媒体用户抵抗算法影响因素

4. 理论饱和度检验与模型建构

 

根据扎根理论的要求,为保证研究的信度与效度,研究者需要进行理论饱和度检验。一方面,受访者的算法意识水平高低不一且难以测量,因此笔者参照既有研究,以性别、学历、专业、使用算法推荐应用种类及使用时长作为抽样标准,其中部分受访者的工作与算法息息相关,如新媒体运营、直播运营及客户端程序员,因此其可被视为专业相关人员,以使样本尽可能达到最大差异的饱和;另一方面,在确定核心范畴后,研究者继续对4位访谈对象进行了访谈,并对其访谈材料进行三级编码。编码结果显示,访谈材料中的概念未出现大量重复的情况,并且没有产生新的概念,证明原有概念在访谈材料中仍然适用。因此可以认为,本研究提出的概念与范畴达到理论饱和。

 

经过三级编码,各范畴间关系结构基本确定,研究者在此基础上建构“移动新媒体用户抵抗算法影响因素模型”(图2)。分析结果显示:相关程度、信息诉求、体验评估、边界感知是影响用户采取抵抗算法行为的影响因素,获得式抵抗与防御式抵抗是用户所采取的抵抗战术。通过对算法推荐结果进行个性相关性评估,用户感知算法存在及其运作机制,其算法意识在信息诉求未满足、负面的体验评估以及自我隐私管理失控的使用情境下得到激活,进而采取获得式战术或防御式战术加以抵抗。

2  移动新媒体用户抵抗算法影响因素模型

四、研究发现

(一)相关程度:以“个体相关性”为基础的算法意识

建立在个体相关性基础上的算法意识觉醒,是移动新媒体用户抵抗战术得以成为可能和进行表达的关键。通过对访谈资料中“相关”(73次)和“类似”(46次)进行词频统计发现,“相关内容”、“推荐相关”、“xx类相关”、“类似的内容”等词汇组合散布于几乎每一位受访者的陈述中。在功能实现方面,算法通过寻找物与物、信息与信息、人与人之间的相关性来发挥中介作用以达成内容可见。在日常使用方面,用户也会将算法推荐结果与自我情况进行相关性比较,二者的强相关与弱相关均会引起其对算法的注意、反思与归因。在此过程中,用户“发现”或“再发现”算法,并对其运作机制与运行规则形成认知。具体而言,用户主要通过情境相关、兴趣相关及行为相关三种途径感知与理解算法。

情境相关指的是推荐结果与用户在现实或虚拟情境下的行动相关。虚拟情境相关主要发生于用户的跨平台使用过程中,用户发现曾产生于另一虚拟情境中的信息浏览行为如搜索、点赞、收藏等,以内容或服务推荐的形式再次呈现于其当前所使用的移动新媒体中:“只是在另一个APP上面搜索一个,只要你打开了东西,或者你在微信上面跟人聊天,就是说到要买口红之类的,然后你打开小红书,马上出现的就是口红。”(F1)相较虚拟情境,现实情境行为的发生场景私密性更高,用户对此持更高的安全意识与情境独有意识,因此当算法推荐结果与其强相关时,用户也更易发觉算法的踪迹:“我们日常的对话当中把手机放在旁边谈论到某个词汇,然后再过一会,你的淘宝中又会出现相同的或者类似的东西。”(M4

推荐结果与用户个体兴趣的相关程度也会对其感知算法存在产生影响。当推荐结果与兴趣弱相关乃至完全违背时,用户往往会产生抵触心理,并注意到推荐系统的效用。另一方面,即便推荐结果高度符合用户兴趣,运行得太好的算法也会令部分用户产生被监视甚至被利用等不适感,特别是当用户无法从他们自身所提供的数据中推断算法推荐结果时,这种情绪会引起进一步的思考。

它细致到的某一个点让我感受到了,然后我就会首先感叹它很强大,其次很不爽,就是感觉被人摸透了,而且没有经过我的同意。(F14

因为我下载过那种高校大学生的那个交友软件,不知道是什么原因,就是B站会给我推荐。因为我也没有在B站里搜过相关的信息,我觉得是它背后了解到了我别的地方……我也不知道我表达出来了类似的意思,它怎么就抓取到我了?但我没有在B站认真地搜索过什么交友这些类的信息。(F11

平台算法可以被视为经验技术,或不直接使用它们就很难理解的技术,更广泛的技术参与有助于用户了解它们。用户在日常实践中与多个平台算法的交互实践被转化为数据进入到数据流的处理及分类中,因此算法的存在和所做的事情可以被用户通过交互与观察直接识别。经由对搜索、浏览、停留、点击等日常使用行为与算法推荐结果的相关性比较,用户可以形成相应的“算法想象”,并在具体的使用情境下以行为溯源的方式进行逆向实践,用以实现抵抗目的。

我可能在那个页面停留时间比较长,停留到我看完了,然后我发现就是它老给我推荐这种沉浸式化妆……它有这个的时候,我就快速地划过。我觉得它只要停留时间不长,就说明你对这个东西它是不感兴趣的,它以后可能就会推的给你少了。(F2

因为我理解的算法就是它不是会抓取你搜索的关键词,然后去投其所好嘛,那当我在短期内去很快速地去搜索一些别的信息,比如你很不想看到一些信息,你就去搜一些跟你完全无关的,比如去搜一些婴儿用品,或者搜一些什么老年用品,这样算法就抓不住你到底是什么人。(F13

(二)信息诉求:“多变”的用户与被抑制的信息需求

在不同的使用情境下,用户对算法推荐服务具有不同的目标预期,期望的违背与否,是促使其实施抵抗算法的重要影响因素。人际互动中的期望即表现为用户对算法推荐结果的满意程度。人们利用期望来描述和构建与他人的互动,以及他们是如何感知这种互动、处理信息和随后的行为。尽管算法有别于真实人类,但古兹曼(Guzman A. L.)与刘易斯(Lewis S. C.)认为,随着自然语言处理(NLP)和自然语言生成(NLG)技术的兴起,算法也开始由单纯的“中介”成为动态参与传播的主体,并在与用户的日常互动中建立起非正式的“准社会交往关系”。在访谈中,多位受访者对算法诸如“聪明”、“如果淘宝是男朋友该多好”等人格化表述展现了这种 “类人际互动”。与人际传播中的“误解”一致,当人机互动中的算法给出错误反馈时,用户也会感到被曲解,进而唤起愤怒、焦虑、失望等多种负面情绪,并给出较低的算法评价:“我就感觉到非常的愤怒。有一种被欺骗,就你以前只是一个美女怎么突然间变成了180斤的大胖子的那种感觉。因为如果算法好的话,其实它是不会这样的。”(F7

算法的功能运作基于特定而精确的逻辑运算,将输入的数据转化为可预期结果的编码指令,进而以各种推荐形式加以呈现。通过与算法的长期互动,用户能够根据既有经验对算法输出结果进行相应判断。有研究显示,当用户能够即时获取由其操作带来的反馈时,他们对算法推荐技术的信任度和接受度也会得到提高。而“出人意料”的算法输出结果则意味着经验的失效,并引起用户对算法系统的关注,如受访者F10表示:“因为它之所以给我推荐的是这个东西,就是因为我之前搜索过,我之前经常看,所以它才会给我推荐,那我现在换了一个东西看了,换了个东西搜索了,它应该给我推荐别的,但它没有。”(F10

在此情况下,算法推荐结果往往与个人需求“差之千里”。一方面,用户出于好奇而偶然采取的信息浏览行为如浏览、搜索、点赞等被算法编码为“必然”的信息需要,进而在一段时间内频繁为其推送相关内容。例如受访者M3表示:“比如说它今天给我推荐了某个明星,但事实上我平时对这个明星从来不关注,但是由于我偶然一次点进去,它就一直给我推送。”(M3)另一方面,随着时间推移,算法推送精度会不断下降,并且难以根据用户需求进行灵活调整,用户不得不发挥更大的主观能动性方能持续获得所需结果。

人们需要借助认知模型将认知负担控制在符合目的的一定范围内,这也是人们偏好使用算法解决问题的原因。但算法对个人需求的误判及臆测却导致用户的可见内容范围被不断收窄,无关信息大量涌现,同时附带内容肤浅、同质化等问题,进一步增加了用户的信息筛选成本,导致其获得感持续降低。因无法准确获得、理解并利用信息,用户会产生严重的焦虑感。信息焦虑的长期积累最终促使其采取相应行为介入与算法的互动过程,以规避或减少违背期望的情况出现。

如果我重复看到这样的东西的话,我就觉得我已经被这种所谓的潮流裹挟了,因为它跟我想要看到的东西是不一样的,我并不想用你的这些推荐算法。我觉得确实它很敏锐,一下就发现我在看别的东西了。它都不问我到底喜欢什么,就是直接就是蔓延开来了。(F9

(三)体验评估:技术具身下的理性自我与成本控制

时间及注意力成本是用户评估使用体验的重要指标,过长的使用时间和漫游式的注意力耗散则是促使其实施抵抗的重要原因。在接受访谈的27人中,有30%的受访者(F1F4F5F7M1M5F12M10F10)表示自己曾花费大量时间和精力过度沉溺于以视频类和附带视频功能的移动新媒体应用。大多数受访者受工作、科研、学习等因素的影响,在日常生活中可供支配的闲暇时间较少,当他们希望能够更好地利用这段时间以提升自我或短期娱乐时,算法推荐恰恰成为阻止其目标达成的“时间黑洞”,与此相伴而来的是注意力的不断分散和拖延症的“发作”。

相较文本信息,用户在浏览视频内容时往往会调用更多感官,因此也更易沉浸其中。移动新媒体的视频内容主要基于算法规则进行分发,以源源不断地信息流式涌现为界面特点,用户只需上下滑动,便可以“滑”走不感兴趣的内容,或持续“滑”到自己想看的视频。这种超短的碎片化信息消费机制给人一种意犹未尽的感觉,促成用户在集中时间段的持续信息消费,极易使其陷入“一直刷一直爽”的状态中。“技术友好”的界面掩盖了背后的算法操作,此时个体感官完全受传播活动操持,不断下滑成为无意识的动作。有受访者描述自己在使用过程中仿佛进入“机械”状态。在身心完全沉溺的使用情境下,作为人与内容间介质的算法“抽身而去,完全没有被注意到,也很少被注意到”。通过具于人类身体,算法成为一种完全“透明”的存在。

刷抖音的时候就是不停的往下滑,这个不感兴趣就往下滑,就总觉得,我总能划到一个自己感兴趣的,感兴趣就停留一下,不感兴趣的就往下滑。我的那种目的,或者是我当时的那个状态,就是在不停的手指往下滑,我不太在意它里面的内容。(F10

用户于技术具身下的无意识沉溺最终被来自其身体的感知所中断,算法由此变得可见。具身总是与我们的身体相关并最终体现在我们的身体上。多位受访者表示,在长时段、高强度地使用移动新媒体后,会产生“越刷越累”、“眼睛疼”、“坐久了不舒服”等身体不适感。例如受访者M10表示,自己“看视频刷的太久了,第二天早上起来比较困难啊,犯困,精神不佳。后来我就意识到我确实要做出一些改变了,去有意识的规避一下算法对我产生的一些负面影响。”(M10

此外,用户在使用过程中因浏览算法推荐内容而引发的不良情绪,如看到自己无法忍受的“密恐类”内容,或与视频中的个体进行比较,进而产生厌恶、恐惧、焦虑等负面情绪。身体不适感与不良情绪的激发等由算法推荐技术带来的破坏性体验中断了用户在技术具身下的无意识沉溺,进而使算法从原有与人融为一体的关系中脱离出来。此时的算法中介不再具有“透明性”,其本身成为用户关注的焦点,促使用户对使用成本加以检视,并在克制自我欲望的同时采取理性行为予以抵抗。

(四)边界感知:算法中介下的隐私失控与人设管理

美国学者桑德拉·佩特罗尼奥(Sandra Petronio)在其构建的传播隐私管理理论(communication privacy management,CPM)中提出“隐私边界”(boundary of privacy)这一概念,用以描述人际传播中个人所能控制的私人信息范围。作为隐私空间的主要管理者,个体通过对自身信息范围的主观感知划定公私领域间的界限,并在此基础上处理私人信息,以建立形象、维持关系、获取社交资本。

当个体进入数字化生存空间后,算法通过对其个人信息的全时空采集、数据化处理与相关性连接进行服务提供,进而深度介入到用户个人隐私的披露对象选择与披露范围划定过程中,于无形中达成对用户隐私边界所有权管理、边界评估管理及边界拓展管理等权利的接收。隐私边界的“不确定”为用户的形象管理带来极大隐患,用户不得不在他人凝视自我展演的同时,频繁审视由算法基于数理逻辑分析而呈现的“算法人设”。

观众群体的有效隔离是个人管理私人信息,进而实现印象管理的关键。观众隔离致效的前提在于观众可被识别以及观众可被隔离。但在算法中介基于相关性的连接准则下,个人账号被推荐至其他用户页面,或个人被推荐其他用户账号,从而增大其私人账号的可见性,这往往会导致观众难以识别或非意愿观众的“乱入”。在观众混同的同时,用户所着力经营的前台和费心隐藏的后台也陷入界限模糊之中,隐私信息被程度不一地暴露在外。后台指的是个人所“竭力抑制”的“可能有损于其所要造成的印象的那些行动”。对于隐私信息的披露对象,用户往往有着明确认知,但算法主要基于相关性进行判断,二者关于信息的分享准则缺乏共同认定,因此用户很难对自身私人信息的披露对象产生预先判断。当隐私信息的流动范围无法完全被用户掌控,有效的私人信息分享准则无法被确定时,一旦遭遇关系拓展与私密内容拓展的情况,用户即面临人设“崩塌”的风险。受访者F6指出,小红书会基于既有的分享记录,向对方推荐自身相关账号:“就是我不知道我的信息会不会推给别人,因为我有些时候就不想我的那种树洞写的东西被我身边人看到……只要跟我分享过小红书链接的人,好像就是把他的账号暴露在我的那个小红书首页里,即使他没有告诉我帐号是什么。”(F6

如果说虚拟账号是用户的网络展演舞台,那么推荐页面则将这一舞台与现实相勾连。一方面,算法基于对用户数据的相关性分析,实现推荐效果的“千人千面”;但另一方面,与个人隐私相关的推荐往往会让用户在现实使用中遭遇“尴尬”的情况。受访者M6表示:“比如说加入某个成人小组,然后它给我推送了很多相关的内容,有一次是别人看我手机,然后就推送了那些成人相关的东西。”(M6)即便未曾遭遇此类情况,用户也会对相关推荐保持警觉,并对页面加以“整饰”,使其更符合用户心中标定的“理想人设”。

有时候淘宝首页上可能会给你推荐一点什么内衣呀……这些东西好像不太合适吧,一大男人如果被别人发现了,好像不太好,然后你就查一下吃的,查一下玩儿的,查一下男士服装,查一下别的东西来倒饬。(M8

(五)抵抗战术:个体经验下的主动驯服与自我克制

通过梳理访谈文本,可以将受访者的抵抗战术总结为获得式与防御式两种。获得式战术主要被用于以消遣娱乐为主的内容消费情境下,通过数据干扰和数据归类的方式,用户希望能够即时有效的优化算法服务,获得更好的使用体验,因此这一战术采用大多是短期性的;防御式战术则贯穿个体日常使用移动新媒体的全过程,用户往往将数据隐藏和数据阻断内化为个人习惯,从而最大限度地规避由算法造成的负面影响,因此这一战术采用大多是长期性的。

获得式战术与防御式战术的搭配运用,呈现出用户对算法的主动驯服和自我克制、让算法“更懂我”和让算法“猜不透”两种抵抗逻辑。看似矛盾的战术运用根源在于——作为日常生活重要构成部分的移动新媒体已经成为现代人无法完全拒绝的存在。算法与移动新媒体的深度融合,意味着对算法的完全抵制难以实现。当受访者被问及“在使用APP时,您认为自己受算法的影响有多大?请选择一个介于110之间的值”这一问题时,有23人给出超过6分的数值。多位受访者表示算法在产生诸多不利的同时,也为其工作生活带来方便。在国企行政岗工作的M10表示,自己曾因为过度使用抖音而深受“短视频成瘾”的困扰,但因为在工作中需要使用抖音寻找相关资料,所以才没有选择将其卸载。“抖音这个工具的一个便捷性是无可比拟的,所以有的时候还是得用。”(M10)因此,在对算法抱持更高的警惕意识的同时,追求更优质的服务,协商如何更好地与其接触的方式,而不是完全拒绝算法,进而完成可能风险与获得收益间的平衡,是用户实施抵抗算法的主要目的。

访谈发现,用户对抵抗战术的获知主要源于其自身的使用经验。通过对不同类型移动新媒体应用长期性的交错使用,用户于人机互动中完成对各平台算法的异同比较与差异认知,并不断构建关于算法是什么及算法如何运作的“算法想象”,凭此寻找抵抗路径,制定抵抗战术。

比如说像B站来说,它的反应就非常慢,因为我比如说我喜欢游戏,然后它就狂推给我那个东西,但是我可能隔一段时间不喜欢了,它就不会给我推很多新的内容,但是像小红书来说的话,我觉得它的响应机制可能会稍微快一些。(M2

通过和不同平台算法的交互,用户将相似的算法经验进行合并与拓展,并将相异的算法经验作为特例加以补充,其抵抗算法也因此呈现出平台间扩散与战术复制的特点。在如搜索、浏览、收藏等相似的使用情境下或如视频类、电商类、生活服务类等功能界面相近的平台中,用户会将曾经于其他平台实施且奏效的抵抗战术进行同类复制与跨平台迁移。

这个最开始还是从淘宝上养成的习惯,我觉得包括其他视频平台也是,它告诉你确实可以用这种方法把你的内容调整过来。(M8

这些抵抗战术的确认、选择与组织是高度个人化的,虽然算法决定了战术的可行性,但其并不决定用户将采用哪种战术,用户对于自我需求的理解将推动着他们在细节层面上制定战略。基于不同的互动经历,用户发展出更加私人性的关于如何抵抗以及抵抗如何奏效的“算法想象”,例如截图代替收藏、控制停留时长、浏览收藏夹、清理收藏夹、清除缓存等战术。

五、结语:

动态浮现的算法意识与治理性缠斗

当个体的数字化生存空间由算法掌控,用户的行为痕迹被强制数据化并注入数据池,作为现代生活基础设施的平台正在利用算法及其所获取的数据崛起成为新的权力机构,进入其中即意味着必须接受算法规则的支配与控制。由于算法技术本身的高复杂性与频繁迭代,普通用户很难对其运行规则形成完善认知,对其进行主动代理的难度不断增加。算法依靠数据进行计算与结果呈现,虽然其运作过程不可见且难以理解,但“输入”与“输出”阶段却相对公开且更为直观。通过对算法执行过程的长期观察,用户将算法推荐结果与自身的情境、兴趣及行为进行相关性比较,进而感知算法存在并构建其对算法运作规则的个人理解,其抵抗战术的表达和算法盗用由此成为可能。

 

“相关性”是用户揭示算法规则的关键线索,发现并学会运用此线索却不必然意味着用户基本算法意识的持续保持。感知到算法的存在是用户实施抵抗战术的前提,但正因为前者提供的精准的个人化体验以及其介入人类生活的普遍性,用户完全沉浸于使用中,技术反而逐渐隐没于幕后。只有当用户遭遇信息诉求未满足、负面的体验评估以及自我隐私管理失控的情况时,其对算法规则的既有想象才能在具体情境下得到重新激活,经由颠覆或强化,个体在此基础上选择、组织与实施获得式或防御式抵抗战术,以最大限度地规避已经或可能由算法造成的负面影响,改善和优化使用体验。因此,用户的算法意识是动态浮现的,其日常使用大多处于间断性的“技术无意识”状态。

 

用户算法意识的动态激发往往与其抵抗战术的实施相同步,常态化的抵抗实践与短期性的战术表达互相交织,人与算法形成绵延不绝的缠斗,双方在具体的使用情境下进行着妥协、让步与调整。弱者发动的游击战术很容易被主流结构吸收、削弱、以致击败。算法对用户的控制源自个人对技术的使用,作为规范管理工具的算法敉平了用户行为的差异,将其束拢于技术限定的规则框架中,可能通过对用户数据的汲取实现控制的不断强化,但这并不能说明用户的抵抗成效微弱,或者其仅获得对界面信息的陈列权力和代理权力,进而对用户的抵抗行为乃至人与算法的关系持悲观态度,不如彻底放弃算法以寻求新的可能。

 

算法以人所制造的数据为原料,而人的制造是动态、开放且可操控的,这为用户对数据模型和算法的干预提供了接口。另一方面,算法权力建立在用户对其规则的潜在认同之上,通过数据的让渡与运用,人与算法实现各自需求的满足,双方具备共同的合意基础,由此形成相互牵制和紧密共生的权力关系。在此关系框架下,作为主体策略的算法抵抗并非是用户替代算法权力的非此即彼的方案,用户从算法的执行后果出发,对其加以逆向追问以迫使其修正与改正,而非驱斥与抵制。因此,用户的抵抗战术非但不是针对算法的敌对力量,反而是具有治理意味的引导策略。如果将视角置于此,与选择游击式的抵抗相比,毫无作为的放弃对算法的改变效果趋近于无,其本质上与屈从无异,这更凸显了算法抵抗的意义与重要性。

 

算法正日益深度嵌入到作为基础设施的数字应用中,算法权力在不断扩展和延伸其势力范围。面对无所不在的算法,如果单纯将其视为导致社会压制与强化不平等结果的数字巨兽,以二元抗争的逻辑看待人机关系,无益于探索更富潜力也更为现实的相处之道。普通人应该考量的问题是,如何更好地使用算法?如何在强大的技术力量面前保存并凸显其能动性?用户个人的零星抵抗虽然微弱,但这种个案的努力因使用体验的共通而具备上升为公众议题的基础。当下亟需通过算法相关知识教育、平台界面调整、提示运作机制线索等方式,增强用户的算法意识,培育出一批对技术具有理性批判能力的用户,这将有助于用户对算法相关的个体反思凝聚为集体表达,进而在系统内形成可观的算法审查力量,并与来自外部的专业审查人员一道发挥作用。

 

但是也要避免过于乐观地估计这种治理性缠斗,其不一定意味着用户对算法霸权的抗争胜利。传统的霸权-反霸权实践是激烈的、敌对的、革命式的,呈现为一方彻底推翻并取代另一方的你死我活的零和关系。但在由算法霸权支配的数字生存空间,与之相对的反霸权实践却是颠覆性、非敌对的、改良式的,与算法霸权形成绵延不绝的缠斗。这种治理性缠斗更可能成为福柯所说的“策略可逆性”(strategy reversibility)。如果从用户对算法的抵抗策略翻转回算法对用户的控制策略,会发现前者令后者让步和修正的同时,也为后者设定新的实践和目标提供了条件。用户的算法抵抗实质上可能修补了算法的“缺陷”,从而进一步加深了算法对人的控制强度和效率。另外,本研究以访谈方式进行,用户自述的过程中可能高估了自身抵抗能力和抵抗成果。因此,对于算法抵抗我们既要看到其“微弱”但同样有力的斗争智慧,也要看到其“光明”但依旧坎坷的斗争前景。

本研究从用户的算法抵抗现象入手,通过挖掘影响其实施抵抗战术的相关因素,探索用户对算法的认知与理解途径。算法并非单纯的技术化实现过程,而是涵盖从理念到产品、从开发者到程序员、从应用到用户、从数据到算法输出的事实,因此对算法技术的揭露完全可通过对其中不同行动者的实践的考察得到。通过聚焦人与算法的多样互动,捕捉对算法技术不同面向的理解,不断补全其复杂内涵,进而在推动用户技术认知的基础上,帮助其实现算法善用。由于本研究的研究对象局限于对算法有所认知和理解的人群,而在用户个体的算法意识形成和算法抵抗过程中隐含着数字不平等的问题,另外本研究访谈对象的招募主要通过豆瓣“反技术依赖小组”获得,受限于该小组的话题设置,用户的算法抵抗主要围绕“反依赖”这一核心议题发散,因而缺少其他较为小众且个人化的抵抗缘由;另一方面,本研究以“算法”这一专业术语招募访谈对象,但不知道“算法”这一术语并不意味着用户不具备算法意识,并且未采取过算法抵抗行为。具备不同算法意识水平的用户所采取的算法抵抗行为是不同的,其背后的动机与逻辑也具有相当的差异,因此本研究的访谈样本仍有一定的拓展空间,后续可结合移动新媒体用户的社会背景、经济状况、受教育程度等对其算法抵抗影响因素展开研究。

载《新闻与传播研究》2022年第8

转自:“再建巴别塔”微信公众号

如有侵权,请联系本站删除!


  • 万维QQ投稿交流群    招募志愿者

    版权所有 Copyright@2009-2015豫ICP证合字09037080号

     纯自助论文投稿平台    E-mail:eshukan@163.com