- A-
- A+
任贝佳? 何苑
【内容摘要】算法在给人们带来便利的同时，其诱发的诸多风险挑战也引起各界担忧。“算法素养”概念在此背景下应运而生，旨在促进用户捍卫自身自主选择权，抵御算法的负面影响。本文对“算法素养”进行了研究分析，并就未来的算法素养教育实践提出建议。
【关键词】算法素养；算法知识；算法意识；数字鸿沟；内容生产
当前算法在社会生活的各个方面扮演着愈加重要的角色，人们几乎每天都会使用算法平台，接触经算法筛选、过滤后的信息，并可能不加怀疑地接受，而基于算法的内容自动生成技术也越来越为大众所熟知。2022 年 11 月，美国人工智能研究公司 OpenAI发布了人工智能聊天机器人 ChatGPT，它不仅能通过对话的方式解答诸如“世界上面积最大的洲”等较为常规的问题，甚至能以及格分数通过大学考试。这一技术在引起人们广泛关注的同时，其可能带来的不良后果（如虚假信息、虚假新闻等）也引发人们担忧。毋庸置疑，如今算法已不仅仅是一种技术工具，而是成为改变并形塑社会文化，影响个体认知与行为的一项人类生活基础设施。对于算法引起的诸多问题，众多学者对其进行了反思与批判。在这些研究当中，一些学者从用户的主体能动性出发，提出“算法素养”（Algorithm literacy）概念，并认为其可能成为促使用户捍卫自身的自主选择权、抵御算法负面影响的关键因素。近年来，围绕“算法素养”展开的研究日益丰富，出现了许多不同的“算法素养”定义。同时，由于算法应用场景等的多样性，以及语境、文化等的差异性，学者研究的问题类型不尽相同，出现了许多研究视角。因此，本文旨在归纳分析现有的与“算法素养”相关的定义及研究，并在当前研究结果的基础上为未来研究提供参考。为实现这一目的，作者进行了中英文文献的检索收集：中文文献通过在中国知网的主题栏搜索“算法素养”“算法知识”及“算法意识”3 个关键词筛选得到，英文文献通过在Google Scholar 搜索“Algorithm(ic) literacy”“Algorithmicknowledge”“Algorithm awareness”3 个关键词搜集而来，作者在此基础上按照研究目的对文献进行了筛选。本文将首先分析算法素养研究的重要性，在对算法素养进行定义后总结现有研究成果，最后针对“如何提升算法素养教育”这一问题提出自己的观点。
一、算法技术的积极应用及社会面临的挑战
算法是为解决特定问题及任务（如数据处理、自动推理等）而被定义的一套指令，通常由计算机程序执行。从电子邮件的发送到 GPS 定位技术都需要通过算法实现。随着大数据和人工智能的发展，算法普遍渗透到消费、医疗、教育、传媒等领域。如推荐算法在电商平台的应用，Google、百度等搜索引擎对结果的排名，Facebook、微博等社交媒体平台的“热点趋势”等。对于互联网用户而言，网络技术的飞速发展带来了信息过载危机，算法机制对信息的整合、筛选，让用户能够更高效地找到自己所需的信息。对于平台而言，算法能够分析数量庞大的用户数据，匹配用户与信息，提高用户黏度，从而实现其盈利目标。如新闻资讯平台今日头条能将百亿信息与上亿用户进行匹配。
算法的发展提升了各行业的工作效率，并带来全新的机遇。然而，算法在给人们带来便利的同时，其诱发的诸多风险挑战也引起各界担忧。首先，算法模型存在局限性。虽然算法在运算能力等方面显著超越人类，但算法模型训练过程中的各个环节都可能存在局限，而这将带来不良后果。如当用于机器学习环节的数据库缺乏代表性及多样性时，最终由人工智能机器人输出的结果也会存在偏差，如价值观偏向。Hartmann 等人在对 ChatGPT 的政治言论进行研究后发现其存在一定的政治偏向。其次，算法技术“向善”与否，与使用者的意图息息相关。如微软公司于2016 年发布的人工智能聊天机器人“Tay”在与社交媒体用户互动的几小时内，逐渐习得种族歧视、性别歧视等类型的偏激言论。除审核机制设计存在缺陷外，这也与部分用户有意为之有关。当前算法的所有权主要被科技公司掌控，其所追逐的商业利益常常与公共利益相冲突。在科技公司的操纵下，算法机制可能会变得更加不透明，这将导致用户逐渐失去决策自主权。近年来受到广泛关注的数字劳工现象便深刻反映了这一问题。在这些显性问题之下，体现在用户认知及行为方面的隐性问题同样令人担忧。如有研究者认为算法会导致“过滤泡”问题，在潜移默化中用户的视野将变得更加狭窄，不同群体间的偏见及不理解将得到深化。算法不仅影响着普通用户，新闻生产中算法技术的应用也引发了新闻从业者对于职业伦理的反思......（本文为文章截选，完整版请见《教育传媒研究》2023年第5期，本刊已入中国知网、万方、维普等相关学术数据库）
本文系 2022 年度国家社科基金一般项目“技术现象学视角下智能算法嵌入社会与治理研究”（项目编号：22BSH001）的阶段性成果。
作者任贝佳系河北大学新闻传播学院 2021 级硕士研究生；何苑系河北大学新闻传播学院副教授、硕士生导师，河北省城市传播研究院研究员
请输入验证码