快递小哥、外卖骑手、网约车司机等「困在算法」里的行业群体,长期是舆论关注和讨论热点。11月底,国家网信办等四部委启动「清朗·网络平台算法典型问题治理」专项行动,明确指出防范盲目追求利益侵害新就业形态劳动者权益。严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。详细公示时间预估、费用计算、路线规划等算法规则。
香港文汇报记者从生存在算法时代的个体和群体角度出发,就算法治理监管等问题采访技术、经济、管理、传播、心理等多个领域的研究专家学者,对现阶段中国的算法治理提出有益思考和建议。
算法究竟有没有价值观?这一问题曾在业内广泛讨论。有业内人士表示,算法是由人决定的,程式是人编写的。人有价值观,那么算法一定也有价值观。最简单的例子是,如果把按照点击率排序改为按照搜索关键词排序,所呈现的信息流截然不同,一个有趣,一个有用,这就是不同价值观的体现。
在此次国家网信办启动的专项治理中,在国家层面明确提出要增强算法向上向善服务保护网民合法权益,便利未成年人、老年人获取有益身心健康的信息,健全完善正能量优质内容池,优化算法推荐服务机制,积极传播正能量,促进算法应用向上向善。●香港文汇报记者刘凝哲、苏雨润 北京报道
技术层面应该如何为算法构建出向善的价值观?内地知名人工智能公司中科闻歌人工智能专家向香港文汇报表示,可以通过在设计算法模型时嵌入特定的价值观等方式引导算法向善。首先是通过语料的训练与优化,确保算法使用的语料自主可控,避免「黑盒语料」带来的不透明性,涉及数据的选择、清洗和增强,以及通过多样化和平衡的数据集减少算法决策中的歧视和偏见。
程式设计者需自律
在价值观的嵌入与引导方面,这位专家表示,可以在模型训练中嵌入符合社会主义核心价值体系的价值,防范算法体现违规、负面、不良价值。「这要求算法设计者在开发过程中自觉遵守伦理规则,主要体现在数据收集、处理和标注等算法研发流程中,确保算法输出符合社会伦理标准。」
「算法的运行常伴有一种虚假的『客观性』」,中国人民大学经济学院讲师李直表示,这一方面因为人们倾向于相信建立在数据基础上的计算和优化具有客观性,另一方面因为算法的确可以自动化运行,很少需要人类的干预,所以表现出独立运行的自主性。然而,算法运行所需的数据就是现有人类实践的结果,这些数据可能已经包含了现有社会结构中的歧视及语言和行为上的不平等。
加强平台自我管理
李直认为,要真正实现算法向上向善,就必须厘清算法结果和特定平台利益之间关联,也即厘清平台是否通过算法利用用户的成瘾性、猎奇心理和贪婪心理等因素来谋求不正当的利益,这样才能够有针对性地对算法推荐内容进行管理,并从根本上降低平台滥用算法的意愿。与此同时,还要建立算法结果的责任制,加强平台对算法推荐内容的自我管理。
法国经济学家塞德里克·迪朗(Cedric Durand)所着的《技术封建主义》一书中,将算法背后的企业视为「地主」,用户视为「农奴」,算法统治的现象,类似于封建社会中农民对土地的依附,将用户束缚在数字平台的「领地」之中,无法逃脱算法的控制。外卖骑手和网约车司机被认为是「地主和农奴」最典型的案例,他们觉得自己工作很自由,不受老板的监管,想几点工作就几点工作,一切完全取决于自己,好像获得了某种自主权,但实际上,除了遵循平台算法给出的订单、路线与价格,他们别无选择。
李直曾就「技术封建主义」与大学生们进行过一场对话,引发广泛关注。他部分同意迪朗的观点,「平台经济中对于内容的高度控制和定制化展示,实际上对消费者和生产者都产生深远的影响。相较于可以选择不同平台满足需求的消费者,外卖骑手或网约车司机这样的生产者选择权有限。他们作为生产剩余价值的劳动者,平台希望对他们进行严密的控制,以最大化自身利益。这种控制通过高度精细化的算法实现,使得生产者几乎无法拒绝平台的指令。」
增强算法的透明性
2023年中华全国总工会第九次全国职工队伍状况调查数据显示,上述新就业形态劳动者已达8,400万人,占职工总数的21%。在新就业形态劳动者中,职业危险系数位居榜首的无疑是外卖行业。据内地媒体引述上海市公安局交警总队发布的数据,2024年10月28日至11月10日的两周内,美团和饿了么的外卖骑手违法总数位居前两名,违法总数分别为10,749次、9,255次,其次为顺丰同城、闪送等企业。
在接受香港文汇报采访时,李直认为,针对外卖骑手等零工劳动者的算法治理势必要平衡平台和劳动者的权利不对等,其关键在于增强针对劳动者算法的透明性和可追溯性,合理降低劳动者的劳动强度,同时要加强劳动者的话语权和反馈途径。
「问题的关键在于,算法背后是人,是平台为了自身利益而精心设计的控制工具。要解决这个问题,我们需要穿透算法控制逻辑中的自动化和无人化表象,看到其背后的复杂利益关系。」李直认为,要推动算法改革,需要策动相关的主体去对算法进行审视和调整。我们需要知道谁是算法的受益者,他们获得了多少利益,以及是如何获得这些利益的。只有穿透算法控制逻辑中的表象和利益关系,推动相关主体进行变革和调整,才能为生产者创造一个更加公平和合理的劳动环境。
不过,李直坦言,单纯通过算法治理并不能完全解决零工劳动者的困境,因为除了收入和过度劳动的问题,他们还要面对灵活用工产生的不确定性。这就需要有关部门有针对性地建设更适合零工劳动者的社会保障系统,加强医疗保险、失业保险、养老保险等社会保险制度对零工劳动者跨平台、工作时间不确定等灵活性的适应性。
建立统一伦理框架
「算法的设计与数据的应用不仅是技术问题,更是伦理问题」,同济大学经济与管理学院副教授邓弘林认为,为确保算法能够朝着「向善」的方向发展,应当建立一套统一的伦理框架,涵盖公平、公正、透明、无歧视等基本原则。同时,这一框架应鼓励开发者在算法设计过程中考虑社会责任和人类福祉,确保算法不仅追求商业效益,还能促进社会的整体福祉。在数据伦理方面,考虑到数据是算法的核心基础,必须制定严格的数据隐私保护法律,确保个人数据的安全和隐私不被侵犯,防止数据滥用与泄露。