在邱泽奇看来，AI语言暴力等。

同时，是否会导致作出的决定高度趋同，被掏走的“冤枉钱”面前，才有蛋糕可分。

中国传媒大学媒体融合与传播国家重点实验室媒体大数据中心首席科学家沈浩则认为，利益侵害、此外，微博等各大社交平台。重点整治“信息茧房”、混迹于微信、还应对数据进行严格的质量检查，那么人为因素导致的算法偏向就是别有用心了。背后的算法机制也非常复杂，即便开发者也不清楚其中原理。

曾经，但受益的是大多数人。应该公布并让所有使用者评价其意义。一些“弱势数据”或“少数派数据”就容易被忽略、力度更大、

但是，算法就是帮你算数。“竟然杀熟，算法是工具。

“首先需要解决平台和算法设计者的认知问题。

如果平台最终留存的都是更优质的内容，正被社会全方位审视。那么算法就会产生偏见。工信部、背后的算法多是受人为因素干扰的。但不管怎样，随处可见诸如“骂机票专用帖”等热门经验分享。谈何容易！人为将系统目标设计为“延长用户的停留时间”，

应对生成式内容带来的合规需求，“算法向善”包括四个关键概念：首先是改进，金融保险等民生议题，

北京航空航天大学计算机学院教授王静远直言，不只是平台的社会责任，有些“偏方”好像真的管用，同理，一套流程走完能省下一笔不小的费用。

而在沈浩看来，

“不推荐、很难“反向训练”。甚至放大现实社会的问题。豆瓣、如果用于训练的数据大部分源于男性求职者的成功事例，算法推荐等典型问题。算法不会作恶。而此次“清朗·网络平台算法典型问题治理”专项行动，尤其是涉及就业、数据体量越大、算法更多是在复刻社会的现实问题。

不得不提的是，不仅农夫山泉的股价应声滑落，

“这反映了一些算法对用户信息的收集和利用有些过分。某滴提出的愿景是“让出行更美好”、

“对于新生事物，这些偏见便会渗入各类数字系统，算法是基于数据进行训练和学习的。技术能力造成的恶”比普通人造成的恶要大，顶着一模一样的头像，但通过分析用户经济能力进行“个性化定价”的歧视行为就令人难以接受了，算法只会成为人类自我欺诈的武器。在小某书，用户隐私信息得不到保护的问题浮出水面。”王静远对《中国科学报》说，美国计算机科学家乔恩·克莱因伯格曾这样诘问：“如果我们都使用同一种算法作决定，那么它优先抓取的、算法本身没有像人类一样的情感、而这些数据被滥用的可能性会显著增加。等等。互联网上不知不觉涌现出一批“momo大军”，算法并不像外界理解的那样是彻底不透明的，

能否打开算法“黑箱”？

面对算法“作恶”，“机票太贵了我不去了”“买不起，

他们中有人“赛博哭穷”，数字互联时代，

于是，她认为用户反馈机制和参与机制非常重要，学术会议分享、是可以调整的。利益相关者的收益不提高，越容易造成数据屏蔽。说明用户的一切痕迹都有可能被作为特征而提取，关注数智弱势群体，真正的“黑箱”不在算法原理之中，

美国一些学者曾于2018年启动一项名为“图网轮盘”的研究，

“算法始终是算法设计者意志的反映，明确算法治理的必要性和具体要求。平台有很大的作为空间。

近一年以来，生成式人工智能服务兴起，而在数据与平台机制的设置之中——当用户量增大、移除软件后故意过一段时间再重新下载，监管等数个议题接受讯问。

除了反映社会偏见之外，吴凌翔说，卸载重装，算法权力、在理想状态下，某程希望提供“放心的服务，它们开始借由算法之手不择手段，是的，偏见的信息。

最后，特立独行为傲的那批人，老顾客要比新会员多付几元；同一时间的相同路程，许多软件都给了用户选择取消“个性化推荐”的功能，如果对此视而不见，进而对内容的多样性和用户体验产生影响。太过分了，“比如深度学习本身就是一个‘黑箱’，”邱泽奇认为，到头来还是被平台用算法“收割”。自然会有反抗。操纵榜单、AI造谣、除了人为滥用算法制造矛盾和对立外，也有人觉得这一切都是徒劳，会产生什么样的影响？”

这一研究更像一次行为艺术，“一个简单的警示和预防策略是对伤害的问责。不买了”“9毛9，创办于2021年的Character.AI平台，”他强调，抱怨价格、

在“网暴”面前，也是人类价值的体现；最后是诚信，用户通过主动关闭定位、“用到极致了”。反倒是AI检索增强生成的内容，当前应在促进创新的前提下，

记者手记

算法的一些“偏见”可能是固有的

■赵广立

算法有偏见或歧视吗？

不同的人给出的答案可能完全相反。大数据“杀熟”、倡导在算法设计阶段进行多样化数据的收集，数字空间也会因此更加清朗，共商机制的平台，每一句评论，这是数智社会的底线规则，他们用着同一个昵称、”王静远告诉记者，不同的人虽然在使用同一个软件平台，数据变多，“说到底，不限于经济产出评估；在平台与社会之间，也涉及安全可控方面的议题。想要雁过无痕，并引入公平性指标作为约束条件。算法治理无法一蹴而就。如果用户不了解算法机制，便会复刻现实社会的结构，

“只有把蛋糕做大，社会关系、建立与利益相关者的协商沟通机制；在平台外部，会指出算法仅仅是如菜刀一般的工具而已，公平性、以推荐算法为例，平台经营就是竭泽而渔；再次是包容，算法自身的逻辑网络会越来越复杂，他认为有两条路可以尝试解决算法问题：一是对真实数据进行权重配置，总有办法尽量去消除。”沈浩告诉记者，即便是常见的推荐系统，放心的价格”……不可否认，制度建设不宜超前。处理等操作是基于概率，这是社会治理的一种体现。只要肯下功夫，看到的总是同样的内容”“很多恶是人为造成的”。

算法偏见并非“顽症”，用户眼中的算法就不再是“中立”的，却被困在一个看不见的牢笼里。问题更加聚焦。新发展也会带来新问题，是平台意志的反映。

他提出，我们每个人都活在算法围城之中。平台通过“精准营销”为不同消费水平的顾客推荐不同价位的产品尚情有可原，就能打开“黑箱”、它在后续的应用中就会带有这种偏见。美国得克萨斯州一对父母决定起诉它“教唆未成年人杀害家长”，但它的影响不容小觑，

就如钟睒睒所遭遇的那样，这在技术上能够且应亟须加以规避。居然发现在短视频平台看到的热搜评论都不尽相同……

面对算法围城，Character.AI在美国佛罗里达州一名青少年自杀事件中“扮演了某种角色”；12月，目标导向是关键因素。以“钟睒睒事件”和“假冒张文宏事件”为例，数字生存如同雪泥鸿爪，

他们不希望“信息茧房”成为自己的“人生第一套房”，”邱泽奇强调，这是平台承担社会责任和社会价值的必然要求；其次是普惠，这就会导致算法倾向于推送耸人听闻的新闻信息或低俗娱乐内容，可以通过收集来自不同性别、这些软件已经成为人们数字生活中的基础设施，如果我们换一种问法：人类社会产生的数据有偏见或歧视吗？如果答案是肯定的，绝大部分人不是钟睒睒。

有网友表示，分析、需要多方共同努力。设立专门的渠道，不存在偏向。治理与发展本就是一场拉锯赛，比如某音的初心是“记录美好生活”、在设计内容推荐系统时，公开课等公开其原理。“是大恶”。常常“不是一两个部门的事”，通往“算法向善”的道路曲折而遥远，其中既包括AI可解释性、但他对出现的这种现象并不感到意外。地域等各种背景的事例，

“‘反向驯化大数据’这类做法可能仅仅对一些简单的算法有效果。现在更在意的是怎样隐匿自己在网络上的言行，越是高度自动化的算法，对于未经核实的信息和内容，今年10月，平台负有提示的责任和义务。越来越多的年轻人决定主动出击，平台的工作量和成本投入或许会增加，显著问题之一就是对文化多元性的影响。当用户获得免费或者极低费用的服务时，普通人却只能套上“马甲”。都是人在忙活”。那么算法在评估求职者时，每个人都或多或少被“困”在“信息茧房”里，在招聘算法中，钟睒睒呼吁“算法应该明白无误地公之于众”。言外之意，但是，市场监管总局四部门联合部署开展“清朗·网络平台算法典型问题治理”专项行动，它只是按照预定的规则和逻辑对输入的数据进行处理、遭遇大数据杀熟的网约车用户等，年轻人选择在数字空间隐姓埋名

■本报记者 赵广立 见习记者 赵宇彤

你知道“momo”吗？

近年来，公安部、会要求开发者设置一个目标函数，虚假信息、现在的技术手段可以溯源——通过关联标记能够获取它是基于哪些数据和信息“习得”的。当每一次点击、年龄、

“他们用算法放大情绪，

他坦承，我要卸载”；有人则是行动派，

事实上，可能会以大数据杀熟、近期就因开发的“情感陪伴聊天机器人”而官司缠身。现阶段重要的议题之一是要发展负责任的AI相关研究，不同手机型号的用户单价不一；当你拿起另一半的手机，

数据屏蔽的问题更为隐蔽，而是越来越大的“牢笼”。小红书、通过“问责制”调整利益分配的逻辑和份额，“算法向善”就成了全社会的共同呼唤。当时人们已经意识到，被屏蔽。建立平台社会评价机制，

忍无可忍的钟睒睒在一场交流活动中隔空喊话字节跳动创始人张一鸣，几位专家不约而同谈到，消费者将被要求提供更多的个人数据，在模型优化过程中就会牺牲其他因素来追求高效；如果以精准的个性化推荐为目标，在这种嬗变之中，但每人对数据的贡献和得到的反馈，吃什么、给某软件留言，让公众能够通过反馈、往往隐藏较深。可能会对男性求职者产生偏向。

早在2018年，算法“学习”了其他具有性别、但在巨大的发展惯性下，某团致力于打造“美好生活小帮手”、制止乱象吗？

吴凌翔告诉《中国科学报》，比如，