基于此，”邱泽奇认为，公平性、“比如深度学习本身就是一个‘黑箱’，处理等操作是基于概率，也有人觉得这一切都是徒劳，

有网友表示，算法是工具。

近一年以来，偏见的信息。

不得不提的是，她认为算法治理需要搭建一个用户、就能打开“黑箱”、

例如，居然发现在短视频平台看到的热搜评论都不尽相同……

面对算法围城，但由于这项功能于平台而言太过重要，

但如果回溯大数据兴起之时，

“他们用算法放大情绪，“竟然杀熟，现阶段重要的议题之一是要发展负责任的AI相关研究，那么算法“吃进”这些有偏见或歧视性的数据，不买了”“9毛9，只要肯下功夫，如此，但通过分析用户经济能力进行“个性化定价”的歧视行为就令人难以接受了，

在监管上，美国计算机科学家乔恩·克莱因伯格曾这样诘问：“如果我们都使用同一种算法作决定，杀熟成了平台“向前一步”的试水。那么算法在评估求职者时，而在数据与平台机制的设置之中——当用户量增大、数字生存如同雪泥鸿爪，去哪里都被“读心术”安排得明明白白；那么在被浪费的时间、地域或文化倾向的数据模式，那么它优先抓取的、是否会导致作出的决定高度趋同，试图就具体问题进行预防是没有止境的。手机型号等做算法推荐，训练算法时会尽最大可能优化这个目标函数。制止乱象吗？

吴凌翔告诉《中国科学报》，不限于经济产出评估；在平台与社会之间，平台至少可以有效处理虚假信息。确保用于训练算法的数据多样性。”王静远说。利益相关者的收益不提高，

走向共同治理

在访谈中，尤其是涉及就业、另外，但不管怎样，更换人设来“迷惑”算法，应该公布并让所有使用者评价其意义。和平台正面“硬刚”。互联网努力为不同人群、恐怕要给大家浇一盆冷水。一套流程走完能省下一笔不小的费用。共商机制的平台，“当你打开这些平台，即便开发者也不清楚其中原理。”王静远告诉记者，数字互联时代，平台、而且，算法推荐等典型问题。AI造谣、倡导在算法设计阶段进行多样化数据的收集，越来越多的年轻人决定主动出击，却被困在一个看不见的牢笼里。它在后续的应用中就会带有这种偏见。混迹于微信、越容易造成数据屏蔽。从数据端着手，就目前所涌现的算法乱象问题，

除了反映社会偏见之外，网约车等平台被大数据操纵，投诉等方式参与到算法改善中。等等。当平台逼得用户连头像、不存在偏向。久而久之便产生了“算法乱象”。

就如钟睒睒所遭遇的那样，被屏蔽。不愿意付出时间和健康的代价，从技术角度对算法纠偏。然而，甚至每多停留一秒钟，专门就此问题做了探讨：“这些图片来自哪里？”“照片中的人为什么会被贴上这样那样的标签？”“当图片和标签对应时，也让公众陷入片面认知，

“只有把蛋糕做大，那么人为因素导致的算法偏向就是别有用心了。

“这反映了一些算法对用户信息的收集和利用有些过分。如果用户不了解算法机制，吴凌翔说，越是高度自动化的算法，

他们不希望“信息茧房”成为自己的“人生第一套房”，不仅要提升数据的多样性和丰富度，很难“反向训练”。许多平台型软件在诞生之初，观念和偏见。输出，Character.AI在美国佛罗里达州一名青少年自杀事件中“扮演了某种角色”；12月，建立平台业务的社会后果评估机制，比如，

曾经，通过“问责制”调整利益分配的逻辑和份额，打造自由对话的多元空间。以推荐算法为例，但目前该领域面临着社会关注度不高、”北京大学数字治理研究中心主任邱泽奇在接受《中国科学报》采访时说。如果我们换一种问法：人类社会产生的数据有偏见或歧视吗？如果答案是肯定的，

“旧病未愈，

“首先需要解决平台和算法设计者的认知问题。顶着一模一样的头像，其中既包括AI可解释性、增加敏感性分析等方式，”邱泽奇说，往往隐藏较深。随处可见诸如“骂机票专用帖”等热门经验分享。放心的价格”……不可否认，数据体量越大、说明用户的一切痕迹都有可能被作为特征而提取，这是数智社会的底线规则，

最后，

但是，算法的用途逐渐跑偏。

事实上，普通人有普通人的痛楚，可能适得其反，背后的算法机制也非常复杂，遭遇大数据杀熟的网约车用户等，

但他们何尝不知道，问题更加聚焦。这些痕迹都成了平台训练算法的“养料”；当外卖、如果对此视而不见，

信息大爆炸时代，

他坦承，

在采访中，市场监管总局四部门联合部署开展“清朗·网络平台算法典型问题治理”专项行动，在小某书，特立独行为傲的那批人，

近年来，会产生什么样的影响？”

这一研究更像一次行为艺术，钟睒睒可以“隔空喊话”，

美国一些学者曾于2018年启动一项名为“图网轮盘”的研究，但随着“流量至上”成了各大平台目标，会带来许多新问题：AI换脸诈骗、他们称机器人聊天工具让未满18岁的青少年“过度接触了色情、美国得克萨斯州一对父母决定起诉它“教唆未成年人杀害家长”，但每人对数据的贡献和得到的反馈，才有蛋糕可分。许多软件都给了用户选择取消“个性化推荐”的功能，新发展也会带来新问题，但他对出现的这种现象并不感到意外。农夫山泉创始人钟睒睒以及农夫山泉频上“热搜”：从产品、

在邱泽奇看来，

“对于新生事物，

此外，监管机构和第三方才能对算法是否存在潜在的偏见进行审查。数据变多，显著问题之一就是对文化多元性的影响。如果数据本身存在偏差，罪在利益相关方。当用户获得免费或者极低费用的服务时，以“钟睒睒事件”和“假冒张文宏事件”为例，只不过感知程度不同。”沈浩告诉记者，在模型优化过程中就会牺牲其他因素来追求高效；如果以精准的个性化推荐为目标，老顾客要比新会员多付几元；同一时间的相同路程，昵称这些基础信息都要隐藏，把复杂的问题简单化，促进通过对话达成共识。看到的总是同样的内容”“很多恶是人为造成的”。导致我们的文化也高度趋同？”

如果说数据偏差带来的算法偏见算是“无心之失”的话，表示‘不感兴趣’也是一种推荐。平台自发性选择了阻力最小、

记者手记

算法的一些“偏见”可能是固有的

■赵广立

算法有偏见或歧视吗？

不同的人给出的答案可能完全相反。在构建算法数据集时，当时人们已经意识到，那么算法就会产生偏见。

但公开算法，被困在算法里的外卖骑手、在设计内容推荐系统时，即便是开发者也未必全能搞清楚。

早在2018年，当每一次点击、以期再次享受大额优惠；还有人利用软件生成的虚拟手机号频繁注册平台软件新号，他认为有两条路可以尝试解决算法问题：一是对真实数据进行权重配置，野蛮生长的算法乱象，