谁是算法背后的“算计者”

　　□ 大众新闻记者 王瑛琪 苏月鹏
　　　　　　　　 刘姝彤

　　这几天，“算法”一词备受关注。
　　根据11月24日中央网信办官方网站信息，中央网信办等四部门联合印发《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》（以下简称《通知》），决定自即日起至2025年2月14日开展“清朗·网络平台算法典型问题治理”专项行动。
　　但记者调查发现，一些短视频平台依然在用算法“算计”用户，博取流量。
违规视频难下架
用户浏览后被大量推荐
　　11月22日，据“国家网络安全通报中心”通报，近日快手公司存在对法律、行政法规禁止发布或者传输的信息未及时处置，以及落实青少年模式不到位等情况，导致违法信息扩散，危害未成年人身心健康，公安机关依据《网络安全法》规定，依法给予快手公司警告处罚。
　　11月24日，快手被通报处罚48小时后，记者下载快手App并注册新账号，通过搜索功能输入相关关键词，轻松找到了涉及擦边、未成年人文身等视频。
　　在浏览几条此类短视频之后，平台随即推荐了大量类似内容的视频，甚至扩展到记者没有搜索过的领域，如宣传校园霸凌、未成年人怀孕等。在记者随机刷到的20条短视频中，不良视频数量高达16条。
　　记者尝试对其中一个不良视频进行举报，仅1分钟就收到了后台反馈，称所举报视频存在违规，已被停止推荐给更多用户。但当记者再次查看该视频时，发现其并未被下架或隐藏处理，依然可以搜索到。
　　对于这类内容明显违规的视频，平台为何不直接删除？什么类型的违规视频才会被平台删除？
　　记者致电快手人工客服，电话并未接通。AI客服答复记者称，针对举报的内容，工作人员会严格按照法律法规和社区管理规定进行核查，若确实违规会依规作出相应处理。但并未详细说明处理方式。
　　随后，记者下载了快手极速版App，还未登录，初始推荐界面便出现了此前在快手搜索过的相关违规内容。开启青少年模式后，推荐内容虽有所改善，但违规问题依然存在。
　　相似的情况，也出现在其他短视频平台。
　　记者同样体验了抖音、腾讯微视、西瓜视频等几个短视频平台，发现只需要点击几条内容不当的视频，接下来就会有源源不断的相似视频被推荐。
算法“囚笼”背后，是平台的默许和纵容
　　问题看似首先出在算法推荐机制上。
　　某平台算法组工作人员告诉记者，平台的推荐机制是一套复杂、缜密的数学算法，每个平台的推荐机制也各有不同。一般有如下几种方式：基于用户行为进行协同过滤，通过采集用户数据、构建用户画像，根据相似用户的观看偏好进行内容推荐；基于内容的推荐，即根据用户看过的视频推荐相似内容；深层兴趣分析，通过挖掘用户潜在兴趣实现更精准的推送。
　　资深人工智能专家、天使投资人郭涛表示，AI和算法推荐通过精准推送符合用户兴趣的内容，提高了用户黏性、平台的日活率和广告推送的触达率。但其弊端也同样明显。过度依赖算法不仅限制了用户视野，使用户陷入“信息茧房”，在大量单一化、同质化的信息海洋中沉沦，产生思维固化，还可能会诱导用户过度消费或沉迷娱乐，对用户的自主意识和多元认知产生消极影响。
　　由算法所形成的种种问题，其错只在于算法本身吗？
　　业内人士告诉记者，算法本身没有道德立场，其本质不过就是一段程序，出现问题与平台的设计和运营策略密切相关。一些平台为了追求更高的用户活跃度和商业利益，让算法推荐服务于价值增值，追求流量至上而忽略了价值理性的要求，从而忽略了内容质量和社会责任。
　　“事实上，平台完全有能力对违规信息进行监管和审核。例如，平台可以调整奖励和推流机制，减少低质视频的奖励分成和流量推荐，从创作源头遏制问题；增加人工审核环节，同时利用技术手段对视频画面、文字及用户评论反馈进行全面分析，及时封禁问题视频。这对快手、抖音等大型短视频平台来说并不困难。”上述算法组工作人员说。
　　郭涛认为，平台是算法和AI的使用者和管理者，有义务确保其合理应用。平台应在算法设计、内容审核等环节加强把控，避免算法滥用。
让正确价值观引领算法
　　业内人士认为，面对质疑声和处罚，一些平台首先要做的就是转变底层逻辑，树立“正能量高于大流量”的价值观导向。只有将这一理念深度嵌入平台的算法设计思路和运营规则中，才能从根源上预防问题发生。
　　首先，要通过强有力的审核机制来保障内容的质量，避免劣质、低俗内容在公众群体中传播。
　　同时，优化算法设计，减少对低质内容的推荐权重，将优质内容优先展示给用户。
　　平台应引入多元化推荐机制，除了基于用户历史行为的个性化推荐外，还应该加入随机性元素或者推荐不同观点的内容，帮助用户打破信息茧房，促进思想交流和理解。
　　算法本身并无善恶，问题核心在于如何使用。中央网信办等四部门联合印发的《通知》指出，聚焦网民关切，重点整治同质化推送营造“信息茧房”、算法向上向善服务缺失侵害用户合法权益等问题，督促企业健全完善正能量优质内容池，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善；建立健全用于识别违法和不良信息的特征库，积极探索应用于识别违法和不良信息的算法、技术，防范和抵制传播不良信息，从而实现算法导向正确。