习近平总书记在2018年主持中共中央政治局第九次集体学习时强调：要加强人工智能发展的潜在风险研判和防范。
如何帮助青少年规避智能技术应用可能引发的“信息茧房”等潜在风险，避免过度手机消遣、沉迷“低级快乐”，是我们必须正视的问题。
“信息茧房”的产生：多重因素的叠加
“信息茧房”指个体偏向于选择自己感兴趣的信息，从而失去接触其他信息的机会，将自己的信息空间困于蚕茧一般的“茧房”里。形成原因有两方面：一是个体信息过滤机制。面对信息生产与传播效率极大提高带来的超量信息，个体会倾向于选择自己感兴趣的主题，形成具有个体特征的信息筛选片面化倾向，使信息获取局限于自身的信息视野之内。二是智能信息推荐算法的因素。智能信息推荐算法是当前解决信息过载问题、满足个性化信息需求的有效途径之一，基于个体已发生的信息获取行为进行信息推荐。个体信息过滤机制与算法的双向作用，会在两者之间的反复互动、强化中形成信息窄化的恶性循环。
“信息茧房”的潜在影响：身心的多重危害
信息过载，身体受制。近距离用眼过度与电子产品用得过多成为近年来青少年近视的重要原因。对用户兴趣爱好的高度迎合，极大地吸引了青少年的注意力，挤占了他们大量的活动时间，直接影响了青少年的视力健康与身体发育。
信息沉迷，心理受制。在“流量为王”的互联网经济中，高效有趣的视频内容、沉浸式的观看体验有效地增加了用户黏性，让用户欲罢不能，青少年在“刷手机成瘾症”面前难以抵抗。
信息片面，思想受制。青少年正处在世界观、人生观、价值观形成的关键时期。在智能算法推荐的同质信息堆积下，导致青少年视野窄化；碎片化信息的浸润，不断刺激视听感官，导致专注力下降；即便是有意义有价值的学习类信息，也会因为信息的零散性，影响整体性知识结构的建立；相同或类似观点看法的反复接受，可能影响对客观世界的全面认知，在不断地重复和强化中，形成认知偏见。
“信息茧房”的破解：政校家企的主流价值引导
政府要有驾驭网络空间的价值引领。2019年，习近平总书记在中共中央政治局第十二次集体学习时的讲话指出：用主流价值导向驾驭“算法”，全面提高舆论引导能力。笔者认为，政府需将主流价值导向贯穿于网络管理的各个环节，使之成为网络空间建设、运营、管理、发展的指导原则。今年7月，《深圳经济特区数据条例》正式公布。作为国内数据领域首部综合性立法，它明确提出，除为了维护未满十四周岁未成年人的合法权益并征得其监护人明示同意外，不得向其推荐个性化产品或服务。条例中对未成年人画像的规定，充分考虑了未成年人难以辨别推荐信息真伪、价值几何的特点，可以有效规避用户画像、个性化推荐潜在的负面影响。这一规定值得在落地应用中总结经验、推广做法。
学校要有助力师生提升智能时代信息素养的作为。首先，学校要着重培养师生的智能时代信息意识与道德，让其了解智能时代各种风险挑战，理性对待各类信息，增强网络定力。其次，学校还要在师生信息素养培养中突出人工智能时代特点，动态更新课程内容，帮助其及时了解推荐算法的背后逻辑、科学认识智能信息推荐算法的利弊。再其次，学校可以提供一些切实可行的指导建议，例如掌握信息获取的主动权、多元化获取信息、关闭非必要的通知等。
家长要有帮孩子扣好人生纽扣的责任。家长在防范孩子困于“信息茧房”中承担着不可替代、不可推卸的责任。家长要不断提高自身的信息意识，高度重视“信息茧房”对孩子的潜在危害，关注孩子的网络使用情况。家长可以通过培养孩子广泛的兴趣爱好转移其对网络的过度关注，与孩子一起制定网络使用家规并带头遵守，帮助孩子规避潜在风险。
科技企业要有技术向善的担当。作为技术的研发者、信息的汇聚地，信息平台的运营企业需要从源头上把好技术与信息的第一关。技术本无善恶之分，算法本身并不会直接产生“信息茧房”，企业需要合理地运用技术，为破除“信息茧房”提供技术路径。新修订实施的《中华人民共和国未成年人保护法》明确了网络服务提供者应尽的社会责任，包括针对未成年人使用其服务设置相应的时间管理、权限管理、消费管理等功能，不能向未成年人提供诱导其沉迷的产品和服务等。当前，部分主流的社交媒体传播平台已设置了青少年模式，但还存在一些问题：有些青少年模式形同虚设，能够轻易地绕过或破解；有些青少年模式下的功能内容与普通模式无明显区别，未能体现有效监管；有些青少年模式下的功能内容又过于单一，虽起到了监管作用，但是却不能引起青少年的兴趣和注意，反而推动了青少年想方设法去避开青少年模式。为此，科技企业还应强化自身社会责任意识，在技术的开发与应用、信息的审核与监管中，切实落实技术向善理念，善用技术，为青少年提供健康有序的信息环境，保护他们健康成长。
（原载11月13日《中国教育报》。作者魏轶娜、祝新宇，单位系中国教育科学研究院）
您的当前位置： 