即使人工智能始终秉持“为人类服务”的宗旨，其所遵循的个性化生产和精准化推送的算法逻辑，也可能会限制用户的信息认知范围，使认知窄化、思维固化、群体极化等问题更加突出。尤其是在传媒领域的注意力争夺中，用户往往偏好那些具有强烈视觉冲击力、故事性和情感化的信息内容，人工智能可能会为了满足大众喜好，予以相关内容更高的权重和更多的曝光，而有深度有价值的内容则面临被不断边缘化的风险。

  2.机器水军操控社会舆论

  在人工智能技术的加持下，舆论操纵的手法不断翻新、工具持续升级，舆论生态进一步复杂化与浑浊化，极大增加了社会意见分裂、秩序混乱、心理动荡的现实风险，对社会的正常稳定运行构成严重威胁。

  “舆论是社会的皮肤”，公众围绕公共事务形成敏锐、理性的舆论，社会肌体也就有了能够感知民意的健康皮肤。舆论是现代民主社会持续稳定运行的重要基石，但其强大的社会影响力也令各方“虎视眈眈”。高级人工智能的出现为影响甚至控制舆论提供了便利，为社会舆论应有的透明性、公正性蒙上阴影。

  在政治领域，人工智能很早即被用于影响目标对象的价值判断和政治立场，或破坏敌对势力的舆论环境和社会形象。2016年，剑桥分析公司未经同意收集脸书数千万用户的个人信息进行选民分析，为唐纳德·特朗普的总统竞选活动投放政治广告，成为技术干预政治选举的一大标志性事件。随着人工智能技术的升级迭代，各种“操纵工具”更加唾手可得，隐蔽性欺骗性大幅提升。2024年，各方对利用人工智能干扰选民、操纵选举、破坏稳定的担忧愈加强烈。在社会领域，恶意操控者还利用人工智能工具发布大量情绪化内容，在种族、移民、贫富差距等社会敏感议题上激化社会矛盾、影响舆论走向。在商业领域，人工智能也被广泛用于“刷数据”“刷评分”“刷销量”等，以达到歪曲和屏蔽真实评价、促销商品或诋毁竞争对手的目的，对市场秩序造成严重破坏。

  3.智能武器加重信息对抗

  在社会矛盾多发、地缘政治紧张的国际局势下，人工智能被广泛应用于“情报战”“舆论战”“认知战”中，使国际舆论关系更加紧张，对抗升级、冲突爆发的风险大大增加。

  人工智能为广泛开展网络入侵、情报搜集、舆论攻击等提供了极大便利。通过数据差异化投送，人工智能可以瞬时制造舆论潮流，影响群体认知。通过数据跟踪和算法策略，人工智能可以预判不同地域、群体认知态势，辅助规划、推动实施核心叙事和议题。

  在社交媒体上，利用人工智能捏造虚假信息、煽动群体对立、开展意识形态渗透的行为也已司空见惯。2022年，关于乌克兰总统泽连斯基要求其军队投降与俄罗斯总统普京宣布战争结束的伪造视频广泛流传。本轮巴以冲突以来，社交媒体上也产生了大量虚假内容，如将效果逼真的游戏视频篡改成哈马斯发动袭击的录像，伪造国际知名人物挥舞巴勒斯坦国旗的照片等。在人工智能技术散布的战争信息迷雾中，真与假混淆，猜疑与分歧滋长，人工智能改变了现代战争的性质、手段、方式。

  三、快速发展加剧治理忧虑

  随着新型人工智能的密集涌现，对于未来技术颠覆人类价值可能性的讨论不断升温，引发不同程度担忧，人工智能带来的价值争议和治理难题也已成为全球焦点。

  1.发展路径之争

  人工智能具有基于程序自我学习控制等特点，即使是人工智能算法的设计者，也难以完全预测其经过自我优化学习后的数据处理方式，这种“技术黑箱”令人工智能的“未知”远大于“已知”，引发了对其发展路径的广泛争议。

  “加速”还是“价值对齐”？围绕人工智能的未来发展方向，研发人员逐渐分化为两个阵营。支持“加速”的一方认为，社会进步依赖技术创新，推动人工智能发展是人们不断追求的目标。而“价值对齐”派则主张首先考虑人工智能的伦理影响和社会后果，确保技术沿着符合人类价值的轨道前进。2023年3月，包括图灵奖得主约书亚·本吉奥（Yoshua Bengio）、特斯拉CEO埃隆·马斯克（Elon Musk）等在内的数千名AI领域企业家、学者、高管发出了一封题为《暂停大型人工智能研究》公开信，集中表达了人类社会对超级人工智能的种种担忧，并强烈呼吁共同制定和实施一套全人类共享的安全协议。但与此同时，全球各大科技公司都在加紧部署研发，各类新产品新应用层出不穷。

  在未来很长一段时间内，人工智能的发展仍将处于两种理念的博弈之下。面对人工智能这一未来核心战略资源，利益相关方可能产生更大分歧。技术伦理问题被政治化、商业巨头间的“科技竞赛”、国家间的“军备竞赛”等，无疑将为后续全球立法和治理带来更多阻碍。

  课题组调查显示，大部分观望中的媒体机构并不排斥或轻视生成式人工智能，而是计划在相关条件成熟时再入局，他们优先考虑的前三个条件是：

  1.确定可用人工智能来显著提升生产力、节省人力的业务板块；

  2.人工智能的性能跃升，准确性、可靠性等大幅改善；

  3.确保不会陷入新闻伦理争议、监管麻烦或法律纠纷。

  仅有6.4%的受访媒体表示，无论如何都暂不考虑采用生成式人工智能工具。

  2.价值对齐之困

  随着“人工智能威胁论”的声量日渐扩大，“价值对齐”已经成为人工智能治理领域最根本也最具挑战性的概念之一。但在实际操作中，价值对齐面临多方面挑战。