上证报中国证券网讯 3月14日，公安部网络安全保卫局微信公众号发文称，3月10日以来，一则“有顶流明星在澳门输了10亿元”的信息在互联网平台传播，引发网民热议和各种猜测，相关话题频繁登上社交媒体热搜热榜。

公安网安部门查明，网民徐某强(男，36岁)为博取流量、谋取非法利益，于2025年3月10日10时，使用软件“某书”中AI智慧生成功能，输入社会热点词制作了标题为“顶流明星被曝境外豪赌输光十亿身价引发舆论海啸”的谣言信息，并通过互联网平台对外发布，造成谣言迅速传播扩散，引发大量网民议论，诱发相关谣言、话题等频繁登上热搜热榜，严重扰乱公共秩序。

公安机关根据相关法律法规，对徐某强处以行政拘留8日处罚。

有业内人士表示，生成式大模型特有的预训练、微调、上下文、提示、思维链等新的学习范式，使其具有许多与传统AI安全不同的新特点，传统安全的方法、经验、工具很难发挥效能。大模型安全风险的成因既可以是来自各类训练数据的缺陷或算法的局限性等模型内因，也可以是利用这些新型学习范式的恶意使用或蓄意攻击等外因，这使得大模型在数据准备、预训练、微调对齐、推理以及应用阶段都会存在各种潜在风险。

但是，存在风险并不意味着要保守对待，应兼顾人工智能的发展与安全，在拥抱AI带来的红利时，重视对人类价值与未来社会形态的深度思考。

清华大学交叉信息研究院副院长徐葳认为，目前最大的风险是不发展，真正的极端安全问题仍需大量科研论证。他还表示，随着多模态AI识别技术的成熟，街头随便拍张照都可能泄露隐私，因此，今后如何在保护隐私和获取便利之间取得平衡可能需要进一步研究。

清华大学法学院教授申卫星指出，强调安全是为了创造一个更好的发展环境，不发展才是最大的不安全。而且，发展并不局限在经济意义上，也包括社会福利的提高、人的尊严的保障。发展和安全不是一对矛盾，二者应相辅相成，所以在具体法律制度的设计过程中，要充分把握这个度，以免过分强调某一方面而影响了另一方面价值的实现。

全国政协委员、奇安信董事长齐向东则表示，要平衡好创新与安全，首先要关注安全防护体系的构建，特别是建立适配大模型的纵深防御体系，做好“内防内鬼，外防攻击”，对数据安全、终端安全、API安全等方面给予全方位安全保障;其次，拥抱先进的安全防护手段，用好“AI+安全”创新成果，提高安全防护效率，有效应对人工智能带来的“饱和式”攻击等各类新威胁;最后，建立高效的应急响应机制，一旦发现恶意行为或潜在安全事件，第一时间对其进行处置。