行情中心 沪深京A股 上证指数 板块行情 股市异动 股圈 专题 涨跌情报站 盯盘 港股 研究所 直播 股票开户 智能选股
全球指数
数据中心 资金流向 龙虎榜 融资融券 沪深港通 比价数据 研报数据 公告掘金 新股申购 大宗交易 业绩速递 科技龙头指数

用AI造谣"顶流明星在澳门输10亿元"者被拘 创新与安全如何平衡

上海证券报 16:48

奇安信-U +1.74%

上证报中国证券网讯 3月14日,公安部网络安全保卫局微信公众号发文称,3月10日以来,一则“有顶流明星在澳门输了10亿元”的信息在互联网平台传播,引发网民热议和各种猜测,相关话题频繁登上社交媒体热搜热榜。

公安网安部门查明,网民徐某强(男,36岁)为博取流量、谋取非法利益,于2025年3月10日10时,使用软件“某书”中AI智慧生成功能,输入社会热点词制作了标题为“顶流明星被曝境外豪赌输光十亿身价引发舆论海啸”的谣言信息,并通过互联网平台对外发布,造成谣言迅速传播扩散,引发大量网民议论,诱发相关谣言、话题等频繁登上热搜热榜,严重扰乱公共秩序。

公安机关根据相关法律法规,对徐某强处以行政拘留8日处罚。

有业内人士表示,生成式大模型特有的预训练、微调、上下文、提示、思维链等新的学习范式,使其具有许多与传统AI安全不同的新特点,传统安全的方法、经验、工具很难发挥效能。大模型安全风险的成因既可以是来自各类训练数据的缺陷或算法的局限性等模型内因,也可以是利用这些新型学习范式的恶意使用或蓄意攻击等外因,这使得大模型在数据准备、预训练、微调对齐、推理以及应用阶段都会存在各种潜在风险。

但是,存在风险并不意味着要保守对待,应兼顾人工智能的发展与安全,在拥抱AI带来的红利时,重视对人类价值与未来社会形态的深度思考。

清华大学交叉信息研究院副院长徐葳认为,目前最大的风险是不发展,真正的极端安全问题仍需大量科研论证。他还表示,随着多模态AI识别技术的成熟,街头随便拍张照都可能泄露隐私,因此,今后如何在保护隐私和获取便利之间取得平衡可能需要进一步研究。

清华大学法学院教授申卫星指出,强调安全是为了创造一个更好的发展环境,不发展才是最大的不安全。而且,发展并不局限在经济意义上,也包括社会福利的提高、人的尊严的保障。发展和安全不是一对矛盾,二者应相辅相成,所以在具体法律制度的设计过程中,要充分把握这个度,以免过分强调某一方面而影响了另一方面价值的实现。

全国政协委员、奇安信董事长齐向东则表示,要平衡好创新与安全,首先要关注安全防护体系的构建,特别是建立适配大模型的纵深防御体系,做好“内防内鬼,外防攻击”,对数据安全、终端安全、API安全等方面给予全方位安全保障;其次,拥抱先进的安全防护手段,用好“AI+安全”创新成果,提高安全防护效率,有效应对人工智能带来的“饱和式”攻击等各类新威胁;最后,建立高效的应急响应机制,一旦发现恶意行为或潜在安全事件,第一时间对其进行处置。

免责声明

以上内容仅供您参考和学习使用,任何投资建议均不作为您的投资依据;您需自主做出决策,自行承担风险和损失。九方智投提醒您,市场有风险,投资需谨慎。

相关股票

相关板块

  • 板块名称
  • 最新价
  • 涨跌幅

相关资讯

扫码下载

九方智投app

扫码关注

九方智投公众号

头条热搜

涨幅排行榜

  • 上证A股
  • 深证A股
  • 科创板
  • 排名
  • 股票名称
  • 最新价
  • 涨跌幅
  • 股圈