位置: 首页 > 实时讯息 >

莫让数据污染冲击人工智能安全

0次浏览     发布时间:2025-08-16 07:16:00    

国家安全部近日发文提示,人工智能的训练数据良莠不齐,其中不乏虚假信息、虚构内容和偏见性观点,造成数据源污染,给人工智能安全带来新的挑战。

数据是人工智能发展的基础。人工智能模型通过分析和处理大量的训练数据来理解世界,进而驱动内容生产和智能决策。高质量的数据能提升人工智能模型的准确性和可靠性,但数据如果被污染,则会扭曲人工智能模型的认知,导致决策失误,甚至诱发有害输出。有研究显示,当训练数据集中有0.01%的虚假文本时,模型输出的有害内容会增加11.2%。

当下,互联网作为人工智能模型的重要“语料库”,各类信息鱼龙混杂,准确性难以保证,即使模型训练时尽力过滤可疑数据,也很难完全避免虚假或有害内容的渗透。

如今,从美食推荐到自动驾驶,从金融决策到医疗诊断,人工智能已深度融入人们生活。每一次因数据污染作出的误判,都可能引起连锁反应,带来不可估量的损失。比如,在自动驾驶领域,误判路况造成交通事故;在金融领域,炮制虚假信息引发股价异常波动。

由此可见,防范数据污染不仅是人工智能领域的技术挑战,更关乎社会信任和公共安全。当前,《生成式人工智能服务管理暂行办法》已将人工智能训练数据纳入监管,各方也在探索多种方法识别和抵御恶意数据的影响。但随着数据污染日益隐蔽,要为人工智能构筑起更强大的“免疫系统”,不断升级技术手段,建立更严格的数据筛选验证机制,从源头过滤掉虚假、错误以及带有偏见性的可疑内容。同时,完善动态监测和反馈机制,对模型的异常行为及时纠偏,定期依据法规标准清洗修复受污数据,筑牢人工智能数据底座。(作者:余 悦 来源:经济日报)

相关文章
东风+京东,背后是湖北的决心!

东风+京东,背后是湖北的决心!

“东风快递,使命必达”。这是中国火箭军一句广为人知的宣传语。没想到的是,“东风”和“快递”有一天真的走到了一起!为了共同的使命,用了火箭般的速度!8月14日,就在湖北,双“东”合璧——东风汽车与京东正式签署战略合作协议,建立全面战略合作关系。一个汽车产业和一个物流企业为何要跨界“牵手”?让我们拉长时

2025-08-16 20:31:00

查看详情
莫让数据污染冲击人工智能安全

莫让数据污染冲击人工智能安全

国家安全部近日发文提示,人工智能的训练数据良莠不齐,其中不乏虚假信息、虚构内容和偏见性观点,造成数据源污染,给人工智能安全带来新的挑战。数据是人工智能发展的基础。人工智能模型通过分析和处理大量的训练数据来理解世界,进而驱动内容生产和智能决策。高质量的数据能提升人工智能模型的准确性和可靠性,但数据如果

2025-08-16 07:16:00

查看详情
“指尖上的银行”渐入佳境,谁更在意你的数据钱包安全?

“指尖上的银行”渐入佳境,谁更在意你的数据钱包安全?

每天处理各类银行业务的你,已多久未光顾银行网点?你是否深切体会到,无论信用卡额度的升降,还是“秒达”的风险警示,抑或各类理财产品的推荐,“指尖上的银行”越来越懂你的金融需求?“指尖上的银行”渐入佳境的背后,是各银行动辄几十亿甚至过百亿的技术投入和技术大军的持续竞赛,数字化乃至进阶为数智化已成为各银行

2025-08-14 00:01:00

查看详情
个人消费贷贴息具体如何办理? 实操指南来了

个人消费贷贴息具体如何办理? 实操指南来了

每经记者:张寿林 每经编辑:张益铭8月12日,财政部、中国人民银行、金融监管总局联合发布《个人消费贷款财政贴息政策实施方案》,对符合条件的个人消费贷款给予财政贴息。根据政策,贴息范围包括单笔5万元以下消费,以及单笔5万元及以上的家用汽车、养老生育、教育培训、文化旅游、家居家装、电子产品、健康医疗等重

2025-08-13 20:12:00

查看详情
当“一念御万物”成为现实,AI有了喜怒哀乐……丨专访蒲慕明

当“一念御万物”成为现实,AI有了喜怒哀乐……丨专访蒲慕明

“中国脑计划”,有两个大方向,一是以探索大脑秘密、攻克大脑疾病为导向的脑科学研究;二是以建立和发展人工智能技术为导向的类脑研究。中国科学院院士蒲慕明于2021年正式牵头启动“中国脑计划”。2025年4月,中国首例侵入式脑机接口临床实验成功,一名四肢截肢者可以用意念操控电脑,玩游戏;2025年7月,介

2025-08-12 17:31:00

查看详情