盯住AI与数据安全,智能时代如何做好“防御”?
创始人
2025-10-26 15:15:42
0

中新网北京10月26日电 (记者 夏宾)在数字化与智能化深度交织的时代浪潮中,安全的边界不断延展,技术的演进正引领产业迈向新一轮变革。

近日,2025 TechWorld智慧安全大会在北京举行,来自政府、高校、科研机构和企业的权威专家与业界精英齐聚,共议AI安全、数据安全与攻防对抗等核心议题,深入探讨智能时代的安全逻辑与未来路径。

2025 TechWorld智慧安全大会在北京举行。主办方供图。

作为绿盟科技连续第十三年主办的行业大会,TechWorld智慧安全大会已成为中国网络安全行业年度的重要交流平台。绿盟科技集团董事长、总裁胡忠华表示,本届大会凝聚了对数智时代安全格局的深入思考与系统洞察,旨在搭建数智时代技术交流与协同创新的平台,助力网络安全产业高质量发展。

胡忠华指出,公司以“数”与“智”为核心方向,聚焦AI安全、数据安全与实战攻防三大领域,持续深化创新与落地,探索智能时代安全能力的新形态。以数据安全为例,其以“识别—保护—流通—治理”为主线,完善数据要素安全体系,推动数据在开发利用和共享流通过程中的安全与合规,夯实数字经济的底座支撑。

中国电子信息产业发展研究院副总工程师、俄罗斯自然科学院外籍院士刘权表示,中国正通过加强关键数字技术创新应用、加快数字产业化、推动产业数字化转型,持续构建数字经济新优势。数字经济正从“数字产业化”向“产业数字化”全面延展,涵盖数字产品制造、数字服务、技术应用、要素驱动及效率提升等领域,展现出数字技术与实体经济的深度融合趋势。

刘权强调,做好数据治理,是推动数据要素高效流通和安全利用的关键,应在合规、安全与价值转化等环节统筹推进,以高质量的数据治理激活数据要素潜能,助力数字经济高质量发展。

人工智能正成为全球科技竞争的关键力量。腾讯云副总裁、玄武实验室负责人于旸指出,大模型的出现为人工智能带来了全新的想象力,使AI从感知、理解走向生成与决策,具备了任务规划、世界知识推理与智能体协作等能力。AI软硬件正呈现“双向奔赴”的态势——模型能力迅速提升的同时,算力成本不断下降,推动AI在编程、数据分析与安全防护等领域实现突破。

AI刚刚开始,AI安全也刚刚开始。于旸表示,随着大模型应用的深入,AI系统中暴露出提示词注入、不安全模型加载、数据解析与动态代码执行等问题,而传统的命令注入、访问控制等漏洞在AI场景中依然存在。模型层、框架层与应用层问题各异,安全挑战贯穿AI系统的各个环节。

从电力行业来看,国家电网有限公司原副总信息师王继业表示,人工智能正从感知、理解走向生成与创造,驱动产业形态深度变革。电力行业在通用基座模型基础上融合行业数据开展训练,逐步构建具有行业特色的大模型体系。国家电网采用“开源+闭源”模式建成“光明电力大模型”,南方电网建成“大瓦特”模型,国家能源集团建成“擎源”发电大模型等,推动电力行业数字化、智能化转型升级,助力新型电力系统与新型能源体系建设。

王继业强调,应把AI安全纳入统一安全防护体系,按关键信息基础设施保护要求完善算法、数据集、平台与智能体的全链路防护,推进测评、预警、攻防演练与生态建设,确保智能化转型在安全可控轨道上前行。

业界专家认为,大模型让安全攻防进入智能博弈新阶段,唯有“以模治模”,才能在AI时代实现有效防御。

绿盟科技集团高级攻防部负责人陈永泉在演讲中指出,大模型安全已成为AI时代新的攻防焦点。当前行业面临内容安全、网络安全、算力安全、数据安全与模型安全五大风险维度,提示词注入、数据泄露等问题尤为突出。绿盟科技以“以模治模”为理念,构建内容、数据、算力与业务四大安全智能体,打造大模型安全评估与防护体系,助力行业筑牢AI时代安全防线。(完)

相关内容

热门资讯

摄影大赛一等奖作品疑似AI生成... 近日,福建一摄影大赛公布评选结果,其中,大赛一等奖作品《湖秋雾影》被人质疑是用AI生成的,引发广泛关...
长白山一冬季漂流项目带游客体验... 近日,广东游客陈女士(化名)在社交平台发布了一组在吉林延边长白山玩冬季漂流的图片。图片中可以看到现场...
读书、赏花、赶集!兴宁区旅游专... 本文转自:人民网-广西频道12月28日,南宁市兴宁区第三期“爱与成长”——爱上阅读读书会在十里花廊书...
国产模型再突破,GLM-4.7... 2025年行至尾声,北京大模型企业再次收获“全球第一”。全球知名的权威大模型评测榜单Artifici...
探秘鹿乡三百年 本文转自:人民网长春市双阳区,被誉为“中国梅花鹿之乡”。人民网记者 王海跃摄人民网长春12月29日电...
企业AI价值实现的五大人力准备... 组织正在竞相释放AI的变革潜力,但真正的瓶颈并非技术问题,而是人力准备度不足。 技术飞速发展,但大多...
美国医生:沉迷与AI聊天,易患... “他是我唯一的灵魂伴侣,只有他能听懂我未竟的话语。” 在佛罗里达州的一间心理诊所里,23岁的软件工程...
专业高效的AI生产力利器!Th... 在商务与专业工程领域,一台兼具高性能表现、稳定可靠性与智能效率的笔记本,是提升工作效率的核心装备。作...
招商证券:海外开源GPT逐步接... 智通财经获悉,招商证券发布研报称,海外开源GPT逐步接入电商,实现了意图到交易的闭环转化,显著缩短了...