??2025年网络安全宣传周即将于9月15日至21日在云南昆明举办，今年网安周的主题为“网络安全为人民，网络安全靠人民——以高水平安全守护高质量发展”。据悉，今年网安周高峰论坛上将发布《人工智能安全治理框架》2.0版、《政务大模型应用安全规范》以及2025年人工智能技术赋能网络安全应用测试结果等。

??当前人工智能已经成为引领新一轮科技革命和产业变革的战略性技术，也给国家网络安全带来新机遇和新挑战。随着ChatGPT、文心一言、DeepSeek等AI大模型工具的普及，越来越多的人开始使用这些工具辅助工作、学习和创作。然而，技术在带来便利的同时，也伴随着不容忽视的风险。在"网络安全为人民，网络安全靠人民"的主题指引下，我们需要共同关注个人使用AI工具时面临的风险，学习防范措施，确保在享受技术红利的同时，守护好个人和单位的数字安全。

??一、 AI工具使用中的五大风险

??（一）数据泄露与隐私侵犯风险

??1.输入数据泄露：用户与AI工具的对话内容、上传的文件（含Word、PDF、Excel等）都可能被服务商记录并用于模型训练，且通常无法完全删除。

??2.元数据泄露：在使用过程中，可能无意间泄露设备信息、地理位置、使用时间习惯等元数据。

??3.隐私推理风险：AI可能通过关联分析，从看似无害的信息中推断出个人敏感数据。

??4.第三方共享风险：AI服务商可能与第三方共享用户数据，增加数据流转环节的泄露风险。

??（二）内容安全与真实性风险

??1.幻觉与虚假信息：AI可能生成看似可信但完全错误的内容，包括虚假的统计数据、不存在的研究成果或编造的事件。

??2.内容质量不稳定：同一问题的不同回答可能产生矛盾，影响决策可靠性。

??3.过时信息传播：基于训练数据的时间局限性，AI可能提供已过时的政策、法规或科学知识。

??4.隐蔽偏见与歧视：训练数据中的偏见可能导致输出结果包含性别、地域、文化等方面的歧视性内容。

??（三）技术安全与系统漏洞风险

??1.提示词注入攻击：攻击者通过精心构造的输入，诱导AI执行非预期操作或泄露系统提示词。

??2.训练数据投毒：恶意污染训练数据可能导致模型产生特定偏差或漏洞。

??3.模型逆向工程：通过反复查询，攻击者可能推断出模型的内部参数或训练数据。

??4.供应链攻击：AI开发链条中的第三方组件可能包含恶意代码或漏洞。

??（四）网络安全与诈骗升级风险

??1.高度定制化钓鱼攻击：AI可生成针对特定个人的精准钓鱼邮件，模仿写作风格和语气。

??2.深度伪造与身份冒充：不法分子利用AI生成的虚假音视频进行身份欺诈和诈骗。

??3.自动化社会工程学攻击：AI可大规模生成个性化诈骗脚本，提高攻击成功率。

??4.恶意代码生成：攻击者利用AI生成新型恶意软件或优化现有攻击代码。

??（五）法律合规与知识产权风险

??1.版权侵权风险：AI生成内容可能无意中侵犯第三方著作权、商标权等知识产权。

??2.合规性风险：在不同司法管辖区使用AI工具可能违反当地数据保护法规（如GDPR、个人信息保护法）。

??3.责任认定困难：AI生成内容造成损失时，责任认定和法律追责面临挑战。

??4.许可证合规风险：AI生成的代码可能包含不符合开源许可证要求的内容。

??二、 个人AI使用安全防护指南

??（一）强化数据保护措施

??1.不输入敏感信息：避免输入密码、身份证号、银行卡号、公司内部数据等敏感信息。

??2.使用替代数据：需要用示例时，使用模拟数据而非真实数据。

??3.开启隐私设置：在支持的工具中主动关闭数据训练功能，及时删除对话历史中可能涉及隐私的内容。

??4.采用本地化部署：对敏感任务优先选择本地部署的AI解决方案。

??（二）建立内容验证机制

??1.实施交叉验证：对AI提供的关键信息，通过多个独立信源进行核实。

??2.设立人工审核环节：重要决策和内容必须经过专业人员审核。

??3.使用可信来源：要求AI提供信息时引用权威来源，并核实引用的真实性。

??4.保持批判性思维：培养对AI输出内容的质疑和验证习惯。

??（三）加强技术安全防护

??1.使用正版工具：从官方渠道获取AI工具，避免使用来历不明的版本。

??2.保持软件更新：及时更新AI工具和相关依赖库，修复已知漏洞。

??3.使用安全开发实践：对AI生成的代码进行严格的安全测试和代码审查。

??4.实施访问控制：对AI工具的使用权限进行严格管理，遵循最小权限原则。

??（四）提升安全意识素养

??1.识别AI生成内容：学习识别AI生成文本、图像和视频的特征迹象

??2.验证身份真实性：对涉及资金转移、敏感操作的要求，通过多种渠道确认。

??3.了解法律责任：熟悉使用AI工具可能涉及的法律风险和合规要求。

??4.学习安全知识：持续关注网络安全最新动态，提升自身防护能力。

??人工智能技术是一把双刃剑，既能创造价值，也可能带来风险。让我们以本次网络安全宣传周为契机，增强AI安全意识，掌握安全使用技能，做到"智能用AI，安全享未来"。