前沿观点｜在“攻”与“防”之间找到人的位置

从智能家居的语音控制到工业生产的自动化活动，从金融交易的算法决策到城市管理智能系统，当人工智能从“帮你思考”演进为“替你动手”，在带来效率提升革命的同时，也造成了风险形态的实质性改变。人类与技术的关系需要被重新校准，安全边界概念也需要被重新审视。

在此先要说说开源AI智能体，它的普及带动了技术创新，但也造成安全门槛降低。这些可以高度个性化定制的系统一旦被恶意利用，就可能被编程开展非法资金转移、供应链攻击，甚至操控工业系统和基础设施。一场得逞的网络攻击，其后果不会局限于数据失窃以及服务中断，而是有可能直接造成设备损坏、生产停顿甚至影响公共安全。

更该引起警惕的，是AI展现出的自主攻防能力。AI系统已可以自主发现、分析并利用软件漏洞，它的效率远远高于人类专家的效率，这种能力使得网络攻击的技术门槛大幅降低——过去要有专业知识和丰富经验的高级攻击，未来有可能被一个训练好的AI模型自动搞定，并有可能在安全人员察觉到异常之前就完成了整个入侵过程。我们面对的，将是不知疲倦、一直进化的新型“攻击者”。

着眼这种转变，传统防御模式已显出不足。人们未来要构建的安全防线，是“人机协同”作战网络：AI系统承担实时监控、自动响应和模式学习等战术任务，而人类专家专注于战略制定、伦理监督和复杂情况应对。这种合作不仅需要技术方面的创新，更需要与之相应的组织和人才培养体系配套助力。

这一挑战已越过纯粹的技术领域，变成与国家安全及社会安定有关的系统性问题。在法律层面来讲，应界定AI开发应用的安全标准及责任界限，尤其是对可以控制物理系统的智能体实施分级管理，在产业实践的层面上，要促使安全设计理念融入产品研发的整个过程。在社会层面而言，应提升公众的数字素养以及风险意识，培养对智能工具批判性使用的能力。

建立跨领域协同治理机制很重要，各关键领域要打破信息之间的壁垒，形成风险预警和应急响应的联动网络，只有在技术、法律、产业和社会等多个层面搭建协同防护体系，我们才能在AI拥有“动手”本领的新时代，既得到技术创新的红利，又保障安全发展的边界。

要注意的是，在更隐蔽的层面上，人类个体的独立思考能力和认知自主性同样会被潜在影响波及。怎样在借助AI扩充能力的同时，保障人类的精神主体特性？这是智能时代更为基础的命题，这要求我们守住对人文价值的坚持，在创新与传承当中找到平衡点，在享受智能所带来的便利时，不丧失作为人的本质特征。

（作者系全国政协委员、民进中央开明画院副院长）