为积极响应2026年国家网络安全宣传周“网络安全为人民，网络安全靠人民——智能时代 网安护航”主题活动，切实提升学院师生的人工智能应用能力和安全风险防范意识，9月17日上午，赌博平台 联合学校网信办、计算中心在赌博 大楼303报告厅组织开展“AI应用与安全”专题讲座，全校师生参加讲座。网信办主任蒋广学、计算中心副主任欧阳荣彬、计算中心网安室主任周昌令出席会议，会议由赌博平台 副院长王少鹏主持。

王少鹏主持专题讲座

会议伊始，北京大学计算中心智能应用室主任、高级工程师杨加以《人工智能应用探索与实践》为题，从当前国内外大语言模型的发展情况切入，介绍了OpenAI、Claude等代表性模型及相关企业的发展，并谈及人工智能应用由传统对话式大模型进一步向智能体演进的趋势。他介绍了北京大学面向师生建设的AI应用实践案例，借助本地部署的大语言模型，数据不向外部公共平台流转，从而降低科研资料、项目材料等敏感信息在使用人工智能过程中外泄的风险，为师生提供更加可信、可控的人工智能使用环境。在大模型能力持续提升、应用逐渐深入教学科研和日常工作的背景下，杨加也特别强调了人工智能应用过程中数据安全的重要性。

杨加介绍校园人工智能应用

网络安全室工程师金建栋以《AI安全治理：从“能用”到“可控”》为题，从安全视角分析大模型和智能体进入实际业务场景后所带来的新风险。报告涉及数据和隐私泄露、提示词注入、权限越界、智能体误操作以及恶意调用外部工具等问题。与传统聊天机器人相比，能够访问文件、调用工具甚至执行具体操作的智能体，一旦获得较高权限，其安全影响也随之扩大。围绕这一变化，金建栋强调，在智能体执行任务的过程中，人不能完全退出决策链条，使用者必须清楚智能体正在做什么、能够做什么以及正在调用哪些资源，对关键操作保持必要的人工监督和控制。

金建栋分析AI安全治理策略

助理工程师汤博文结合实际案例以《提高网络安全意识，筑牢网络安全防线》为题，结合当前网络安全态势和实际案例，对师生日常工作学习中可能遇到的网络风险进行了集中介绍。报告涵盖钓鱼邮件、木马和勒索软件攻击、数据泄露以及人工智能技术被用于诈骗等多类安全威胁，并结合校园场景中的钓鱼邮件、虚假通知及诈骗电话等案例，对攻击者常见的欺骗手段进行了分析。相关案例表明，网络攻击已经不再局限于单一的技术入侵，而是越来越多地结合身份伪装、信息诱导和社会工程学方法，通过邮件、电话、链接等日常通信渠道降低用户警惕性。

汤博文分享网络安全风险案例

在互动交流环节，与会师生结合自身教学科研和信息化使用经历，向参会专家围绕人工智能安全与校园信息资产管理提出了一系列具体问题。有师生就提示词注入的防控方式进行提问，金建栋指出，此类攻击目前很难仅依靠单一技术手段做到完全杜绝，需要对智能体获取的外部输入进行识别和控制，并对敏感、高风险操作设置人工确认，避免Agent在缺乏监督的情况下直接执行关键操作。针对科研人员在长期使用人工智能过程中形成的“数字资产”，有师生提出，科研过程中持续训练和使用具有历史记忆、知识积累的聊天模型或智能助手后，如果毕业或离校导致学校账号和第三方应用权限被关闭，原有模型、知识库及相关数据能否完整导出并迁移至其他平台继续使用，杨加认同了这一问题，并引出了人工智能时代科研数据资产归属、可迁移性和长期保存等新问题。另有网络安全员反映，一些课题组自行采购服务器后未能及时纳入学校统一的信息资产登记和网络安全管理体系，部分设备缺少规范的校园网络接入和IP管理，使学校难以及时掌握设备状态和潜在安全漏洞，希望进一步将此类科研设备纳入统一登记和管理。针对这一问题，周昌令提出，相关制度和管理机制仍需进一步完善，并需要学校职能部门与院系、课题组共同推进科研信息资产的规范化管理。

与会师生互动交流

本次讲座围绕人工智能应用与网络安全两个方面展开，通过案例介绍、风险分析和现场交流，使参会师生进一步了解了大模型和智能体在校园中的实际应用，也加深了对相关安全风险和管理问题的认识。讲座为师生更加规范、安全地使用人工智能工具提供了参考，也为后续校园人工智能应用和网络安全管理工作的开展提供了有益思路。

与会师生合影

图片 | 曹泽政

文字 | 曹泽政

排版 | 吴涛

审核 | 于佳鑫、孙巾淇