2025年10月30日，广州大学网络空间安全学院“方滨兴院士班”（方班）2025级的学子们齐聚广州大学黄埔校区B1栋109报告厅，迎来了本学期的第三十九期方班前沿秀。本次报告邀请到了澳门城市大学数据科学学院副院长朱天清教授作为主讲嘉宾，以“大型语言模型的双面性：网络安全视角下的利和弊”为主题，为在场的学子们带来了一场深入浅出、精彩纷呈的学术盛宴。

     报告整体围绕“大型语言模型 （LLMs）在网络安全等多个领域的变革潜力”为核心，对LLMs在网络安全领域的双重作用展开讨论。他首先向大家介绍了大模型到底是什么，很多人觉得大模型“无所不能”，但究其根本，它是一套基于概率的预测系统。依托Transformer网络结构和海量数据预训练，它能根据上下文推测最可能的输出——比如你输入“写一段Python爬虫代码”，它会调用训练过的编程知识，生成逻辑通顺的指令。而让它真正“出圈”的关键，正是2022年ChatGPT的爆发。在此之前，大模型更多停留在技术研究层面，直到对话式交互让普通人直观感受到“AI能理解我”，才彻底推动其从实验室走向产业落地。朱教授指出，当ChatGPT在2022年掀起AI浪潮，大模型便从技术圈走向大众视野。它能写代码、做分析，甚至帮我们排查网络漏洞，但与此同时，恶意代码生成、隐私泄露等风险也如影随形。

     接着朱教授介绍大模型能帮我们做什么。如今大模型的能力早已突破“聊天”范畴，在多个领域展现出实用价值，尤其是网络安全领域，它的应用场景正在快速拓展：效率提升：过去需要工程师手动排查的网络漏洞，现在大模型能快速分析日志、识别异常代码，大幅缩短检测时间；辅助决策：面对复杂的网络攻击事件，它能整合多源信息，梳理攻击路径，为安全团队提供决策参考；普及教育：针对普通用户，它可以用通俗语言讲解钓鱼邮件识别、密码安全等知识，降低网络安全的学习门槛。除此之外，从日常的文案撰写、数据整理，到专业的科研分析、工业设计，大模型正在成为提升效率的“工具人”，背后靠的正是它泛化性强、数据覆盖广、能推理还能记忆的核心特性。

      同时朱教授告诉我们别忽视大模型的“另一面”有多危险。这些特性也是一把“双刃剑”，在带来便利的同时，也滋生了新的安全风险：恶意内容生成：不法分子可利用大模型快速编写恶意代码、伪造钓鱼文件，甚至生成高度逼真的诈骗话术，让攻击成本大幅降低；隐私与偏见隐患：训练数据中可能包含的个人信息，可能在模型输出中泄露；同时，若数据存在偏见，模型也会“继承”这种倾向，比如生成歧视性内容；“幻觉”误导决策：大模型有时会生成看似合理、实则错误的信息（即“幻觉”），若用在网络安全分析中，可能导致误判，错过真正的攻击信号。更值得警惕的是，针对大模型本身的攻击研究也在增多。比如“无数据攻击”，攻击者无需获取模型训练数据，就能通过特定输入让模型输出错误结果；还有“提示词还原攻击”，能破解用户输入的隐私指令——这些攻击手段的效果已在研究中得到验证，为大模型安全敲响警钟。

     最后，朱教授总结了整个讲座讲授内容，大模型不是“万能神”，也不是“洪水猛兽”。它的价值，取决于我们如何利用其优势、规避其风险。未来随着技术迭代，或许会有更完善的安全机制来约束它，但当下，看懂它的本质、正视它的两面性，才是我们与大模型共处的第一步。朱教授精彩的讲解，赢得在座师生阵阵热烈的掌声。

     报告结束后，朱教授与方班同学们进行了深入的交流讨论，解答了同学们提出的疑问。同学们表示从朱教授的报告和讨论中受益匪浅，对大型语言模型也有了更深刻的思考和认识，并对其未来发展充满了期待。
     第三十九期方班前沿秀报告圆满落幕。

整理：王烨 李茂

校对：王乐老师 鲁辉老师 殷丽华老师

责任编辑：鲁辉老师