当AI狂飙突进，它们的安全性到底如何？在对国内外32款大模型进行全面测评后，复旦大学教授、计算与智能创新学院执行院长杨珉团队发现其中有11款已具备自我复制能力，一旦被滥用，可能脱离人类控制。他在2025年人工智能安全与治理论坛上公布了这一发现。
为移动生态筑起安全防线
杨珉所从事的研究，正是伴随着中国移动互联网在过去十年经历的跨越式发展。
2011年，伴随着安卓系统的初露头角，之前研究方向为计算机网络的杨珉做出一个令人惊讶的重大转型，专攻网络安全这个当时还无人问津的“冷门”方向。这是因为他敏锐察觉到，移动互联网的飞速发展不仅会带来便利，也会催生出前所未有的挑战。另一方面，当中国移动互联网生态迈入“无人区”，过去参考西方国家的成熟模式和实践经验的模式也难以为继，移动互联网安全防护技术的自主创新成为必由之路。
“经过十几年发展，我们可以很骄傲地说，在这个研究领域，我们已进入国际第一方阵，形成了很好的学术影响力。”杨珉团队围绕安卓系统进行突破，围绕移动终端系统架构、生态特征、攻防模式等与传统互联网的本质差异展开了系统性创新。
项目团队开创性地建立了移动互联网生态安全防护体系，形成多项国家标准和核心专利，填补我国相关技术领域空白。相关成果和实际业务场景高度耦合，广泛应用于行业当中，赋能华为、OPPO、Vivo、小米、百度、阿里等头部企业的安全技术需求，同时支撑国家监管体系建设，保障了亿万用户的信息安全，真正做到了“把论文写在祖国大地上”。
在今年颁发的2024年度上海市科学技术奖中，团队凭借“移动互联网生态安全防护的关键技术研究及应用”项目，摘得技术发明奖一等奖。
科技反诈持续升级
面对电信诈骗，杨珉团队从技术层面对其“釜底抽薪”，通过融合分析电诈网站的语义特征、网络拓扑和行为模式构建“欺诈图谱”，快速、精准发现并阻断涉诈网站和APP。这项技术不仅能高效阻断诈骗信息的传播，还能为公安机关提供精准的侦破线索，有力支撑了国家反电诈专项治理和国务院联席反电诈工作机制的平台系统。
除了应对外部威胁，维持手机自身健康同样重要。杨珉团队“软硬结合”“抓住本质”，建立了覆盖3000余种软件行为的“基因图谱库”，实现了对恶意行为的持久识别。此外，团队还将核心算法与AI芯片深度融合，让安全防护既强大又省电。该技术不仅获得了网络安全顶会的杰出论文提名奖，更被华为等主流手机厂商采纳，应用于Mate系列等数千万台设备中。
培养实战型网络安全人才
在人才培养上，杨珉坚持“理论与实战”两条腿走路。他指导学生组建的“白泽战队”多年来在国内顶级信息安全竞赛中屡获殊荣，向业界和社会输送了一批批一流实战型网络安全人才。
回望来路，他感恩复旦这片自由和宽容的土壤。“正是因为它允许我去做可能失败、甚至长期无回报的事情，才可能有后来厚积薄发的成果。”今天，杨珉团队已将视野拓展到AI系统安全、人工智能治理等新前沿。怀揣使命感，杨珉团队在新的征途上永不停歇。
本报记者 殷梦昊 实习记者 姚舟怡
本报记者 李玲 摄
