十年,他为AI大模型“治未病”、护安全

作者:张傲摄影: 视频: 来源:《复旦》校报发布时间:2024-04-25


AI安全研究要紧跟着AI前沿脚步,识破技术迷局,率先揭示AI系统的潜在安全风险,同时发展安全评测和治理方法,就像中医所谓的“治未病”,对未知疾病进行预防和提早治疗。

回望2018年,本科毕业前夕,潘旭东也曾考虑过出国深造。AI安全研究在国际上已初露端倪,而国内还鲜有关注,“我一直相信,扎根中国,同样能做出杰出的成果。”对此,潘旭东的抉择尤为坚定,要在祖国的土壤上做出独创性的成果。

博士毕业之际,潘旭东已在国际顶会顶刊发表20多项科研成果,收到了“华为天才少年”的Offer和海外顶尖科研机构的工作邀约。薪酬丰厚的产业界,世界级的海外科研机构,还是求贤若渴的国内土壤?他最终依旧坚定选择了复旦这片“卓越而有趣”的学术旷野。

决定留校以后,潘旭东在科研的旷野上不断找寻着方向。20234月起,潘旭东和团队将研究重心转移到AI大模型安全评测与治理。深受复旦文理融合特色熏陶,潘旭东从“现代语言学之父”乔姆斯基转换生成语法中获得灵感,研制基于语言学变异的AI安全治理大模型,高效诱导国内外数十款大模型违规生成,全面评测当前AI大模型安全水位,受到广泛关注。

谈及留在复旦的其他原因,潘旭东也希望将导师言传身教的报国理想,伴随着科研经验,传递给下一代的复旦青年,“看到学生做出有意义的成果而感到由衷高兴”。 


制图:实习编辑:责任编辑:

相关文章

文化校历

新闻分类

推荐视频

图说复旦

新闻排行

周排行 月排行

  • 联系我们
    fudan_news@163.com
    021-65642268