浙江工业大学网络空间安全研究院特聘研究员，硕士生导师。

长期从事机器学习、黑盒对抗攻击、人工智能等领域的研究工作。从人工智能系统与大模型系统的实际情况出发，对黑盒对抗攻击的理论和方法进行研究，并构建全面的黑盒对抗攻击开源程序库。特别地，我们对基于查询的黑盒攻击进行了深入研究，相关理论成果发表在CCF A类顶级会议和期刊上，如IEEE/CVF Conference on Computer Vision and Pattern Recognition（CVPR）、Advances in Neural Information Processing Systems（NeurIPS）、ACM International Conference on Multimedia（ACM MM）等顶级会议和SCI期刊论文，并获得省部级科研项目资助。

研究方向：人工智能安全，黑盒对抗攻击，语言大模型越狱与攻击，生成式大模型的对抗攻击

工作/教育经历：

2023-至今 浙江工业大学网络空间安全研究院特聘研究员

2016-2022   清华大学，博士

2013-2015   北京邮电大学，硕士

2014-2016   新浪网技术（中国）有限公司，研发工程师

部分论文：

[1] Chen Ma, Chenxu Zhao, Hailin Shi, Li Chen, Junhai Yong, Dan Zeng. MetaAdvDet: towards robust detection of evolving adversarial attacks[C]//ACM International Conference on Multimedia. 2019: 692-701. （CCF-A 类会议）

[2] Chen Ma, Li Chen, Jun-Hai Yong. Simulating unknown target models for query-efficient black-box attacks[C]//IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2021: 11835-11844. （CCF-A 类会议）

[3] Chen Ma, Xiangyu Guo, Li Chen, Jun-Hai Yong, Yisen Wang. Finding optimal tangent points for reducing distortions of hard-label attacks[C]//Advances in Neural Information Processing Systems. 2021: 19288-19300.（CCF-A 类会议）

[4] Chen Ma, Li Chen, Junhai Yong. AU R-CNN: encoding expert prior knowledge into R-CNN for action unit detection[J]//Neurocomputing. 2019, 355: 35-47.

[5] Yahu Yang; Chen Ma; Guoqi Li; Yu Wang; Li Zhang; Shenmin Song. ADERLNet: Adaptive Denoising Enhancement Representation Learning for Low-Latency and High-Accurate Target Detection on SAR Sensors[J]//IEEE Sensors Journal, 2024, 24(5): 6430-6450.

科研项目：

[1] 浙江省科学技术厅, “尖兵领雁+X” 研发攻关计划，人工智能安全机理与风险防控技术研究, 2024-01至2025-12, 在研 

学术任职：

(1)International Journal of Gaming and Computer-Mediated Simulations （IJGCMS）期刊编委

(2)IEEE Transactions on Pattern Analysis and Machine Intelligence （IEEE T-PAMI）审稿人

(3)International Journal of Computer Vision 审稿人

(4)Neurocomputing 审稿人

(5)Neural Processing Letters 审稿人

(6)IEEE International Conference on Multimedia and Expo （ICME）会议审稿人

在从事可信机器学习领域的研究工作过程中，也积极开拓合作渠道，目前已与多名国内外知名学者建立了合作关系。

联系邮箱：machen@zjut.edu.cn