王员根教授团队在人工智能领域国际顶会NeurIPS 2023发表对抗攻击深度模型方面的最新研究成果

近日，计算机科学与网络工程学院王员根教授团队在无参考视频质量评估模型（NR-VQA）的对抗攻击方面取得重要研究进展，首次报道了应用对抗攻击探索黑盒下NR-VQA鲁棒性的工作，建立了对抗攻击NR-VQA的理论框架，提出了分数反转边界损失函数，将模型的预测分数推向特定边界以达到误导模型的目的。相关研究成果发表在人工智能领域国际顶级会议：37th Anniversary Conference on Neural Information Processing Systems （NeurIPS 2023），并评级为Spotlight 论文（录用率3%）。

01丨研究背景

无参考视频质量评估（NR-VQA）对于改善视频终端用户的观看体验起着至关重要的作用。近年来，基于CNN和Transformer的NR-VQA模型取得了优异的性能。然而，这些深度模型的鲁棒性至今鲜有报道，关键问题在于 NR-VQA属于回归任务（不同于分类任务），要建立NR-VQA对抗攻击的理论框架以及设计有效的优化目标函数是一个极其挑战的科学难题。

02丨研究内容

王员根教授团队通过综合考虑攻击效率和对抗视频的感知质量，对NR-VQA模型的对抗攻击问题建模为在Just Noticeable Difference （JND）约束下对模型的估计质量分数进行误导。在这种建模的基础上，设计了一种分数反转的边界损失函数，将对抗视频的估计质量分数远离其ground-truth（MOS）且推向特定的边界，并设置JND约束为严格的L2和L∞范数限制。作者进一步提出了一种基于块的随机搜索黑盒攻击方法。通过这种方式，白盒和黑盒攻击都可以以一种有效且不易察觉的方式实现。

03丨研究相关

该研究成果由广州大学王员根教授团队独立完成。第一第二作者分别为计算机科学与网络工程学院硕士研究生张奥翔和冉钰，导师王员根教授。人工智能研究院唐伟轩副教授和计算机科学与网络工程学院王员根教授为共同通讯作者。该课题的研究得到了国家自然科学基金、广东省自然科学基金等多项基金的支持。

论文链接

论文地址：

https://arxiv.org/pdf/2309.13609.pdf.

源码链接：

https://github.com/GZHU-DVL/AttackVQA.

转自：“广大科研”微信公众号

如有侵权，请联系本站删除！