سپر تفکیک‌پذیر (GRDS)، ارائه روشی برای افزایش مقاومت شبکه‌های عصبی گرافی

مقالات آماده انتشار

نوع مقاله : مقاله پژوهشی

نویسندگان

1 دانشجوی کارشناسی ارشد هوش مصنوعی و رباتیکز، دانشکده هوش مصنوعی و علوم شناختی، دانشگاه جامع امام حسین (ع)، تهران، ایران

2 استادیار، دانشکده هوش مصنوعی و علوم شناختی، دانشگاه جامع امام حسین (ع)، تهران، ایران

3 دانشجوی دکتری هوش مصنوعی و رباتیکز، دانشکده هوش مصنوعی و علوم شناختی، دانشگاه جامع امام حسین (ع)، تهران، ایران

10.22034/abmir.2026.24239.1220

چکیده

آسیب‌پذیری شبکه عصبی گرافی (GNN) در مقابل حملات تخاصمی یک چالش اساسی در این حوزه بوده که پیاده‌سازی آن‌ها را در کاربردهای حساس و با ریسک بالا محدود می‌سازد. در این پژوهش، یک چارچوب دفاعی هوشمند با نام تصادفی‌سازی گراف به‌عنوان سپر تفکیک‌پذیر (GRDS) را معرفی می‌کنیم که این چالش را با هزینه محاسباتی معقول برطرف می‌کند. نوآوری اصلی پژوهش ما در ارائه یک راهکار عملی بوده که برخلاف روش‌های مرسوم، مقاومت را بدون کاهش چشمگیر دقت در داده‌های تمیز، ایجاد می‌کند. روشی که در این چارچوب به کار گرفته‌ایم برپایه یک سپر ماژولار بنا شده است که با استفاده از یک تابع زیان چند-هدفه و هوشمند، با یادگیری می‌تواند به‌صورت تفکیک‌پذیر باعث تمایز یال‌های حیاتی و غیرحیاتی گراف شود. این سپر قبل از شبکه عصبی گرافی قرارگرفته و با تار کردن هدفمند ساختار گراف، باعث گمراهی مهاجمان می‌گردد. این چارچوب با Pytorch و کتابخانه PyTorch Geometric پیاده‌سازی شده است، ارزیابی جامع بر روی دیتاست‌های استاندارد Cora، Pubmed و CiteSeer و در برابر انواع روش‌های حمله (مبتنی بر گرادیان، تصادفی و مانند آن) انجام شد و نتایج استخراج‌شده نشان می‌دهد GRDS با هزینه‌ای ناچیز در دقت (افت کمتر از 4%) باعث افزایش مقاومت مدل نسبت به مدل پایه می‌شود (بیشتر از 11%). این یافته الهام‌بخش آن بوده که دفاع مؤثر در تصادفی سازی هوشمند بهتر از حذف کورکورانه عمل می‌کند.

کلیدواژه‌ها

موضوعات

عنوان مقاله [English]

Graph Randomization as a Differentiable Shield (GRDS): A Method for Enhancing the Robustness of Graph Neural Networks

نویسندگان [English]

  • Ali Hosseinpournaderi 1
  • Mohammad Ali Javadzade 2
  • Hossein Hosseini 3
1 Master’s student in Artificial Intelligence and Robotics, Faculty of Artificial Intelligence and Cognitive Sciences, Imam Hossein Comprehensive University, Tehran, Iran
2 Assistant Professor, Faculty of Artificial Intelligence and Cognitive Sciences, Imam Hossein Comprehensive University, Tehran, Iran
3 PhD’s student in Artificial Intelligence and Robotics, Faculty of Artificial Intelligence and Cognitive Sciences, Imam Hossein Comprehensive University, Tehran, Iran
چکیده [English]

The vulnerability of Graph Neural Network (GNN) to adversarial attacks remains a fundamental challenge in the field, limiting their deployment in sensitive and high-risk applications. In this research, we introduce an intelligent defensive framework named Graph Randomization as a Differentiable Shield (GRDS), which addresses this challenge at a reasonable computational cost. The core innovation of our work lies in providing a practical solution that, unlike conventional methods, enhances model robustness without causing a significant drop in accuracy on clean data. The methodology underpinning our framework is built upon a modular shield. Utilizing a multi-objective and intelligent loss function, this shield learns to differentially distinguish between critical and non-critical edges in the graph. Positioned before the Graph Neural Network, it misleads potential attackers by intentionally obfuscating the graph structure. The framework is implemented using PyTorch and the PyTorch Geometric library. Comprehensive evaluations were conducted on standard datasets (Cora, PubMed, and CiteSeer) against various attack methods (gradient based, random, etc.). The extracted results demonstrate that GRDS incurs a negligible cost in accuracy (a decrease of less than 4%) while substantially increasing the model's robustness compared to the baseline model (an improvement of more than 11%). This finding underscores the principle that effective defense through intelligent randomization outperforms blind removal strategies.

کلیدواژه‌ها [English]

  • Graph Neural Networks
  • Adversarial Robustness
  • Differentiable Randomization
  • Multi‑objective Loss
  • Graph Defense

مراجع

[1]     Zügner, D., Akbarnejad, A., & Günnemann, S. (2018). Adversarial Attacks on Neural Networks for Graph Data. In Proceedings of the 24th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining (pp. 2847–2856). https://doi.org/ 10.1145/3219819.3220078
[2]     Z. Wu et al., "A comprehensive survey on graph neural networks," IEEE Trans. Neural Netw. Learn. Syst., vol. 31, no. 1, pp. 4–24, Jan. 2020, doi: 10.1109/TNNLS.2020.2978386.
[3]     S. Zhang, J. Fang, W. Feng, L. Chen, R. Li, and C. Li, "Simple defense methods are the best defense methods: An extensive study on graph neural network backdoor attacks and defenses," arXiv preprint arXiv:2412.08016, 2024.
[4]     Cheng, H. (2020). Defending Graph Neural Networks against Adversarial Attacks [Master's thesis, Massachusetts Institute of Technology]. MIT DSpace. http://hdl.handle.net/1721.1/137496.
[5]     Madry, A. Makelov, L. Schmidt, D. Tsipras, and A. Vladu, "Towards deep learning models resistant to adversarial attacks," in International Conference on Learning Representations (ICLR), 2018. [Online]. Available: https://openreview.net/forum?id=rJzIBfZAb.
[6]     Veličković, P., Cucurull, G., Casanova, A., Romero, A., Lio, P., & Bengio, Y. (2017). Graph attention networks. arXiv preprint arXiv:1710.10903.
[7]     Chen, J., & Cheng, H. (2023). Robust graph learning with graph convolutional network. Pattern Recognition, *136*, 109266.
[8]     S. Doostali, S. M. Babamir, “An energy efficient cluster head selection approach for performance improvement in network‑coding‑based wireless sensor networks with multiple sinks,” *Computer Communications*, vol. 164, pp. 188‑200, 2020, doi:10.1016/j.comcom.2020.10.014.
[9]     Jin, W., Ma, Y., Liu, X., Tang, X., Wang, S., & Tang, J. (2020, August). Graph structure learning for robust graph neural networks. In Proceedings of the 26th ACM SIGKDD international conference on knowledge discovery & data mining (pp. 66-74).
[10] H. Hosseini, M. Mirzaei, and M. A. Javadi, "[Node classification in citation graphs using graph neural networks]," presented at the 5th Natl. Conf. Comput. Eng. Inf. Technol. Manage., Tehran, Iran, 2023. [Online]. Available: https://civilica.com/doc/2004315
[11] H. Hosseini and M. Naghavi, "[Improving node classification accuracy in graph neural networks using PageRank as an additional node feature]," presented at the 2nd Int. Conf. Adv. Res. Comput. Eng., Tehran, Iran, 2024. [Online]. Available: https://civilica.com/doc/2447199
[12] Z. Hou, M. Lin, M. A. Torkamani, S. Wang, and X. Liu, "Adversarial robustness in graph neural networks: Recent advances and new frontier," in Proc. IEEE 11th Int. Conf. Data Sci. Adv. Anal. (DSAA), San Diego, CA, USA, Oct. 2024, pp. 1–10, doi: 10.1109/DSAA.2024.00000.
[13]    T. Wu et al., "Understanding the robustness of graph neural networks against adversarial attacks," Knowl.-Based Syst., vol. 323, p. 113714, Jul. 2025, doi: 10.1016/j.knosys.2025.113714  
پژوهش های نظری و کاربردی هوش ماشینی

مقالات آماده انتشار، پذیرفته شده
انتشار آنلاین از تاریخ 07 تیر 1405

فایل ها

هم رسانی

ارجاع به این مقاله

آمار