입력 변이에 따른 딥러닝 모델 취약점 연구 및 검증

Vol. 31, No. 1, pp. 51-59, 2월. 2021
10.13089/JKIISC.2021.31.1.51, Full Text:
Keywords: Deep Learning, Mutation, Adversarial machine learning
Abstract

딥러닝 모델은 변이를 통해 훈련 데이터에서 벗어난 입력으로부터 잘못된 예측 결과를 산출할 수 있으며 이는 자율주행, 보안 분야 등에서 치명적인 사고로 이어질 수 있다. 딥러닝 모델의 신뢰성 보장을 위해서는 다양한 변이를통해 예외적인 상황에 대한 모델의 처리 능력이 검증되어야 한다. 하지만, 기존 연구가 제한된 모델을 대상으로만수행되었으며, 여러 입력 변이 유형에 구분을 짓지 않고 사용했다. 본 연구에서는 딥러닝 검증 데이터 세트로 널리사용되고 있는 CIFAR10 데이터 세트를 기반으로 다양한 상용화된 모델과 추가 버전을 포함하여 총 6개의 모델에대한 신뢰성 검증을 수행한다. 이를 위해 실생활에서 발생할 수 있는 6가지 유형의 입력 변이 알고리즘을 다양한 파라미터와 함께 데이터 세트에 개별적으로 적용하여 각각에 대한 모델의 정확도를 비교함으로써 특정 변이 유형과 관련된 모델의 취약점을 구체적으로 파악한다.

Statistics
Show / Hide Statistics

Statistics (Cumulative Counts from December 1st, 2017)
Multiple requests among the same browser session are counted as one view.
If you mouse over a chart, the values of data points will be shown.


Cite this article
[IEEE Style]
김재욱, 박래현 and 권태경, "Analysis of Deep Learning Model Vulnerability According to Input Mutation," Journal of The Korea Institute of Information Security and Cryptology, vol. 31, no. 1, pp. 51-59, 2021. DOI: 10.13089/JKIISC.2021.31.1.51.

[ACM Style]
김재욱, 박래현, and 권태경. 2021. Analysis of Deep Learning Model Vulnerability According to Input Mutation. Journal of The Korea Institute of Information Security and Cryptology, 31, 1, (2021), 51-59. DOI: 10.13089/JKIISC.2021.31.1.51.