Testing robustness against unforeseen adversaries

신경망 분류기의 예상치 못한 공격에 대한 강건성을 평가하는 방법을 개발했습니다.

우리는 신경망 분류기가 훈련 중에 보지 못한 적대적 공격에 신뢰성 있게 방어할 수 있는지를 평가하는 방법을 개발했습니다. 이 방법은 예상치 못한 공격에 대한 단일 모델의 강건성을 평가하는 새로운 지표인 UAR(Unforeseen Attack Robustness)를 제시합니다. 이는 다양한 예상치 못한 공격의 성능을 측정할 필요성을 강조합니다.

Developed a method to evaluate neural network robustness against unforeseen adversarial attacks.

We have developed a method to assess whether a neural network classifier can reliably defend against adversarial attacks not seen during training. This method yields a new metric, Unforeseen Attack Robustness (UAR), which evaluates a single model's robustness against unanticipated attacks. It highlights the need for measuring performance across a more diverse range of unforeseen attacks.