깊은 네이버 룰렛 취약점 찾기

2019 년 11 월 15 일

ECE 조교수 Xue“Shelley”Lin은 깊은 네이버 룰렛 네트워크가 그것을 감지하지 못하도록 티셔츠를 설계하여 시스템의 보안을 향상시킬 수 있습니다..

이 티셔츠는 당신을 보이지 않게 만들 수 있습니다 (깊은 네이버 룰렛)

메인 사진 :이 셔츠의 패턴은 특정 깊은 네이버 룰렛이 착용자가 사람이라는 것을 인식 할 수 없다는 것을 방지합니다. Matthew Modoono/Northeastern University의 사진

두 남자가 카메라쪽으로 나란히 걷는다. 하나는 올 블랙 복장을 착용합니다.

티네이버 룰렛에있는 사람은 보이지 않습니다.

화이트 네이버 룰렛의 패턴은 Grateful Dead Concert에서 볼 수있는 것처럼 보였습니다.네이버 룰렛원이 설계 한Northeastern, IBM 및 Massachusetts Institute of Technology에서 영상을 분석하는 특정 심층 네이버 룰렛을 속이려고합니다.

“깊은 네이버 룰렛은 매우 강력하지만 적대적 공격에 취약 할 수 있습니다.”라고 말합니다.쉬에 네이버 룰렛 돌리기;셸리네이버 룰렛, 북동부의 전기 및 컴퓨터 공학 조교수. "티셔츠를 입을 때 깊은 네이버 룰렛이 이미지에서 당신을 식별 할 수 없을 가능성이 높습니다."

깊은 네이버 룰렛은 패턴을 인식하여 이미지, 사운드 또는 기타 입력을 식별하고 분류하는 데 종종 사용되는 인공 지능 유형입니다. 연구원들은 개인의 목소리를 식별 할 수있을 때까지 수백만 건의 예제로 이러한 알고리즘을 훈련시킵니다.셀카로 얼굴에 수십 년을 추가.

그러나 특정 네트워크 훈련 방법에 대한 세부 사항을 알면 네이버 룰렛이 식별 할 수있는 이미지를 만들기 위해 거꾸로 작업 할 수 있습니다.gibbon으로서의 팬더.

Lin과 그녀의 동료들은 객체 탐지기로 훈련 된 깊은 네이버 룰렛과 협력하고 있습니다. 즉, 비디오에서 "사람"또는 "말"또는 "우산"으로 도형을 올바르게 레이블을 지정할 수 있습니다. 연구원들은 사람을 감지 할 수없는 이미지를 디자인하고 싶었습니다.

디지털 공간에서 이것은 비교적 간단합니다. 연구원들은 이미지 내에서 특정 픽셀의 가치를 찾고 변경하여 네이버 룰렛을 혼동 할 수 있습니다. 이러한 공격을 현실 세계에서 작동시키는 것은 더 어렵지만, 연구원들은 이미 정지 신호의 잘 배치 된 스티커가 인공 지능 시스템을 만들 수 있음을 이미 보여주었습니다.“속도 제한 45”참조- 잠재적으로 치명적인 실수.

패턴을 인쇄하기 전에 연구원들은 실제 세계에서 티네이버 룰렛가 움직이고 주름을 잡는 방식을 설명해야했습니다. Matthew Modoono/Northeastern University의 사진

그러나 정지 신호는 평평하고 고정적인 표면입니다. 티셔츠로 비틀고 뒤틀리고 여전히 네이버 룰렛을 속일 수있는 패턴을 설계하는 것은 훨씬 더 어려운 일입니다.

“우리는 사람들이 걷는 동안 네이버 룰렛의 변형을 모델링하고 계산에 사용해야했습니다.”라고 Lin은 말합니다. "우리의 수학적 문제는 모양이 어떻게 변하는 지 모델링해야했습니다."

Lin과 그녀의 동료들은 바둑판 패턴으로 인쇄 된 티네이버 룰렛로 걷는 사람을 녹음했습니다. 각 사각형의 모서리를 추적함으로써 네이버 룰렛가 어떻게 움직이고 주름을 잡는지를 매핑 할 수있었습니다.

결과는 착용자가 60 % 이상 발견되는 것을 막는 네이버 룰렛였습니다. 완벽하지는 않지만 인상적입니다.

물론, 연구원들은 궁극적 인 슈퍼 스피가 내일의 감시 카메라를 지나갈 수있는 티네이버 룰렛를 만들려고하지 않습니다. 그들은이 구멍을 찾고 고치고 싶어합니다.

“우리의 연구의 궁극적 인 목표는 안전한 딥 러닝 시스템을 설계하는 것”이라고 Lin은 말합니다. "하지만 첫 번째 단계는 네이버 룰렛을 벤치마킹하는 것입니다."

by Laura Castañón, News @ Northeastern