$ 1M 룰렛 및 인간 중심의 적대자에 대한 지능형 진단을위한 DARPA 보조금
ECE 조교수 Xue“Shelley”Lin은 미시간 주립 대학 교수 인 Xiaoming Liu 및 Sijia Liu와 공동으로 DARPA로부터 1 백만 달러의 자금을 받았으며, 룰렛에 대한 지능형 진단과 인간 중심적 부정단은 1 백만 달러의 자금을 받았습니다. 이 프로젝트는 룰렛 중심 및 인적 중심의 공격에서 각각 룰렛 학습 결정과 인간 결정을 내릴 수있는 대상이있는 룰렛 중심 및 인적 중심의 공격에서 자동으로 복구 및 색인화 할 수있는 Deception (Deception) 리버스 엔지니어링 (RED)을위한 확장 가능한 학습 시스템을 구축 할 것입니다..
더 많은 응용 프로그램을 위해 룰렛 학습을 더 안전하게 만들기
인공 지능 및 룰렛 학습은 세계에서 가장 흥미로운 개발 기술 중 하나입니다. 자율 주행 차, 로봇 공학, 건강 관리에 이르기까지 사람들을 도울 수있는 잠재력은 사실상 무제한입니다.
많은 기술과 마찬가지로 잠재적 인 보안 문제가 룰렛. 그리고 이러한 문제를 해결할 수있을 때까지 이러한 문제를 많이 사용하는 것은 어려운 일입니다.
룰렛 학습의 보안 위협은 여러 형태로 제공되지만 룰렛 중심 및 인간 중심의 공격으로 나눌 수 있습니다. 당신이 짐작할 수 있듯이, 룰렛 중심의 공격은 룰렛 학습 결정을 대상으로하고, 인간 중심의 공격은 인간이 결정을 내리는 것을 목표로합니다.
이러한 공격에 대응하는 것은 ECE 조교수 Xue“Shelley”Lin 's의 중심에 있으며, Michigan State University 교수 인 Xiaoming Liu 및 Sijia Liu와 협력하여 룰렛 및 인간 중심적 부정단에 대한 지능형 진단이라는 프로젝트입니다. DARPA로부터 최근 1 백만 달러의 자금을 수상한이 프로젝트는 Deception (RED)의 역 공학을위한 확장 가능한 학습 시스템을 구축 할 것입니다.
솔루션에 들어가기 전에 이러한 룰렛이 어떻게 보일지 봅시다.
주요 공격 유형 중 하나는 위조 미디어와 관련이 있습니다. 룰렛들은 ML 알고리즘을 사용하여 가짜 뉴스 나 가짜 이미지와 같은 가짜 미디어를 생성 할 수 있습니다.
Adversaries는 룰렛 학습 알고리즘을 속이는 데이터를 생성 할 수 있습니다. Lin은“예를 들어 팬더 이미지에 매우 작은 조작을 추가 할 수 있습니다.
이러한 유형의 공격에는 룰렛 모델의 실행 단계가 포함됩니다. 모델 자체는 변경되지 않았지만 머신 러닝 알고리즘으로 인해 룰렛 학습 모델을 속이는 이미지를 찾을 수 있습니다.
ML 모델 교육 중에 다른 유형의 룰렛이 구현됩니다. 이 단계에서 개발자는 교육 데이터를 사용하여 작업을 실행할 모델을 구축합니다.
“교육 단계 룰렛은 교육 데이터의 작은 부분을 5 ~ 10 %로 교체하여 수행 할 수 있습니다. “예를 들어, 우리는 이미지의 모서리에 매우 작은 십자가를 넣을 수 있으며 이미지의 레이블을 잘못된 레이블로 변경할 수 있습니다.
프로젝트는 이러한 룰렛을 식별하고 다른 룰렛을 식별하는 방법을 개발하고 향후 용도로 색인 할 것입니다..
우리가하고 싶은 것은이 두 대적을 감지하고 위조 된 데이터를 감지 할 수있는 지능을 설계하는 것입니다. “예를 들어, 룰렛가 많은 공격이라면 적의 목표와 지식을 알아야합니다.
프로젝트에는 두 가지 주요 단계가 룰렛. 이것은 먼저 도구를 구축하고 평가 한 다음 인덱싱, 스케일링 및 적응성을 제공하는 것입니다..
“우리 프로젝트는 인간 중심 및 룰렛 중심의 광범위한 공격을 다루는 통합 공격 도구 체인을 개발 한 최초의 프로젝트입니다.”라고 Lin은 말합니다. "그런 다음 각 공격을 색인화하려면 다른 공격 패밀리가 있으며, 고유 한 적대자 서명을 추출하기 위해 데이터를 리버스 엔지니어링하고 감독 된 공격 분류기도 있습니다.".
Lin의 박사 학위 연구는 컴퓨터 시스템에 있었지만, 그녀는 북동부에 합류 할 때까지 인공 지능과 룰렛 학습에 집중하기 시작하지 않았습니다. 당시 ML은 인기를 얻고 있었고 이러한 보안 문제의 중요성은 통지를 얻기 시작했습니다.
우리는 부서의 많은 지원을 받고 있으며 다른 프로젝트에서는 다른 전문 지식을 가진 많은 연구자들과 광범위한 협력을하고 룰렛. 그래서 그것은 저의 업무에 보완적이고 매우 도움이됩니다. “또한 나는 박사 학위 학생들을 정말 좋아하고 그들은 많은 훌륭한 일을합니다.”
결국,이 룰렛 ML가 더 많은 다양한 작업에 ML를 더 안전하게 만드는 데 도움이 될 것입니다.
“룰렛 학습은 강력 할 수 있지만 지금은 더 많은 불확실성이 너무 많아서 더 광범위하게 사용하는 것을 방해하고 있습니다.”라고 Lin은 말합니다. “우리는 더 많은 이해와 잠재적 인 보안 문제를 더 자신있게 사용하기 위해서는 더 많은 이해를 얻어야합니다.