Atsparumui priešiškoms atakoms būtinas grėsmių modelis
Tyrimų kontekstas
research method · established · Patikros data 2026-10-10
Vertinant atsparumą priešiškoms atakoms su norma apribotais trikdžiais, klausiama, ar užpuolikas gali pakeisti modelio prognozę, naudodamas trikdžius iš nurodytos aibės aplink įvestį.
Esminės žinios
Vertinant atsparumą priešiškoms atakoms su norma apribotais trikdžiais, klausiama, ar užpuolikas gali pakeisti modelio prognozę, naudodamas trikdžius iš nurodytos aibės aplink įvestį. Goodfellow ir kolegų gradiento ženklo metodas atlieka L-begalybės normos žingsnį, remdamasis nuostolių funkcijos gradientu įvesties atžvilgiu. Sėkminga ataka yra empirinis pažeidžiamumo pagal tą modelį įrodymas; baigtinės atakų paieškos nesėkmė nėra atsparumo įrodymas. Teiginio apimtį lemia norma, įvesties mastelio keitimas, užpuoliko žinios ir fizinis bei suvokiminis reikšmingumas.
Vertės ir lygtys
x_adv=x+epsilon sign(grad_x ell(theta,x,y)), with valid-input projection when required
- x
- Pradinė įvestis
- epsilon
- Trikdžio biudžetas pagal L-begalybės normą, išreikštas įvesties vienetais
- ell
- Diferencijuojama atakos nuostolių funkcija
- theta
- Modelio parametrai
Sąlygos ir taikymo ribos
- Nurodykite normą ir spindulį, projekciją į leistinų įvesčių aibę, tikslą (tikslinė ar netikslinė ataka), prieigą pagal baltosios ar juodosios dėžės modelį ir atakos išteklių biudžetą.
- Priešiški trikdžiai, skirstinio poslinkis ir atsitiktinis duomenų sugadinimas yra skirtingos vertinimo populiacijos.
Šaltiniai · 1
Šaltiniai
Šaltiniai išlaiko savo taikymo ribas. Vien nuoroda nepatvirtina kiekvieno teiginio patikrinimo.
Pagrindimas ir peržiūra
Autorius patikrino šį anglišką teiginį, pateiktą lygtį, jei tokia yra, ir nurodytas prielaidas pagal šias šaltinių vietas: §§2–5 – norma apriboti trikdžiai, tiesinis paaiškinimas ir gradiento ženklo metodas. Patikra apsiriboja užfiksuotais teiginiais; neteigiama, kad atliktas išsamus įrodymo atkūrimas, programinis įrodymo pakartojimas ar visapusiška literatūros aprėptis.
2026-10-10 · Autoriaus atlikta šaltinio pagrindinio teksto, teiginio, lygties ir srities patikra, kiekvienos grafo sąsajos aprėptį nustatant atskirai. Prieš užbaigiant šaką būtina atskira nepriklausoma turinio, šaltinių ir inventoriaus peržiūra.
Įrašo informacija
Nuolatinė nuoroda į šį įrašą ↗- Įrašo identifikatorius
- research-info-adversarial-threat-model
- Versija
- research.1
- Struktūruotas žinyno įrašas
- Podiplominis ir tyrimų žinynas