Pri tréningu protivníka sú tréningové údaje rozšírené o „protivníkové“vzorky vygenerované pomocou algoritmu útoku Ak útočník používa podobný algoritmus útoku na generovanie príkladov protivníka, trénovaný protivník sieť môže byť pomerne odolná voči útoku.
Ako funguje učenie protivníkov?
Adversarial machine learning je technika strojového učenia, ktorá sa pokúša oklamať modely poskytovaním klamlivých vstupov. … Väčšina techník strojového učenia bola navrhnutá tak, aby fungovala na špecifických súboroch problémov, v ktorých sú trénovacie a testovacie údaje generované z rovnakého štatistického rozdelenia (IID).
Ako fungujú príklady protivníkov?
Nepriaznivé príklady sú vstupy do modelov strojového učenia, ktoré útočník úmyselne navrhol, aby spôsobil, že model urobí chybu; sú ako optické ilúzie pre stroje.… Vstup protivníka prekrytý typickým obrázkom môže spôsobiť, že klasifikátor nesprávne kategorizuje pandu ako gibona.
Čo je tréning protivníkov v hĺbkovom učení?
Útok protivníka môže zahŕňať prezentovanie modelu strojového učenia s nepresnými alebo skresľujúcimi údajmi počas jeho trénovania alebo vloženie údajov so zlým úmyslom s cieľom oklamať už vyškolený model, aby urobil chyby.
Čo je tréning seba-protivenstva?
Na ďalšie posilnenie obranyschopnosti sa navrhuje tréning protivníka s vlastným dozorom, ktorý maximalizuje vzájomnú informovanosť medzi reprezentáciami pôvodných príkladov a zodpovedajúcimi príkladmi protivníka.
