How input quantization defines adversarial robustness in weightless neural networks
| dc.contributor.advisor | Menasché, Daniel Sadoc | |
| dc.contributor.referee1 | Souza, Ronald Chiesse de | |
| dc.contributor.referee2 | Lima, Priscila Machado Vieira | |
| dc.creator | Silva, Matheus Augusto Vargas da | |
| dc.date.accessioned | 2025-08-11T15:57:59Z | |
| dc.date.available | 2026-05-16T03:00:32Z | |
| dc.date.issued | 2025-07-18 | |
| dc.description.resumo | Embora a vulnerabilidade adversarial seja bem estudada em Redes Neurais Profundas (DNNs), outros paradigmas de aprendizado de máquina não receberam tanta atenção. As Redes Neurais Sem Pesos (WNNs), que utilizam técnicas sem gradientes que são o principal alvo dos ataques, poderiam, então, ser inerentemente robustas a perturbações adversariais. Este trabalho apresenta a primeira investigação sistemática sobre essa hipótese, analisando as escolhas arquiteturais que governam a resposta dessas redes a ataques adversariais. Avaliamos diversas arquiteturas de WNN, incluindo variantes da WiSARD e o modelo estado-da-arte BTHOWeN, contra uma variedade de ameaças de caixa-preta: ruído aleatório, Simulated Annealing baseado em consultas e ataques de transferência baseados em modelos substitutos. Nossos resultados revelam que o esquema de binarização da entrada é o fator isolado mais crítico. Demonstramos que a binarização Gaussiana guiada por dados, utilizada pelo BTHOWeN para melhorar a acurácia em dados limpos, cria uma vulnerabilidade profunda, fazendo com que o desempenho do modelo entre em colapso sob ataques simples. Além disso, mostramos que mesmo WNNs com binarização linear mais robusta podem ser comprometidas com sucesso por ataques sofisticados de transferência e baseados em consulta. A conclusão central do nosso trabalho é a identificação de um trade-off fundamental entre acurácia e robustez no projeto de WNNs. Os próprios mecanismos que aumentam a fidelidade representacional, como a quantização de granularidade mais fina ou a binarização sensível aos dados, simultaneamente tornam os modelos mais suscetíveis à manipulação adversarial. Concluímos que as WNNs não são inerentemente seguras; sua resiliência adversarial é uma propriedade configurável, e não uma propriedade intrínseca. | pt_BR |
| dc.embargo.terms | aberto | pt_BR |
| dc.identifier.uri | http://hdl.handle.net/11422/26630 | |
| dc.language | eng | pt_BR |
| dc.publisher | Universidade Federal do Rio de Janeiro | pt_BR |
| dc.publisher.country | Brasil | pt_BR |
| dc.publisher.department | Instituto de Computação | pt_BR |
| dc.publisher.initials | UFRJ | pt_BR |
| dc.rights | Acesso Aberto | pt_BR |
| dc.subject | Aprendizado de máquina adversarial | pt_BR |
| dc.subject | Redes neurais sem pesos | pt_BR |
| dc.subject | Modelos surrogate | pt_BR |
| dc.subject | Representação de dados | pt_BR |
| dc.subject | Adversarial machine learning | pt_BR |
| dc.subject | Weightless neural networks | pt_BR |
| dc.subject | Surrogate models | pt_BR |
| dc.subject | Data representation | pt_BR |
| dc.subject | Simulated annealing | pt_BR |
| dc.subject.cnpq | CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO | pt_BR |
| dc.title | How input quantization defines adversarial robustness in weightless neural networks | pt_BR |
| dc.type | Trabalho de conclusão de graduação | pt_BR |