Najeeb Jebreel
Investigador postdoctoral Juan de la Cierva, grup de recerca KISON, Universitat Oberta de Catalunya (UOC)
Estudio què revelen els models d'aprenentatge automàtic sobre les dades amb què s'han entrenat, i com mesurar, limitar i eliminar aquesta filtració.
Google Scholar ORCID GitHub LinkedIn ResearchGate njebreel@uoc.edu
Notícies
S'ha publicat A Critical Review on the Effectiveness and Privacy Threats of Membership Inference Attacks a les actes d'ESORICS 2026 (Roma, CORE A).
S'ha publicat l'article en coautoria Comparative Heatmap Explanations for Deep Learning-Based Breast Density Classification a IEEE eSmarTA 2026.
S'ha publicat Revisiting the LiRA Membership Inference Attack Under Realistic Assumptions a PoPETs 2026, número 3, amb les tres insígnies d'artefacte: Available, Functional i Reproduced.
Inici de la beca postdoctoral Juan de la Cierva a la Universitat Oberta de Catalunya (UOC).
S'ha publicat Membership Inference Attacks Beyond Overfitting, presentat a DPM 2025, a les actes dels workshops d'ESORICS 2025 (LNCS).
Membre del comitè de programa de PoPETs 2027.
Notícies anteriors
S'ha publicat l'estudi Digital Forgetting in Large Language Models a Artificial Intelligence Review (Q1, primer decil).
Presentació de l'article guanyador de PAKDD 2023 a IJCAI 2024 (CORE A*), secció Sister Conferences, Jeju, Corea del Sud.
S'ha publicat Enhanced Security and Privacy via Fragmented Federated Learning a IEEE TNNLS (Q1, primer decil).
Premi Extraordinari de Doctorat de la URV per la tesi doctoral en Enginyeria Informàtica i Matemàtiques de la Seguretat.
Best Paper Award a PAKDD 2023 (CORE A), Osaka, entre 869 articles enviats.
Sobre mi
Najeeb Jebreel és investigador postdoctoral Juan de la Cierva al grup de recerca KISON de la Universitat Oberta de Catalunya (UOC). La seva recerca tracta la privadesa i la seguretat en l'aprenentatge automàtic: inferència de pertinença i auditoria de privadesa, desaprenentatge automàtic, privadesa diferencial, i atacs i defenses en l'aprenentatge federat.
Abans d'incorporar-se a la UOC el juliol de 2026, va ser investigador postdoctoral al grup de recerca CRISES de la Universitat Rovira i Virgili (URV), on es va doctorar el 2023 cum laude i amb el Premi Extraordinari de Doctorat. Està vinculat a la Càtedra UNESCO de Privadesa de Dades de la URV.
Ha publicat a PoPETs, ESORICS, IEEE TNNLS, Neural Networks, Knowledge-Based Systems i Artificial Intelligence Review, i els seus treballs acumulen més de 720 cites (índex h 11, Google Scholar). El seu article sobre l'anàlisi de característiques per capes contra atacs de porta del darrere va rebre el Best Paper Award a PAKDD 2023 i va ser convidat a IJCAI 2024.
És membre del comitè de programa de PoPETs 2027, ha dirigit tres treballs de final de màster i actualment dirigeix dos doctorands. Ha col·laborat amb Huawei Technologies i el Notre Dame–IBM Technology Ethics Lab, i ha participat en projectes finançats per la Comissió Europea, l'INCIBE i l'Agència Estatal d'Investigació.
Recerca
-
Auditoria de privadesa i inferència de pertinença
Els atacs d'inferència de pertinença són l'eina estàndard per mesurar què filtra un model sobre les seves dades d'entrenament. Els reavaluo en condicions realistes: models entrenats amb les pràctiques habituals contra el sobreajustament, llindars de decisió calibrats sense accés a les dades del model atacat, probabilitats de pertinença esbiaixades i reproductibilitat entre execucions. En aquestes condicions, fins i tot els atacs més forts, com LiRA, són molt més febles i menys fiables del que se sol indicar. També estudio per què un petit conjunt de mostres continua sent vulnerable en models que generalitzen bé.
Articles clau: LiRA (PoPETs 2026), Critical review (ESORICS 2026), Beyond overfitting (DPM 2025)
-
Desaprenentatge automàtic
La normativa de protecció de dades reconeix el dret a fer oblidar les pròpies dades, també als models entrenats amb elles. Desenvolupo mètodes de desaprenentatge amb garanties formals: primer s'entrenen els models amb dades protegides amb privadesa diferencial o k-anonimat, de manera que les peticions d'oblit posteriors es poden atendre a baix cost i amb les garanties heretades del model de privadesa. També estudio el desaprenentatge en grans models de llenguatge i com comprovar si l'oblit s'ha produït realment.
Articles clau: Survey (AI Review 2025), DP2Unlearning, EUPG, MIA defenses for unlearned data (MDAI 2025)
-
Seguretat de l'aprenentatge federat i centralitzat
L'aprenentatge federat entrena models sense agrupar les dades en brut, però obre noves superfícies d'atac. He desenvolupat defenses contra atacs d'inversió d'etiquetes, bizantins i de porta del darrere, he proposat l'aprenentatge federat fragmentat per millorar alhora la privadesa i la seguretat, i he introduït una anàlisi de característiques per capes per detectar portes del darrere que va rebre el Best Paper Award de PAKDD 2023. Treballs anteriors tracten la marca d'aigua en models d'aprenentatge profund per demostrar-ne l'autoria.
Articles clau: LFighter, FL-Defender, Fragmented FL (IEEE TNNLS), Layer-wise feature analysis (PAKDD 2023), KeyNet
Publicacions
2026
-
Revisiting the LiRA Membership Inference Attack Under Realistic Assumptions
Proceedings on Privacy Enhancing Technologies (PoPETs), 2026(3), pp. 765–786
Insígnies d'artefacte: Available, Functional i Reproduced.
-
A Critical Review on the Effectiveness and Privacy Threats of Membership Inference Attacks
Computer Security – ESORICS 2026, Rome, LNCS 16969, pp. 45–64, Springer
-
Comparative Heatmap Explanations for Deep Learning-Based Breast Density Classification
6th International Conference on Emerging Smart Technologies and Applications (eSmarTA 2026), IEEE
-
Membership Inference Attacks Beyond Overfitting
Computer Security. ESORICS 2025 International Workshops (DPM 2025), Toulouse, LNCS 16231, pp. 32–48, Springer
2025
-
DP2Unlearning: An Efficient and Guaranteed Unlearning Framework for LLMs
Neural Networks, vol. 192, art. 107879, Elsevier
-
Digital Forgetting in Large Language Models: A Survey of Unlearning Methods
Artificial Intelligence Review, vol. 58, no. 3, art. 90, Springer
-
Unlearning in Large Language Models: We Are Not There Yet
Computer, vol. 58, no. 1, pp. 97–100, IEEE
-
Defenses Against Membership Inference Attacks on Unlearned Data
Modeling Decisions for Artificial Intelligence (MDAI 2025), València, LNCS 15957, pp. 145–159, Springer
-
Efficient Unlearning with Privacy Guarantees
arXiv preprint arXiv:2507.04771
2024
-
LFighter: Defending against the Label-Flipping Attack in Federated Learning
Neural Networks, vol. 170, pp. 111–126, Elsevier
-
Enhanced Security and Privacy via Fragmented Federated Learning
IEEE Transactions on Neural Networks and Learning Systems, vol. 35, no. 5, pp. 6703–6717
-
Defending Against Backdoor Attacks by Layer-wise Feature Analysis (Extended Abstract)
Proceedings of the 33rd International Joint Conference on Artificial Intelligence (IJCAI 2024), Sister Conferences Best Papers track, pp. 8416–8420, Jeju
-
An Examination of the Alleged Privacy Threats of Confidence-Ranked Reconstruction of Census Microdata
Privacy in Statistical Databases (PSD 2024), pp. 213–224, Springer
2023
-
FL-Defender: Combating Targeted Attacks in Federated Learning
Knowledge-Based Systems, vol. 260, art. 110178, Elsevier
-
Defending Against Backdoor Attacks by Layer-wise Feature Analysis
27th Pacific-Asia Conference on Knowledge Discovery and Data Mining (PAKDD 2023), Osaka, pp. 428–440, Springer
869 articles enviats, 16,5% d'acceptació. Convidat a la secció Sister Conferences d'IJCAI 2024.
-
Protecting Models and Data in Federated and Centralized Learning
Tesi doctoral, Universitat Rovira i Virgili, dirigida per Josep Domingo-Ferrer
2022
-
Generating Deep Learning Model-Specific Explanations at the End User's Side
International Journal of Uncertainty, Fuzziness and Knowledge-Based Systems, vol. 30, Supp02, pp. 255–278
-
Generation of Synthetic Trajectory Microdata from Language Models
Privacy in Statistical Databases (PSD 2022), pp. 172–187, Springer
-
Measuring Fairness in Machine Learning Models via Counterfactual Examples
Modeling Decisions for Artificial Intelligence (MDAI 2022), pp. 119–131, Springer
2021
-
KeyNet: An Asymmetric Key-Style Framework for Watermarking Deep Learning Models
Applied Sciences, vol. 11, no. 3, art. 999, MDPI
-
Explaining Image Misclassification in Deep Learning via Adversarial Examples
Modeling Decisions for Artificial Intelligence (MDAI 2021), pp. 323–334, Springer
2020
-
Co-Utile Peer-to-Peer Decentralized Computing
20th IEEE/ACM International Symposium on Cluster, Cloud and Internet Computing (CCGrid 2020), pp. 31–40, IEEE
-
Efficient Detection of Byzantine Attacks in Federated Learning Using Last Layer Biases
Modeling Decisions for Artificial Intelligence (MDAI 2020), pp. 154–165, Springer
-
Detecting Bad Answers in Survey Data Through Unsupervised Machine Learning
Privacy in Statistical Databases (PSD 2020), pp. 309–320, Springer
Recompte de cites de Google Scholar, novembre de 2026.
Projectes
Actuals
- 2026 –
Juan de la Cierva Postdoctoral Fellowship
MCIU/AEI i FSE+, Govern d'Espanya
Recerca en inferència de pertinença, desaprenentatge automàtic i privadesa diferencial a la UOC.
Anteriors
- 2024
Mitigating Ethical Risks in LLMs through Localized Unlearning
Notre Dame–IBM Technology Ethics Lab
Oblit selectiu en LLMs per protegir la privadesa i reduir la generació de contingut nociu. - 2023 – 2025
Strategic Project HERMES
INCIBE i URV
Tecnologies avançades de ciberseguretat i preservació de la privadesa. - 2022 – 2025
CURLING: Co-Utile decentRaLized computING
Ministeri de Ciència i Innovació
Ètica per disseny en sistemes de computació distribuïts que prioritzen la privadesa. - 2021 – 2024
CRISES: Security and Privacy (2021 SGR 00115)
AGAUR, Generalitat de Catalunya
Investigador al grup de seguretat i privadesa CRISES de la URV. - 2021 – 2024
MobiDataLab
Comissió Europea, Horizon 2020
Tècniques de preservació de la privadesa per compartir dades de mobilitat. - 2020 – 2023
SoBigData++
Comissió Europea, Horizon 2020
Privadesa i seguretat per a la infraestructura europea d'anàlisi de grans dades.
Currículum
Experiència
- 2026 – actualitat
Investigador postdoctoral Juan de la Cierva
Universitat Oberta de Catalunya (UOC)
Inferència de pertinença, desaprenentatge automàtic i privadesa diferencial. - 2024 – 2026
Investigador postdoctoral
Universitat Rovira i Virgili (URV)
Seguretat en aprenentatge automàtic, IA que preserva la privadesa i desaprenentatge en LLMs. - 2023
Tècnic de suport a la recerca
Universitat Rovira i Virgili (URV)
Suport tècnic a projectes de ciberseguretat i privadesa. - 2020 – 2023
Investigador predoctoral FI
Universitat Rovira i Virgili (URV)
Recerca doctoral en seguretat i privadesa en aprenentatge automàtic (beca FI_B00760). - 2012 – 2017
Gestor de sistemes informàtics
Universitat de Hodeidah, Iemen
Sistemes i infraestructura informàtica de la universitat.
Formació
- 2020 – 2023
Doctorat en Enginyeria Informàtica i Matemàtiques de la Seguretat
Universitat Rovira i Virgili
Cum laude, Premi Extraordinari de Doctorat de la URV - 2019
Màster en Enginyeria de Seguretat Informàtica i Intel·ligència Artificial
Universitat Rovira i Virgili
Nota mitjana 8,1 / 10 - 2009
Grau en Informàtica i Enginyeria
Universitat de Hodeidah, Iemen
Nota mitjana 79,39 / 100
Premis
- 2025
Beca postdoctoral Juan de la Cierva 2024
Govern d'Espanya. Concedida l'octubre de 2025, iniciada el juliol de 2026 a la UOC. - 2024
Presentació convidada, secció Sister Conferences d'IJCAI 2024
Per l'article guanyador de PAKDD 2023 (IJCAI és CORE A*). - 2023
Best Paper Award, PAKDD 2023
27th Pacific-Asia Conference on Knowledge Discovery and Data Mining (CORE A); 869 articles enviats, 16,5% d'acceptació. - 2023
Premi Extraordinari de Doctorat de la URV
Doctorat en Enginyeria Informàtica i Matemàtiques de la Seguretat.
Direcció
- 2023 –
Doctorands
Direcció de 2 doctorands (en curs). Treballs de final de màster
Direcció de 3 treballs de final de màster, tots defensats.
Servei acadèmic
- 2026 – actualitat
Membre del comitè de programa, PoPETs 2027
Privacy Enhancing Technologies Symposium (CORE A). - 2020 – actualitat
Revisor de revistes
ACM Computing Surveys, ACM TIST, IEEE TNNLS, IEEE TIFS, IEEE TDSC, IEEE Internet of Things Journal, Artificial Intelligence Review, Knowledge-Based Systems, Future Generation Computer Systems, Applied Sciences i Electronics. - 2020 – actualitat
Revisor de congressos
ACM CCS, WPES 2020 (amb CCS), ESORICS, IEEE ICDM i ACISP. - 2020 – actualitat
Col·laboracions de recerca
Huawei Technologies i el Notre Dame–IBM Technology Ethics Lab, en defenses contra portes del darrere, desaprenentatge en LLMs i aprenentatge automàtic que preserva la privadesa.
Contacte
Correu electrònic
Despatx
Grup de Recerca KISONUniversitat Oberta de Catalunya (UOC)
Rambla del Poblenou, 156
08018 Barcelona