Najeeb Jebreel

Investigador postdoctoral Juan de la Cierva, grup de recerca KISON, Universitat Oberta de Catalunya (UOC)

Estudio què revelen els models d'aprenentatge automàtic sobre les dades amb què s'han entrenat, i com mesurar, limitar i eliminar aquesta filtració.

Cada quadrat és una mostra d'entrenament. En un model ben entrenat, la majoria de mostres revelen poc sobre si s'han fet servir, però unes poques en revelen molt més. La meva recerca recent estudia quines són i si això és una amenaça real per a la privadesa.

Notícies

  • S'ha publicat A Critical Review on the Effectiveness and Privacy Threats of Membership Inference Attacks a les actes d'ESORICS 2026 (Roma, CORE A).

  • S'ha publicat l'article en coautoria Comparative Heatmap Explanations for Deep Learning-Based Breast Density Classification a IEEE eSmarTA 2026.

  • S'ha publicat Revisiting the LiRA Membership Inference Attack Under Realistic Assumptions a PoPETs 2026, número 3, amb les tres insígnies d'artefacte: Available, Functional i Reproduced.

  • Inici de la beca postdoctoral Juan de la Cierva a la Universitat Oberta de Catalunya (UOC).

  • S'ha publicat Membership Inference Attacks Beyond Overfitting, presentat a DPM 2025, a les actes dels workshops d'ESORICS 2025 (LNCS).

  • Membre del comitè de programa de PoPETs 2027.

Notícies anteriors
  • S'ha publicat l'estudi Digital Forgetting in Large Language Models a Artificial Intelligence Review (Q1, primer decil).

  • Presentació de l'article guanyador de PAKDD 2023 a IJCAI 2024 (CORE A*), secció Sister Conferences, Jeju, Corea del Sud.

  • S'ha publicat Enhanced Security and Privacy via Fragmented Federated Learning a IEEE TNNLS (Q1, primer decil).

  • Premi Extraordinari de Doctorat de la URV per la tesi doctoral en Enginyeria Informàtica i Matemàtiques de la Seguretat.

  • Best Paper Award a PAKDD 2023 (CORE A), Osaka, entre 869 articles enviats.

Sobre mi

Najeeb Jebreel és investigador postdoctoral Juan de la Cierva al grup de recerca KISON de la Universitat Oberta de Catalunya (UOC). La seva recerca tracta la privadesa i la seguretat en l'aprenentatge automàtic: inferència de pertinença i auditoria de privadesa, desaprenentatge automàtic, privadesa diferencial, i atacs i defenses en l'aprenentatge federat.

Abans d'incorporar-se a la UOC el juliol de 2026, va ser investigador postdoctoral al grup de recerca CRISES de la Universitat Rovira i Virgili (URV), on es va doctorar el 2023 cum laude i amb el Premi Extraordinari de Doctorat. Està vinculat a la Càtedra UNESCO de Privadesa de Dades de la URV.

Ha publicat a PoPETs, ESORICS, IEEE TNNLS, Neural Networks, Knowledge-Based Systems i Artificial Intelligence Review, i els seus treballs acumulen més de 720 cites (índex h 11, Google Scholar). El seu article sobre l'anàlisi de característiques per capes contra atacs de porta del darrere va rebre el Best Paper Award a PAKDD 2023 i va ser convidat a IJCAI 2024.

És membre del comitè de programa de PoPETs 2027, ha dirigit tres treballs de final de màster i actualment dirigeix dos doctorands. Ha col·laborat amb Huawei Technologies i el Notre Dame–IBM Technology Ethics Lab, i ha participat en projectes finançats per la Comissió Europea, l'INCIBE i l'Agència Estatal d'Investigació.

Recerca

  • Auditoria de privadesa i inferència de pertinença

    Els atacs d'inferència de pertinença són l'eina estàndard per mesurar què filtra un model sobre les seves dades d'entrenament. Els reavaluo en condicions realistes: models entrenats amb les pràctiques habituals contra el sobreajustament, llindars de decisió calibrats sense accés a les dades del model atacat, probabilitats de pertinença esbiaixades i reproductibilitat entre execucions. En aquestes condicions, fins i tot els atacs més forts, com LiRA, són molt més febles i menys fiables del que se sol indicar. També estudio per què un petit conjunt de mostres continua sent vulnerable en models que generalitzen bé.

    Articles clau: LiRA (PoPETs 2026), Critical review (ESORICS 2026), Beyond overfitting (DPM 2025)

  • Desaprenentatge automàtic

    La normativa de protecció de dades reconeix el dret a fer oblidar les pròpies dades, també als models entrenats amb elles. Desenvolupo mètodes de desaprenentatge amb garanties formals: primer s'entrenen els models amb dades protegides amb privadesa diferencial o k-anonimat, de manera que les peticions d'oblit posteriors es poden atendre a baix cost i amb les garanties heretades del model de privadesa. També estudio el desaprenentatge en grans models de llenguatge i com comprovar si l'oblit s'ha produït realment.

    Articles clau: Survey (AI Review 2025), DP2Unlearning, EUPG, MIA defenses for unlearned data (MDAI 2025)

  • Seguretat de l'aprenentatge federat i centralitzat

    L'aprenentatge federat entrena models sense agrupar les dades en brut, però obre noves superfícies d'atac. He desenvolupat defenses contra atacs d'inversió d'etiquetes, bizantins i de porta del darrere, he proposat l'aprenentatge federat fragmentat per millorar alhora la privadesa i la seguretat, i he introduït una anàlisi de característiques per capes per detectar portes del darrere que va rebre el Best Paper Award de PAKDD 2023. Treballs anteriors tracten la marca d'aigua en models d'aprenentatge profund per demostrar-ne l'autoria.

    Articles clau: LFighter, FL-Defender, Fragmented FL (IEEE TNNLS), Layer-wise feature analysis (PAKDD 2023), KeyNet

Publicacions

2026

  1. Revisiting the LiRA Membership Inference Attack Under Realistic Assumptions

    Najeeb Jebreel, Mona Khalil, David Sánchez, Josep Domingo-Ferrer

    Proceedings on Privacy Enhancing Technologies (PoPETs), 2026(3), pp. 765–786

    Insígnies d'artefacte: Available, Functional i Reproduced.

    CORE AAccés obertDOICodiarXiv4 cites

  2. A Critical Review on the Effectiveness and Privacy Threats of Membership Inference Attacks

    Najeeb Jebreel, David Sánchez, Josep Domingo-Ferrer

    Computer Security – ESORICS 2026, Rome, LNCS 16969, pp. 45–64, Springer

    CORE ADOIarXiv2 cites

  3. Comparative Heatmap Explanations for Deep Learning-Based Breast Density Classification

    Salah Jabreel, Hatem A. Rashwan, Najeeb Jebreel, Mohammed Jabreel

    6th International Conference on Emerging Smart Technologies and Applications (eSmarTA 2026), IEEE

  4. Membership Inference Attacks Beyond Overfitting

    Mona Khalil, Alberto Blanco-Justicia, Najeeb Jebreel, Josep Domingo-Ferrer

    Computer Security. ESORICS 2025 International Workshops (DPM 2025), Toulouse, LNCS 16231, pp. 32–48, Springer

    WorkshopDOICodiarXiv2 cites

2025

  1. DP2Unlearning: An Efficient and Guaranteed Unlearning Framework for LLMs

    Tamim Al Mahmud, Najeeb Jebreel, Josep Domingo-Ferrer, David Sánchez

    Neural Networks, vol. 192, art. 107879, Elsevier

    Q1, segon decilDOICodi12 cites

  2. Digital Forgetting in Large Language Models: A Survey of Unlearning Methods

    Alberto Blanco-Justicia, Najeeb Jebreel, Benet Manzanares-Salor, David Sánchez, Josep Domingo-Ferrer, Guillem Collell, Kuan Eeik Tan

    Artificial Intelligence Review, vol. 58, no. 3, art. 90, Springer

    Q1, primer decilDOI104 cites

  3. Unlearning in Large Language Models: We Are Not There Yet

    Alberto Blanco-Justicia, Josep Domingo-Ferrer, Najeeb Moharram Jebreel, Benet Manzanares-Salor, David Sánchez

    Computer, vol. 58, no. 1, pp. 97–100, IEEE

    7 cites

  4. Defenses Against Membership Inference Attacks on Unlearned Data

    Josep Domingo-Ferrer, Najeeb Jebreel, David Sánchez

    Modeling Decisions for Artificial Intelligence (MDAI 2025), València, LNCS 15957, pp. 145–159, Springer

    4 cites

  5. Efficient Unlearning with Privacy Guarantees

    Josep Domingo-Ferrer, Najeeb Jebreel, David Sánchez

    arXiv preprint arXiv:2507.04771

    PreprintarXivCodi2 cites

2024

  1. LFighter: Defending against the Label-Flipping Attack in Federated Learning

    Najeeb Moharram Jebreel, Josep Domingo-Ferrer, David Sánchez, Alberto Blanco-Justicia

    Neural Networks, vol. 170, pp. 111–126, Elsevier

    Q1, segon decilDOICodi185 cites

  2. Enhanced Security and Privacy via Fragmented Federated Learning

    Najeeb Moharram Jebreel, Josep Domingo-Ferrer, Alberto Blanco-Justicia, David Sánchez

    IEEE Transactions on Neural Networks and Learning Systems, vol. 35, no. 5, pp. 6703–6717

    Q1, primer decilDOI69 cites

  3. Defending Against Backdoor Attacks by Layer-wise Feature Analysis (Extended Abstract)

    Najeeb Moharram Jebreel, Josep Domingo-Ferrer, Yiming Li

    Proceedings of the 33rd International Joint Conference on Artificial Intelligence (IJCAI 2024), Sister Conferences Best Papers track, pp. 8416–8420, Jeju

    Resum estèsCORE A*Actes

  4. An Examination of the Alleged Privacy Threats of Confidence-Ranked Reconstruction of Census Microdata

    David Sánchez, Najeeb Jebreel, Krishnamurty Muralidhar, Josep Domingo-Ferrer, Alberto Blanco-Justicia

    Privacy in Statistical Databases (PSD 2024), pp. 213–224, Springer

    4 cites

2023

  1. FL-Defender: Combating Targeted Attacks in Federated Learning

    Najeeb Moharram Jebreel, Josep Domingo-Ferrer

    Knowledge-Based Systems, vol. 260, art. 110178, Elsevier

    Q1DOI152 cites

  2. Defending Against Backdoor Attacks by Layer-wise Feature Analysis

    Najeeb Moharram Jebreel, Josep Domingo-Ferrer, Yiming Li

    27th Pacific-Asia Conference on Knowledge Discovery and Data Mining (PAKDD 2023), Osaka, pp. 428–440, Springer

    869 articles enviats, 16,5% d'acceptació. Convidat a la secció Sister Conferences d'IJCAI 2024.

    Best Paper AwardCORE AArticleCodi43 cites

  3. Protecting Models and Data in Federated and Centralized Learning

    Najeeb Moharram Salim Jebreel

    Tesi doctoral, Universitat Rovira i Virgili, dirigida per Josep Domingo-Ferrer

    Tesi doctoral1 cita

2022

  1. Generating Deep Learning Model-Specific Explanations at the End User's Side

    Rami Haffar, Najeeb Jebreel, David Sánchez, Josep Domingo-Ferrer

    International Journal of Uncertainty, Fuzziness and Knowledge-Based Systems, vol. 30, Supp02, pp. 255–278

    2 cites

  2. Generation of Synthetic Trajectory Microdata from Language Models

    Alberto Blanco-Justicia, Najeeb Moharram Jebreel, Jesús A. Manjón, Josep Domingo-Ferrer

    Privacy in Statistical Databases (PSD 2022), pp. 172–187, Springer

    13 cites

  3. Measuring Fairness in Machine Learning Models via Counterfactual Examples

    Rami Haffar, Ashneet Khandpur Singh, Josep Domingo-Ferrer, Najeeb Jebreel

    Modeling Decisions for Artificial Intelligence (MDAI 2022), pp. 119–131, Springer

    6 cites

2021

  1. KeyNet: An Asymmetric Key-Style Framework for Watermarking Deep Learning Models

    Najeeb Moharram Jebreel, Josep Domingo-Ferrer, David Sánchez, Alberto Blanco-Justicia

    Applied Sciences, vol. 11, no. 3, art. 999, MDPI

    Q2Accés obertDOICodi33 cites

  2. Explaining Image Misclassification in Deep Learning via Adversarial Examples

    Rami Haffar, Najeeb Moharram Jebreel, Josep Domingo-Ferrer, David Sánchez

    Modeling Decisions for Artificial Intelligence (MDAI 2021), pp. 323–334, Springer

    21 cites

2020

  1. Co-Utile Peer-to-Peer Decentralized Computing

    Josep Domingo-Ferrer, Alberto Blanco-Justicia, David Sánchez, Najeeb Jebreel

    20th IEEE/ACM International Symposium on Cluster, Cloud and Internet Computing (CCGrid 2020), pp. 31–40, IEEE

    22 cites

  2. Efficient Detection of Byzantine Attacks in Federated Learning Using Last Layer Biases

    Najeeb Jebreel, Alberto Blanco-Justicia, David Sánchez, Josep Domingo-Ferrer

    Modeling Decisions for Artificial Intelligence (MDAI 2020), pp. 154–165, Springer

    22 cites

  3. Detecting Bad Answers in Survey Data Through Unsupervised Machine Learning

    Najeeb Moharram Jebreel, Rami Haffar, Ashneet Khandpur Singh, David Sánchez, Josep Domingo-Ferrer, Alberto Blanco-Justicia

    Privacy in Statistical Databases (PSD 2020), pp. 309–320, Springer

    9 cites

Recompte de cites de Google Scholar, novembre de 2026.

Llista completa amb cites a Google Scholar

Projectes

Actuals

  • 2026 –

    Juan de la Cierva Postdoctoral Fellowship

    MCIU/AEI i FSE+, Govern d'Espanya

    Recerca en inferència de pertinença, desaprenentatge automàtic i privadesa diferencial a la UOC.

Anteriors

  • 2024

    Mitigating Ethical Risks in LLMs through Localized Unlearning

    Notre Dame–IBM Technology Ethics Lab

    Oblit selectiu en LLMs per protegir la privadesa i reduir la generació de contingut nociu.
  • 2023 – 2025

    Strategic Project HERMES

    INCIBE i URV

    Tecnologies avançades de ciberseguretat i preservació de la privadesa.
  • 2022 – 2025

    CURLING: Co-Utile decentRaLized computING

    Ministeri de Ciència i Innovació

    Ètica per disseny en sistemes de computació distribuïts que prioritzen la privadesa.
  • 2021 – 2024

    CRISES: Security and Privacy (2021 SGR 00115)

    AGAUR, Generalitat de Catalunya

    Investigador al grup de seguretat i privadesa CRISES de la URV.
  • 2021 – 2024

    MobiDataLab

    Comissió Europea, Horizon 2020

    Tècniques de preservació de la privadesa per compartir dades de mobilitat.
  • 2020 – 2023

    SoBigData++

    Comissió Europea, Horizon 2020

    Privadesa i seguretat per a la infraestructura europea d'anàlisi de grans dades.

Currículum

Experiència

  • 2026 – actualitat

    Investigador postdoctoral Juan de la Cierva

    Universitat Oberta de Catalunya (UOC)

    Inferència de pertinença, desaprenentatge automàtic i privadesa diferencial.
  • 2024 – 2026

    Investigador postdoctoral

    Universitat Rovira i Virgili (URV)

    Seguretat en aprenentatge automàtic, IA que preserva la privadesa i desaprenentatge en LLMs.
  • 2023

    Tècnic de suport a la recerca

    Universitat Rovira i Virgili (URV)

    Suport tècnic a projectes de ciberseguretat i privadesa.
  • 2020 – 2023

    Investigador predoctoral FI

    Universitat Rovira i Virgili (URV)

    Recerca doctoral en seguretat i privadesa en aprenentatge automàtic (beca FI_B00760).
  • 2012 – 2017

    Gestor de sistemes informàtics

    Universitat de Hodeidah, Iemen

    Sistemes i infraestructura informàtica de la universitat.

Formació

  • 2020 – 2023

    Doctorat en Enginyeria Informàtica i Matemàtiques de la Seguretat

    Universitat Rovira i Virgili

    Cum laude, Premi Extraordinari de Doctorat de la URV
  • 2019

    Màster en Enginyeria de Seguretat Informàtica i Intel·ligència Artificial

    Universitat Rovira i Virgili

    Nota mitjana 8,1 / 10
  • 2009

    Grau en Informàtica i Enginyeria

    Universitat de Hodeidah, Iemen

    Nota mitjana 79,39 / 100

Premis

  • 2025

    Beca postdoctoral Juan de la Cierva 2024

    Govern d'Espanya. Concedida l'octubre de 2025, iniciada el juliol de 2026 a la UOC.
  • 2024

    Presentació convidada, secció Sister Conferences d'IJCAI 2024

    Per l'article guanyador de PAKDD 2023 (IJCAI és CORE A*).
  • 2023

    Best Paper Award, PAKDD 2023

    27th Pacific-Asia Conference on Knowledge Discovery and Data Mining (CORE A); 869 articles enviats, 16,5% d'acceptació.
  • 2023

    Premi Extraordinari de Doctorat de la URV

    Doctorat en Enginyeria Informàtica i Matemàtiques de la Seguretat.

Direcció

  • 2023 –

    Doctorands

    Direcció de 2 doctorands (en curs).
  • Treballs de final de màster

    Direcció de 3 treballs de final de màster, tots defensats.

Servei acadèmic

  • 2026 – actualitat

    Membre del comitè de programa, PoPETs 2027

    Privacy Enhancing Technologies Symposium (CORE A).
  • 2020 – actualitat

    Revisor de revistes

    ACM Computing Surveys, ACM TIST, IEEE TNNLS, IEEE TIFS, IEEE TDSC, IEEE Internet of Things Journal, Artificial Intelligence Review, Knowledge-Based Systems, Future Generation Computer Systems, Applied Sciences i Electronics.
  • 2020 – actualitat

    Revisor de congressos

    ACM CCS, WPES 2020 (amb CCS), ESORICS, IEEE ICDM i ACISP.
  • 2020 – actualitat

    Col·laboracions de recerca

    Huawei Technologies i el Notre Dame–IBM Technology Ethics Lab, en defenses contra portes del darrere, desaprenentatge en LLMs i aprenentatge automàtic que preserva la privadesa.

Contacte

Correu electrònic

Despatx

Grup de Recerca KISON
Universitat Oberta de Catalunya (UOC)
Rambla del Poblenou, 156
08018 Barcelona

Perfils