Artificiële intelligentie mag in een GMP-omgeving worden gebruikt, mits het systeem gevalideerd is, data-integriteit gegarandeerd blijft en menselijk toezicht geborgd is voor kritische processen. De voorgestelde Annex 22-richtlijn richt zich specifiek op de integratie van machine learning en geavanceerde algoritmes in de farmaceutische productie.
Farmaceutische bedrijven in Europa versnellen de inzet van AI voor kwaliteitscontrole, procesoptimalisatie en documentverwerking. De European Medicines Agency (EMA), samen met de Europese Commissie (EudraLex Volume 4) en PIC/S (Pharmaceutical Inspection Co-operation Scheme), werkt daarom aan specifieke kaders: Annex 22 voor AI en een grondige herziening van Annex 11 (computergestuurde systemen) en Hoofdstuk 4 (documentatie). Dit markeert een omslagpunt voor Quality Assurance (QA) en Computer System Validation (CSV) in de life sciences.
Key takeaways: Annex 22 en AI in GMP
- Specifiek kader voor AIAnnex 22 is de nieuwe uitbreiding op EudraLex Volume 4 voor het gebruik van machine learning en algoritmes in farmaceutische productie en kwaliteitsborging.
- Geen autonome batchvrijgifteAI mag beslissingen ondersteunen, bijvoorbeeld bij visuele inspectie of batchreview, maar beslissingen met GxP-impact vereisen een human-in-the-loop. De Qualified Person blijft eindverantwoordelijk.
- Statisch boven dynamischContinu zelflerende modellen op de productielijn zijn in een GMP-omgeving in de regel niet toegestaan. Modellen worden gefixeerd gevalideerd en gemonitord op data drift.
- Samenhang met Annex 11Annex 11 blijft het brede kader voor computergestuurde systemen (CSV/CSA). Annex 22 gaat specifiek in op modelkwalificatie, trainingsdata en algoritmische risico’s.
- Nieuwe QA-competentiesQA- en validatieteams hebben kennis nodig van datagovernance (ALCOA+), statistische modelvalidatie en bias-detectie om audits te doorstaan.
Wat is Annex 22 van de EU GMP-richtlijnen?
Annex 22 is een geplande uitbreiding op EudraLex Volume 4 (de Europese richtlijnen voor Good Manufacturing Practice), die specifieke kwaliteitseisen stelt aan het gebruik van kunstmatige intelligentie en machine learning. De richtlijn geeft farmaceutische fabrikanten heldere randvoorwaarden voor de validatie, transparantie en het onderhoud van algoritmische systemen in GxP-omgevingen.
Waar traditionele GMP-regelgeving gebaseerd is op deterministische, regelgebaseerde software, introduceert AI dynamische elementen. Een algoritme kan immers patronen herleiden uit grote hoeveelheden testdata zonder vooraf vastgelegde logica. Annex 22 overbrugt de kloof tussen innovatieve technologie en de strenge vereisten van de farmaceutische regelgeving. Het doel is de productkwaliteit en patiëntveiligheid te beschermen, terwijl de industrie profiteert van automatisering en data-analyse.
Werk je in QA of validatie en wil je met AI aan de slag?
Bekijk pharma vacaturesMag AI gebruikt worden in een GMP-omgeving?
Ja, AI mag gebruikt worden binnen een GMP-omgeving, maar de mate van toelating hangt direct samen met het risicoprofiel van de toepassing en het niveau van menselijke controle. GxP-kritische beslissingen vereisen altijd een strikte menselijke audit-trail en een gevalideerde modelstructuur.
Onderstaande tabel geeft het overzicht van hoe verschillende AI-toepassingen in de farmaceutische praktijk beoordeeld worden onder de nieuwe regelgeving:
| Toepassing | Status | Toelichting en praktijkvoorbeeld |
|---|---|---|
| Visuele inspectie | Onder voorwaarden | Geautomatiseerde kwaliteitscontrole van tabletten of flacons met AI-camera’s, bijvoorbeeld op een verpakkingslijn in Oss. Toegestaan als het model statisch is gevalideerd op representatieve testdata. |
| Batchrecordreview | Onder voorwaarden | Algoritmes die afwijkingen in batchrecords opsporen ter ondersteuning van QA. Toegestaan als hulpmiddel; de eindcontrole blijft mensenwerk. |
| Afwijkingsanalyse (CAPA) | Onder voorwaarden | NLP-modellen die patronen analyseren in historische afwijkingsrapporten. Toegestaan bij strikte datagovernance en ALCOA+-borging. |
| Documentgeneratie (GenAI) | Onder voorwaarden | Opstellen van SOP’s of rapporten met generatieve AI. Vraagt een strikte human-in-the-loop en controle op hallucinaties. |
| Batchvrijgifte (QP release) | Niet toegestaan | Autonoom vrijgeven van commerciële batches door een AI-systeem, zonder eindverantwoordelijkheid van een menselijke Qualified Person (Richtlijn 2001/83/EG). |
Annex 22 en de herziening van Annex 11: wat is het verschil?
Annex 22 richt zich specifiek op de unieke kenmerken van kunstmatige intelligentie, terwijl de herziening van Annex 11 het breder kader voor alle computergestuurde systemen moderniseert. Samen vormen zij het nieuwe digitale kwaliteitsfundament voor EudraLex Volume 4.
Annex 11: computergestuurde systemen
Annex 11 vormt al jaren de basis voor Computer System Validation (CSV). De actuele herziening van Annex 11 sluit aan bij moderne softwarearchitecturen, cloud-oplossingen en de overstap van traditionele CSV naar Critical Thinking-gebaseerde Computer Software Assurance (CSA). Het biedt het overkoepelende IT/OT-kader voor systeemkwalificatie, leveranciersbeheer en data-integriteit.
Hoofdstuk 4: documentatie
Hoofdstuk 4 van de EU GMP-richtlijnen regelt de algemene documentatie-eisen. In een digitale en door AI gedreven omgeving verandert ‘documentatie’ van papieren dossiers naar elektronische datasets, logbestanden en modelversies. De herziening verduidelijkt hoe elektronische data, metadata en audit-trails moeten worden beheerd om te voldoen aan de eisen voor kwaliteitsborging in de farmaceutische industrie.
Hoe ze samenhangen
Annex 11 legt de algemene eisen vast voor IT-infrastructuur en databeheer. Annex 22 bouwt daarop voort met specifieke regels voor algoritmes, modeltraining en bias. Hoofdstuk 4 borgt tot slot dat alle trainingsdata en besluitvormingsprocessen auditeerbaar vastgelegd zijn in het kwaliteitsmanagementsysteem.
Computergestuurde systemen
Het brede kader voor IT/OT-infrastructuur, systeemkwalificatie, leveranciersbeheer en data-integriteit (CSV/CSA).
Kunstmatige intelligentie
Bouwt voort op Annex 11 met specifieke regels voor algoritmes, modeltraining, testdata en bias.
Documentatie
Borgt dat trainingsdata, modelversies, audit-trails en besluitvorming auditeerbaar zijn vastgelegd in het QMS.
Zo valideer je een AI-model onder GMP
Het valideren van een AI-model onder GMP vereist een verschuiving van traditionele softwarevalidatie naar continue iteratieve bewijsvoering rondom data, algoritmes en uitkomsten. Een AI-validatieprotocol richt zich primair op de representativiteit van data en de stabiliteit van het model.
Intended use
Elk AI-traject begint met een scherpe definitie van de ‘intended use’ (beoogd gebruik). Je moet exact vastleggen welke taak het algoritme uitvoert, binnen welke parameters het opereert en wat de impact is op de uiteindelijke productkwaliteit en patiëntveiligheid.
Testdata en acceptatiecriteria
Een AI-model is zo goed als zijn data. Validatie vereist gescheiden datasets voor training, validatie en testen. Data moet voldoen aan de ALCOA+-principes (Attributable, Legible, Contemporaneous, Original, Accurate). Je moet kunnen aantonen dat de testdata vrij is van ongewenste bias en dat acceptatiecriteria (zoals nauwkeurigheid, precisie en ‘recall’) vooraf zijn gedefinieerd.
Statische vs. lerende modellen
In een GMP-omgeving hebben statische modellen (modellen die na training en validatie worden ‘bevroren’) de voorkeur boven continu lerende modellen. Een lerend model dat zichzelf autonoom aanpast in productie, veroorzaakt variabiliteit in het proces. Als een model opnieuw wordt getraind met nieuwe data, moet er een gestructureerd kwalificatie- en revalidatieproces volgen.
Menselijke controle (Human-in-the-loop)
Voor GxP-kritische toepassingen geldt de verplichting van een ‘human-in-the-loop’. Het AI-systeem dient als beslissingsondersteunend gereedschap. De uiteindelijke beoordeling en ondertekening blijft de taak van gekwalificeerd personeel.
Monitoring en drift
Na ingebruikname stopt de validatie niet. Het model moet continu worden gemonitord op ‘data drift’ (verandering in de invoerdata over de tijd) en ‘concept drift’ (verandering in de relatie tussen invoer en voorspelling). Signaleert het dashboard drift? Dan moet het kwaliteitsmanagementsysteem (QMS) dit opvangen via een Change Control-procedure.
Zoek je een validatie- of QA-specialist die AI begrijpt?
Morgan Green kent de specialisten die GMP en data science combineren, vast of interim.
Annex 22 en de EU AI Act: twee regels voor één systeem?
De EU AI Act is een algemene Europese verordening die risicoklassen toewijst aan AI-systemen in alle sectoren, terwijl Annex 22 een specifieke GMP-richtlijn is voor de farmaceutische sector. Waar de AI Act focust op fundamentele rechten, ethiek en veiligheid, richt Annex 22 zich primair op procesbeheersing, productkwaliteit en patiëntveiligheid. Beide regelgevingen vullen elkaar aan: een medisch of farmaceutisch AI-systeem zal in de praktijk aan beide kaders moeten voldoen.
Wat betekent Annex 22 voor QA-teams en functies?
De komst van Annex 22 verandert het takenpakket van quality assurance-professionals, CSV-ingenieurs en Qualified Persons ingrijpend. Klassieke kwaliteitsborging volstaat niet meer; interdisciplinaire kennis is de nieuwe norm.
Nieuwe vaardigheden op de QA-afdeling
QA-medewerkers moeten basiskennis opbouwen van machine learning, gegevensbronnen en statistische validatietechnieken. Ze hoeven geen algoritmes te programmeren, maar moeten wel de juiste kritische vragen stellen tijdens een audit of interne review.
Samenwerking tussen QA en Data Science
Traditioneel werkten IT, Data Engineering en QA in gescheiden silo’s. Annex 22 dwingt tot nauwe samenwerking. Data scientists moeten GMP-begrippen zoals Change Control en Deviation Management begrijpen, terwijl QA-specialisten moeten leren hoe een neuraal netwerk tot een specifieke voorspelling komt.
De rol van de Qualified Person (QP)
De Qualified Person blijft wettelijk en eindverantwoordelijk voor de batchvrijgifte. Een QP mag vertrouwen op geautomatiseerde en door AI ondersteunde systemen, mits bewezen is dat deze systemen onder controle staan. Het opbouwen van een dossier om een audit voorbereiden soepel te laten verlopen vraagt hierbij om volledige inzichtelijkheid in de gebruikte algoritmes.
Ben je benieuwd hoe innovaties de werkvloer transformeren? Lees dan ook onze analyse over AI in pharma voor een breder beeld van de transformatie in de gehele keten. Bekijk daarnaast onze nieuwste QA vacatures om de volgende stap in je carrière te zetten.
Checklist: is jouw organisatie klaar voor AI in een GMP-omgeving?
Gebruik deze 7 stappen om te controleren of je kwaliteitsmanagementsysteem gereed is voor de audit-eisen van Annex 22:
Is jouw organisatie klaar voor AI in een GMP-omgeving?
- Breng AI-systemen in kaartInventariseer alle algoritmes en machine learning-toepassingen in productie, lab en kwaliteitsbeheer.
- Classificeer het risicoBepaal per toepassing of het een GxP-kritisch proces is en leg de intended use vast.
- Beoordeel datagovernanceControleer of trainings- en testdata aantoonbaar voldoen aan de ALCOA+-principes.
- Leg het model vastZorg dat modellen statisch zijn gemaakt, of dat er een gevalideerd herkwalificatieprotocol klaarligt.
- Borg menselijk toezichtLeg in SOP’s vast waar de human-in-the-loop controleert en tekent.
- Richt monitoring inStel procedures op voor het detecteren van data drift en koppel die aan Change Control.
- Train het teamSchoel het QA- en validatieteam bij op AI-compliance in Europa.
Conclusie
Annex 22 markeert een nieuwe fase in de farmaceutische industrie. Kunstmatige intelligentie biedt enorme kansen voor efficiëntie en kwaliteitsverbetering, maar vereist een doordachte en gestructureerde validatieaanpak. Organisaties die nu hun datagovernance en QMS voorbereiden op de eisen van Annex 22 en de herziene Annex 11, bouwen aan een duurzame voorsprong.
Klaar voor de volgende stap?
Bekijk alle vacatures
Een nieuwe uitdaging in pharma, biotech of food? We brengen je in contact met werkgevers die passen bij jouw ambitie.
Voor werkgeversSpecialist aanvragen
Op zoek naar een QA- of validatiespecialist die GMP en AI combineert? Vast of interim.
Liever eerst sparren?
Neem contact opVeelgestelde vragen over Annex 22 en AI in GMP
De belangrijkste vragen over AI in een GMP-omgeving, kort beantwoord.
Wat is het hoofddoel van Annex 22?
Het hoofddoel van Annex 22 is een helder regelgevend kader bieden voor het veilig, betrouwbaar en controleerbaar inzetten van kunstmatige intelligentie en machine learning in GMP-gereguleerde productieomgevingen.
Vervangt Annex 22 de huidige Annex 11?
Nee, Annex 22 is een aanvulling op Annex 11. Annex 11 blijft het overkoepelende kader voor computergestuurde systemen, terwijl Annex 22 specifieke richtlijnen geeft voor de algoritmische aspecten van AI-systemen.
Mogen zelflerende modellen direct op de productielijn gebruikt worden?
In een GMP-omgeving zijn continu zelflerende modellen zonder voorafgaande validatie en goedkeuring in de regel niet toegestaan. Modellen moeten voor productiegebruik worden gefixeerd (statisch gemaakt) en bij updates opnieuw volgens vaste protocollen worden gevalideerd.
Is de Qualified Person (QP) aansprakelijk voor fouten van een AI-systeem?
Ja, de wettelijke verantwoordelijkheid voor batchvrijgifte blijft bij de Qualified Person liggen. De QP moet erop kunnen vertrouwen dat het gebruikte AI-systeem volledig gevalideerd en auditeerbaar is.
Welke vaardigheden heeft een QA-specialist straks nodig?
Naast grondige kennis van GMP en wetgeving hebben QA-specialisten steeds meer inzicht nodig in datakwaliteit, algoritmische risico’s, intended use-definities en de basisprincipes van machine learning.
