L’intelligenza artificiale nella produzione GMP sta passando da un tema tecnologico a una questione di sistema qualità. Il lavoro dell’EMA sul proposto Allegato 22 è particolarmente importante perché affronta direttamente la categoria più complessa: modelli dinamici, adattivi e probabilistici, inclusi IA generativa e modelli linguistici di grandi dimensioni (LLM), impiegati in applicazioni GMP.
L’attuale posizione essenziale è semplice: l’Allegato 22 è ancora in fase di sviluppo. Non deve essere trattato come linea guida GMP UE definitiva né come un nuovo insieme vincolante di requisiti. L’EMA ha tenuto un workshop multistakeholder di due giorni il 30 giugno e il 1° luglio 2026 per raccogliere pareri ed evidenze di esperti a supporto della linea guida e ha dichiarato di attendersi dal workshop un rapporto contenente contributi di esperti. Il compito pratico dei produttori è quindi prepararsi alle domande ora in esame, senza affermare che il futuro Allegato richieda controlli non ancora pubblicati.
Cosa ha posto sul tavolo l’EMA
L’EMA riferisce che la consultazione con gli stakeholder del 2025 sulla bozza dell’Allegato 22 ha evidenziato sostegno alla potenziale abilitazione di tecnologie quali GenAI e LLM nella produzione di medicinali. La bozza precedente indicava che i modelli dinamici, adattivi e probabilistici non dovessero essere utilizzati in applicazioni GMP critiche. L’EMA sta ora valutando le implicazioni dei riscontri della consultazione e ha richiesto contributi di esperti sulle misure di controllo e mitigazione basate sul rischio, inclusi i guardrail.
Si tratta di uno sviluppo regolatorio significativo. Non significa che tali modelli siano ora accettati per impieghi GMP critici. Significa che l’EMA sta esplorando se, e nell’ambito di quale strategia di controllo, alcune di queste tecnologie possano essere ammesse. La distinzione è rilevante per le decisioni di investimento, la pianificazione della convalida e la comunicazione interna.
Le domande del workshop EMA si concentrano su sei aree connesse:
- percorsi regolatori per IA adattiva e probabilistica in GMP;
- affidabilità tecnica, incluse allucinazioni, raccomandazioni errate e dati fabbricati;
- supervisione umana e responsabilità;
- convalida e gestione del ciclo di vita, inclusi aggiornamenti, riaddestramento e deriva;
- limiti strategici di rischio e conformità per gli impieghi GMP ad alto rischio; e
- cybersecurity e attività esternalizzate, comprese le catene di fornitura dell’IA basata sul cloud.
Per i responsabili QA, convalida, data integrity e IT/OT, il messaggio non è attendere il titolo di un documento. È rendere visibili uso previsto, modalità di guasto, evidenze e diritti decisionali prima che uno strumento IA entri in un flusso di lavoro GMP.
La sfida centrale: convalida con output probabilistico
La convalida tradizionale dei sistemi computerizzati si basa spesso su input prevedibili, elaborazioni predefinite e output attesi. L’IA probabilistica modifica la natura della dimostrazione di assurance. Lo stesso prompt o contesto operativo potrebbe non generare affidabilmente lo stesso output; un modello può cambiare tramite aggiornamenti del fornitore, riaddestramento o interazione con dati in evoluzione; e un output apparentemente plausibile può comunque essere errato.
L’EMA chiede specificamente quale paradigma di convalida debba applicarsi ai modelli adattivi e cosa debba considerare un approccio di quality risk management lungo l’intero ciclo di vita, in particolare nelle aree GMP ad alto rischio dove le carenze possono avere bassa rilevabilità ma elevato impatto sul paziente. Chiede inoltre quali dati di convalida, risultati di stress test e analisi dei guasti giustificherebbero l’affidamento sui guardrail come misura di mitigazione.
Fatto regolatorio: si tratta di domande sottoposte alla valutazione di esperti, non di requisiti di convalida finali prescritti.
Raccomandazione GuideGxP: inquadrare la convalida come una dimostrazione di assurance basata sulle evidenze, non come un protocollo di prova una tantum. Tale dimostrazione dovrebbe provare che l’uso previsto del sistema è controllato, che i suoi limiti sono compresi, che gli output inaccettabili vengono prevenuti o rilevati prima di avere impatto GMP e che il sistema resta nelle condizioni operative approvate nel tempo.
Una strategia pratica di convalida
Una strategia proporzionata può essere organizzata nella seguente sequenza:
- Definire il confine della decisione GMP. Indicare esattamente se l’IA redige informazioni, raccomanda un’azione, assegna priorità al riesame, rileva un’anomalia, controlla un processo o prende una decisione. Identificare chi può accettare, respingere o scavalcare l’output.
- Classificare impatto e rilevabilità. Valutare le possibili conseguenze per paziente, qualità del prodotto, integrità dei dati e conformità in caso di guasto. Attribuire particolare peso agli errori difficili da identificare per un revisore.
- Specificare le condizioni d’uso approvate. Definire input consentiti, dati sorgente, utenti, sedi, interfacce, formati di output, casi d’uso vietati e trigger di escalation. Un sistema non può essere convalidato in modo significativo se il confine del suo utilizzo è vago.
- Creare un set di prova rappresentativo. Testare casi normali e limite, record incompleti, evidenze in conflitto, input malevoli o anomali, istruzioni ambigue e schemi di guasto noti. Conservare la motivazione della copertura e i criteri di accettazione.
- Testare la strategia di controllo, non solo il modello. Valutare guardrail, restrizioni del flusso di lavoro, interfacce del revisore, audit trail, allarmi, controlli di accesso e meccanismi di arresto/escalation come sistema integrato.
- Stabilire evidenze di ciclo di vita. Definire come saranno valutati prestazioni, incidenti, modifiche del modello, indicatori di deriva e modifiche del fornitore. Predefinire quando sono necessari riconvalida, rivalutazione o ritiro dall’uso.
I guardrail sono controlli, non un sostituto della responsabilità
L’EMA chiede se i guardrail disponibili possano prevenire, rilevare o contenere in modo affidabile allucinazioni, raccomandazioni errate e dati fabbricati nei flussi GMP. Chiede inoltre cosa accada quando i guardrail falliscono o identificano incertezza e quale supervisione human-in-the-loop resti necessaria dopo l’implementazione di tali controlli.
È l’enfasi corretta. Un guardrail può ridurre un rischio definito, ad esempio limitando un modello a contenuti sorgente approvati o bloccando particolari tipi di output. Non dimostra automaticamente che un output sia accurato, completo, attribuibile o idoneo al processo decisionale GMP. Né elimina la necessità di assegnare la responsabilità della decisione e dello stato di controllo continuativo del sistema IA.
Raccomandazione GuideGxP: ogni guardrail dovrebbe avere un responsabile, uno scopo documentato, un comportamento di guasto definito e criteri di accettazione testabili. Il sistema qualità dovrebbe rispondere a quattro domande pratiche:
- Quale rischio mitiga questo guardrail?
- Quale evidenza dimostra che funziona in condizioni previste e avverse?
- Come verranno rilevati il suo degrado o il suo guasto?
- Chi interviene, con quale tempestività e con quale autorità quando fallisce o l’output è incerto?
Per i casi d’uso a rischio più elevato, la supervisione umana deve essere progettata, non presunta. Un revisore nominale privo di accesso alle fonti, tempo sufficiente, competenza pertinente o autorità per respingere l’output non costituisce un controllo efficace. Il riesame deve essere significativo, tracciabile e commisurato al rischio di un errore non rilevato.
Data integrity e tracciabilità devono essere progettate nel flusso di lavoro
L’EMA identifica governance dei dati, valutazione dei modelli, trasparenza, responsabilità e supervisione umana quali principi chiave del confronto sull’Allegato 22. Chiede inoltre se gli approcci basati sui guardrail affrontino sufficientemente data integrity, controllo di processo, verificabilità e tracciabilità quando l’IA generativa può influenzare o automatizzare il processo decisionale.
In pratica, la governance dell’IA deve preservare la catena probatoria intorno a un output rilevante ai fini GMP. L’organizzazione dovrebbe poter ricostruire cosa è stato inviato al sistema, quale configurazione approvata e versione del modello sono state utilizzate, quali informazioni erano disponibili al modello, quale output è stato generato, quali controlli sono stati applicati, chi lo ha riesaminato e quale azione finale è stata intrapresa.
Raccomandazione GuideGxP: non trattare un’interfaccia IA come uno strumento di produttività isolato. Mapparla come parte del processo GMP e del flusso di dati. Ciò evidenzia dove i record sono creati, trasformati, conservati, trasferiti, riesaminati e approvati e dove potrebbero interrompersi l’audit trail o la catena di responsabilità.
Il change control deve coprire la catena di fornitura del modello
Le domande dell’EMA includono esplicitamente l’evoluzione del modello attraverso aggiornamenti, riaddestramento e deriva, nonché i rischi quando l’infrastruttura dei guardrail è al di fuori del controllo diretto del produttore. L’Agenzia chiede come preservare qualifica del fornitore, visibilità sul change control e capacità di audit indipendente nelle catene di fornitura dell’IA basate sul cloud.
Questa attenzione è critica per i modelli ospitati esternamente. Un aggiornamento ordinario del modello da parte del fornitore può modificare qualità dell’output, comportamento, caratteristiche di sicurezza o efficacia di un guardrail precedentemente convalidato. Per l’uso GMP, la domanda rilevante non è semplicemente se il fornitore sia affidabile. È se il produttore disponga di conoscenza adeguata, leva contrattuale, controlli tecnici ed evidenze per mantenere l’uso previsto in stato convalidato.
| Area di controllo | Domanda pratica GuideGxP |
|---|---|
| Supervisione del fornitore | L’organizzazione può comprendere e valutare modifiche rilevanti di modello, infrastruttura e guardrail prima che incidano sull’uso GMP? |
| Controllo della configurazione | Può dimostrare quale modello, versione, parametri, fonti di conoscenza e regole di workflow hanno generato uno specifico output? |
| Gestione delle modifiche | Le modifiche sono sottoposte a triage in base all’impatto GMP, con verifica o riconvalida definita prima del rilascio? |
| Monitoraggio operativo | Segnali di prestazione, incidenti, eventi di incertezza e override degli utenti sono riesaminati per individuare un’emergente perdita di controllo? |
| Uscita e continuità | Record GMP, evidenze e capacità critica di workflow possono essere conservati o trasferiti se il servizio cambia o diventa indisponibile? |
Cosa dovrebbe decidere ora il senior management
Il senior management dovrebbe evitare due estremi poco utili: vietare tutta l’IA senza esaminare il caso d’uso oppure consentire una sperimentazione ampia che diventa silenziosamente affidamento operativo. Un approccio di portafoglio è più difendibile.
Iniziare con un inventario dell’IA già utilizzata o proposta in produzione, laboratori, attività qualità, ingegneria, supply chain e funzioni aziendali che supportano il lavoro GMP. Separare l’assistenza alla redazione o amministrativa a basso impatto dai sistemi che influenzano record GMP, indagini, decisioni di rilascio, controllo di processo o conclusioni sulla qualità del prodotto. Richiedere quindi una valutazione del rischio con responsabilità chiaramente assegnata e un percorso di approvazione prima che qualsiasi caso d’uso entri in attività rilevanti ai fini GMP.
Il confronto sull’Allegato 22 dell’EMA potrebbe infine chiarire come potrebbe configurarsi un’accettazione basata sul rischio di modelli adattivi, probabilistici e generativi. Fino alla disponibilità di una linea guida finale, le organizzazioni in grado di dimostrare una definizione disciplinata dell’uso previsto, evidenze trasparenti, una supervisione efficace e una gestione controllata del ciclo di vita saranno nella posizione migliore per valutarla e adottarla responsabilmente.
