L'IA dans la production biopharmaceutique : on y est ?
This is the script the AI voices read, so it matches the audio word for word; times are from the render. Documenté, écrit et lu par des systèmes d'IA sous la direction de Jack Prior ; édition française traduite par l'IA à partir des épisodes anglais vérifiés. Sam et Sarah sont des personnages d'IA ; rien dans l'épisode n'est Jack qui parle, et rien n'engage ses opinions ni celles de son employeur. L'IA générative peut se tromper avec assurance — vérifiez les sources. Corrections : jack@jackprior.ai.
00:00 Narrator Voici On y est ? — un podcast sur l'évolution de l'IA dans la production biopharmaceutique, dirigé par Jack Prior. Un mot sur la façon dont il est fait. Cet épisode a été documenté, écrit et lu par des systèmes d'IA. Jack pose les questions et les cadres ; l'IA lit les documents et écrit la conversation que vous allez entendre, entre deux personnages d'IA : Sam, qui joue un praticien des sciences de la production, et Sarah, qui a lu les documents. Cette édition française est une traduction, par l'IA, des épisodes anglais. Rien de ce que vous entendez n'est Jack qui parle, et rien n'engage ses opinions ni celles de son employeur. Comme toute IA générative, elle peut se tromper — avec assurance, ou en manquant une nuance — ce qui est précisément le risque que cette industrie cherche à maîtriser, et précisément le sujet de cette saison. Vérifiez les sources avant de vous y fier. Les corrections sont les bienvenues à jackprior point A I. Place à l'épisode.
00:56 Sam Une revue qualité, vers la fin de cette année. Le directeur de site a une seule diapositive à l'écran : quatre lignes, trois colonnes. Les lignes sont les quatre systèmes que cette saison a suivis : le capteur logiciel du bioréacteur, le modèle de suivi de lot, le système de vision du volume de remplissage, et l'assistant qui rédige les investigations de déviation. Les colonnes disent : à faire maintenant, à attendre, à faire quand même. Le titre de la diapositive, c'est le nom de ce podcast.
01:26 Sarah On y est ?
01:27 Sam Le responsable des sciences de la production doit la remplir pour vendredi. Derrière la diapositive, il y a un projet d'annexe avec treize cents commentaires, un projet de la FDA qui n'a pas bougé depuis vingt mois, un document de réflexion de l'ICH, deux pages de principes signées par les deux agences, et une feuille de route fournisseur qui change chaque trimestre. Chaque case de cette diapositive est un pari sur le document qui atterrira en premier.
01:54 Sarah Le cadre de ce soir, Sam, et le dernier de la saison. Convergence : où va-t-on, et on y est ? Les principes communs, le document de réflexion de l'ICH, l'agenda du CDER et les bacs à sable, et ce qu'ils nous disent des trois prochaines années.
02:07 Sam Remplissons la diapositive.
02:09 Sam Sarah, la question et les documents.
02:11 Sarah Est-ce que les corpus réglementaires convergent, sur quoi, et pour quand ; et que fait un site en attendant. Neuf documents, quatre couches, deux ancrages. De la couche des autorités, conjointement : les principes directeurs de bonne pratique de l'IA dans le développement des médicaments, publiés ensemble par l'Agence européenne des médicaments et la Food and Drug Administration américaine en janvier deux mille vingt-six. De la couche de l'harmonisation : le document de réflexion du Conseil international d'harmonisation sur les travaux de lignes directrices proposés pour la fabrication pharmaceutique avancée, approuvé par l'Assemblée de l'ICH le huit octobre deux mille vingt-cinq et publié en mars suivant.
02:47 Sam Provenance et maturité.
02:49 Sarah Les principes communs sont finaux : deux pages, dix principes numérotés, et ils disent d'eux-mêmes qu'ils sont destinés à poser les fondations d'une bonne pratique. Ce n'est pas une guidance ; c'est la déclaration commune des deux agences sur ce à quoi la bonne pratique sera mesurée. Le document de l'ICH est final en tant que document de réflexion, et un document de réflexion, c'est l'ICH qui réfléchit à voix haute à ce qu'il faut harmoniser ensuite. Aucun des deux n'est une ligne directrice. Les deux vous disent où vont les lignes directrices.
03:14 Sam Et les voix.
03:15 Sarah De la couche de la loi, le règlement de l'UE sur l'IA, pour son article sur les bacs à sable et pour ses dates. De la couche des autorités, l'agence britannique des médicaments et des produits de santé, la MHRA, et son document de politique d'avril deux mille vingt-quatre, pour l'AI Airlock. De la machinerie institutionnelle européenne : la stratégie du réseau européen des agences des médicaments à l'horizon deux mille vingt-huit ; le plan de travail du Network Data Steering Group, mis à jour en février deux mille vingt-six ; et le plan de travail du Quality Innovation Group pour deux mille vingt-six à deux mille vingt-huit. Du côté de l'industrie, la guidance de BioPhorum de juin deux mille vingt-six sur le risque, pour la façon dont elle pose l'harmonisation. Et la liste de veille et les questions ouvertes du paysage lui-même.
03:56 Sam Pourquoi cette question maintenant, parce que l'épisode un a dit pourquoi la saison existe. Les trois classiques ont eu vingt ans de corpus réglementaire. Ce qui a changé, c'est que l'agent est arrivé dans l'usine dans le temps qu'il a fallu à l'annexe vingt-deux pour aller du projet à l'atelier de travail, et que le corpus est réécrit pendant que l'agent lit déjà des dossiers de lot. J'ai dit dans l'épisode un que l'IA agentique est ce qui rend enfin le travail sur les données réel, et que le codage et l'ingénierie des données filent dans le rétroviseur. La convergence, c'est la question de savoir si le corpus réglementaire arrive avant l'agent, ou après. C'est l'enjeu du praticien dans un document sur l'harmonisation.
04:34 Sarah Et le dernier épisode s'est terminé sur la phrase : on sait ce qui change et à qui le dire. Ce soir, on demande si les gens à qui on le dit vont être d'accord entre eux.
04:42 Sam Commençons par les deux pages.
04:44 Sarah Principes directeurs de bonne pratique de l'IA dans le développement des médicaments. EMA et FDA, janvier deux mille vingt-six ; le paysage donne le quatorze. Selon le paysage, la première déclaration commune UE et États-Unis sur l'IA. Il définit son sujet en une phrase : l'IA, pour cet usage, désigne des technologies au niveau système utilisées pour produire ou analyser des preuves tout au long du cycle de vie du médicament, et il liste les phases : non clinique, clinique, post-commercialisation, et fabrication. La fabrication est dans le premier paragraphe, pas dans une note de bas de page.
05:17 Sam À quoi dit-il servir ?
05:19 Sarah Ses propres mots : les dix principes sont destinés à poser les fondations d'une bonne pratique, et ils identifient les domaines où les régulateurs internationaux, les organismes de normalisation et d'autres organes collaboratifs pourraient travailler à la faire avancer : la recherche, les outils pédagogiques, l'harmonisation internationale, et les normes consensuelles, qui peuvent aider à éclairer les politiques réglementaires et les lignes directrices réglementaires dans différentes juridictions. C'est donc une charte pour la prochaine série de documents, écrite par les deux agences dont les documents divergent le plus.
05:48 Sam Lis les dix. Brièvement ; on a déjà croisé la plupart.
05:52 Sarah Un, centré sur l'humain dès la conception. Deux, une approche fondée sur le risque : validation, atténuation des risques et supervision proportionnées, selon le contexte d'utilisation et le risque du modèle déterminé. Trois, l'adhésion aux normes, et il nomme les bonnes pratiques, GxP, en toutes lettres. Quatre, un contexte d'utilisation clair, défini entre parenthèses comme rôle et périmètre de la raison pour laquelle on l'utilise. Cinq, une expertise multidisciplinaire couvrant à la fois la technologie d'IA et son contexte d'utilisation, intégrée sur tout le cycle de vie.
06:22 Sam C'est l'épisode deux dans les quatre premiers, et la distribution de l'annexe vingt-deux dans le cinquième.
06:29 Sarah Six, la gouvernance des données et la documentation : la provenance des sources de données, les étapes de traitement et les décisions analytiques documentées de manière détaillée, traçable et vérifiable, conformément aux exigences GxP. Sept, des pratiques de conception et de développement des modèles, en s'appuyant sur des données adaptées à l'usage, en considérant l'interprétabilité, l'explicabilité et la performance prédictive. Huit, une évaluation de la performance fondée sur le risque, que je lis en entier parce que c'est celui sur lequel l'épisode sept a tourné : les évaluations de performance fondées sur le risque évaluent le système complet, y compris les interactions humain-IA, avec des données adaptées à l'usage et des indicateurs appropriés au contexte d'utilisation prévu.
07:06 Sam Les deux agences, une phrase : l'humain fait partie de ce qui est évalué.
07:11 Sarah Neuf, la gestion du cycle de vie : des systèmes de gestion de la qualité fondés sur le risque tout au long du cycle de vie, avec une surveillance planifiée et une réévaluation périodique, son exemple étant la dérive des données. Dix, une information claire et essentielle : en langage simple, sur le contexte d'utilisation de la technologie, sa performance, ses limites, ses données sous-jacentes, ses mises à jour, et son interprétabilité ou son explicabilité.
07:34 Sam Voici ce que je retiens des deux pages, et c'est la lecture du personnage. Comptez les mots sur lesquels on a passé la saison : contexte d'utilisation, risque du modèle, adapté à l'usage, cycle de vie, équipe humain-IA, GxP. Les six y sont, et ils y sont sous les deux logos, ce qui, jusqu'en janvier, n'était jamais arrivé. Le vocabulaire a convergé. Ce qui n'a pas convergé, c'est la phrase qui vient après le vocabulaire : combien de preuves, quels types de modèles, quelle catégorie de déclaration. Les principes ne le disent pas, et ils sont honnêtes sur le fait qu'ils ne le disent pas. Ils disent que la bonne pratique et les normes consensuelles doivent évoluer à mesure que l'usage de l'IA évolue, et ils nomment l'harmonisation comme le travail qui reste à faire.
08:20 Sarah Une chose plus discrète que le document a déjà faite. La guidance de BioPhorum de juin deux mille vingt-six sur le risque dit d'elle-même qu'elle s'aligne sur les principes directeurs EMA et FDA, et son résumé exécutif décrit les cadres qu'elle a passés en revue comme, je cite, robustes individuellement mais fragmentés collectivement. L'industrie a choisi les principes communs comme la chose sur laquelle s'aligner. C'est à ça que sert un vocabulaire partagé.
08:43 Sam Maintenant les harmonisateurs. Provenance, maturité, et ce qu'il propose vraiment.
08:49 Sarah Document de réflexion sur les travaux de lignes directrices ICH proposés pour faciliter l'adoption de la fabrication pharmaceutique avancée. Approuvé par l'Assemblée de l'ICH le huit octobre deux mille vingt-cinq ; publié en mars suivant. Un document de réflexion, pas une ligne directrice. Son propre dernier paragraphe dit que l'ICH devrait considérer ces sujets lors du processus annuel de sélection des nouveaux sujets, et à la dernière vérification du paysage en août, aucun sujet n'avait été adopté.
09:15 Sam Pourquoi l'ICH l'a-t-il écrit ?
09:17 Sarah Son premier paragraphe : au fil des échanges externes, des fabricants internationaux ont relevé le manque d'alignement réglementaire mondial comme une raison de ne pas poursuivre ni adopter les technologies de fabrication avancée. Et son premier exemple d'une telle technologie est la modélisation des procédés, y compris les modèles fondés sur l'IA. Donc la prémisse du document, c'est la question de ce soir : la divergence coûte de l'adoption.
09:38 Sam Trois sujets.
09:39 Sarah La modélisation des procédés, la vérification continue des procédés, et la fabrication décentralisée ou distribuée, dans cet ordre, par étapes, avec une approche progressive qui, dit-il, pourrait vouloir dire trois lignes directrices distinctes. Sur les modèles de procédé, il dit qu'on pourrait les considérer comme des représentations numériques de procédés de fabrication physiques ; qu'ils sont de plus en plus utilisés pour la conception des procédés, la montée en échelle, le transfert de site, la surveillance et le contrôle ; et qu'ils peuvent devenir un élément critique de la stratégie de contrôle.
10:07 Sam Et son verdict sur les Points to Consider de deux mille onze, que l'épisode trois appelait la colonne vertébrale.
10:14 Sarah Il lui rend d'abord justice : les Points to Consider ont établi le principe que l'impact d'un modèle, sa contribution à l'assurance de la qualité du produit, guide l'étendue de la surveillance réglementaire. Puis trois lacunes, chacune dans ses propres termes. Il y a actuellement un besoin d'harmonisation mondiale sur de multiples aspects, et ses exemples sont la terminologie, le cadre de risque du modèle, la base de la surveillance réglementaire, et les exigences en matière de données. Les fabricants ont besoin de guidance sur la notification réglementaire des mises à jour de modèles en tenant compte du risque du modèle et de la maturité du système qualité d'un site. Et les Points to Consider ne traitent pas des considérations scientifiques et réglementaires pour relier le risque du modèle aux activités de validation du modèle et de gestion du cycle de vie.
10:55 Sam Terminologie, cadre de risque, notification, et le lien du risque aux preuves. Ce sont les épisodes trois, huit et cinq, consignés par l'ICH comme inachevés.
11:05 Sarah Et les phrases sur l'IA. De nouveaux types de modèles d'IA pourraient mettre encore davantage à l'épreuve les cadres réglementaires des modèles de procédé ; et là où il dit que les régulateurs développent activement des lignes directrices régionales, ses notes de bas de page renvoient à la consultation de l'UE sur l'annexe vingt-deux et au projet de la FDA de janvier deux mille vingt-cinq. Puis : une nouvelle ligne directrice ICH sur les modèles de procédé pourrait fournir un cadre complet avec des principes qui pourraient s'appliquer aux modèles d'IA, en reconnaissant que les Points to Consider n'avaient pas explicitement prévu ces nouveaux types de modèles d'IA.
11:37 Sam Voit-il la divergence de l'épisode quatre ?
11:39 Sarah Page sept, oui. L'approche des Points to Consider pourrait ne pas être la mieux adaptée aux modèles d'IA utilisés dans une stratégie de contrôle dynamique et en fabrication continue ; les régulateurs et l'industrie reconnaissent le besoin d'une classification moderne des modèles fondée sur le risque et d'une approche de gestion du cycle de vie ; et les modèles d'IA ou à apprentissage continu peuvent poser un défi important aux régulateurs, parce que les activités de vérification du modèle après approbation doivent être mises en balance avec les changements continus du modèle à mesure que de nouvelles informations sont produites. Il nomme le problème. Il ne prend pas parti.
12:10 Sam Donc l'ICH a vu la fracture et en a fait un sujet. Que propose-t-il de faire en premier ?
12:16 Sarah La section C. Une nouvelle ligne directrice ICH sur les modèles de procédé serait la première étape préférée. Elle clarifierait les Points to Consider sur les attentes réglementaires pour la mise en œuvre et l'utilisation des modèles de procédé, y compris, je cite, la documentation requise dans les dossiers concernant les modèles et les mises à jour de modèles tout au long du cycle de vie ; et elle réviserait les Points to Consider sur la base des considérations scientifiques et réglementaires pour relier le risque du modèle à l'utilisation prévue et à la conséquence de la décision.
12:46 Sam L'utilisation prévue et la conséquence de la décision. C'est l'étape trois de la FDA et le risque du modèle de M quinze, adoptés comme principe de révision pour le document sur la fabrication. Si cette ligne directrice est écrite, la table de correspondance des niveaux de l'épisode trois cesse d'être une table de correspondance et devient une seule colonne.
13:08 Sarah Il liste aussi les questions auxquelles il veut des réponses, et trois sont les nôtres. Quelles sont les attentes pour les essais sur produit en cours de fabrication et les essais de libération quand un modèle est employé pour le contrôle du procédé. Quelles sont les attentes pour la validation fondée sur le risque des modèles de fabrication pharmaceutique. Et quelles sont les attentes pour une approche de maintenance du cycle de vie sur toute la durée de vie d'un modèle, surtout, je cite, pour des modèles de procédé fréquemment mis à jour, par exemple des modèles d'IA qui apprennent et s'auto-ajustent.
13:35 Sam Et le deuxième sujet, la vérification continue des procédés. Pourquoi compte-t-il autant que celui sur la modélisation ?
13:43 Sarah Parce que le document dit que la vérification continue des procédés, telle que définie dans Q huit, est brièvement abordée dans les Points to Consider, représente une approche avancée de la validation des procédés, et n'a pas été largement adoptée ; et qu'il y a besoin de clarifications supplémentaires sur le niveau attendu de compréhension du produit et du procédé, sur la stratégie de surveillance et de contrôle du procédé, et sur les informations et données nécessaires dans le dossier. Sa deuxième question sur le sujet est de savoir si les approches régionales peuvent être alignées. Le modèle de suivi de lot est un outil de vérification continue des procédés. Chaque modèle multivarié qui suit la tendance de chaque lot attend ce sujet-là, pas celui sur la modélisation.
14:20 Sam Gardons la lecture du praticien un instant, parce que cette phrase, pas largement adoptée, est de celles qu'on va mal lire. Tout directeur de site qui l'entend pensera au programme de suivi de tendances que son unité qualité applique déjà à chaque lot commercial, et objectera qu'il l'a adopté il y a des années. Ce programme n'est pas ce dont parle le document. Il y a ici deux termes, à une lettre près en anglais, et ce n'est pas la même chose.
14:44 Sarah Continuous, et continued. Continuous process verification, la vérification continue des procédés, est le terme de Q huit, et la définition de son glossaire tient en une phrase : une approche alternative de la validation des procédés, dans laquelle la performance du procédé de fabrication est surveillée et évaluée en continu. Alternative, c'est-à-dire, à la qualification du procédé sur un nombre fixe de lots avant le lancement. Continued process verification est le terme de la FDA, l'étape trois de la guidance de deux mille onze sur la validation des procédés : l'assurance permanente, acquise pendant la production de routine, que le procédé reste maîtrisé. L'étape trois n'est l'alternative à rien. C'est ce que tout procédé validé doit après sa qualification, quelle que soit la façon dont il a été qualifié, et la guidance la rattache à l'exigence d'évaluation des enregistrements de la partie deux cent onze.
15:26 Sam Et l'Europe a une troisième expression pour la deuxième chose.
15:30 Sarah L'annexe quinze l'appelle ongoing process verification, la vérification permanente du procédé au cours du cycle de vie, et son glossaire dit, en toutes lettres, également appelée continued process verification. Le point cinq vingt-huit dit que les paragraphes sur cette vérification permanente s'appliquent aux trois approches de validation, traditionnelle, continue et hybride. Donc continued, ou ongoing, c'est le plancher : tout procédé commercial, dans les deux régions, depuis deux mille onze. Continuous, c'est autre chose : se servir de ce même flux de surveillance pour valider le procédé en premier lieu, à la place des lots d'avant lancement.
16:00 Sam Donc quand le document dit que la vérification continue n'a pas été largement adoptée, il dit que presque personne n'a remplacé les lots de validation par la surveillance. Il ne dit pas que personne ne surveille le procédé. Presque tous les sites font la première chose et n'ont jamais tenté la seconde, et un modèle de suivi de lot est, aujourd'hui, un outil d'étape trois. Maintenant, la lecture du praticien. La vérification continue, c'était la promesse de Q huit : valider le procédé en observant chaque lot au lieu de trois. Ça n'a jamais pris, parce que personne ne pouvait dire à quoi l'observation devait ressembler sur le papier. Si l'ICH l'écrit noir sur blanc, le modèle de lot cesse d'être un graphique de vérification permanente au mur du MSAT et devient la chose que le dossier cite. Pour le public de cette émission, c'est un plus gros lot que la ligne directrice sur la modélisation.
16:52 Sarah Une réserve sur le calendrier. Le document dit que le moment de lancer cet effort peut être influencé par des facteurs externes, dont la législation régionale ou l'élaboration des politiques, et que la priorisation des sujets sera éclairée par l'expérience réglementaire. Lu simplement : l'ICH attendra de voir dans quoi l'annexe vingt-deux et les textes de la FDA se stabilisent avant de les harmoniser.
17:11 Sam Point d'étape, au premier tiers. Deux pages de principes qui font converger le vocabulaire et admettent que le reste est inachevé. Un document de réflexion de l'ICH qui nomme trois sujets, trois lacunes et une première ligne directrice préférée, sans aucun sujet adopté. Maintenant le calendrier. Sarah, seulement les dates que le paysage a vérifiées ; nuance le reste.
17:35 Sarah Sept éléments. Un : l'agenda des guidances deux mille vingt-six du CDER, le Center for Drug Evaluation and Research de la FDA, liste un projet prévu intitulé AI and ML Quality Considerations in Pharmaceutical Manufacturing ; l'agenda est sorti en début d'année, en février, si je comprends bien. Pas encore publié. Ce serait le premier texte de la FDA spécifiquement sur l'IA en CMC, le successeur du document de discussion de deux mille vingt-trois, et le lieu naturel pour les catégories de déclaration des changements de modèle que l'épisode huit a trouvées manquantes. Qu'il paraisse cette année, c'est la promesse d'un agenda de guidances, et ça glisse.
18:09 Sam Deux.
18:10 Sarah Deux, trois et quatre, c'est le trio BPF de l'UE : l'annexe vingt-deux sur l'intelligence artificielle, la révision de l'annexe onze sur les systèmes informatisés, et la révision du chapitre quatre sur la documentation. Consultés ensemble du sept juillet au sept octobre deux mille vingt-cinq ; environ treize cents commentaires sur l'annexe vingt-deux ; l'atelier de l'EMA des trente juin et premier juillet de cette année a exploré les modèles adaptatifs et génératifs ; aucun projet modifié n'a été publié, et les comptes rendus de l'EMA elle-même disent que le projet est en cours de révision. Les textes finaux visent à atteindre la Commission vers la fin de cette année, avec effet vers deux mille vingt-sept. Les deux sont des estimations, si je comprends bien, pas des dates publiées.
18:49 Sam Cinq.
18:50 Sarah Cinq : le projet de la FDA de janvier deux mille vingt-cinq sur l'IA à l'appui des décisions réglementaires, le cadre de crédibilité, toujours un projet en août, sans date pour une version finale. Six : une possible suite de l'EMA sur l'IA adaptative et générative après l'atelier, comme guidance séparée ou comme seconde phase de l'annexe ; le paysage la liste comme possible et je ne peux pas en dire plus.
19:11 Sam Sept.
19:12 Sarah Le règlement sur l'IA. En vigueur depuis le premier août deux mille vingt-quatre. Ses obligations à haut risque ont été reportées cet été par un règlement modificatif, en vigueur depuis fin juillet, que le paysage appelle l'Omnibus numérique sur l'IA : au deux décembre deux mille vingt-sept pour les cas d'usage de l'annexe trois, et au deux août deux mille vingt-huit pour l'IA intégrée dans des produits relevant de l'annexe un. La section du paysage sur le droit de l'UE a les nouvelles dates, et je la suis. Et comme l'épisode trois l'a dit, presque rien dans une usine pharmaceutique n'est à haut risque au sens du règlement, sauf s'il s'agit d'un composant de sécurité d'un produit réglementé, un dispositif médical ou une machine, qui nécessite une évaluation de conformité par un tiers.
19:50 Sam Et les deux dont tu ne peux pas parler.
19:52 Sarah Une norme pharmacopéique sur les jumeaux numériques est attendue ; c'est tout ce que je peux dire. Et une proposition de l'industrie circule. Rien sur le contenu de l'une ni de l'autre.
20:01 Sam Sept lignes : une date qui est de la loi, six qui sont des cibles. Voici comment je lirais un calendrier comme ça, et c'est la lecture du personnage. La seule chose certaine dedans est celle qui touche le moins l'usine. Tout ce qui touche l'usine directement est un projet ou une promesse. Ce n'est pas une raison d'attendre ; l'épisode un a dit qu'un projet, c'est ce que l'inspecteur demande le jour où il est publié. C'est une raison de planifier pour la forme des documents plutôt que pour leurs dates, parce que la forme est déjà visible et que les dates ne le sont pas.
20:33 Sarah Les dates viennent de quelque part, alors, brièvement, la machinerie derrière les textes de l'UE. La stratégie du réseau européen des agences des médicaments à l'horizon deux mille vingt-huit, EMANS deux mille vingt-huit, adoptée en deux mille vingt-cinq par les chefs des agences des médicaments et l'EMA ensemble. Six thèmes, dont le deuxième, après l'accessibilité, est de tirer parti des données, de la numérisation et de l'intelligence artificielle.
20:55 Sam Que dit-elle de la fabrication ?
20:58 Sarah Deux objectifs. Sous la science réglementaire, trois point un point trois : faciliter le développement et la mise en œuvre de nouvelles technologies de fabrication et de techniques analytiques. Et sous la disponibilité et l'approvisionnement, cinq point deux point quatre : maintenir les exigences de bonnes pratiques de fabrication à jour à la lumière du progrès technologique en fabrication, avec le numérique et l'IA comme exemples. Ce deuxième-là, c'est la phrase stratégique à laquelle l'annexe vingt-deux répond. Et l'objectif deux point trois est de réaliser la vision du réseau sur l'IA dans tous ses domaines prioritaires.
21:29 Sam Le groupe de pilotage.
21:30 Sarah Le Network Data Steering Group commun HMA et EMA, le NDSG, et son plan de travail jusqu'en deux mille vingt-huit. Son livrable du premier trimestre de cette année était la publication des principes directeurs de bonne pratique de l'IA, donc les principes communs sont une ligne de ce plan. Puis : une feuille de route coordonnée des futures guidances sur l'IA au deuxième trimestre ; un glossaire de l'IA au quatrième ; l'exploration d'autres opportunités d'harmonisation internationale de la fin de cette année jusqu'en deux mille vingt-huit ; et, au deuxième trimestre de deux mille vingt-sept, ce qu'il appelle un hackathon de simulation de bac à sable réglementaire, sur des scénarios hypothétiques de cas d'usage de l'IA. L'essentiel du plan concerne l'usage de l'IA par le réseau lui-même ; les lignes sur l'harmonisation et le glossaire sont celles qui atteignent une usine.
22:13 Sam Et le groupe qualité.
22:14 Sarah Le Quality Innovation Group, le QIG : le groupe de l'EMA sur la fabrication avancée et le plus proche équivalent européen de l'Emerging Technology Program de la FDA. Son plan de travail glissant, daté du cinq décembre deux mille vingt-cinq, met les modèles de procédé pharmaceutiques, considérations sur l'IA comprises, en tête de ses domaines prioritaires. Sa liste de guidances pour deux mille vingt-cinq et deux mille vingt-six : ses propres considérations préliminaires sur les modèles de procédé pharmaceutiques, que le document de l'ICH cite ; et une contribution spécialisée à l'annexe onze et à l'annexe vingt-deux. À l'international : collaborer avec la FDA sur les domaines d'intérêt commun, et, je cite, porter la position de l'UE dans les enceintes internationales telles que l'ICH. Il offre un point d'entrée aux développeurs et des réunions annuelles d'écoute et d'apprentissage avec l'industrie.
23:01 Sam Donc le groupe qui a fourni la contribution spécialisée à l'annexe est le même qui porte la voix de l'UE à l'ICH et qui tient la porte à laquelle l'industrie frappe. Ce qui veut dire que la position de l'annexe sur le type de modèle est la position que l'UE emporte dans tout sujet ICH, à moins que les commentaires ne la fassent bouger avant. Bon à savoir quand vous décidez où dépenser un commentaire.
23:24 Sam Les bacs à sable. L'industrie en demande un depuis des années. Qu'est-ce qui existe ?
23:29 Sarah Un en fonctionnement, dans les produits médicaux. Le document de politique de la MHRA d'avril deux mille vingt-quatre, sur l'impact de l'IA sur la réglementation des produits médicaux, décrit l'AI Airlock comme un bac à sable réglementaire pour l'IA en tant que dispositif médical, lancé sous forme pilote au printemps deux mille vingt-quatre, financé par le laboratoire d'IA du ministère de la santé, réunissant les organismes approuvés britanniques, le service de santé et d'autres régulateurs, pour identifier et traiter les nouveaux défis réglementaires des dispositifs d'IA et, dans ses termes, répondre à des questions restées jusque-là sans réponse. Le paysage confirme qu'il a été lancé, que sa deuxième phase est terminée, et qu'il est financé jusqu'en deux mille vingt-neuf.
24:08 Sam Les dispositifs, cela dit.
24:10 Sarah Les dispositifs. Sur les médicaments, le même document dit que les questions que le régulateur doit poser pour déterminer si un produit est sûr ne changent pas quand la nature des preuves change, et il renvoie à son propre avis scientifique et à ses voies accélérées. Le document de l'ICH liste une consultation de la MHRA parmi les voies pour la fabrication avancée, aux côtés de l'initiative FRAME et de l'Emerging Technology Program de la FDA, de l'équipe des technologies avancées du centre des produits biologiques, du QIG de l'EMA, et de l'équipe japonaise sur la fabrication innovante. Ce sont des portes d'entrée, pas des bacs à sable.
24:42 Sam Et celui du règlement sur l'IA.
24:44 Sarah L'article cinquante-sept. Chaque État membre doit avoir au moins un bac à sable réglementaire de l'IA opérationnel au deux août deux mille vingt-six. Sa définition : un environnement contrôlé qui facilite le développement, l'entraînement, les essais et la validation de systèmes d'IA innovants pendant une durée limitée avant leur mise sur le marché, selon un plan de bac à sable convenu entre le fournisseur et l'autorité compétente ; et il peut inclure, je cite, des essais en conditions réelles supervisés dans ce cadre. Le fournisseur en sort avec un rapport de sortie que les autorités de surveillance du marché et les organismes notifiés doivent prendre en compte de manière positive, et l'un des objectifs déclarés est l'apprentissage réglementaire fondé sur des données probantes.
25:22 Sam Mais.
25:23 Sarah Mais l'autorité compétente est l'autorité du règlement sur l'IA, la conformité en question est la conformité au règlement sur l'IA, et le règlement, pour l'essentiel, n'atteint pas une usine BPF. Horizontal, pas BPF. C'est la formule du paysage et l'article la soutient.
25:37 Sam Donc le bac à sable qui existe est pour les dispositifs, et le bac à sable que la loi impose est pour une loi qui, pour l'essentiel, n'atteint pas l'usine. Ce que l'industrie continue de demander est une troisième chose : un déploiement supervisé, dans une installation BPF, avec le régulateur BPF dans la pièce, où un capteur logiciel ou un agent tourne pour de vrai selon un plan convenu et où le rapport de sortie compte pour quelque chose. Personne ne l'a construit. Ce qui s'en rapproche le plus dans le corpus, c'est l'engagement précoce de la FDA, qui, l'épisode deux l'a noté, intervient avant la mise en œuvre, et les réunions individuelles du QIG. Ce sont des conversations. Un bac à sable, c'est une expérience. Le monde des dispositifs en a un ; le monde du médicament a des réunions.
26:24 Sarah Ce que les documents soutiennent là-dedans : l'article du règlement donne le modèle, l'Airlock donne le précédent, et le document de l'ICH dit que le manque d'harmonisation entre les initiatives des régulateurs peut décourager les fabricants. Ce qu'aucun document ne dit, c'est qu'un bac à sable BPF arrive.
26:39 Sam Deuxième point d'étape, aux deux tiers. Vocabulaire convergé ; sujet de l'ICH nommé, pas adopté ; un calendrier avec une loi et six cibles ; la machinerie de l'UE derrière ; des bacs à sable pour les dispositifs et pour le règlement, aucun pour les BPF. Maintenant la liste. Sarah, les questions ouvertes telles que la saison les a trouvées, et quel épisode a trouvé chacune.
27:03 Sarah Six. Un : les modèles adaptatifs et à apprentissage continu en usage BPF critique. L'annexe vingt-deux dit qu'ils ne devraient pas être utilisés ; le projet de la FDA les anticipe sous la maintenance du cycle de vie ; personne n'harmonise, et l'ICH l'a nommé comme un défi sans en faire un sujet. Épisode quatre. Deux : l'IA générative et les agents dans la documentation GxP. L'annexe vingt-deux dit pas en usage critique, et humain dans la boucle ailleurs ; le projet de la FDA n'emploie jamais les mots ; et savoir si un usage documentaire est critique est, dans la formule du paysage, la question clé. Épisodes quatre et sept.
27:38 Sam Trois.
27:39 Sarah Trois : la dépendance à des tiers et à des modèles de fondation, un fournisseur qui change le modèle en dehors de votre gestion des changements. Sous-traité partout ; la quatrième sorte de changement de l'épisode huit, sans instrument. Quatre : un plan de contrôle des changements prédéterminé pour la CMC. Aucun mécanisme ; le protocole de Q douze est ce qui s'en rapproche le plus, et l'épisode huit a trouvé la phrase qui lui permet de se répéter et personne qui en ait écrit un pour un réentraînement. Cinq : quel humain, avec quelle compétence, pour l'humain dans la boucle. Aucun document ne le dit ; épisode sept. Six : le pipeline des données de l'usine aux données adaptées à l'usage. Supposé par chaque cadre, spécifié par aucun ; épisode six.
28:16 Sam Remarquez ce que les six ont en commun. Quatre d'entre elles, c'est l'agent. Auto-apprenant, génératif, dépendant d'un fournisseur, supervisé par un humain : c'est une description de l'assistant aux déviations, et les quatre plus gros trous du corpus réglementaire sont ses quatre propriétés définitoires. Chaque modèle classique tombe dans un trou. L'agent tombe dans tous. Ce n'est pas un hasard, et c'est pour ça que la saison existe.
28:41 Sarah Et les deux autres sont les plus vieilles questions du corpus réglementaire habillées de neuf : la notification des mises à jour de modèles, que la FDA a posée en deux mille vingt-trois et que l'ICH a répétée en deux mille vingt-cinq ; et les données adaptées à l'usage, qui sont la guidance de deux mille dix-huit sur l'intégrité des données avec le mot pertinence en plus.
28:58 Sam La diapositive. Quatre lignes, trois colonnes : ce qu'un site peut faire aujourd'hui avec confiance, ce qu'il doit attendre, nommément, et ce qu'il devrait faire quand même. Le capteur logiciel.
29:12 Sarah À faire aujourd'hui : un capteur logiciel statique, versionné, comme aide à l'opérateur ou comme contrôle contributif, est dans tous les cadres : les étapes de crédibilité de la FDA, l'impact moyen des Points to Consider, le périmètre de l'annexe vingt-deux. À attendre : la catégorie de déclaration pour un réentraînement, c'est-à-dire la guidance sur la fabrication promise par le CDER ou la ligne directrice ICH sur les modèles de procédé, la première qui atterrit. À faire quand même : écrire le document d'utilisation prévue avec l'espace d'échantillonnage des entrées, selon la clause trois point un de l'annexe vingt-deux, et le plan de cycle de vie avec les indicateurs et les déclencheurs de retest, selon le projet de la FDA. C'est le même artefact sous deux noms, et tout document futur les demandera.
29:50 Sam Le modèle de lot.
29:52 Sarah À faire aujourd'hui : le suivi multivarié de lot comme outil de tendance et d'alerte est mature sous les Points to Consider, et ses graphiques de contribution sont l'explicabilité que la clause huit de l'annexe vingt-deux demande. À attendre : le sujet ICH sur la vérification continue des procédés, qui est ce qui permettrait à un dossier de s'appuyer dessus ; et, s'il remplace un jour un essai de libération, le traitement du niveau trois avec des essais en parallèle. À faire quand même : mettre de côté des campagnes entières comme jeu de test indépendant et documenter chaque exclusion de lot de référence, selon les épisodes cinq et six ; les données de surveillance sont l'unique base de preuves à la fois pour le retest et pour la décision de déclaration.
30:28 Sam Le système de vision.
30:29 Sarah À faire aujourd'hui : c'est l'exemple de la FDA elle-même. Un système de vision du volume de remplissage avec l'essai sur échantillon de libération conservé comme contrôle orthogonal est à risque de modèle moyen dans le projet de la FDA et pleinement dans le périmètre de l'annexe vingt-deux comme modèle statique et déterministe. À attendre : rien sur le modèle lui-même ; côté fournisseur, l'instrument pour une mise à jour poussée, qu'aucun document du calendrier ne promet. À faire quand même : figer la version, contractualiser un préavis, garder un jeu physique de régression de flacons et le passer à chaque version du fournisseur, selon l'épisode huit ; et construire le seuil de confiance qui envoie les flacons limites vers l'indéterminé, selon la clause neuf.
31:08 Sam Et l'agent. Prends ton temps.
31:10 Sarah À faire aujourd'hui, avec confiance : rien en usage critique dans une usine inspectée par l'UE. Le projet d'annexe vingt-deux dit que les modèles génératifs ne devraient pas être utilisés dans les applications BPF critiques. Aucun texte révisé n'a encore changé ça, mais la synthèse de consultation de l'EMA fait état d'un soutien pour les autoriser sous contrôles, et l'atelier a été conçu pour définir ces contrôles, donc cette ligne-là est celle qui a le plus de chances de bouger. Le projet de la FDA n'a aucun texte là-dessus au-delà de l'exclusion pour l'efficacité opérationnelle, qui ne tient que jusqu'au moment où la sortie façonne une décision qualité. Ce qu'un site peut faire aujourd'hui, c'est le déployer dans des usages qu'il est prêt à défendre comme non critiques, avec un humain dans la boucle, et avec la piste d'audit et les contrôles d'accès que la révision de l'annexe onze demande à tout système informatisé.
31:53 Sam À attendre.
31:55 Sarah Trois choses, aucune datée. Une définition de critique pour un usage documentaire, que seuls le texte final de l'annexe ou une suite de l'EMA pourraient donner. Un texte quelconque de la FDA sur l'IA générative en fabrication, ce que l'élément de l'agenda du CDER pourrait être. Et un instrument pour un fournisseur qui abandonne le modèle que vous avez validé, que rien dans le calendrier ne promet. Les principes communs couvrent l'agent au sens où ils couvrent tout ; ils ne le mentionnent pas.
32:19 Sam À faire quand même.
32:20 Sarah Commencer là où les modèles classiques commencent. La discipline des données dont l'agent a besoin, provenance et gestion des versions de ce qu'il lit, contrôle d'accès, piste d'audit de ce qu'il a lu pour arriver à une conclusion, c'est la discipline de l'annexe onze dont le capteur logiciel et le système de vision ont déjà besoin. L'humain dont il a besoin est celui que l'épisode sept a spécifié : quel humain, quelle compétence, quelles entrées, mesuré comment, avec la signature qui reste humaine. Et le jeu de test dont il a besoin est le jeu de déviations historiques arbitrées que l'épisode cinq a décrit. Rien de tout ça n'attend un document.
32:52 Sam Et la ligne que j'écrirais sur la diapositive sous l'agent, en tant que personnage. La ligne du non critique, c'est au site de la tracer et de la défendre, et elle sera inspectée avant qu'aucun document ne la définisse. Alors tracez-la étroite, écrivez pourquoi, et instrumentez l'humain. L'usine qui peut montrer à un inspecteur ce que l'agent a lu, ce qu'il a rédigé, qui a changé quoi et pourquoi, a de l'avance sur le corpus réglementaire. L'usine qui ne le peut pas est en retard sur lui, quoi que le corpus finisse par dire.
33:22 Sarah La question de la saison, alors. Sam, on y est ? Je t'ai donné ce que les documents soutiennent. Le verdict est à toi.
33:28 Sam Trois réponses, et c'est la synthèse du personnage, offerte à l'auditeur pour qu'il la mette à l'épreuve. Sur le vocabulaire, presque. Contexte d'utilisation, risque du modèle, adapté à l'usage, cycle de vie, équipe humain-IA : partagés par la FDA, l'EMA, l'ICH et l'industrie, et signés par deux agences sur une page en janvier. Un site qui écrit ses documents sur l'IA dans ces mots-là sera compris dans toutes les régions. Ce n'était pas vrai quand les modèles classiques ont été validés.
33:59 Sarah Sur les instruments.
34:00 Sam Non. Le texte contraignant est un projet. Le cadre de la FDA est un projet. Le sujet de l'ICH est un document de réflexion. L'instrument de gestion des changements pour un modèle qui se réentraîne est une phrase de Q douze que personne n'a utilisée, et pour un modèle qui apprend, ou un fournisseur qui pousse, il n'y a rien. Les deux agences qui ont signé les principes sont en désaccord par écrit sur la place d'un modèle auto-actualisé dans une étape critique. Convergence sur les mots, divergence sur les mécanismes, et les mécanismes sont ce qu'un site doit déposer.
34:37 Sarah Et sur le terrain, dans l'atelier ?
34:39 Sam La réponse honnête : le corpus réglementaire est en avance sur la plupart des états de préparation des données. Chaque cadre de ce soir suppose que le sous-sol est au sec : provenance, contexte, versions, complétude, pertinence. La plupart des usines ont un historien de données et une bonne intention. Ce qui décide vraiment de ce qui peut être construit, ce n'est pas l'annexe vingt-deux ; c'est de savoir si vous pouvez régénérer un jeu d'entraînement à partir des enregistrements bruts et dire qui a vu le jeu de test. Et l'agent le découvrira en premier, parce qu'il lit tout. C'est le refrain de la saison, et c'est le mien. Donc : on y est sur le vocabulaire, pas sur les instruments, et c'est l'atelier qui décide.
35:20 Sam Et alors, pour la bioproduction : trois habitudes à emporter de la saison, assumées et étiquetées comme telles. D'abord, une liste de veille avec les sept lignes datées que Sarah a lues, revue chaque mois, tenue par une seule personne aux affaires réglementaires CMC, avec une colonne pour ce qu'on changerait si ça atterrit. Pas une diapositive ; une page qui reçoit un tampon de date chaque mois.
35:44 Sarah Deuxièmement ?
35:45 Sam Deuxièmement, une habitude de commentaire via le docket, parce que les projets sont façonnés par ceux qui se présentent. Treize cents commentaires n'ont rien fait bouger à l'atelier, ce qui me dit que les arguments doivent être meilleurs, pas plus nombreux. Le niveau intermédiaire que l'épisode trois a trouvé manquant, une application critique avec une faible influence du modèle et de solides contrôles intermédiaires, c'est l'argument qui vaut la peine d'être porté. Quand le projet du CDER paraîtra, commentez les catégories de déclaration. Quand le sujet ICH sera proposé, le QIG tient chaque année une réunion d'écoute et d'apprentissage ; c'est la pièce où aller.
36:24 Sarah Troisièmement.
36:26 Sam Troisièmement, une position d'une page sur ce qu'on fait aujourd'hui, par cas d'usage. Le niveau, de l'épisode trois. L'instrument pour chacune des quatre sortes de changement, de l'épisode huit. L'humain, par compétence, de l'épisode sept. La déclaration d'état de préparation des données, de l'épisode six. L'utilisation prévue, de l'épisode cinq. Cette page, c'est ce qu'un inspecteur demande, ce que le résumé de la FDA dans la demande condense, et ce que vous mettez à jour quand une ligne de la liste de veille atterrit. Quatre systèmes, quatre pages, terminées avant vendredi.
36:59 Sarah Qui doit être dans la pièce, d'après les documents. Le cinquième principe commun : une expertise multidisciplinaire couvrant à la fois la technologie d'IA et son contexte d'utilisation, sur tout le cycle de vie. La distribution de l'annexe vingt-deux : experts du procédé, qualité, science des données, informatique. Le document de l'ICH place la maturité du système qualité d'un site à côté du risque du modèle comme ce dont la notification dépendra, donc la maturité du système qualité est désormais une variable réglementaire, et c'est l'assurance qualité qui la possède. Et les dates de l'UE sortent de plans de travail publics, donc ce sont les affaires réglementaires CMC qui possèdent la liste de veille.
37:36 Sam Et puis la question se retourne. Neuf épisodes sur la question de savoir si le corpus réglementaire y est. Il en est assez proche pour qu'on planifie. La question que j'emporterais dans la prochaine saison est celle qui est sous tout ça : est-ce que les données y sont ?
37:51 Sam Trois choses, et puis la saison. Sarah.
37:54 Sarah Premièrement, le vocabulaire a convergé. Contexte d'utilisation, risque du modèle, adapté à l'usage, cycle de vie, équipe humain-IA : deux agences sur une page en janvier, l'ICH qui pointe les mêmes mots, l'industrie qui s'y aligne. Écrivez dans ces mots-là.
38:08 Sarah Deuxièmement, les instruments, non. L'annexe BPF, le cadre de la FDA et le sujet de l'ICH sont un projet, un projet et un document de réflexion ; le calendrier a une loi et six cibles ; l'instrument de gestion des changements pour l'IA n'existe pas ; le bac à sable que l'industrie veut n'a pas été construit. Planifiez pour la forme, pas pour la date.
38:27 Sam Troisièmement, la mienne : les six questions ouvertes sont pour l'essentiel un seul système. L'agent est auto-apprenant, génératif, dépendant d'un fournisseur et supervisé par un humain, et ce sont les quatre trous du corpus réglementaire. Tracez la ligne du non critique étroite, instrumentez l'humain, et commencez par la discipline des données dont les modèles classiques ont déjà besoin. On y est ? Sur les mots, presque. Sur les mécanismes, non. Sur le terrain, c'est le sous-sol qui décide.
38:54 Sam Une dernière chose avant de partir, pour qui est sur le point de rentrer de sa course à pied. On a dit quarante documents. Qu'est-ce qu'on a vraiment lu, et si quelqu'un a une soirée par semaine, dans quel ordre devrait-il s'y mettre ?
39:08 Sarah On a lu de près environ vingt-cinq de la quarantaine de documents du corpus ; le reste, ce sont des documents de stratégie, des prises de position et les textes du monde des dispositifs qu'on a cités plutôt que lus. Dans l'ordre que je donnerais à un collègue. Un : le projet de la FDA de janvier deux mille vingt-cinq sur l'IA à l'appui des décisions réglementaires ; tous les épisodes sauf un s'y sont appuyés ; c'est le vocabulaire. Deux : le projet d'annexe vingt-deux ; six épisodes ; le texte le plus proche de ce qu'un inspecteur de l'UE demandera, et celui à continuer de surveiller pendant que l'EMA pèse les treize cents commentaires. Trois : le document de réflexion de l'EMA sur l'IA dans le cycle de vie du médicament ; les axes de risque et le plan de gestion des risques du système. Quatre : la guidance de BioPhorum de juin deux mille vingt-six sur le risque ; la synthèse de l'industrie, et celle qui a une gradation conçue pour une usine, pas pour un dossier d'enregistrement. Cinq : le règlement de l'UE sur l'IA, mais seulement l'article dix sur les données, l'article quatorze sur le contrôle humain, et assez du périmètre pour savoir pourquoi, pour l'essentiel, ce n'est pas vous. Six : le document de réflexion de l'ICH sur la fabrication avancée ; court, et il nomme les termes qu'un futur sujet ICH devrait harmoniser. Sept : la révision de l'annexe onze avec le projet de chapitre quatre ; votre pipeline de données en relève en tant que système informatisé. Huit : les principes directeurs EMA-FDA ; deux pages ; lisez-les avec le projet de la FDA ouvert. Puis les outils quand vous en avez besoin : Q douze pour le changement, les Points to Consider Q huit-neuf-dix pour le risque, les questions-réponses de la FDA sur l'intégrité des données et le PIC/S zéro quatre un pour le sous-sol, la Computer Software Assurance, les GMLP, et les guidances de la FDA sur la crédibilité des dispositifs et le PCCP pour savoir d'où vient le vocabulaire. Ils sont en lien, dans cet ordre, à la fin des notes de cet épisode.
40:55 Sam Si vous n'en lisez que deux : le projet de la FDA et l'annexe vingt-deux, ensemble, d'une traite. Ils sont écrits par deux agences qui s'étaient clairement lues l'une l'autre. Tout le reste de la saison, c'est la discussion sur l'écart entre les deux.
41:10 Sam C'était la saison un : neuf questions, un corpus réglementaire, lu pendant qu'on le réécrivait. Merci d'avoir marché avec nous. Vérifiez les sources. La prochaine saison pose la question qui est sous celle-ci : est-ce que les données y sont ?