L'IA dans la production biopharmaceutique : on y est ?
This is the script the AI voices read, so it matches the audio word for word; times are from the render. Documenté, écrit et lu par des systèmes d'IA sous la direction de Jack Prior ; édition française traduite par l'IA à partir des épisodes anglais vérifiés. Sam et Sarah sont des personnages d'IA ; rien dans l'épisode n'est Jack qui parle, et rien n'engage ses opinions ni celles de son employeur. L'IA générative peut se tromper avec assurance — vérifiez les sources. Corrections : jack@jackprior.ai.
00:00 Narrator Voici On y est ? — un podcast sur l'évolution de l'IA dans la production biopharmaceutique, dirigé par Jack Prior. Un mot sur la façon dont il est fait. Cet épisode a été documenté, écrit et lu par des systèmes d'IA. Jack pose les questions et les cadres ; l'IA lit les documents et écrit la conversation que vous allez entendre, entre deux personnages d'IA : Sam, qui joue un praticien des sciences de la production, et Sarah, qui a lu les documents. Cette édition française est une traduction, par l'IA, des épisodes anglais. Rien de ce que vous entendez n'est Jack qui parle, et rien n'engage ses opinions ni celles de son employeur. Comme toute IA générative, elle peut se tromper — avec assurance, ou en manquant une nuance — ce qui est précisément le risque que cette industrie cherche à maîtriser, et précisément le sujet de cette saison. Vérifiez les sources avant de vous y fier. Les corrections sont les bienvenues à jackprior point A I. Place à l'épisode.
00:56 Sam Une usine de biomédicaments. L'équipe data science tire trois ans de données de bioréacteur de l'historian pour entraîner un capteur logiciel sur le titre. Quarante mille lignes, un modèle pour vendredi. Puis le responsable validation pose quatre questions. De quelle sonde venait ce signal de pH en deuxième année, avant la reconstruction du skid ? Pourquoi n'y a-t-il aucune valeur entre deux heures et quatre heures, un matin de mars ? Est-ce que ce sont des mesures brutes, ou ce que l'historian a gardé après avoir écarté tout changement à l'intérieur de sa bande morte ? Si je supprime ce fichier, pouvez-vous le régénérer ? Pas sûr, une panne que personne n'a consignée, la deuxième option, et non. Le jeu d'entraînement vient de devenir une histoire qu'on raconte sur des données, et aucun cadre de cette saison n'accepte une histoire.
01:41 Sarah C'est la question de ce soir, Sam. Chaque document que nous avons lu suppose que les données sous le modèle sont dignes de confiance. Ce soir, nous lisons ce qu'ils exigent réellement, et où cela laisse une usine.
01:52 Sam Et où cela laisse le sous-sol. Lisons.
01:55 Sam Sarah, la question en une phrase.
01:57 Sarah Chaque cadre présume des données dignes de confiance : qu'exigent-ils réellement, et où cela laisse-t-il la plupart des usines ? Deux points d'ancrage ce soir, et tous deux viennent du corpus de l'intégrité des données plutôt que de celui de l'IA. La révision de l'annexe onze des BPF de l'UE sur les systèmes informatisés, un projet mis en consultation de juillet à octobre deux mille vingt-cinq, dans le même paquet que l'annexe vingt-deux et le chapitre quatre révisé sur la documentation. Et le Data Integrity and Compliance with Drug CGMP de la FDA, une guidance sous forme de questions-réponses, finale depuis décembre deux mille dix-huit, issue du Center for Drug Evaluation and Research avec les centres produits biologiques et vétérinaires.
02:34 Sam Provenance et maturité.
02:36 Sarah L'annexe onze est la couche loi-et-réglementation, une annexe du volume quatre d'EudraLex. Le premier paragraphe du projet dit lui-même que le groupe de travail des inspecteurs BPF et BPD et le comité du PIC/S, le Pharmaceutical Inspection Co-operation Scheme, ont recommandé conjointement la révision. Elle passe d'environ cinq pages à dix-neuf, en dix-sept chapitres : système qualité, gestion des risques, gestion des fournisseurs, qualification et validation, traitement des données, identité et accès, pistes d'audit, signatures électroniques, revue périodique, sécurité, sauvegarde, archivage. Si je comprends bien, le texte final est attendu vers la fin de cette année et la mise en application vers le début de deux mille vingt-sept ; prenez les deux comme des estimations.
03:17 Sam Et l'annexe vingt-deux s'y accroche.
03:19 Sarah Elle se décrit comme une guidance complémentaire à l'annexe onze pour les systèmes qui embarquent de l'IA, donc les deux se lisent ensemble. Le questions-réponses de la FDA est une guidance d'autorité, finale, vieille de sept ans, et c'est ce qu'un inspecteur de la FDA a en tête chaque fois que le mot données apparaît.
03:35 Sam Les voix.
03:36 Sarah Cinq. La guidance PI zéro-quatre-un du PIC/S sur la gestion et l'intégrité des données, datée du premier juillet deux mille vingt et un, écrite pour les inspecteurs. Le chapitre quatre révisé, même consultation, qui est l'endroit où le guide des BPF de l'UE prononce pour la première fois les mots intelligence artificielle. Le projet de la FDA sur l'IA de janvier deux mille vingt-cinq, pour sa définition de fit for use, adapté à l'usage. Le règlement européen sur l'IA, en vigueur depuis août deux mille vingt-quatre, pour son article dix sur la gouvernance des données. Et le document de réflexion de l'EMA sur l'IA tout au long du cycle de vie du médicament, final en septembre deux mille vingt-quatre, pour sa section sur l'acquisition des données.
04:13 Sam Pourquoi maintenant, en un souffle. Le capteur logiciel et le modèle de lot vivent sur les données de l'historian depuis vingt ans, et le corpus de l'intégrité des données a grandi autour du laboratoire, du chromatographe et du dossier de lot ; l'historian s'est surtout glissé en dessous. Ce qui a changé, c'est l'agent. Un assistant qui lit les dossiers de lot, les procédures et l'historique des déviations ne consomme pas une colonne de chiffres. Il consomme toute la mémoire documentaire de l'usine, versions comprises, et dès que vous posez un modèle de langage par-dessus, chaque faiblesse du sous-sol s'affiche à l'écran. La dernière fois, nous avons demandé quelles preuves vous devez. Ce soir, nous demandons si les données peuvent les porter.
04:56 Sarah Commençons par le vocabulaire, parce que le corpus définit les données dignes de confiance de trois façons qui se recouvrent. La première est ALCOA. Le questions-réponses de la FDA, question un, dit que l'intégrité des données désigne la complétude, la cohérence et l'exactitude des données, et que ces données devraient être attribuables, lisibles, enregistrées au moment des faits, originales ou copie conforme, et exactes. Le PIC/S ajoute quatre attributs, complètes, cohérentes, durables et disponibles, et appelle cela ALCOA plus. La révision de l'annexe onze dit, au principe deux point quatre, que l'intégrité des données est, je cite, telle que définie par les principes ALCOA+. Et le chapitre quatre révisé ajoute un dixième attribut, traçables, et écrit ALCOA plus plus.
05:38 Sam Trois textes, trois graphies, une idée. La fiabilité.
05:42 Sarah La deuxième définition est le projet de la FDA de deux mille vingt-cinq, à l'étape quatre A. Les données utilisées pour développer le modèle devraient être, je cite, fit for use, adaptées à l'usage, ce que le projet définit comme à la fois pertinentes et fiables. Pertinentes est illustré par l'inclusion des éléments de données clés et de données suffisantes, représentatives du procédé ou de l'opération de fabrication. Fiables est défini comme exactes, complètes et traçables. Et le projet dit la même chose des données de test à l'étape quatre B : comme les données de développement, ces données devraient être adaptées à l'usage.
06:13 Sam Donc fiable, c'est ALCOA en trois mots, et pertinent, c'est le mot nouveau.
06:19 Sarah La troisième est la section de l'annexe vingt-deux sur les données de test, que nous avons lue la dernière fois : représentatives de tout l'espace d'échantillonnage, stratifiées, de taille suffisante, étiquettes vérifiées, prétraitement pré-spécifié, exclusions documentées, et indépendantes. C'est l'idée de pertinence écrite comme une recette pour un seul jeu de données.
06:38 Sam Voici ce que je veux que les auditeurs retiennent. La fiabilité, c'est l'ancien programme ; la Qualité fait appliquer ALCOA depuis dix ans. La pertinence, c'est le nouveau : ce jeu de données représente-t-il le procédé que le modèle va rencontrer ? Aucune piste d'audit ne répond à ça. Et dans le genre d'usine que nous décrivons, c'est sur la pertinence que les données échouent. Les enregistrements sont attribuables, contemporains et parfaitement non représentatifs, parce qu'ils viennent des campagnes qui se trouvaient être commodes.
07:07 Sarah L'annexe onze est l'endroit où la fiabilité devient une exigence BPF explicite pour n'importe quel système, et je vais la lire pour ce qu'elle fait à un pipeline d'entraînement. Le quatre point cinq est la clause données de la gestion des risques : la gestion des risques qualité devrait servir à évaluer la criticité des données pour la qualité du produit, la sécurité des patients et l'intégrité des données, la vulnérabilité des données à une altération, une suppression ou une perte délibérée ou non, et la probabilité de la détecter.
07:32 Sam Chapitre dix.
07:34 Sarah Le traitement des données, quatre clauses. Dix point un : quand des données critiques sont saisies manuellement, le système devrait en vérifier la plausibilité, par exemple par rapport à des plages attendues, et alerter l'utilisateur. Dix point deux : les transferts de données critiques entre systèmes, son exemple est l'instrument vers le LIMS, le système de gestion de l'information du laboratoire, devraient passer par des interfaces validées plutôt que par une transcription manuelle. Dix point trois : les migrations selon un processus validé, en tenant compte des contraintes côté émetteur et côté récepteur. Dix point quatre : les données critiques chiffrées quand c'est applicable.
08:06 Sam Le dix point deux, c'est tout mon pipeline. De l'historian à un lac de données puis à un notebook, ça fait trois transferts, et deux d'entre eux sont en général un script que quelqu'un a écrit un jeudi.
08:18 Sarah Chapitre onze, identité et accès. Onze point un : tous les utilisateurs devraient avoir des comptes uniques et personnels, et les comptes partagés, sauf en lecture seule, je cite, constituent une violation de l'intégrité des données. Puis une gestion continue des accès, la séparation des tâches, le moindre privilège, un journal des accès, et des revues récurrentes.
08:36 Sam Et les pistes d'audit.
08:38 Sarah Chapitre douze. Les systèmes où les utilisateurs peuvent créer, modifier ou supprimer des données devraient consigner automatiquement chaque interaction manuelle ; la piste capture qui, quoi, y compris l'ancienne et la nouvelle valeur, quand, et pourquoi, enregistré au moment de l'événement et non à la fin d'un processus ; elle est activée et verrouillée, et tout changement de ses paramètres est lui-même consigné ; les revues suivent une procédure, sont faites par quelqu'un qui n'a pas participé à l'activité, sont ciblées selon le risque, et ont lieu avant la libération du lot sauf si un contrôle ultérieur est justifié. Douze point neuf : une copie électronique complète doit pouvoir être obtenue, et, je cite, les fichiers plats et verrouillés ne sont pas acceptables. Chapitres seize et dix-sept : des sauvegardes à intervalles fondés sur le risque, séparées physiquement et logiquement, avec des tests de restauration ; les données archivées en lecture seule, leur intégrité vérifiée par somme de contrôle quand elles sont déplacées.
09:30 Sam Maintenant la conséquence pour nous. Si le jeu d'entraînement est un enregistrement BPF, et selon la question douze de la FDA il le devient dès qu'il sert une décision BPF, alors le pipeline qui l'a construit est un système informatisé utilisé dans des activités BPF, et cette annexe s'y applique. Des comptes uniques sur la plateforme de données. Une piste d'audit sur la table de caractéristiques. Des sauvegardes du jeu d'entraînement. La plupart des environnements de data science sont construits pour la vitesse, avec un compte de service partagé et un notebook, et l'annexe dit que le compte partagé est, à lui seul, une violation de l'intégrité des données.
10:09 Sarah Et le chapitre quatre révisé nomme l'IA directement. Quatre point vingt-quatre : la responsabilité de l'intégrité des enregistrements ou des données brutes produits ou traités avec de l'intelligence artificielle incombe à l'utilisateur réglementé. Quatre point vingt-cinq : le support par tout moyen automatique, ses exemples sont des scripts de validation ou l'intelligence artificielle, devrait être inclus dans le système qualité pharmaceutique, qu'il tourne sur site ou en service hébergé. Et le quatre point vingt-sept dit que pour les enregistrements électroniques, l'utilisateur réglementé devrait définir quelles données sont des données brutes, et qu'au minimum toutes les données sur lesquelles reposent des décisions qualité devraient être définies comme données brutes.
10:45 Sam Donc le site doit écrire, à l'avance, que les tags de l'historian qui alimentent le capteur logiciel sont des données brutes. Ce qui est une décision, avec un propriétaire.
10:56 Sam Le questions-réponses de la FDA, en un souffle, parce que l'auditoire connaît ALCOA et que je ne veux pas rejouer le procès. Donne-moi les questions qui comptent pour un modèle.
11:06 Sarah La question un définit les termes. L'intégrité des données, on l'a. Les métadonnées sont, je cite, l'information contextuelle nécessaire pour comprendre les données ; le nombre vingt-trois n'a aucun sens sans l'unité milligrammes ; elles incluent l'horodatage, l'utilisateur, l'instrument, le statut du matériel et les pistes d'audit ; et les relations entre données et métadonnées devraient être préservées de manière sécurisée et traçable. Une piste d'audit est un enregistrement sécurisé, généré par ordinateur et horodaté, qui permet de reconstituer le cours des événements. Statique contre dynamique : un enregistrement statique est figé, un papier ou une image ; un enregistrement dynamique permet à l'utilisateur d'interagir avec le contenu, et l'exemple est le retraitement d'un chromatogramme.
11:45 Sam Un tag d'historian avec ses réglages de compression est un enregistrement dynamique. Interrogez-le à nouveau avec d'autres réglages et vous obtenez d'autres chiffres.
11:56 Sarah Question deux : quand un résultat peut-il être invalidé et exclu de la décision sur le lot ? Seulement avec, je cite, une justification valide, documentée et scientifiquement fondée, et même alors les données originales restent dans l'enregistrement à côté de l'investigation. Question trois : chaque flux de travail CGMP sur un système informatique est validé pour son utilisation prévue ; qualifier la plateforme ne montre pas que le flux calcule correctement, et l'exemple est un système d'exécution dont l'enregistrement maître pourrait encore contenir le mauvais calcul.
12:23 Sam L'accès.
12:24 Sarah Questions quatre et cinq : l'accès restreint aux personnes autorisées, techniquement quand c'est possible, avec des administrateurs indépendants des propriétaires des enregistrements et une liste de qui est autorisé ; et un identifiant partagé signifie qu'aucun individu unique ne peut être identifié, donc le système ne serait pas conforme. Question huit : les pistes d'audit revues à la fréquence que la réglementation fixe pour l'enregistrement, sinon à une fréquence fondée sur le risque qui pèse la criticité des données, les contrôles en place et l'impact sur la qualité du produit.
12:53 Sam Et la douze.
12:54 Sarah La question douze demande quand des données électroniques deviennent un enregistrement CGMP. La réponse, je cite : lorsqu'elles sont générées pour satisfaire une exigence CGMP, toutes les données deviennent un enregistrement CGMP. Elles doivent être sauvegardées au moment de l'exécution, et les processus conçus de sorte que les données requises ne puissent pas être modifiées sans trace de la modification. Et une note de bas de page ajoute que la FDA demande couramment des enregistrements qui n'étaient jamais destinés à satisfaire une exigence mais qui contiennent néanmoins de l'information CGMP.
13:22 Sam Cette note de bas de page, c'est la discrète. Le jeu d'entraînement sur le lecteur partagé n'était destiné à satisfaire rien du tout. Il contient des données de procédé. Ils peuvent le demander.
13:33 Sarah Le PI zéro-quatre-un est la version inspecteur des mêmes attentes, écrite pour les inspections sur site. Son cycle de vie des données va de générées, traitées, rapportées et vérifiées, en passant par utilisées pour la prise de décision, jusqu'à stockées et enfin éliminées, et il note que les données franchissent des frontières : du papier à l'ordinateur, de la production au contrôle qualité puis à l'assurance qualité, du donneur d'ordre au sous-traitant. Il classe les données de deux façons : la criticité, quelle décision les données influencent, et le risque, l'opportunité d'altération ou de suppression et la probabilité de détection. Sa liste des facteurs qui augmentent le risque sur les données inclut les processus à plusieurs étapes, les transferts entre systèmes, les traitements complexes, et, je cite, les procédés de production biologiques ou les essais analytiques peuvent présenter un degré de variabilité plus élevé que la chimie des petites molécules.
14:19 Sam C'est un bioréacteur, nommé par un guide d'inspecteurs comme facteur de risque sur les données avant même qu'un modèle existe. Et une ligne que je garde : une organisation qui croit qu'il n'y a aucun risque de défaillance de l'intégrité des données n'a probablement pas évalué son cycle de vie des données. Jusqu'ici, donc. Trois définitions : ALCOA et ses plus, c'est la fiabilité ; le fit for use de la FDA, qui ajoute la pertinence ; la recette de l'annexe vingt-deux pour les données de test. L'annexe onze fait du pipeline un système BPF : transferts validés, contrôles de plausibilité, comptes uniques, pistes d'audit, sauvegarde, archivage. La FDA dit que les données sont devenues un enregistrement dès qu'elles ont servi une décision BPF, et qu'en exclure une partie exige une justification écrite. Maintenant, les textes sur l'IA.
15:14 Sarah Quatre documents ajoutent la pertinence et la provenance. Le projet de la FDA d'abord, étape quatre A : décrire les jeux de données de développement et comment ils ont été divisés entre entraînement et réglage ; comment ils ont été collectés, traités, annotés, stockés et contrôlés ; la justification de leur choix ; comment les étiquettes ont été établies ; et en quoi les données sont adaptées au contexte d'utilisation. Pour les données de test, la même liste, plus une clause sur ce que le projet appelle la dérive des données : décrire l'applicabilité des données de test au contexte d'utilisation, parce qu'un modèle peut moins bien fonctionner si les données de développement diffèrent des données qu'il rencontre dans l'environnement déployé.
15:49 Sam L'applicabilité. Troisième fois cette saison que ce mot se révèle être toute la partie.
15:54 Sarah Le règlement sur l'IA ensuite, avec la réserve de l'épisode trois : l'article dix lie les fournisseurs de systèmes à haut risque, ce que la plupart des IA de production pharmaceutique ne sont pas, et, si je comprends bien, ces obligations sont désormais échelonnées sur deux mille vingt-sept et deux mille vingt-huit. Mais c'est l'énoncé le plus clair qui existe de ce que signifie la gouvernance des données pour un modèle.
16:13 Sam Paragraphe deux.
16:15 Sarah Les jeux de données d'entraînement, de validation et de test sont soumis à des pratiques de gouvernance couvrant les choix de conception ; les processus de collecte des données et l'origine des données ; les opérations de préparation telles que l'annotation, l'étiquetage, le nettoyage, l'enrichissement et l'agrégation ; la formulation des hypothèses, notamment sur ce que les données sont censées mesurer et représenter ; une évaluation de la disponibilité, de la quantité et de l'adéquation des jeux de données ; un examen des biais ; et l'identification des lacunes ou insuffisances des données et de la manière d'y remédier.
16:45 Sam Et le paragraphe trois.
16:47 Sarah Les jeux de données sont, je cite, pertinents, suffisamment représentatifs et, dans toute la mesure du possible, exempts d'erreurs et complets au regard de la destination. Paragraphe quatre : ils tiennent compte du cadre géographique, contextuel, comportemental ou fonctionnel spécifique auquel le système est destiné.
17:03 Sam Lisez ça comme une usine. L'origine des données : quel historian, quels tags. Les hypothèses sur ce que les données mesurent : que la sonde de pH mesurait bien le pH. Le cadre : cette ligne, cette échelle, ce produit. Les lacunes et comment vous y remédierez. C'est une évaluation de la maturité des données, logée dans un règlement qui, pour l'essentiel, ne s'applique pas à nous, et c'est mieux que tout ce qu'on trouve dans ceux qui s'appliquent.
17:30 Sarah Le document de réflexion de l'EMA, section deux point cinq point un. Les modèles sont intrinsèquement pilotés par les données et donc vulnérables aux biais ; acquérir un jeu d'entraînement équilibré et suffisamment grand au regard du contexte d'utilisation prévu ; et les sources des données, le processus d'acquisition et tout traitement, il liste le nettoyage, la transformation, l'imputation, l'annotation, la normalisation et l'augmentation, devraient être, je cite, documentés de manière détaillée et entièrement traçable, conformément aux exigences GxP. L'analyse exploratoire devrait consigner la pertinence et la représentativité, les hypothèses d'interpolation et d'extrapolation retenues, et les déséquilibres entre classes. L'augmentation peut être appliquée pour étendre le jeu d'entraînement, et les limites qui subsistent doivent être présentées dans la documentation du modèle.
18:15 Sam Et sur le découpage.
18:17 Sarah Deux point cinq point deux : un découpage précoce entre entraînement et test, avant toute normalisation, est fortement encouragé, parce que le risque de fuite de données, je cite, souvent involontaire, voire inconsciente, ne peut pas être complètement exclu.
18:30 Sam L'imputation. C'est le trou de l'historian comblé par interpolation. L'EMA la veut documentée et traçable ; l'annexe vingt-deux, cinq point quatre, veut le prétraitement pré-spécifié, avec une justification qu'il représente les conditions de l'utilisation prévue. Et sur les données synthétiques ?
18:49 Sarah Une divergence qui mérite d'être dite. L'EMA dit que l'augmentation et les données synthétiques peuvent dans certains cas être utiles pour étendre le jeu d'entraînement. L'annexe vingt-deux, cinq point six, dit que générer des données de test ou des étiquettes par IA générative, je cite, n'est pas recommandé et que tout usage de ce type devrait être pleinement justifié. Ils parlent de jeux différents, entraînement et test, donc un site peut tenir les deux positions : augmenter le jeu d'entraînement si vous le documentez ; ne jamais laisser de données générées entrer dans le jeu de test.
19:16 Sam Maintenant, le vide. Sarah, est-ce qu'un seul de ces documents dit comment on passe d'un historian, d'un système de dossiers de lot et d'un LIMS à un jeu de données qui satisfait à tout ça ?
19:30 Sarah Non. Le plus proche est une phrase dans la section de l'EMA sur le déploiement du modèle : le matériel d'acquisition des données, le logiciel et le pipeline de transformation des données à l'inférence devraient être conformes à des spécifications prédéfinies. L'annexe onze, six point deux, dit que les exigences du système peuvent inclure des cartographies de processus et des diagrammes de flux de données. Le cycle de vie du chapitre quatre demande que pour les données dérivées, je cite, la traçabilité qui permet de reconstituer toutes les activités de traitement des données soit maintenue. Ce sont les trois phrases, et aucune ne dit ce que le pipeline doit faire.
20:03 Sam Alors laisse-moi dire ce qu'il doit faire, depuis le fauteuil du praticien. La contextualisation : quel lot, quelle phase, quelle opération unitaire, quel train d'équipements ce tag suivait à cet horodatage. L'alignement temporel : un résultat de laboratoire à neuf heures du matin appartient à un échantillon prélevé à sept heures, dans un réacteur dont les signaux en ligne s'enregistrent toutes les dix secondes et dont les alimentations ne s'enregistrent que quand elles changent. Les unités : le même tag en grammes par litre sur un skid et en milligrammes par millilitre sur un autre. Et les métadonnées qui rendent une valeur pertinente tout court : l'identité de la sonde, l'état d'étalonnage, le mode du régulateur. Rien de tout ça n'est dans les documents, et tout ça décide si la phrase sur l'adaptation à l'usage est vraie.
20:52 Sarah Les documents le supposent. L'espace d'échantillonnage des entrées de l'annexe vingt-deux, le représentatif du procédé de fabrication de la FDA, le ce que les données sont censées mesurer et représenter du règlement sur l'IA : chacun présume que quelqu'un a déjà fait ce travail.
21:05 Sam Voici mon avis, étiqueté comme le mien. La plupart des écarts de maturité IA sont des écarts de maturité des données. Quand un cas d'usage cale, c'est rarement l'algorithme ; c'est que personne ne peut dire de quels lots viennent ces lignes, ni si le procédé que le modèle a appris est celui qu'il va rencontrer. Une échelle de maturité des données, qui situe vos données sur le chemin qui va de l'historian brut au contextualisé, aligné, traçable et pertinent, vaudrait plus pour la plupart des sites qu'une politique IA de plus. C'est la question de l'émission, posée d'abord aux données. On y est ? En général non, et on ne le répare pas avec le modèle.
21:45 Sarah Deux choses dans les documents vont dans ce sens. Le PI zéro-quatre-un dit qu'un indicateur de maturité de la gouvernance des données est la compréhension et l'acceptation, par l'organisation, du risque résiduel. Et le chapitre quatre veut que la propriété des données soit définie tout au long du cycle de vie. La propriété, et l'honnêteté sur les lacunes, sont toutes deux sur la page.
22:05 Sam Récapitulons avant les exemples. Les textes sur l'IA ajoutent la pertinence et la provenance : la FDA veut des données de développement et de test toutes deux adaptées à l'usage, avec leur applicabilité décrite ; le règlement sur l'IA, là où il s'applique, veut l'origine, les hypothèses, l'adéquation et les lacunes couchées par écrit ; l'EMA veut l'acquisition et chaque étape de traitement traçables ; l'annexe vingt-deux ne veut rien de généré dans le jeu de test. Personne ne dit comment construire le pipeline. Maintenant, le jeu d'entraînement du capteur logiciel, un attribut à la fois.
22:37 Sarah Prenez le fichier de l'ouverture et interrogez-le. Attribuable et contemporain d'abord. Le tableau du PI zéro-quatre-un demande qu'il soit possible d'identifier l'individu ou le système informatisé qui a effectué la tâche, et quand. Pour une valeur d'historian, le qui est un instrument : quelle sonde, quel transmetteur, quel mode du régulateur, et son état d'étalonnage ce jour-là. Si le nom du tag a survécu à la reconstruction du skid mais pas la sonde, la colonne, ce sont deux instruments qui portent un seul nom. La réponse de la FDA sur les métadonnées liste l'identifiant de l'instrument parmi les métadonnées nécessaires pour reconstituer l'activité ; s'il n'est pas dans le jeu de données, le jeu de données n'est pas complet.
23:12 Sam Complet.
23:13 Sarah PI zéro-quatre-un : toute l'information qui serait critique pour recréer un événement, et pour les données électroniques cela inclut les métadonnées. Donc la panne compte deux fois. Les heures manquantes sont une incomplétude. Et si la compression de l'historian a écarté toute valeur à l'intérieur d'une bande morte, ce qui a été stocké est déjà un enregistrement dérivé, dont le chapitre quatre dit qu'il doit porter la traçabilité permettant de reconstituer le traitement. L'idée d'enregistrement dynamique de la FDA s'applique aussi : un enregistrement que vous pouvez interroger à nouveau avec d'autres réglages pour en tirer d'autres chiffres est dynamique, et un export à plat de cet enregistrement n'est pas l'original.
23:47 Sam Exact.
23:48 Sarah Une représentation fidèle des faits, obtenue, dit le tableau, par des équipements qualifiés et étalonnés et des systèmes validés, des procédures et une revue des données, la gestion des déviations, et des personnes formées. Pour un capteur logiciel, l'étiquette est un dosage de laboratoire, donc l'exactitude signifie aussi la performance propre de la méthode, qui est le résumé de la méthode de référence que la FDA demandait la dernière fois.
24:09 Sam Pertinent. C'est celui-là.
24:11 Sarah La FDA : représentatif du procédé ou de l'opération de fabrication. L'annexe vingt-deux, trois point un et trois point deux : toutes les variations courantes et rares, avec des sous-groupes par site, équipement, matière et produit. Le règlement sur l'IA : le cadre fonctionnel spécifique. Donc : quelles campagnes sont dans le fichier, quels produits, quels changements de série, quelles échelles, quelles saisons ; si le procédé que le modèle a appris est celui qu'il verra ; et si les variations rares, une culture contaminée, une panne de pompe d'alimentation, y figurent seulement, ou si ce sont les lots que personne n'a exportés. Laisser ces lots de côté est une décision d'exclusion, et la question deux de la FDA comme le cinq point cinq de l'annexe vingt-deux veulent qu'elle soit documentée et justifiée.
24:50 Sam Traçable.
24:51 Sarah Le dixième attribut du chapitre quatre et le troisième mot de la FDA pour fiable : le jeu de données peut-il être régénéré à partir des enregistrements bruts. Sinon, le jeu d'entraînement est un original sans lignée, et les chapitres de l'annexe onze sur la sauvegarde et l'archivage s'y appliquent comme à un enregistrement à part entière.
25:09 Sam Donc le jeu d'entraînement du capteur logiciel, évalué honnêtement, est en général attribuable de nom seulement, contemporain mais compressé, complet sauf là où il ne l'est pas, exact à la mesure du dosage, pertinent pour les campagnes que quelqu'un a choisies, et traçable jusqu'à un script qui ne tourne plus. Voilà le sous-sol. Le modèle par-dessus n'a jamais été le problème.
25:31 Sam Le modèle de lot.
25:32 Sarah La surveillance multivariée de lot ajoute deux problèmes de données et une décision. Le contexte de lot : chaque ligne doit porter son identité de lot et sa phase, et les limites de phase dans un historian sont souvent une saisie manuelle ou un déclencheur inféré, ce qui est exactement la saisie manuelle dont l'annexe onze, dix point un, veut vérifier la plausibilité. L'alignement des phases : étirer des lots de longueurs inégales sur un axe commun est une étape de prétraitement, pré-spécifiée avec une justification au titre du cinq point quatre de l'annexe vingt-deux.
26:00 Sam Et les golden batches.
26:02 Sarah Les lots de référence à partir desquels le modèle est construit. Chaque lot laissé hors de cet ensemble est une exclusion, et les deux documents sont d'accord : la question deux de la FDA, seulement avec une justification valide, documentée et scientifiquement fondée, les données exclues étant conservées ; le cinq point cinq de l'annexe vingt-deux, documentée et pleinement justifiée.
26:20 Sam En pratique, les golden batches sont ceux que l'ingénieur procédé aimait bien. C'est un jugement scientifique, et il peut être bon. Il faut juste qu'il soit écrit sur le moment, pas reconstitué pour l'inspecteur. La caméra.
26:33 Sarah Les données du système de vision industrielle sont des images avec des étiquettes, donc les deux clauses qui mordent sont le cinq point trois de l'annexe vingt-deux, des étiquettes vérifiées, je cite, à un très haut degré de justesse, par des experts indépendants, des équipements validés ou des essais de laboratoire, et le six point quatre, les flacons physiques utilisés pour le test final jamais utilisés à l'entraînement. Sous ALCOA, attribuable signifie quelle caméra, quelle configuration d'éclairage, quelle ligne. Et la question quatre de la FDA nomme les enregistrements d'inspection visuelle automatisée parmi ceux dont la modification devrait être réservée au personnel autorisé, donc le magasin d'images est un enregistrement contrôlé, pas un dossier.
27:12 Sam Et l'agent. Lentement, parce que pour l'agent, les données, ce sont des documents.
27:16 Sarah Pour l'agent, l'entrée, ce sont les dossiers de lot, les procédures et l'historique des déviations, et aucun document du corpus ne traite de ça directement. Donc on applique les plus proches. Adapté à l'usage, pertinent : la procédure que l'agent lit est-elle la version en vigueur ? Le chapitre quatre, quatre point cinquante et un et quatre point cinquante-quatre : des documents identifiables de manière unique, avec une date d'entrée en vigueur définie, et leur émission, révision, remplacement et retrait contrôlés avec un historique des révisions. Un lecteur partagé qui contient trois versions d'une même procédure échoue à ça avant qu'un modèle ne tourne.
27:48 Sam Fiable, et l'accès.
27:50 Sarah Fiable : les dossiers de lot qu'il lit sont-ils des originaux ou des copies conformes, et les déviations dont il apprend sont-elles clôturées, signées et complètes. L'accès : l'annexe onze, onze point un, un compte unique pour l'agent lui-même, et onze point dix, le moindre privilège, pour que ce qu'il a le droit de lire soit une décision que quelqu'un a prise et peut révoquer. Et la piste d'audit : le chapitre douze de l'annexe onze, par analogie, un enregistrement de ce qu'il a lu pour parvenir à une conclusion, quel enregistrement, quelle version, quand.
28:17 Sam Ce dernier point, c'est la vraie demande. Pour un capteur logiciel, la piste d'audit porte sur les données. Pour un agent, la piste d'audit doit porter sur la lecture. Si l'investigation rédigée cite une procédure, je veux savoir quelle version il a récupérée, consignée comme le seraient les interactions d'un utilisateur humain. Rien ne dit ça. Les chapitres dix à douze de l'annexe onze par analogie, c'est la meilleure réponse que quiconque ait aujourd'hui, et elle est correcte, parce que la discipline existe déjà pour les personnes.
28:48 Sarah Et le chapitre quatre, quatre point vingt-quatre, garde la responsabilité là où elle était. Pour les enregistrements produits ou traités avec de l'intelligence artificielle, elle incombe à l'utilisateur réglementé.
28:58 Sam Et alors, pour la bioproduction. Opinions étiquetées. Si vous ne faites qu'une chose : écrivez l'évaluation de la maturité des données avant le modèle. Une description documentée, portée par un expert du procédé, de l'origine des données, de ce qu'elles représentent, quelles campagnes, quels équipements et quels produits, de ce qui manque et pourquoi, et de la manière de les régénérer. Ce seul document est à la fois l'espace d'échantillonnage des entrées de l'annexe vingt-deux, la justification fit for use de la FDA et la liste de l'article dix du règlement sur l'IA. C'est l'artefact qu'un régulateur lit en premier, et c'est celui que presque personne n'a.
29:36 Sarah Les documents soutiennent cette propriété. L'annexe vingt-deux met un expert métier du procédé en charge de la description de l'utilisation prévue ; le chapitre quatre demande une propriété des données tout au long du cycle de vie ; le PI zéro-quatre-un suggère un dépositaire des données comme rôle qu'une organisation pourrait créer.
29:52 Sam Deuxièmement, qui doit apprendre quoi. La Qualité possède déjà ALCOA. La data science doit l'apprendre, et ça veut dire des comptes uniques, des pistes d'audit et un dépôt contrôlé pour le jeu de test dans l'environnement où elle travaille vraiment, ce que la plupart ressentiront comme une friction. La Qualité, en retour, doit apprendre la pertinence. Un relecteur qui ne vérifie que l'attribuabilité laissera passer un jeu d'entraînement magnifiquement documenté et non représentatif. Les deux mouvements sont culturels, et ce n'est pas pour rien que le PI zéro-quatre-un consacre toute une section à la culture.
30:29 Sarah Où les équipes le ressentent. La science de la fabrication et la science des procédés possèdent la contextualisation, la carte des campagnes et des équipements, et les décisions d'exclusion. L'automatisation et l'informatique possèdent le pipeline en tant que système BPF : interfaces validées, accès, sauvegarde. La Qualité possède la définition des données brutes au titre du chapitre quatre, la garde du jeu de test, et la revue des pistes d'audit. Les affaires réglementaires CMC décident de la part de tout ça qui entre dans un dossier comme description de l'adaptation à l'usage.
30:57 Sam Troisièmement, le sous-sol et la cuisine. Le modèle, c'est la cuisine : visible, excitante, là où va le budget. Le pipeline, c'est le sous-sol, et la maison tient dessus. Mon avis : dépensez d'abord pour le sous-sol, parce que chaque modèle que vous construirez ensuite s'en sert, et c'est l'agent, pas le capteur logiciel, qui révélera s'il est sec. Un capteur logiciel peut cacher un mauvais historian derrière une barre d'erreur. Un assistant qui cite la mauvaise version d'une procédure, c'est un problème de données qu'on voit.
31:31 Sam Trois choses. Sarah.
31:32 Sarah Premièrement, les données dignes de confiance ont deux moitiés. La fiabilité, c'est ALCOA et ses plus, dans le questions-réponses de la FDA, le PI zéro-quatre-un, l'annexe onze et le chapitre quatre. La pertinence, c'est le fit for use de la FDA, l'espace d'échantillonnage de l'annexe vingt-deux et l'article dix du règlement sur l'IA : les données représentent-elles le procédé que le modèle va rencontrer. La fiabilité est l'ancien programme ; la pertinence est le nouveau, et celui sur lequel les usines échouent.
31:58 Sam Deuxièmement, le mien : le pipeline est un système BPF. Dès que des données d'historian servent une décision BPF, c'est un enregistrement, selon la question douze de la FDA, et la révision de l'annexe onze atteint alors tout ce qui le touche : transferts validés, contrôles de plausibilité, comptes uniques, pistes d'audit, sauvegarde, archivage. Les exclusions sont des décisions avec une justification écrite. Et personne ne vous dit comment construire le pipeline. C'est le vide, et la plupart des écarts de maturité IA y logent.
32:33 Sarah Troisièmement, pour l'agent, les données sont des documents, et le corpus est silencieux. La meilleure réponse disponible, ce sont les chapitres de l'annexe onze sur le traitement des données, l'accès et les pistes d'audit lus par analogie, avec la maîtrise documentaire du chapitre quatre : des versions en vigueur, un compte à lui, et un journal de ce qu'il a lu.
32:50 Sam La prochaine fois : les humains. Qui est responsable quand le modèle se trompe ? Chaque document de ce soir avait une personne dedans, l'expert du procédé, le propriétaire des données, le relecteur, et la dernière fois la FDA nous a demandé d'évaluer l'équipe humain-IA plutôt que le modèle seul. Le prochain épisode lit ce que le contrôle humain signifie réellement à travers les documents, et reprend la question que nous avons mise de côté depuis l'épisode quatre : quel humain, avec quelle compétence. On y est ? Les données peuvent être amenées à porter les preuves. Ensuite, nous demandons qui se tient dessus.