HTML full text · e0003

GxP-реттелетін фармацевтикалық қызметтегі жасанды интеллект: реттеушілік талаптар, валидация, деректерді және тәуекелдерді басқару

This accessible HTML transcription accompanies the version-of-record PDF. Where layout-dependent tables or formulae differ, consult the PDF.

Article record · PDF · JATS XML

«Абди Ибрахим Глобал Фарм», Алматы қ., Қазақстан Республикасы
С.Д. Асфендияров атындағы Қазақ ұлттық медицина университеті, Алматы қ., Қазақстан Республикасы

* Хат-хабарға жауапты автор: Ибрагимова Лилия Николаевна · ibragimova.l@kaznmu.kz

Түскен күні: 2026 жылғы шілде · Жарияланды: 2026 жылғы 29 қыркүйек

Аңдатпа

Кіріспе. Фармацевтикалық саланың цифрлық трансформациясы, Process Analytical Technology (PAT), үздіксіз өндіріс және Pharma 4.0 тұжырымдамасының дамуы жасанды интеллектті (Artificial Intelligence, AI) және машиналық оқытуды (Machine Learning, ML) фармацевтикалық әзірлеуде, өндірісте, сапаны бақылауда және басқа да GxP-реттелетін үдерістерде кеңінен қолдануға жағдай қалыптастыруда. Сонымен қатар AI/ML жүйелерінің ерекшеліктері валидацияға, деректерді басқаруға, тәуекелдерді бағалауға, адам тарапынан бақылауға және компьютерлендірілген жүйелердің өмірлік циклін басқаруға қатысты дәстүрлі тәсілдерді бейімдеуді талап етеді.

Мақсаты. GxP-реттелетін фармацевтикалық қызметте жасанды интеллектті қолдануға қатысты заманауи ғылыми және реттеушілік тәсілдерді жүйелеу, сондай-ақ AI жүйелерін валидациялау, деректерді басқару, тәуекелдерді бағалау, адам тарапынан бақылау және олардың өмірлік циклін басқаруға қойылатын негізгі талаптарды айқындау.

Материалдар мен әдістер. Ғылыми әдебиеттер мен нормативтік-реттеушілік құжаттарға аналитикалық шолу жүргізілді. PubMed/MEDLINE дерекқорларында жарияланған еңбектер, сондай-ақ FDA, EMA, ICH, European Commission және ISPE құжаттары талданды. Негізгі назар 2020-2026 жылдары жарияланған материалдарға аударылды; сонымен қатар PAT, фармацевтикалық сапа жүйесі, сапа тәуекелдерін басқару, компьютерлендірілген жүйелер және үздіксіз өндіріске қатысты неғұрлым ертерек жарияланған іргелі құжаттар да қамтылды.

Нәтижелер. AI-ға қатысты реттеушілік тәсілдің фармацевтикалық қызметте оны қолдану мүмкіндіктерін талқылаудан бастап, нақты айқындалған қолдану контекстіне, деректерді басқаруға, адам тарапынан бақылауға, модель сипаттамаларын бағалауға және оның өмірлік циклін басқаруға негізделген тәуекелге бағдарланған басқару моделіне дейін бірізді түрде дамып отырғаны анықталды. 2026 жылғы қаңтарда FDA мен EMA бірлесіп жариялаған Guiding Principles of Good AI Practice in Drug Development құжаты маңызды кезең болды. 2026 жылғы 2 сәуірдегі FDA Warning Letter талдауы қолданыстағы CGMP талаптарының AI-ды реттелетін фармацевтикалық құжаттаманы дайындау кезінде пайдалануға іс жүзінде қолданылғанын көрсетті. Дәрілік заттың өмірлік цикліндегі AI/ML қолданудың негізгі бағыттары жүйеленіп, GxP ортасындағы AI қолдануды тәуекел деңгейі бойынша үш деңгейге бөлетін авторлық жіктеу ұсынылды.

Қорытындылар. Жасанды интеллектті қолдану қолданыстағы GxP талаптарын алмастырмайды, керісінше, бақылау нысанын деректер, модель, оның сипаттамалары, өзгерістері және пайдаланушымен өзара әрекеттесуі есебінен кеңейтеді. GxP үшін критикалық AI жүйелерінде қолдану контекстін нақты айқындау, тәуекелге бағдарланған валидация, деректерді басқару, құжатталған адам тарапынан бақылау, тиімділікті мониторингілеу және жүйенің бүкіл өмірлік циклі бойы өзгерістерді басқару қажет. AI басқаруын фармацевтикалық сапа жүйесіне және тәуекелдерді басқару үдерістеріне интеграциялау оны фармацевтикалық қызметте бақыланатын түрде қолданудың негізгі шарты болып табылады.

Түйін сөздер: жасанды интеллект; машиналық оқыту; GxP; фармацевтикалық өндіріс; валидация; деректерді басқару; деректер тұтастығы; тәуекелдерді басқару; FDA; EMA.

Кіріспе

Соңғы онжылдықтарда фармацевтикалық әзірлеу мен өндіріс негізінен эмпирикалық және дискретті тәсілдерден дәрілік заттың өмірлік циклін басқарудың ғылыми негізделген, тәуекелге бағдарланған және цифрлық модельдеріне біртіндеп көшуде. Бұл өзгерістің алғашқы кезеңдерінің бірі АҚШ-тың Азық-түлік және дәрі-дәрмек басқармасы (FDA) ұсынған үдерістік-аналитикалық технологияны (Process Analytical Technology, PAT) енгізу болды. PAT түпкілікті өнім сапасын қамтамасыз ету мақсатында шикізаттың, аралық материалдар мен үдерістердің критикалық сипаттамаларын уақтылы өлшеу арқылы өндірістік үдерістерді жобалау, талдау және басқару жүйесі ретінде ұсынылды [1]. Кейін Quality by Design (QbD), сапа тәуекелдерін басқару және фармацевтикалық сапа жүйесі қағидаттары үдерістерді тереңірек түсінудің және негізінен дайын өнімді бақылаудан оны жасау барысында сапаны басқаруға көшудің әдіснамалық негізін қалыптастырды [2, 3].

Келесі кезең үздіксіз өндірісті (continuous manufacturing, CM), нақты уақыт технологияларын, өндірістік деректерді автоматтандырылған жинауды, цифрлық егіздерді, бұлттық есептеулерді және өзара байланысқан ақпараттық-өндірістік жүйелерді енгізумен байланысты болды. Үйлестірілген ICH Q13 нұсқаулығының қабылдануы дәрілік субстанциялар мен препараттардың үздіксіз өндіріс үдерістерін әзірлеу, енгізу, пайдалану және өмірлік циклін басқарудың ғылыми және реттеушілік тәсілдерін бекітті [4]. Осылайша, цифрлық технологиялар жекелеген операцияларды автоматтандырудың тек көмекші құралы ретінде қарастырылудан шығып, фармацевтикалық өндірісті басқарудың заманауи стратегиясының элементіне айналды.

Бұл технологиялық өзгерістер жиынтығы Industry 4.0 қағидаттарын фармацевтикалық өнеркәсіптің ерекше реттеушілік ортасына біріктіруді көздейтін Pharma 4.0 тұжырымдамасында дамыды. Pharma 4.0 автоматтандыруды, өнеркәсіптік заттар интернетін, роботтандырылған жүйелерді, кеңейтілген деректер аналитикасын, модельдеуді және ЖИ-ді өндірістік үдерісті тереңірек түсінуге және өнімнің өмірлік циклі бойында шешім қабылдауды қолдауға қабілетті бірыңғай цифрлық экожүйеге біріктіреді [5, 6]. Дәстүрлі автоматтандырудан айырмашылығы, Pharma 4.0 цифрлық жетілуі деректерді жай жинаудан оларды түсіндіруге және үдеріс сипаттамалары мен өнім сапасын болжауға жарамды білімге айналдыруға көшуді білдіреді [5-7]. Arden және әріптестері ЖИ, роботтандыру және заманауи есептеу құралдарын қамтитын Industry 4.0 технологиялары фармацевтикалық өндіріске дәстүрлі тәсілдерді едәуір өзгертіп, оның икемділігін, тиімділігін және басқарылуын арттыра алатынын көрсетеді [5].

Бұл ауысуда жасанды интеллект (artificial intelligence, AI) және машиналық оқыту (machine learning, ML) технологиялары ерекше рөл атқарады. Оларды қолдану жаңа молекулаларды іздеудің классикалық міндеттерінен асып, құрамдар мен технологиялық үдерістерді әзірлеуге, үдерістің критикалық параметрлері мен сапаның критикалық көрсеткіштері арасындағы байланыстарды талдауға, дәрілік түрлер сипаттамаларын болжауға, үздіксіз өндірісті басқаруға, PAT, сапаны бақылау мен қамтамасыз етуге, ауытқуларды анықтауға, жабдыққа болжамдық техникалық қызмет көрсетуге, фармакологиялық қадағалауға және нақты клиникалық практика деректерін өңдеуге таралады [7-9]. ML модельдерінің көпөлшемді технологиялық деректердегі сызықтық емес байланыстарды анықтау қабілеті оларды PAT және фармацевтикалық үдерістерді мониторингтеу мен басқарудың зияткерлік жүйелері үшін ерекше перспективалы етеді [6, 8].

Дәстүрлі бағдарламалық шешімдерден AI/ML-ге көшу GxP-реттелетін орта үшін түбегейлі жаңа мәселе туғызады. Компьютерлендірілген жүйелерге қойылатын талаптар тарихи тұрғыдан олардың болжанған мақсатын анықтауға, талаптарды құжаттауға, спецификацияларға сәйкестігін көрсетуге, конфигурация мен өзгерістерді бақылауға, деректер тұтастығын қамтамасыз етуге және өмірлік цикл бойында валидацияланған күйін сақтауды растауға негізделген [10]. GMP үшін критикалық компьютерлендірілген жүйелердегі өзгерістер бақыланатын түрде жүргізілуі, ал жүйе валидацияланған күйінің сақталуын растау үшін мерзімді бағалануы тиіс [10]. Фармацевтикалық тәуекелдерді басқарудың заманауи тәсілдері де цифрлық технологияларға, компьютерлендірілген жүйелерге және кеңейтілген деректер талдауына тәуекелге бағдарланған бақылауды қолдануды көздейді [3].

Барлық ЖИ жүйелері өздігінен өзгеретін немесе детерминистік емес бола бермейді, алайда заманауи ML модельдерінің бірқатар сипаттамалары дәстүрлі бағдарламалық валидацияны қолдануды күрделендіреді. Нәтиже кодқа ғана емес, оқыту деректерінің құрамы мен сапасына, белгілерді таңдауға, модель архитектурасына, оқыту параметрлеріне, қолдану мәнмәтініне және кейінгі өзгерістерге тәуелді. Қайта оқыту кезінде модель нақты берілген бағдарламалық ережелер дәстүрлі түрде өзгермей-ақ шешім қабылдау заңдылықтарын өзгерте алады. Генеративті ЖИ үшін жауап қалыптасуының стохастикалық сипаты, кіріс сұрауының тұжырымдалуына сезімталдық және іс жүзінде қате, бірақ сенімді көрінетін мазмұн түзу мүмкіндігі қосымша маңызды. Сондықтан GxP ортасында техникалық жұмысқа қабілеттілікті ғана емес, деректер жарамдылығын, нақты қолдану мәнмәтініндегі модель нәтижелілігін, сипаттамаларының уақыт бойынша тұрақтылығын, өзгерістер қадағалануы мен адам бақылауының жеткіліктілігін растау қажет [11, 12].

Бұл мәселе ЖИ моделі нәтижесі дәрі сапасына, пациент қауіпсіздігіне немесе реттеушілік дәлелдердің сенімділігіне тікелей не жанама әсер ететін шешімдерге пайдаланылғанда ерекше маңызды. Мысалы, модель сапаның критикалық көрсеткіштерін болжауға, аналитикалық деректерді түсіндіруге, OOS/OOT трендтерін анықтауға, технологиялық параметрлерді оңтайландыруға немесе фармацевтикалық сапа жүйесі құжаттарын жасауға қатыса алады. Мұндайда математикалық дәлдікті ғана растау жеткіліксіз: қате нәтиже салдарын, бастапқы деректер сапасы мен репрезентативтілігін, ығысу ықтималдығын, түсіндірілуді, адам тексеру рәсімдерін, модель нұсқаларын басқаруды, нәтижеліліктің төмендеуін (model drift) мониторингтеуді және өмірлік циклдегі өзгеріс енгізу тәртібін бағалау қажет. Бұл логика тәуекелдерді басқарудың ресмилігі мен тереңдігі сапа тәуекелінің маңыздылығына сәйкес болуы тиіс деген ICH Q9(R1) қағидатына сай келеді [3].

Реттеуші органдар ЖИ әлеуетін жалпы талқылаудан оны жауапты қолданудың арнайы талаптары мен қағидаттарын қалыптастыруға көшуде. 2024 жылғы қыркүйекте Еуропалық дәрілік заттар агенттігі (EMA) әзірлеуден тіркеуден кейінгі қолдануға дейінгі кезеңдерді қамтитын Reflection paper on the use of Artificial Intelligence (AI) in the medicinal product lifecycle құжатын қабылдады. EMA модельдердің ашық еместігіне, деректер сапасына, ықтимал ығысуға, техникалық ақауларға және адамға бағдарланған тәсіл қажеттілігіне назар аударады [13].

2025 жылғы қаңтарда FDA Considerations for the Use of Artificial Intelligence to Support Regulatory Decision-Making for Drug and Biological Products нұсқаулығының жобасын жариялап, нақты қолдану мәнмәтініне байланысты модель сенімділігін бағалаудың тәуекелге бағдарланған жүйесін ұсынды. Оның негізгі элементі context of use (COU) ұғымы болды: бір модельді қандай міндетке қолданылатынына және нәтижесінің реттеушілік шешімге ықпалына қарамастан абстрактілі түрде «валидацияланған» деп есептеуге болмайды [11]. FDA бұл жүйе дәл мәлімделген қолдану мәнмәтіні үшін жеткілікті модель сенімділігін анықтап, бағалауы тиіс екенін көрсетеді.

Реттеушілік жақындасудың жаңа кезеңі 2026 жылғы қаңтарда FDA мен EMA бірлесіп Guiding Principles of Good AI Practice in Drug Development құжатын шығарғанда белгіленді. Он қағидат дәрінің өмірлік циклі бойында, соның ішінде клиникаға дейінгі және клиникалық кезеңдерде, өндірісте, тіркеуден кейінгі бақылауда және фармакологиялық қадағалауда ЖИ арқылы дәлелдер қалыптастыру мен талдауды қамтиды. Негізгі ережелерге адамға бағдарлану, тәуекелге бағдарланған тәсіл, нақты қолдану мәнмәтіні, пәнаралық сараптама, деректер мен құжаттаманы басқару, модельді тиісінше әзірлеу, нәтижелілікті тәуекелге сай бағалау және бүкіл өмірлік циклді басқару жатады [14]. Демек, талқылау ЖИ қолдануға бола ма деген сұрақтан нақты GxP мәнмәтінінде оның бақылануын, сенімділігін және қолайлы тәуекел деңгейін қалай дәлелдеуге болады деген сұраққа ауысуда.

Кәсіби нұсқаулықтар да компьютерлендірілген жүйелерге көзқарастың өзгеруін көрсетеді. GAMP 5 екінші басылымына AI/ML жөніндегі ережелер енгізілді, ал 2025 жылы Халықаралық фармацевтикалық инженерия қоғамы (ISPE) арнайы GAMP Guide: Artificial Intelligence нұсқаулығын жариялады. Ол пациент қауіпсіздігі, өнім сапасы және деректер тұтастығы талаптарын сақтай отырып, GxP үдерістеріндегі ЖИ қолдайтын компьютерлендірілген жүйелерді әзірлеуге, пайдалануға және сүйемелдеуге бағытталған [15, 16]. Бұл классикалық компьютерлендірілген жүйелер валидациясынан кеңірек ЖИ өмірлік циклінің жеке әдіснамасы қалыптасып жатқанын көрсетеді.

Дәрі әзірлеуде, өндірісте және сапаны бақылауда ЖИ қолдану туралы жарияланымдар саны тез артқанымен, әдебиеттің елеулі бөлігі жеке алгоритмдердің технологиялық мүмкіндіктеріне немесе нақты қолдану салаларына шоғырланған [6-9]. Соңғы жылдары GxP ортасындағы AI/ML басқару мен валидациясын қарастыратын еңбектер пайда болды [12], бірақ 2024-2026 жылдардағы реттеушілік даму, арнайы GAMP нұсқаулығы және FDA-EMA бірлескен қағидаттары өзекті интеграцияланған талдауды талап етеді. Адамға бағдарланған жобалау, тәуекелге бағдарланған тәсіл, қолдану мәнмәтіні, деректерді және өмірлік циклді басқару сияқты жоғары деңгейлі қағидаттарды біліктілікті растау, валидация, құжаттау, мониторинг және өзгерістерді басқарудың нақты талаптарына айналдыру ерекше маңызды.

Бұл шолудың мақсаты - PAT пен үздіксіз өндірістен Pharma 4.0 және AI/ML-ге дейінгі цифрлық технологиялар эволюциясын талдау; FDA, EMA, ICH және GAMP өзекті талаптарын салыстыру; қолдану мәнмәтініне, деректерге, валидацияға, нәтижелілікті бағалауға, адам бақылауына және өмірлік циклді басқаруға негізгі талаптарды анықтау; сондай-ақ фармацевтикалық әзірлеуде, өндірісте және сапаны қамтамасыз етуде ЖИ-ді тиісті қолданудың шешілмеген мәселелері мен даму бағыттарын айқындау арқылы GxP-реттелетін фармацевтикалық қызметте ЖИ қолданудың заманауи ғылыми және реттеушілік тәсілдерін жүйелеу.

Материалдар мен әдістер

GxP-реттелетін фармацевтикалық қызметте ЖИ және ML қолдануға арналған ғылыми әдебиеттер мен нормативтік-реттеушілік құжаттарға аналитикалық шолу жүргізілді.

Шолуда PubMed/MEDLINE халықаралық библиографиялық және реферативтік дерекқорларындағы ғылыми жарияланымдар, сондай-ақ FDA, EMA, Адамға арналған дәрілік заттарға қойылатын техникалық талаптарды үйлестіру жөніндегі халықаралық кеңес (ICH), Еуропалық комиссия және ISPE ұйымдарының ресми нормативтік, реттеушілік және әдістемелік құжаттары пайдаланылды [1-4, 10, 11, 13-16, 23].

Негізгі назар 2020-2026 жылдары жарияланған ғылыми еңбектер мен реттеушілік құжаттарға аударылды. Бұрынғы дереккөздер фармацевтикалық әзірлеу мен өндірістің заманауи тәсілдерін қалыптастыруда негіз қалаушы болған жағдайда енгізілді, соның ішінде PAT [1], фармацевтикалық сапа жүйесі [2], сапа тәуекелдерін басқару [3], компьютерлендірілген жүйелер [10] және үздіксіз өндіріс [4]. Ғылыми және реттеушілік дереккөздерді іздеу мен өзектендіру 2026 жылғы 25 қыркүйекте аяқталды.

Ғылыми әдебиеттерді іздеуде ағылшын тіліндегі түйін сөздер мен тіркестер қолданылды: “artificial intelligence”, “machine learning”, “pharmaceutical manufacturing”, “GxP”, “GMP”, “pharmaceutical quality”, “validation”, “data integrity”, “quality risk management”, “process analytical technology”, “continuous manufacturing”, “Pharma 4.0”, “regulatory decision-making”, “Good AI Practice”, “context of use”, “AI lifecycle management”, “human oversight”, “generative AI”.

Шолуға фармацевтикалық әзірлеуде, өндірісте, дәрілердің сапасын бақылау мен қамтамасыз етуде AI/ML қолдануға арналған жарияланымдар, сондай-ақ ЖИ валидациясын, деректер сапасы мен басқарылуын, тәуекелдерді бағалауды, модельдердің түсіндірілетіндігін, адам бақылауын және AI/ML өмірлік циклін басқаруды қарастыратын зерттеулер мен аналитикалық материалдар енгізілді [6-9, 12].

Ресми реттеушілік құжаттар жеке материалдар тобын құрады. Олар әзірлеуші ұйым, жариялану күні, мәртебесі, қолданылу аясы және тиісті ережелер қатысты дәрілік заттың өмірлік цикл кезеңі бойынша қарастырылды. Дәрі әзірлеуде және реттеушілік шешімдерде ЖИ қолдану тәсілдерінің дамуын көрсететін FDA мен EMA құжаттарына [11, 13, 14, 23], сондай-ақ GxP ортасындағы компьютерлендірілген және ЖИ қолдайтын жүйелер жөніндегі GAMP нұсқаулықтарына ерекше назар аударылды [15, 16].

Нормативтік және ғылыми дереккөздерді салыстырғанда ережелер қолдану мәнмәтіні, тәуекелге бағдарланған тәсіл, адамға бағдарлану және адам бақылауы, деректер сапасы мен шығу тегі, деректерді басқару, модельдерді әзірлеу және валидациялау, нәтижелілікті бағалау, құжаттау және қадағалану, өзгерістерді басқару, тиімділікті мониторингтеу және ЖИ өмірлік циклін басқару бағыттары бойынша жүйеленді [3, 11-16].

Алынған деректер сапалық салыстырмалы талдаудан өткізіліп, PAT пен үздіксіз өндірістен Pharma 4.0 және AI/ML-ге дейінгі цифрлық технологиялар эволюциясы, сондай-ақ GxP-реттелетін қызметте сапаны қамтамасыз етуге, тәуекелдерге, деректерге және ЖИ өмірлік циклін басқаруға қойылатын заманауи талаптар ескеріле отырып жүйеленді [1, 3-6, 12-16].

Нәтижелер

Талдау фармацевтикалық қызметте ЖИ қолдану тәсілдерінің бірнеше өзара байланысты даму бағытын анықтады: арнайы реттеушілік негіздің қалыптасуы; ЖИ-ді тиісті қолдану қағидаттары; дәрілік заттың өмірлік циклі бойындағы қолдану салаларының кеңеюі; деректерге, валидацияға және өмірлік циклді басқаруға талаптардың дамуы; сондай-ақ өндірісте ЖИ-ді нақты қолдануға қолданыстағы CGMP талаптарын қолданудың алғашқы мысалдары.

Фармацевтикалық қызметтегі ЖИ-ге реттеушілік тәсілдердің эволюциясы

FDA, EMA және ISPE құжаттары AI/ML мүмкіндіктері мен тәуекелдерін талқылаудан модель сенімділігін бағалау, өмірлік циклін басқару және GxP ортасында қолданудың нақты қағидаттарына бірізді көшуді көрсетеді.

2023 жылы FDA екі арнайы талқылау құжатын жариялады. Artificial Intelligence in Drug Manufacturing құжатында фармацевтикалық өндірістегі модельдерді басқару, стандарттар, бұлттық қолданбалар, валидация және өмірлік цикл бойында сүйемелдеу мәселелері қарастырылды [17]. 2023 жылғы мамырда Using Artificial Intelligence & Machine Learning in the Development of Drug & Biological Products құжаты жарияланып, дәрілер мен биологиялық өнімдерді зерттеу және әзірлеуде AI/ML қолдануды қамтыды [18]. Екі құжат та мүдделі тараптардан кері байланыс жинауға арналған талқылау сипатында болды.

2024 жылғы қыркүйекте EMA Reflection paper on the use of Artificial Intelligence (AI) in the medicinal product lifecycle құжатын қабылдап, AI/ML қарастырылуын іздеу мен клиникаға дейінгі әзірлеуден клиникалық зерттеулерге, өндіріске және тіркеуден кейінгі кезеңге дейін кеңейтті [13]. Қажетті бақылау деңгейі нақты жүйені қолдану тәуекелімен және нәтижелерінің дәрі сапасына, қауіпсіздігі мен тиімділігіне ықтимал әсерімен байланыстырылады.

Келесі кезең FDA-ның 2025 жылғы қаңтардағы Considerations for the Use of Artificial Intelligence to Support Regulatory Decision-Making for Drug and Biological Products нұсқаулығының жобасы болды [11]. Бұрынғы талқылау құжаттарынан айырмашылығы, ол белгіленген COU үшін модель сенімділігін бағалаудың құрылымдалған тәуекелге бағдарланған жүйесін ұсынды. Демек, бағалау техникалық сипаттамаларды ғана емес, модель нәтижесінің сапа, қауіпсіздік немесе тиімділік дәлелдерін қалыптастырудағы нақты рөлін де қамтиды [11].

Еуропалық реттеушілік тәсілдің маңызды кезеңі 2025 жылы EudraLex Volume 4 қайта қарауы аясында Chapter 4 пен Annex 11 жаңартуларымен бірге дайындалған EU GMP Annex 22 «Artificial Intelligence» жобасының жариялануы болды. Ол белсенді фармацевтикалық субстанциялар мен дәрілік препараттар өндірісінде AI/ML қолдануға арнайы талаптар ұсынып, болжанған мақсатқа, оқыту деректерінің сапасына, оқыту мен валидацияға, нәтижелілік көрсеткіштеріне, тест деректерін басқаруға, өзгерістерді бақылауға, модель сипаттамаларын мониторингтеуге және адам тексеруіне назар аударады. Осы шолу дайындалған кезде Annex 22 жоба мәртебесінде болды және EU GMP-дің күшіндегі қосымшасы болған жоқ [23].

2025 жылы GxP үдерістеріндегі ЖИ қолдайтын компьютерлендірілген жүйелерге GAMP қағидаттарын қолдануды көздейтін арнайы ISPE GAMP Guide: Artificial Intelligence нұсқаулығы жарияланды [16]. Онда өмірлік цикл, реттелетін ұйым мен жеткізушілер арасындағы жауапкершілікті бөлу, тәуекелдерді басқару, пайдалану мониторингі және болжанған қолдануға жарамдылықты сақтау қарастырылады.

2026 жылғы қаңтарда FDA мен EMA дәрілік заттың өмірлік циклі бойында дәлелдер қалыптастыру мен талдауға арналған келісілген он қағидатты қамтитын Guiding Principles of Good AI Practice in Drug Development бірлескен құжатын алғаш ұсынды [14]. Оның аясына клиникаға дейінгі және клиникалық кезеңдер, өндіріс және тіркеуден кейінгі қызмет кіреді.

Реттеушілік тәсіл дамуының негізгі кезеңдері 1-кестеде жинақталған.

1-кесте. Фармацевтикалық қызметте ЖИ қолдануға реттеушілік тәсілдердің эволюциясы.
ЖылҰйымҚұжатҚолданылу саласыНегізгі ережелер
2023FDAArtificial Intelligence in Drug ManufacturingФармацевтикалық өндірісӨндірістегі ЖИ, модельдің өмірлік циклі, стандарттар, бұлттық қолданбалар, реттеушілік қадағалау [17]
2023FDAUsing Artificial Intelligence & Machine Learning in the Development of Drug & Biological ProductsДәрілік және биологиялық өнімдерді әзірлеуЖИ/МО мүмкіндіктері мен тәуекелдері; адам басқаратын қадағалау; деректер сапасы мен сенімділігі [18]
2024EMAReflection paper on the use of AI in the medicinal product lifecycleДәрілік препараттың бүкіл өмірлік цикліТәуекелге негізделген тәсіл, деректер, ашықтық, адам қадағалауы, модельдерді бағалау [13]
2025FDAConsiderations for the Use of AI to Support Regulatory Decision-Making for Drug and Biological ProductsРеттеушілік шешімдерге арналған деректер мен ақпаратҚолдану мәнмәтіні; модель тәуекелі; сенімділікті тәуекелге негіздеп бағалау [11]
2025European Commission / EMA GMDP Inspectors Working Group / PIC/SDraft EU GMP Annex 22 - Artificial IntelligenceБелсенді субстанциялар мен дәрілік препараттар өндірісіндегі ЖИ/МОБолжанған мақсат, оқыту деректері, валидация, тиімділік көрсеткіштері, өзгерістерді бақылау, модель мониторингі, адам тексеруі [23]
2025ISPEGAMP Guide: Artificial IntelligenceGxP саласындағы ЖИ қолданатын компьютерлендірілген жүйелерТәуекелдерді, өмірлік циклді, жеткізушілерді және пайдалану кезіндегі бақылауды басқару [16]
2026FDA-EMAGuiding Principles of Good AI Practice in Drug DevelopmentДәрілік препараттың бүкіл өмірлік цикліТиісті ЖИ практикасының он ортақ қағидаты [14]

Құжаттар реттілігі реттелетін мәнмәтіннің кеңейгенін көрсетеді: 2023 жылғы өндіріс пен дәрі әзірлеудегі жеке мәселелерден 2024-2026 жылдары дәрілік өнім мен ЖИ технологиясының толық өмірлік циклдеріне дейін [11, 13, 14, 16-18].

FDA-EMA Good AI Practice қағидаттары

FDA-EMA-ның 2026 жылғы бірлескен құжаты ЖИ-ді тиісті қолданудың он қағидатын қамтиды. Олар математикалық модельді әзірлеу мен тестілеуді ғана емес, адам бақылауын, деректер сапасын, ұйым жауапкершілігін, стандарттарға сәйкестікті және өмірлік циклді басқаруды да қарастырады [14].

Бірінші қағидат - Human-centric by design: ЖИ әзірлеу мен қолдану этикалық және адамға бағдарланған құндылықтарға сәйкес болуы тиіс. Ол маманды шешім қабылдаудан шығармайды және адам мен ЖИ әрекеттесуін жалпы жүйенің бөлігі ретінде қарастырады [14].

Екінші қағидат - Risk-based approach: валидация, тәуекелді төмендету шаралары және қадағалау модельдің анықталған тәуекелі мен нақты қолдану мәнмәтініне сай болуы тиіс. Бұл ICH Q9(R1) сапа тәуекелдерін басқару қағидаттарына сәйкес келеді [3, 14].

Үшінші қағидат - Adherence to standards: ЖИ технологиялары GxP-ді қоса алғанда, қолданылатын құқықтық, этикалық, техникалық, ғылыми, киберқауіпсіздік және реттеушілік стандарттарға сәйкес болуы тиіс [14].

Төртінші қағидат - Clear context of use: ЖИ жүйесінің рөлі мен қолданылу аясы нақты анықталуы тиіс. COU FDA-ның 2025 жылғы нұсқаулық жобасында да негізгі орын алады: қолдану мәнмәтіні мен оған байланысты тәуекел модель сенімділігін растаудың қажетті деңгейін анықтайды [11, 14].

Бесінші қағидат - Multidisciplinary expertise: өмірлік цикл бойында ЖИ технологиялары мен тиісті пәндік салада құзыреті бар мамандардың қатысуы көзделеді [14].

Алтыншы қағидат - Data governance and documentation: ақпарат қадағаланатын және тексерілетін болуы үшін деректердің шығу тегі, өңдеу кезеңдері және аналитикалық шешімдер құжатталуы тиіс. Құпиялық пен сезімтал деректерді қорғау да тиісінше басқарылуы қажет [14].

Жетінші қағидат - Model design and development practices: ЖИ-ді тиісінше әзірлеу модельді және жүйені жобалау мен бағдарламалық инженерияның тиісті практикаларына, мақсатқа жарамды деректерге, түсіндірілуді, түсіндіру мүмкіндігін және болжамдық сипаттамаларды бағалауға негізделеді [14].

Сегізінші қағидат - Risk-based performance assessment: оқшауланған модель ғана емес, адам мен ЖИ әрекеттесуін қоса алғанда бүкіл жүйе бағаланады. Деректер мен нәтижелілік көрсеткіштері мәлімделген COU-ға сәйкес болуы, ал болжамдық сипаттамалар алдын ала анықталған тестілеу және бағалау әдістерімен расталуы тиіс [14].

Тоғызыншы қағидат - Life cycle management: ЖИ технологиясының бүкіл өмірлік циклі бойында тәуекелге бағдарланған сапа менеджменті жүйесі, жоспарлы мониторинг және деректер таралуы өзгергенде де (data drift) сипаттамаларды мерзімді қайта бағалау қолданылуы тиіс [14].

Оныншы қағидат - Clear, essential information: мақсатты аудиторияға ЖИ мақсаты, сипаттамалары, шектеулері, бастапқы деректері, жаңартулары және нәтижелерінің түсіндірілетіндігі туралы қолжетімді ақпарат берілуі тиіс [14].

Бұл ережелер 2-кестеде жүйеленген.

2-кесте. FDA-EMA Good AI Practice қағидаттары және олармен байланысты бақылау элементтері.
№ҚағидатНегізгі мазмұнGxP мәнмәтініндегі бақылау элементтері
1Жобалаудан бастап адамға бағдарлануЖИ әзірлеу мен қолданудың адамға бағдарлануыАдам қадағалауы; жауапкершілікті бөлу
2Тәуекелге негізделген тәсілБақылаудың модель тәуекелі мен қолдану мәнмәтініне мөлшерлестігіТәуекелді бағалау; валидация көлемі; бақылау шаралары
3Стандарттарды сақтауҚолданылатын талаптар мен стандарттарға сәйкестікGxP; заңнама; киберқауіпсіздік; техникалық стандарттар
4Нақты қолдану мәнмәтініМодель рөлі мен қолданылу саласын нақты анықтауБолжанған мақсат; қолданылу шектері; ЖИ нәтижесінің әсері
5Пәнаралық сараптамаПәнаралық құзыреттерді пайдалануЖИ/МО; GxP; статистика; пәндік сарапшылар
6Деректерді басқару және құжаттауДеректердің шығу тегі мен өңделуінің қадағаланымдылығыДеректердің шығу тегі; құжаттама; құпиялық; деректерді қорғау
7Модельді жобалау және әзірлеу практикасыМодель мен жүйені тиісті әзірлеуМақсатқа жарамды деректер; орнықтылық; жалпылау қабілеті; түсіндірілетіндік
8Сипаттамаларды тәуекелге негіздеп бағалауБүкіл жүйенің сипаттамаларын бағалауВалидация; сынау; тиімділік көрсеткіштері; адам-ЖИ әрекеттестігі
9Өмірлік циклді басқаруЕнгізілгеннен кейін жүйені басқаруМониторинг; мерзімді шолу; өзгерістерді басқару; деректер ығысуы
10Нақты әрі маңызды ақпаратТехнология туралы маңызды ақпараттың қолжетімділігіМақсат; шектеулер; деректер; жаңартулар; түсіндірілетіндік

Бірлескен құжатта бақылау нысаны алгоритмнің өзі ғана емес, өзара байланысты элементтер жиынтығы ретінде қарастырылады: модель, деректер, қолдану мәнмәтіні, пайдаланушы, бағдарламалық орта және өмірлік циклді басқару үдерістері [14].

Дәрілік заттың өмірлік цикліндегі ЖИ қолдану салалары

Ғылыми жарияланымдар фармацевтикалық AI/ML қолданылуы өмірлік циклдің бірнеше кезеңін қамтитынын көрсетеді [5-9].

Фармацевтикалық әзірлеуде AI/ML көпөлшемді эксперименттік деректерді талдау, құрам, технологиялық параметрлер мен дәрілік түр сипаттамаларының байланыстарын анықтау, рецептураларды оңтайландыру, физика-химиялық және биофармацевтикалық қасиеттерді болжау және QbD тәсілдерін қолдау үшін қолданылады [5-9].

Өндірісте ЖИ PAT, үздіксіз өндіріс және кеңейтілген аналитикамен бірге қарастырылады. Қолдану бағыттарына үдерістің критикалық параметрлері (CPP) негізінде сапаның критикалық көрсеткіштерін (CQA) болжау, үдеріс ауытқуларын анықтау, жабдық параметрлерін оңтайландыру, болжамдық техникалық қызмет көрсету және нақты уақыттағы үдеріс мониторингі жатады [5, 6, 9].

Сапаны бақылауда ML күрделі аналитикалық деректерді, соның ішінде спектроскопиялық және хроматографиялық ақпаратты өңдеу, кескіндерді тану, үлгілерді жіктеу және қалыптан тыс нәтижелерді анықтау үшін қолданылады [6, 7, 9].

Клиникаға дейінгі және клиникалық әзірлеуде ЖИ үлкен деректерді талдау, заңдылықтар мен биомаркерлерді анықтау, кандидаттар сипаттамаларын модельдеу, пациенттерді іріктеуді қолдау және клиникалық деректерді талдау үшін қолданылады [8, 9, 13].

Фармакологиялық қадағалау мен тіркеуден кейінгі қызметтегі ықтимал қолданулар жағымсыз реакциялар туралы хабарламаларды автоматты өңдеуді, қауіпсіздік сигналдарын іздеуді, құрылымдалмаған ақпарат пен нақты практика деректерін талдауды қамтиды [7-9, 13, 14].

Жеке бағыт - мәтін мен құжаттамада генеративті ЖИ және үлкен тілдік модельдерді (LLM) қолдану. Ықтимал міндеттерге рәсімдер, спецификациялар, есептер, құжат түйіндемелері және басқа мәтін жобаларын дайындау жатады. FDA 2026 жылы тіркеген нақты өндірістік мысалда ЖИ спецификацияларды, рәсімдерді және негізгі өндірістік немесе бақылау жазбаларын дайындау үшін қолданылған [19].

Негізгі қолдану бағыттары 3-кестеде берілген.

3-кесте. Дәрілік препараттың өмірлік циклі бойындағы ЖИ/МО қолданудың негізгі салалары
СалаЖИ/МО орындай алатын міндеттерБайланысты GxP аспектілері
Фармацевтикалық әзірлемеҚұрамды оңтайландыру, DoE талдауы, дәрілік түр сипаттамаларын болжауQbD; білімді басқару; модель валидациясы
ӨндірісPAT, CQA болжау, CPP мониторингі, ауытқуларды анықтау, болжамды техникалық қызмет көрсетуGMP; процесс валидациясы; өзгерістерді бақылау
Сапаны бақылауСпектрлерді, хроматограммалар мен кескіндерді талдау; нәтижелерді жіктеу; аномалияларды анықтауДеректер тұтастығы; талдамалық рәсімнің сипаттамалары
Клиникалық әзірлемеДеректерді талдау, биомаркерлер, пациенттерді стратификациялауGCP; деректер сапасы; модель сенімділігі
Фармакологиялық қадағалауСигналдарды анықтау; хабарламалар мен құрылымдалмаған деректерді талдауGVP; қадағаланымдылық; адам тексеруі
GxP құжаттамасыSOP, спецификациялар, жазбалар және басқа құжаттардың жобаларын дайындауАдам тексеруі; сапа бөлімшесінің қадағалауы; құжаттарды бақылау

ЖИ жүйелерін валидациялауға, деректерге және өмірлік циклді басқаруға қойылатын талаптар

Құжаттарды салыстыру реттеушілік және кәсіби тәсілдердің ЖИ жүйелерін бақылаудың бірнеше негізгі бағыты бойынша тоғысатынын көрсетті [3, 10, 11, 13-17].

Бірінші бағыт - болжанған мақсатты (intended use) және қолдану мәнмәтінін (context of use) анықтау. FDA ЖИ моделінің сенімділігін бағалауды оның нәтижесінің шешім қабылдаудағы нақты рөлімен байланыстырады. Демек, модель сипаттамалары оны пайдалану жағдайларынан бөлек емес, нақты міндетке қатысты бағаланады [11].

Екінші бағыт - тәуекелге негізделген валидация. Модель мен жүйені тексеру көлемі оларды қолданумен байланысты тәуекел деңгейіне сай болуы тиіс [3, 11, 14]. FDA-EMA бірлескен қағидаттары валидацияның, тәуекелді азайту шараларының және қадағалаудың нақты қолдану мәнмәтіні мен модель тәуекеліне мөлшерлес болуын атап көрсетеді [14]. Ұқсас тәсіл ЖИ моделінің болжанған мақсатын, оқыту деректерінің сапасын, оқыту және валидация рәсімдерін, тиімділік көрсеткіштері мен сынақ деректерін қарастыратын EU GMP Annex 22 «Artificial Intelligence» жобасында берілген. Жоба өзгерістерді басқаруды, модель сипаттамаларын мониторингтеуді және қажет болғанда адам тарапынан тексеру рәсімдерін қамтитын үздіксіз қадағалауды да көздейді [23].

Үшінші құрамдас бөлік - деректерді басқару. ЖИ модельдері үшін деректердің шығу тегі, алдын ала өңдеу операциялары, талдамалық шешімдер, болжанған міндетке жарамдылық және қадағаланымдылық маңызды [13, 14]. Деректерді басқару ЖИ жүйесінің бүкіл өмірлік циклі бойында қарастырылады.

Төртінші бағыт модельдің және тұтас жүйенің сипаттамаларын бағалауды қамтиды. FDA-EMA мәлімделген қолдану мәнмәтініне сай көрсеткіштерді пайдалануды және болжамдық сипаттамаларды осы мақсатқа жарамды деректермен тексеруді көздейді [14]. Бағалау нысанына ЖИ мен пайдаланушының өзара әрекеттесуін қоса алғанда, бүкіл жүйе кіреді.

Бесінші бағыт - өзгерістерді басқару және үздіксіз мониторинг. Енгізу алдындағы бір реттік тексерумен шектелмей, қазіргі тәсілдер пайдалану кезіндегі сипаттамаларды бақылауды, мерзімді қайта бағалауды және деректердің ығысуын қоса алғанда, деректер өзгерісін ескеруді талап етеді [14, 16]. Бұл талаптар компьютерлендірілген жүйелердегі дәстүрлі өзгерістерді бақылау мен мерзімді бағалауды толықтырады [10].

Алтыншы құрамдас бөлік - адам тарапынан қадағалау. Талданған құжаттарда адам бақыланатын ЖИ жүйесінің құрамдас бөлігі болып қалады. Оның рөлі қолдану мәнмәтініне, модель тәуекеліне және қабылданатын шешім сипатына байланысты [11, 13, 14, 16].

ЖИ қолдануға CGMP талаптарын қолдану: FDA-ның 2026 жылғы ескерту хаты

Реттеушілік материалдарды талдау барысында FDA-ның 2026 жылғы 2 сәуірде Purolea Cosmetics Lab компаниясына жариялаған № 320-26-58 ескерту хаты анықталды. Онда фармацевтикалық өндірісте жасанды интеллектіні орынсыз қолдануға арналған жеке бөлім бар [19].

FDA мәліметінше, инспекция кезінде өндіруші дәрілік препараттар спецификацияларын, рәсімдерін және негізгі өндірістік немесе бақылау жазбаларын дайындау үшін ЖИ агенттерін пайдаланғанын хабарлаған [19]. FDA ЖИ жасаған құжаттардың дәлдігі мен CGMP талаптарына нақты сәйкестігі тиісті түрде тексерілмегенін анықтады.

Ескерту хатында құжат дайындауға көмекші құрал ретінде ЖИ қолданатын ұйым жасалған материалдардың дәлдігі мен CGMP талаптарына сәйкестігін тексеруге тиіс екені көрсетілген. FDA мұндай бақылаудың болмауын 21 CFR 211.22(c) талаптарының бұзылуымен байланыстырды [19].

Инспекторлар препараттарды айналымға шығарғанға дейін процесс валидациясының жүргізілмегенін де анықтады. Компания өкілі қолданылған ЖИ агенті бұл талапты хабарламағандықтан, оның қажеттігін білмегенін мәлімдеді [19].

FDA өндіріс қайта басталған жағдайда орындалатын талаптарды да белгіледі: ЖИ рәсімдер мен спецификацияларды әзірлеуді қоса алғанда, CGMP қызметінде қолданылса, оның нәтижелері немесе ұсынымдары сапа бөлімшесінің уәкілетті өкілі тарапынан тексеріліп, бекітілуге тиіс [19].

Осылайша, бұл құжат қолданыстағы CGMP талаптарының тікелей фармацевтикалық өндірісте ЖИ-ді практикалық қолдануға қатысты іске асырылғанын көрсететін тіркелген мысал болып табылады.

Талқылау

Нәтижелер фармацевтикалық қызметте жекелеген ЖИ/МО құралдарын негізінен эксперименттік қолданудан оларды реттеушілік және сапалық басқаруға көшу жүріп жатқанын көрсетеді. FDA-EMA бірлескен қағидаттары ЖИ-дің GxP реттеу күн тәртібіне енгенін көрсетеді. Талдау бұл үрдісті жалпы растайды, алайда маңызды нақтылауды қажет етеді: 2026 жылғы қаңтарда жарияланған Guiding Principles of Good AI Practice in Drug Development құжатын GxP саласында ЖИ қолдануға дербес рұқсат немесе қолданыстағы талаптарды жеңілдету деп түсінуге болмайды. Құжат ЖИ қолдануды сапаға, тиімділікке, қауіпсіздікке және алынатын ақпараттың сенімділігіне қойылатын талаптарды төмендетпейтіндей ұйымдастыру қағидаттарын белгілейді [14].

Негізгі өзгеріс - бақылау нысанының кеңеюі. Дәстүрлі компьютерлендірілген жүйеде бекітілген талаптарға сәйкестікке, функционалдық тестілеуге, конфигурацияны, қолжетімділікті және өзгерістерді басқаруға басымдық беріледі. ЖИ жүйелерінде бұған қоса оқыту және сынақ деректерін, модель параметрлері мен нұсқасын, қолданылу шектерін, жұмыс көрсеткіштерін, пайдаланушымен өзара әрекеттесуді және тиімділіктің уақыт бойынша өзгеруін бақылау қажет [10, 12, 14, 16]. Сондықтан компьютерлендірілген жүйелерді дәстүрлі валидациялау ұғымы бейімдеусіз ЖИ/МО-ның барлық ерекшелігін автоматты түрде қамти алмайды.

ЖИ валидациясы: өмірлік цикл бойындағы дәлелдерді басқару

Дәстүрлі детерминделген компьютерлендірілген жүйеде берілген кіріс шарттары үшін күтілетін нәтижені әдетте алдын ала анықтауға болады. МО, әсіресе генеративті модельдер қолданылғанда, бұл логика едәуір күрделенеді. Нәтиже кодқа, оқыту деректеріне, модель архитектурасына, баптау параметрлеріне және нақты пайдалану ортасына тәуелді. Генеративті ЖИ нәтижелердің құбылмалылығын, сұрау тұжырымына сезімталдықты және сырттай нанымды, бірақ фактілік тұрғыдан қате нәтиже алу мүмкіндігін қосады [12].

Сондықтан ЖИ үшін жүйенің бір рет валидацияланғанын растаудан гөрі, бүкіл өмірлік цикл бойында валидацияланған және бақыланатын күйді сақтау туралы айту орынды. Ол болжанған мақсат пен қолдану мәнмәтінін анықтауды, жарамдылық критерийлерін алдын ала белгілеуді, тәуелсіз деректермен бағалауды, өзгерістерді бақылауды және сипаттамалардың бастапқы міндетке сәйкестігін мерзімді растауды талап етеді [11, 14, 16].

Модель мен деректердің ығысуы ерекше маңызды. Бастапқы сипаттамалар белгіленген критерийлерге сай болса да, кіріс деректерінің, өндірістік процестің, жабдықтың, шикізаттың немесе пайдаланушы мінез-құлқының өзгеруі нәтижелердің сенімділігін біртіндеп төмендетуі мүмкін. Сондықтан FDA-EMA өмірлік циклді басқару мен мерзімді мониторингті Good AI Practice-тің дербес қағидаттары ретінде қарастырады [14]. Осы тұрғыдан ЖИ-ді басқару модельді тек енгізу алдында тексеріп, одан кейін өзгермейтін бағдарламалық функция ретінде қарастыратын тәсілден ерекшеленеді.

Деректерді басқару және тұтастық - ЖИ сенімділігінің негізі

Екінші іргелі мәселе - деректер сапасы. ЖИ жүйелерінде нәтиже сапасының бастапқы деректер сапасына тәуелділігі тікелей GxP мәніне ие. Репрезентативтілігі жеткіліксіз, толық емес, қате немесе бақылаусыз өзгертілген деректер алгоритм техникалық тұрғыдан дұрыс іске асырылса да, жүйелі қате нәтижелерге әкелуі мүмкін.

Сондықтан ЖИ талаптарын деректер тұтастығы қағидаттарымен бірге қарастырған жөн. ДДҰ сенімді GxP деректерін ALCOA+ арқылы анықтайды: авторын анықтау мүмкіндігі, оқылымдылық, уақтылылық, түпнұсқалық және дәлдік, сондай-ақ толықтық, бірізділік, сақталу тұрақтылығы және қолжетімділік [20]. ДДҰ деректерді басқаруды сапа жүйесімен тікелей байланыстырады және деректердің бүкіл өмірлік циклі бойында тәуекелге негізделген тәсілді талап етеді [20].

ЖИ үшін бұл тұжырымдама соңғы электрондық құжатпен немесе талдау нәтижесімен шектелмей, деректердің шығу тегін, оқыту, валидация және сынақ жиынтықтарын дайындауды, деректерді түрлендіру мен нұсқаларын, модель баптауларын және өзгерістер тарихын қамтуы тиіс. ЖИ жасаған GxP жазбаларында бастапқы ақпарат көзі, генерацияны бастаған пайдаланушы, модель нұсқасы, ЖИ нәтижесі, адам жүргізген тексеру және құжаттың соңғы бекітілген нұсқасы да анықталуға тиіс. Әйтпесе шешімнің шығу тегін белгілеу және толық қадағаланымдылықты қамтамасыз ету қиындайды.

Бұл тәсіл FDA-ның деректер тұтастығына қатысты ұстанымына сай: CGMP қызметінде пайдаланылатын барлық деректер сенімді әрі дәл болуы, ал тұтастық бұзылыстарының алдын алу мен оларды анықтау шаралары тәуекелге негізделуі тиіс [22].

Human-in-the-loop: адамның формалды қатысуы емес, нақты бақылау

Адамға бағдарлану және білікті маманның түпкілікті жауапкершілігі маңызды. Талдау human-in-the-loop ұғымын қосымша нақтылайды: адамның процесте болуының өзі ЖИ жүйесін бақылауға кепілдік бермейді. Қызметкер нәтижені тексеруге қажетті ақпарат не құзыретсіз автоматты түрде қабылдаса, адам тарапынан қадағалау формалды сипат алады.

GxP мәнмәтінінде адам бақылауы кемінде ЖИ жүйесінің мақсатын, шектеулерін және белгілі істен шығу түрлерін түсінуді; нәтижені тексеруге қажетті бастапқы ақпаратқа қолжетімділікті; ЖИ ұсынымын қабылдамау өкілеттігін және маңызды шешімдерді құжаттауды қамтуы тиіс. Бақылау тереңдігі ЖИ нәтижесінің өнім сапасына, пациент қауіпсіздігіне немесе реттеушілік шешімге ықпалы артқан сайын күшеюі керек [11, 14, 16].

Бұл мәселе генеративті ЖИ мен үлкен тілдік модельдер үшін ерекше өзекті. Salami және әріптестері тілдік модельдердің фармацевтикалық өндірістегі ауытқуларды талдау және ауытқу есептерінен ақпарат алу әлеуетін көрсетті; сонымен қатар ақпаратты өңдеу қабілеті жоғары болғанымен, галлюцинация қаупін анықтады [21]. Сондықтан мәтіннің тілдік нанымдылығын оның фактілік сенімділігінің дәлелі деп қарастыруға болмайды.

FDA ескерту хатының маңызы: қолданыстағы CGMP талаптарын ЖИ-ге қолдану

FDA-ның Purolea Cosmetics Lab компаниясына 2026 жылғы 2 сәуірде жолдаған ескерту хаты адам қадағалауының практикалық маңызын айқын көрсетеді [19]. Оның мәні фармацевтикалық өндірісте ЖИ-ді орынсыз қолданудың жеке қарастырылуымен қатар, FDA-ның реттеушілік негіздемесінің сипатында.

FDA қаңтардағы Good AI Practice қағидаттарын бұзушылықтың міндетті құқықтық негізі ретінде қолданған жоқ. Ол қолданыстағы CGMP талаптарын, әсіресе сапа бөлімшесі мен өндіріс рәсімдеріне қатысты талаптарды қолданды. Компания спецификацияларды, рәсімдерді және негізгі өндірістік немесе бақылау жазбаларын тиісті адам тексеруінсіз жасау үшін ЖИ пайдаланған. FDA мұндай тексерудің болмауын сапа бөлімшесінің міндеттері тұрғысынан 21 CFR 211.22(c) талабын бұзу деп бағалады [19].

Процесс валидациясына қатысты жағдай ерекше маңызды. Ескерту хатына сәйкес, компания өкілі валидацияның жоқтығын ЖИ агентінің тиісті талапты көрсетпеуімен түсіндірген. Бұл жауапкершіліктің негізгі шегін көрсетеді: ЖИ-дің талапты атамауы немесе қате ұсынымы реттелетін ұйым мен оның білікті қызметкерлерін CGMP талаптарын орындаудан босатпайды [19].

Бұл жағдайдың практикалық қорытындысы фармацевтикалық ұйымдарға құжаттамада генеративті ЖИ қолдануға тыйым салынғанын білдірмейді. FDA ЖИ пайдалануды CGMP талаптарынан босату негізі деп санамайды және оны қолданғанда тиісті адам тексеруін талап етеді [19].

Осылайша, ЖИ-ге қойылатын талаптарды қолдану теориядан инспекциялық практикаға өтті. Дегенмен ұсынымдық Good AI Practice қағидаттарын бұзылуы ескерту хатына негіз болған заңды түрде қолданылатын CGMP талаптарынан ажырату қажет.

GxP саласындағы ЖИ жүйелерінің ұсынылатын тәуекелге негізделген жіктелуі

ICH Q9(R1), FDA-ның қолдану мәнмәтініне қатысты тәсілі, FDA-EMA қағидаттары және GAMP ұсынымдары негізінде бұл шолу ЖИ нәтижесінің GxP шешіміне ықтимал әсеріне қарай қолдануларды үш деңгейге бөлетін практикалық жіктеуді ұсынады [3, 11, 14, 16].

4-кесте. GxP ортасында ЖИ қолданудың ұсынылатын тәуекелге негізделген жіктелуі
ДеңгейҚолдану сипатыМысалдарҰсынылатын бақылау
1 - Төмен тәуекелЖИ нәтижесі GxP шешімін қабылдауға тікелей қолданылмайдыАқпарат іздеу, аударма, мәтін жобасын дайындау, аса маңызды емес ақпаратты жинақтауРұқсат етілетін қолданылу саласын анықтау; құпия деректерді қорғау; пайдаланушы тексеруі
2 - Орташа тәуекелЖИ GxP процесінде тек тәуелсіз сараптамалық тексеруден кейін қолданылатын материал жасайдыSOP немесе ауытқу түйіндемесінің жобасы; талдамалық деректерді жіктеу не алдын ала талдауҚұжатталған қолдану мәнмәтіні; жүйе квалификациясы; сынау; міндетті адам тексеруі; аудит ізі/өзгерістерді бақылау
3 - Жоғары тәуекелЖИ нәтижесі өнім сапасына, пациент қауіпсіздігіне немесе маңызды GxP шешіміне тікелей әсер етедіCPP басқару, CQA болжау, маңызды QC деректерін түсіндіру, серияны шығару туралы шешім, фармакологиялық қадағалаудың маңызды элементтеріФормалды тәуекел бағасы; кеңейтілген валидация/модель сенімділігін бағалау; тәуелсіз сынау; қатаң адам қадағалауы; үздіксіз мониторинг; өмірлік циклді/өзгерістерді басқару

Бұл жіктеу FDA, EMA немесе ISPE-нің реттеушілік санаттауы емес; ол осы шолудың талдамалық моделі болып табылады. Оның мақсаты - ЖИ бойынша дәлелдер мен бақылау тереңдігі қате нәтиженің ықтимал әсеріне мөлшерлес болуы тиіс деген жалпы қағидатты практикалық тұрғыдан түсіндіру.

Бұл тәсіл екі қарама-қарсы шектен сақтайды: тәуекелге қарамастан ЖИ қолданудың барлық түрін бірдей формалдылықпен валидациялап, шамадан тыс реттеушілік жүктеме жасау; және нәтижесі реттелетін шешімнің бөлігіне айналса да, маңызды GxP процестерінде ЖИ-ді қарапайым кеңселік құрал ретінде пайдалану.

ЖИ-дің ықтимал артықшылықтары және туындайтын тәуекелдер

ЖИ енгізу ақпараттың үлкен көлемін өңдеуді жеделдетуге және қызметкерлер жүктемесін азайтуға мүмкіндік береді. Әдебиет ЖИ-дің күрделі деректер жиынтықтарын талдау, заңдылықтарды анықтау, ұқсас өндірістік ауытқуларды табу және жекелеген ақпараттық операцияларды автоматтандыру әлеуетін растайды [5-9, 21].

Алайда ЖИ адам қателерін толық жояды деу тым үзілді-кесілді тұжырым болар еді. Ол үлкен деректерді қолмен өңдеуге немесе қайталанатын заңдылықтарды байқамай қалуға байланысты кейбір қателерді азайтуы мүмкін, бірақ жаңа тәуекелдер туғызады: модель қателері, жүйелі бұрмалау, галлюцинациялар, оқыту деректерінен тыс қате экстраполяция, модель/деректер ығысуы, ЖИ нәтижесіне шамадан тыс сенім, жеткізушінің ашықтығының жеткіліксіздігі және бұлттық модельдің бақылаусыз өзгеруі [12, 14, 16, 21].

Демек, GxP ортасындағы ЖИ артықшылығы міндеттерді қайта бөлуде: ЖИ есептеу мен ақпарат өңдеуді көп қажет ететін жұмысты атқара алады, ал маман сыни бағалау, түсіндіру және реттелетін шешім қабылдау жауапкершілігін сақтайды.

Шешілмеген мәселелер

2024-2026 жылдардағы реттеушілік ілгерілеуге қарамастан, сыртқы бұлттық сервистер арқылы қолданылатын базалық модельдерді валидациялау; ашық генеративті жауаптардың жарамдылық критерийлері; GxP ұйымының тікелей бақылауынан тыс жеткізуші жаңартуларын басқару; сұраулар мен ЖИ жасаған мазмұнды құжаттау; галлюцинация жиілігі мен сұрауға сезімталдықты бағалау; қайта өндіру мүмкіндігі; модель әзірлеуші, бағдарламалық өнім жеткізушісі және реттелетін фармацевтикалық ұйым арасындағы жауапкершілікті бөлу мәселелері ашық қалып отыр.

Үздіксіз үйренетін модельдер жеке мәселе туғызады. Дәстүрлі GxP өзгерістерді бақылау тәсілі өзгерісті анықтауды, әсерін бағалауды, бекітуді және кейінгі тексеруді көздейді. Үздіксіз оқыту жүйе нұсқаларының шекарасын көмескі етуі мүмкін. Сондықтан маңызды қолдануларда модель жаңарту сәттерін бақылап, тіркеу немесе белгіленген өзгерту рәсімі аяқталғанша тұрақты валидацияланған нұсқаны сақтайтын архитектура қажет.

Осылайша, ЖИ-ді реттеу дәстүрлі GxP қағидаттарын жаңа технологиялық нысанға таратады. Сапа тәуекелдерін басқару, деректер тұтастығы, құжаттау, қадағаланымдылық, өзгерістерді басқару, сапа бөлімшесінің жауапкершілігі және білікті адамның тексеруі негізгі мәнін сақтайды. ЖИ қосымша оқыту деректерінің сапасын, қолдану мәнмәтінін, модель сипаттамаларын, модель/деректер ығысуын және толық өмірлік циклді басқаруды ескеруді талап етеді.

FDA-EMA-ның 2026 жылғы қаңтардағы қағидаттары және нақты ЖИ қолдануға қолданыстағы CGMP талаптарын қолданған сәуірдегі ескерту хаты ЖИ-дің фармацевтикалық сапа жүйесінде жүйелі басқару нысанына айналғанын көрсетеді. Сондықтан фармацевтикалық ұйымдар бұл технологиялар маңызды GxP шешімдеріне енгізілгенге дейін ЖИ-ді басқаруды сапа тәуекелдерін басқаруға, компьютерлендірілген жүйелердің өмірлік цикліне, деректер тұтастығына және фармацевтикалық сапа жүйесіне біріктіруі тиіс.

Келешек бағыттар

GxP арқылы реттелетін фармацевтикалық қызметте ЖИ-дің әрі қарай дамуы дәстүрлі компьютерлендірілген жүйелерді валидациялаудан (CSV) ЖИ-дің бүкіл өмірлік циклі бойындағы жарамдылығын қамтамасыз етуге көшуімен байланысты болуы ықтимал. Бұл ретте жарамдылықты растау бастапқы енгізумен шектелмейді. Қолданылу мүмкіндігі мен жұмыс көрсеткіштерін, деректер/модель ығысуын үздіксіз бағалау, өзгерістерді басқару және өмірлік циклдегі барлық елеулі өзгерісті құжаттау ерекше маңыз алады [14, 16, 24].

Негізгі бағыттардың бірі модельді үздіксіз мониторингтеу болады. Өндірісте, сапаны бақылауда, фармакологиялық қадағалауда және басқа маңызды GxP процестерінде қолданылатын ЖИ жүйелері үшін алдын ала белгіленген тиімділік көрсеткіштері, олардың рұқсат етілетін өзгеру шектері, қайта бағалау жиілігі және қосымша тексеруді, қайта валидациялауды не қайта оқытуды талап ететін критерийлер қажет [14, 16, 23, 24].

ЖИ-ді басқару қолданыстағы фармацевтикалық сапа жүйесіне (PQS) сапаны, тәуекелдерді, өзгерістерді, деректерді, ауытқуларды, CAPA және компьютерлендірілген жүйелерді басқарудың құрамдас бөлігі ретінде біріктірілуі тиіс. Мұндай біріктіру ЖИ бақылауының деңгейін дәрілік препарат сапасы мен пациент қауіпсіздігіне ықтимал әсерімен байланыстыратындықтан, ICH Q9(R1) және ICH Q10 қағидаттарына сай келеді [2, 3].

ЖИ модельдерінің құжаттамасын стандарттау да перспективалы бағыт болып табылады. Бірыңғай модель карталары, деректер жиынтығының паспорттары [25, 26], қолдану мәнмәтінінің сипаттамалары және өмірлік циклдің стандартталған жазбалары модель мақсаты, оқыту іріктемелерінің сипаттамалары, шектеулер, тиімділік, белгілі тәуекелдер және өзгерістер тарихы туралы ақпараттың ашықтығын арттыра алады.

GxP қолдануларында бұл құралдар аудит ізіне, өзгерістерді басқаруға, құжатталған адам бақылауына және сапа бөлімшесінің шешімдеріне қойылатын талаптармен толықтырылуы мүмкін. EU GMP Annex 22 «Artificial Intelligence» жеке жобасы жауапты ЖИ қолданудың жалпы қағидаттарынан фармацевтикалық өндірістегі ЖИ/МО жүйелеріне арналған арнайы GMP талаптарына көшуді көрсетеді [23, 27].

FDA-EMA бірлескен жарияланымы осы саладағы халықаралық реттеушілік тәсілдердің жақындасуын көрсетеді [14]. ЖИ-ді басқару, модель сенімділігі, деректерді басқару және өмірлік циклді басқару тәсілдерінің әрі қарай үйлесуін күтуге болады. Негізгі қиындық жалпы қағидаттарды тәуекел деңгейі әртүрлі ЖИ жүйелерін квалификациялауға, валидациялауға және ағымдағы бақылауға арналған практикалық талаптарға айналдыру болып қала береді.

Осы шолудың шектеулері

Зерттеудің бірқатар шектеуі бар. Ол жүйелі емес, талдамалық шолу ретінде орындалғандықтан, PRISMA хаттамасы бойынша жарияланымдарды формалданған сандық іріктеу жүргізілген жоқ. Негізгі назар фармацевтикалық әзірлемеде, өндірісте және GxP арқылы реттелетін басқа процестерде ЖИ/МО қолдануға тікелей қатысты ғылыми жарияланымдар мен реттеушілік құжаттарға аударылды.

Қосымша шектеу - нормативтік және технологиялық ортаның жылдам өзгеруі. FDA мен EMA құжаттарының бірқатары нұсқаулық, нұсқаулық жобасы немесе талқылау құжаты мәртебесінде, ал ЖИ-ді реттеу тәсілдері әлі қалыптасып келеді. Коммерциялық модельдердің, әсіресе бұлттық және генеративті ЖИ жүйелерінің жылдам жаңаруы жарияланған әдебиетте немесе қолданыстағы нұсқаулықтарда әлі қамтылмаған тәуекелдер мен практикалық жағдайларды туғызуы мүмкін.

Ұсынылған үш деңгейлі тәуекелге негізделген ЖИ жіктеуі - авторлардың талдамалық моделі; ол FDA, EMA, ICH немесе ISPE-нің ресми жіктеуі емес. Оның практикалық қолданылуын нақты GxP сценарийлерінде одан әрі талқылау және тексеру қажет.

Қорытынды

Талдау ЖИ-дің тек эксперименттік цифрлық технология шегінен шығып, реттелетін фармацевтикалық практикаға біртіндеп еніп жатқанын көрсетеді. PAT, үздіксіз өндіріс және Pharma 4.0-ден ЖИ/МО-ға өту валидациялау мен компьютерлендірілген жүйелерді басқару тәсілдерінің өзгеруімен қатар жүреді. GxP-дің негізгі қағидаттары - сапа, қадағаланымдылық, тәуекелдерді басқару, деректер тұтастығы, құжаттау және білікті қызметкерлердің жауапкершілігі - маңызын сақтап, жаңа технологияларға таралады.

FDA мен EMA-ның 2026 жылғы қаңтарда жариялаған Guiding Principles of Good AI Practice in Drug Development бірлескен құжаты реттеушілік тәсілдердің жақындасуындағы маңызды кезең болды. Ондағы он қағидат ЖИ-ді тиісті қолданудың негізгі бағыттарын айқындайды: адамға бағдарлану, тәуекелге негізделген тәсіл, нақты қолдану мәнмәтіні, пәнаралық сараптама, деректерді тиісті басқару, модельдерді бақыланатын әзірлеу, тиімділікті бағалау, өмірлік циклді басқару және маңызды ақпараттың ашықтығы. Бұл қағидаттар қолданыстағы GxP талаптарын ЖИ ерекшеліктерін ескере отырып толықтырады.

ЖИ моделін бір рет валидациялаудан толық өмірлік циклді басқаруға көшу ерекше маңызды. GxP үшін маңызды қолдануларда алгоритмнің жұмысқа қабілеттілігімен қатар деректердің шығу тегі мен сапасын, қолдану мәнмәтінін, модель тәуекелін, валидация/сынақ жиынтықтарының репрезентативтілігін, адам қадағалауын, өзгерістерді басқаруды, мониторингті, деректер/модель ығысуын және тиімділікті мерзімді қайта бағалауды ескеру қажет. Сондықтан ЖИ-ді басқару қолданыстағы фармацевтикалық сапа жүйесі мен сапа тәуекелдерін басқаруға біріктірілуі тиіс.

FDA-ның Purolea Cosmetics Lab компаниясына 2026 жылғы 2 сәуірде жариялаған ескерту хаты бұл талаптардың практикалық маңызын көрсетті. ЖИ көмегімен спецификацияларды, рәсімдерді және негізгі өндірістік немесе бақылау жазбаларын тиісті адам тексеруінсіз дайындау қолданыстағы CGMP талаптары аясында бағаланды. ЖИ қолдану жауапкершілікті реттелетін ұйымнан алгоритмге немесе жеткізушіге ауыстырмайды: GxP құжаттамасының сенімділігі мен талаптардың орындалуына түпкілікті жауапкершілік білікті қызметкерлер мен сапа бөлімшесінде қалады.

Ілгерілеуге қарамастан, базалық модельдер мен генеративті ЖИ-ді валидациялау, ашық мәтіндік жауаптардың қайта өндірілуі, галлюцинацияларды басқару, модель ығысуы, бұлттық жаңартулар, деректерді бақылау және ЖИ жеткізушісі мен фармацевтикалық ұйым арасындағы жауапкершілікті бөлу мәселелері шешілмеген. GxP ортасына ЖИ-ді одан әрі енгізу қалыптасқан сапа тетіктерін жаңа технологиялық тәуекелдерге бейімдеуді талап етеді. Валидация, мониторинг және адам бақылауы ЖИ нәтижесінің дәрілік препарат сапасына, пациент қауіпсіздігіне және реттелетін шешімдердің сенімділігіне ықтимал әсеріне мөлшерлес болатын тәуекелге негізделген қолдану ең тұрақты тәсіл болып көрінеді.

Авторлардың үлесі

Ридванов Ч.И. - шолу тұжырымдамасын әзірлеу; GxP-реттелетін фармацевтикалық қызметте жасанды интеллектті қолданудың кәсіби және реттеушілік аспектілерін талдау; деректерді интерпретациялау; қолжазбаны дайындау және сыни тұрғыдан қайта қарау.

Ибрагимова Л.Н. - шолу тұжырымдамасы мен әдіснамасын әзірлеу; ғылыми әдебиеттер мен нормативтік-реттеушілік құжаттарды іздеу, талдау және жүйелеу; нәтижелерді интерпретациялау; қолжазбаны дайындау; ғылыми редакциялау және жұмысқа жалпы жетекшілік ету.

Барлық авторлар қолжазбаның соңғы нұсқасымен танысып, оны жариялауға мақұлдады.

Мүдделер қақтығысы

Авторлар мүдделер қақтығысының жоқ екенін мәлімдейді. Осы қолжазба бұрын жарияланбаған және қазіргі уақытта басқа басылымда қарастырылып жатқан жоқ.

Қаржыландыру

Жұмыс сыртқы мақсатты қаржыландырусыз орындалды.

Авторлар туралы мәліметтер

Ибрагимова Лилия Николаевна - фармацевтика ғылымдарының кандидаты, қауымдастырылған профессор, С.Д. Асфендияров атындағы Қазақ ұлттық медицина университеті Ғылыми-технологиялық паркінің Фармация және фармакология орталығының басшысы; Алматы қ., Қазақстан Республикасы; e-mail: ibragimova.l@kaznmu.kz; ORCID: https://orcid.org/0000-0002-8381-5330.

Ридванов Чахо Ибрагимович - «Абди Ибрахим Глобал Фарм» ЖШС Жоспарлау және операциялық тиімділік департаментінің басшысы; Алматы қ., Қазақстан Республикасы; e-mail: chakho.ridvanov@aigp.kz; ORCID: https://orcid.org/0009-0003-3689-1757.

Әдебиеттер

  1. U.S. Food and Drug Administration. PAT - A Framework for Innovative Pharmaceutical Development, Manufacturing, and Quality Assurance: Guidance for Industry [Internet]. Silver Spring (MD): FDA; 2004 [cited 2026 Sep 25].
  2. International Council for Harmonisation of Technical Requirements for Pharmaceuticals for Human Use. ICH Q10: Pharmaceutical Quality System [Internet]. Geneva: ICH; 2008 [cited 2026 Sep 25].
  3. International Council for Harmonisation of Technical Requirements for Pharmaceuticals for Human Use. ICH Q9(R1): Quality Risk Management [Internet]. Geneva: ICH; 2023 [cited 2026 Sep 25].
  4. International Council for Harmonisation of Technical Requirements for Pharmaceuticals for Human Use. ICH Q13: Continuous Manufacturing of Drug Substances and Drug Products [Internet]. Geneva: ICH; 2022 [cited 2026 Sep 25].
  5. Arden NS, Fisher AC, Tyner K, Yu LX, Lee SL, Kopcha M. Industry 4.0 for pharmaceutical manufacturing: Preparing for the smart factories of the future. Int J Pharm. 2021;602:120554. doi:10.1016/j.ijpharm.2021.120554.
  6. Nagy B, Galata DL, Farkas A, Nagy ZK. Application of artificial neural networks in the Process Analytical Technology of pharmaceutical manufacturing-a review. AAPS J. 2022;24(4):74. doi:10.1208/s12248-022-00706-0.
  7. Batalha MAB, Pais DAM, Almeida RAE, Martinho ASG. A review of artificial intelligence and machine learning in product life cycle management. PDA J Pharm Sci Technol. 2024;78(5):604-612. doi:10.5731/pdajpst.2023.012922.
  8. Suriyaamporn P, Pamornpathomkul B, Patrojanasophon P, Ngawhirunpat T, Rojanarata T, Opanasopit P. The artificial intelligence-powered new era in pharmaceutical research and development: A review. AAPS PharmSciTech. 2024;25(6):188. doi:10.1208/s12249-024-02901-y.
  9. Huanbutta K, Burapapadh K, Kraisit P, Sriamornsak P, Ganokratanaa T, Suwanpitak K, et al. Artificial intelligence-driven pharmaceutical industry: A paradigm shift in drug discovery, formulation development, manufacturing, quality control, and post-market surveillance. Eur J Pharm Sci. 2024;203:106938. doi:10.1016/j.ejps.2024.106938.
  10. European Commission. EudraLex Volume 4: EU Guidelines for Good Manufacturing Practice. Annex 11: Computerised Systems [Internet]. Brussels: European Commission; 2011 [cited 2026 Sep 25].
  11. U.S. Food and Drug Administration. Considerations for the Use of Artificial Intelligence to Support Regulatory Decision-Making for Drug and Biological Products: Draft Guidance for Industry and Other Interested Parties [Internet]. Silver Spring (MD): FDA; 2025 [cited 2026 Sep 25].
  12. Patel B, Patel J. Validation, ethics, and lifecycle governance of AI and machine learning in GxP applications: A comparative regulatory analysis and integrated framework. AI Ethics. 2026;6:363. doi:10.1007/s43681-026-01218-9.
  13. European Medicines Agency. Reflection paper on the use of Artificial Intelligence (AI) in the medicinal product lifecycle. EMA/CHMP/CVMP/83833/2023 [Internet]. Amsterdam: EMA; 2024 [cited 2026 Sep 25].
  14. U.S. Food and Drug Administration; European Medicines Agency. Guiding Principles of Good AI Practice in Drug Development [Internet]. FDA; EMA; 2026 [cited 2026 Sep 25].
  15. International Society for Pharmaceutical Engineering. GAMP 5: A Risk-Based Approach to Compliant GxP Computerized Systems. 2nd ed. ISPE; 2022.
  16. International Society for Pharmaceutical Engineering. ISPE GAMP Guide: Artificial Intelligence. ISPE; 2025.
  17. U.S. Food and Drug Administration. Artificial Intelligence in Drug Manufacturing: Discussion Paper [Internet]. Silver Spring (MD): FDA; 2023 [cited 2026 Sep 25].
  18. U.S. Food and Drug Administration. Using Artificial Intelligence & Machine Learning in the Development of Drug & Biological Products: Discussion Paper and Request for Feedback [Internet]. Silver Spring (MD): FDA; 2023 [revised 2025 Feb; cited 2026 Sep 25].
  19. U.S. Food and Drug Administration. Purolea Cosmetics Lab - Warning Letter 320-26-58, MARCS-CMS 722591 [Internet]. Silver Spring (MD): FDA; 2026 Apr 2 [cited 2026 Sep 25].
  20. World Health Organization. WHO Guideline on Data Integrity. WHO Technical Report Series No. 1033, Annex 4 [Internet]. Geneva: World Health Organization; 2021 [cited 2026 Sep 25].
  21. Salami H, Smith-Goettler B, Yadav V. How can language models assist with pharmaceuticals manufacturing deviations and investigations? Int J Pharm. 2025;669:125100. doi:10.1016/j.ijpharm.2024.125100.
  22. U.S. Food and Drug Administration. Data Integrity and Compliance With Drug CGMP: Questions and Answers. Guidance for Industry [Internet]. Silver Spring (MD): FDA; 2018 [cited 2026 Sep 25].
  23. European Commission. EudraLex Volume 4: Good Manufacturing Practice Guidelines. Draft Annex 22: Artificial Intelligence [Internet]. Brussels: Directorate-General for Health and Food Safety; 2025 [cited 2026 Sep 25].
  24. Tabassi E. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1 [Internet]. Gaithersburg (MD): National Institute of Standards and Technology; 2023 [cited 2026 Sep 25]. doi:10.6028/NIST.AI.100-1.
  25. Mitchell M, Wu S, Zaldivar A, Barnes P, Vasserman L, Hutchinson B, et al. Model cards for model reporting. In: Proceedings of the Conference on Fairness, Accountability, and Transparency. New York: Association for Computing Machinery; 2019. p. 220-229. doi:10.1145/3287560.3287596.
  26. Gebru T, Morgenstern J, Vecchione B, Vaughan JW, Wallach H, Daumé H III, et al. Datasheets for datasets. Commun ACM. 2021;64(12):86-92. doi:10.1145/3458723.
  27. European Medicines Agency. Good manufacturing practice: Multistakeholder workshop on expert contributions to artificial intelligence guidance development (Annex 22) [Internet]. Amsterdam: EMA; 2026 Jun 30-Jul 1 [cited 2026 Sep 25].