<?xml version="1.0" encoding="UTF-8"?>
<article xmlns:xlink="http://www.w3.org/1999/xlink" article-type="review-article" dtd-version="1.3" xml:lang="ru"><front><journal-meta><journal-id journal-id-type="publisher-id">PSHP</journal-id><journal-title-group><journal-title>Pharmaceutical Sciences and Health Products</journal-title><abbrev-journal-title abbrev-type="publisher">PSHP</abbrev-journal-title></journal-title-group><publisher><publisher-name>S.D. Asfendiyarov Kazakh National Medical University</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="publisher-id">e0003</article-id><article-categories><subj-group subj-group-type="heading"><subject>Review Article</subject></subj-group></article-categories><title-group><article-title>Искусственный интеллект в GxP-регулируемой фармацевтической деятельности: регуляторные требования, валидация, управление данными и рисками</article-title></title-group><contrib-group><contrib contrib-type="author"><string-name>Ридванов Ч.И.</string-name><contrib-id contrib-id-type="orcid" authenticated="false">0009-0003-3689-1757</contrib-id><xref ref-type="aff" rid="aff1"/></contrib><contrib contrib-type="author" corresp="yes"><string-name>Ибрагимова Л.Н.</string-name><contrib-id contrib-id-type="orcid" authenticated="false">0000-0002-8381-5330</contrib-id><xref ref-type="aff" rid="aff2"/><email>ibragimova.l@kaznmu.kz</email></contrib></contrib-group><aff id="aff1">Абди Ибрахим Глобал Фарм, г. Алматы, Республика Казахстан</aff><aff id="aff2">Казахский Национальный медицинский университет им. С.Д. Асфендиярова, г. Алматы, Республика Казахстан</aff><pub-date publication-format="electronic" date-type="pub"><day>29</day><month>09</month><year>2026</year></pub-date><volume>1</volume><issue>1</issue><elocation-id>e0003</elocation-id><history><date date-type="received"><month>07</month><year>2026</year></date></history><permissions><copyright-statement>© Authors. Published by Pharmaceutical Sciences and Health Products under CC BY 4.0.</copyright-statement><copyright-year>2026</copyright-year><license license-type="open-access" xlink:href="https://creativecommons.org/licenses/by/4.0/"><license-p>This article is distributed under the Creative Commons Attribution 4.0 International License.</license-p></license></permissions><abstract><sec><p>Введение. Цифровая трансформация фармацевтической отрасли, развитие Process Analytical Technology (PAT), непрерывного производства и концепции Pharma 4.0 создают условия для расширения применения искусственного интеллекта (Artificial Intelligence, AI) и машинного обучения (Machine Learning, ML) в фармацевтической разработке, производстве, контроле качества и других GxP-регулируемых процессах. Вместе с тем особенности AI/ML-систем требуют адаптации традиционных подходов к валидации, управлению данными, оценке рисков, человеческому контролю и управлению жизненным циклом компьютеризированных систем.</p></sec><sec><p>Цель. Систематизировать современные научные и регуляторные подходы к применению искусственного интеллекта в GxP-регулируемой фармацевтической деятельности и определить ключевые требования к валидации, управлению данными, оценке рисков, человеческому контролю и жизненному циклу AI-систем.</p></sec><sec><p>Материалы и методы. Выполнен аналитический обзор научной литературы и нормативно-регуляторных документов. Анализировали публикации, представленные в базах PubMed/MEDLINE, а также документы FDA, EMA, ICH, European Commission и ISPE. Основное внимание уделяли материалам 2020-2026 гг.; дополнительно включали более ранние основополагающие документы по PAT, фармацевтической системе качества, управлению рисками для качества, компьютеризированным системам и непрерывному производству.</p></sec><sec><p>Результаты. Установлено последовательное развитие регуляторного подхода к AI - от обсуждения возможностей его применения в фармацевтической деятельности к формированию риск-ориентированной модели управления, основанной на четко определенном контексте применения, управлении данными, человеческом контроле, оценке характеристик модели и управлении ее жизненным циклом. Существенным этапом стало опубликование в январе 2026 г. совместных Guiding Principles of Good AI Practice in Drug Development FDA и EMA. Анализ Warning Letter FDA от 2 апреля 2026 г. показал практическое применение действующих требований CGMP к использованию AI при подготовке регулируемой фармацевтической документации. Систематизированы основные области применения AI/ML в жизненном цикле лекарственного средства и предложена авторская трехуровневая риск-ориентированная классификация применения AI в GxP-среде.</p></sec><sec><p>Выводы. Применение искусственного интеллекта не отменяет существующие требования GxP, а расширяет объект контроля за счет данных, модели, ее характеристик, изменений и взаимодействия с пользователем. Для GxP-критичных AI-систем необходимы четко установленный контекст применения, риск-ориентированная валидация, управление данными, документированный человеческий контроль, мониторинг эффективности и управление изменениями на протяжении всего жизненного цикла. Интеграция управления AI в фармацевтическую систему качества и процессы управления рисками является ключевым условием его контролируемого применения в фармацевтической деятельности.</p></sec></abstract><kwd-group kwd-group-type="author"><kwd>искусственный интеллект</kwd><kwd>машинное обучение</kwd><kwd>GxP</kwd><kwd>фармацевтическое производство</kwd><kwd>валидация</kwd><kwd>управление данными</kwd><kwd>целостность данных</kwd><kwd>управление рисками</kwd><kwd>FDA</kwd><kwd>EMA</kwd></kwd-group><self-uri content-type="text/html" xlink:href="https://pshp.sciences.kz/article/artificial-intelligence-gxp-quality-audits/html?lang=ru"/><self-uri content-type="application/pdf" xlink:href="https://pshp.sciences.kz/downloads/articles/2026/1/1/e0003/ru/PSHP_2026_1_1_e0003_RU.pdf"/><custom-meta-group><custom-meta><meta-name>peer-review-model</meta-name><meta-value>Double-blind external peer review</meta-value></custom-meta><custom-meta><meta-name>version</meta-name><meta-value>Version of Record</meta-value></custom-meta><custom-meta><meta-name>jats-validation-status</meta-name><meta-value>preliminary</meta-value></custom-meta></custom-meta-group></article-meta></front><body><sec><title>Введение</title><p>Фармацевтическая разработка и производство в последние десятилетия последовательно переходят от преимущественно эмпирических и дискретных подходов к научно обоснованным, риск-ориентированным и цифровым моделям управления жизненным циклом лекарственного средства. Одним из ранних этапов этой трансформации стало внедрение концепции Process Analytical Technology (PAT), предложенной U.S. Food and Drug Administration (FDA) как система проектирования, анализа и управления производственными процессами посредством своевременного измерения критических показателей сырья, промежуточных материалов и процессов с целью обеспечения качества конечного продукта [1]. В дальнейшем принципы Quality by Design (QbD), управления рисками для качества и фармацевтической системы качества сформировали методологическую основу для более глубокого понимания процессов и перехода от контроля качества преимущественно готового продукта к управлению качеством непосредственно в ходе его создания [2, 3].</p><p>Следующим этапом развития стало внедрение непрерывного производства (continuous manufacturing, CM), технологий реального времени, автоматизированного сбора производственных данных, цифровых двойников, облачных вычислений и взаимосвязанных информационно-производственных систем. Принятие гармонизированного руководства ICH Q13 закрепило научные и регуляторные подходы к разработке, внедрению, эксплуатации и управлению жизненным циклом процессов непрерывного производства лекарственных веществ и лекарственных препаратов [4]. Тем самым цифровые технологии перестали рассматриваться исключительно как вспомогательный инструмент автоматизации отдельных операций и стали элементом современной стратегии управления фармацевтическим производством.</p><p>Совокупность этих технологических преобразований получила развитие в концепции Pharma 4.0, предполагающей интеграцию принципов Industry 4.0 в специфическую регуляторную среду фармацевтической промышленности. Pharma 4.0 связывает автоматизацию, промышленный интернет вещей, роботизированные системы, расширенную аналитику данных, моделирование и искусственный интеллект в единую цифровую экосистему, способную обеспечивать более глубокое понимание производственного процесса и поддержку принятия решений на протяжении жизненного цикла продукта [5, 6]. В отличие от традиционной автоматизации, цифровая зрелость Pharma 4.0 предполагает переход от простого накопления данных к их интерпретации и преобразованию в знания, пригодные для прогнозирования характеристик процесса и качества продукта [5-7]. Arden и соавт. указывают, что технологии Industry 4.0, включая искусственный интеллект, роботизацию и современные вычислительные средства, способны существенно изменить традиционные подходы к фармацевтическому производству, повышая его гибкость, эффективность и управляемость [5].</p><p>Особую роль в этом переходе приобретают технологии искусственного интеллекта (artificial intelligence, AI) и машинного обучения (machine learning, ML). Их использование уже выходит за пределы классических задач поиска новых молекул и распространяется на разработку составов и технологических процессов, анализ взаимосвязей между критическими параметрами процесса и критическими показателями качества, прогнозирование характеристик лекарственных форм, управление непрерывным производством, Process Analytical Technology, контроль и обеспечение качества, выявление отклонений, прогнозное техническое обслуживание оборудования, фармаконадзор и обработку данных реальной клинической практики [7-9]. Возможность ML-моделей выявлять нелинейные зависимости в многомерных массивах технологических данных делает их особенно перспективными для PAT и для построения интеллектуальных систем мониторинга и управления фармацевтическими процессами [6, 8].</p><p>Однако переход от традиционных программных решений к AI/ML одновременно создает принципиально новую проблему для GxP-регулируемой среды. Требования к компьютеризированным системам исторически основываются на возможности определить их предполагаемое назначение, документировать требования, продемонстрировать соответствие системы заданным спецификациям, контролировать конфигурацию и изменения, обеспечивать целостность данных и подтверждать сохранение системы в валидированном состоянии на протяжении ее жизненного цикла [10]. Для GMP-критичных компьютеризированных систем изменения должны осуществляться контролируемым образом, а сама система подлежит периодической оценке для подтверждения сохранения валидированного состояния [10]. Аналогично современные подходы к управлению фармацевтическими рисками предусматривают применение риск-ориентированного контроля к цифровым технологиям, компьютеризированным системам и методам расширенного анализа данных [3].</p><p>Не все AI-системы являются самоизменяющимися или недетерминированными, однако ряд характеристик современных ML-моделей существенно осложняет применение к ним традиционной парадигмы валидации программного обеспечения. Результат работы таких систем зависит не только от программного кода, но и от состава и качества обучающих данных, выбора признаков, архитектуры модели, параметров обучения, контекста применения и последующих изменений модели. При повторном обучении модель может изменять закономерности принятия решений без традиционного изменения явно заданных программных правил. Для генеративного искусственного интеллекта дополнительное значение имеют стохастический характер формирования ответа, чувствительность результата к формулировке входного запроса и возможность формирования фактически некорректного, но внешне правдоподобного содержания. Таким образом, в GxP-среде возникает необходимость подтверждать не только техническую работоспособность программной системы, но и пригодность данных, эффективность модели в конкретном context of use, устойчивость ее характеристик во времени, прослеживаемость изменений и адекватность человеческого контроля [11, 12].</p><p>Данное противоречие становится особенно существенным в тех случаях, когда результат AI-модели используется для принятия решений, способных прямо или косвенно влиять на качество лекарственного средства, безопасность пациента или достоверность регуляторных доказательств. Например, модель может участвовать в прогнозировании критических показателей качества, интерпретации аналитических данных, выявлении OOS/OOT-тенденций, оптимизации технологических параметров или формировании документов фармацевтической системы качества. В таких ситуациях недостаточно подтвердить только математическую точность модели: требуется оценить последствия ошибочного результата, качество и репрезентативность исходных данных, возможность смещения (bias), интерпретируемость результата, процедуры человеческой проверки, управление версиями модели, мониторинг снижения ее эффективности (model drift) и порядок внесения изменений в течение жизненного цикла системы. Эта логика согласуется с общим принципом ICH Q9(R1), согласно которому уровень формальности и глубина управления рисками должны соответствовать значимости риска для качества [3].</p><p>Регуляторные органы постепенно переходят от общего обсуждения потенциала AI к формированию специальных требований и принципов его ответственного использования. В сентябре 2024 г. European Medicines Agency (EMA) приняло Reflection paper on the use of Artificial Intelligence (AI) in the medicinal product lifecycle, распространяющий рассмотрение AI/ML на различные этапы жизненного цикла лекарственного средства - от разработки до пострегистрационного применения. EMA обращает внимание на риски, связанные с непрозрачностью моделей, качеством данных, возможным смещением, техническими отказами и необходимостью человекоцентричного подхода [13].</p><p>В январе 2025 г. FDA опубликовало проект руководства Considerations for the Use of Artificial Intelligence to Support Regulatory Decision-Making for Drug and Biological Products, предложив риск-ориентированную схему оценки достоверности AI-модели в зависимости от конкретного контекста ее применения. Принципиально важным элементом данного подхода стало понятие context of use (COU): одна и та же модель не может рассматриваться как абстрактно «валидированная» независимо от того, для какой задачи она применяется и какое влияние ее результат оказывает на регуляторное решение [11]. FDA указывает, что предлагаемая схема должна обеспечивать установление и оценку достаточной достоверности модели именно для заявленного контекста применения.</p><p>Новый этап регуляторной конвергенции был обозначен в январе 2026 г., когда FDA и EMA совместно сформулировали Guiding Principles of Good AI Practice in Drug Development. Десять принципов распространяются на использование AI при формировании и анализе доказательств на протяжении жизненного цикла лекарственного средства, включая доклинический и клинический этапы, производство, пострегистрационное наблюдение и фармаконадзор. К числу ключевых положений отнесены человекоцентричность, риск-ориентированный подход, четко определенный контекст применения, междисциплинарная экспертиза, управление данными и документацией, надлежащая разработка модели, риск-ориентированная оценка ее эффективности и управление всем жизненным циклом AI-технологии [14]. Следовательно, регуляторная дискуссия смещается от вопроса о допустимости применения искусственного интеллекта в фармацевтической деятельности к вопросу о том, каким образом доказать контролируемость, достоверность и приемлемый уровень риска AI-системы в конкретном GxP-контексте.</p><p>Одновременно профессиональные руководства также отражают изменение подходов к компьютеризированным системам. Второе издание GAMP 5 уже включило отдельные положения, посвященные AI/ML, а в 2025 г. International Society for Pharmaceutical Engineering (ISPE) опубликовало специализированное GAMP Guide: Artificial Intelligence, ориентированное на разработку, эксплуатацию и поддержание AI-enabled computerized systems в GxP-регулируемых процессах с сохранением требований к безопасности пациента, качеству продукта и целостности данных [15, 16]. Это свидетельствует о формировании отдельной методологии жизненного цикла AI-систем, выходящей за рамки классической computerised system validation.</p><p>Несмотря на быстро растущее число публикаций об использовании AI в разработке лекарственных средств, производстве и контроле качества, значительная часть литературы сосредоточена преимущественно на технологических возможностях отдельных алгоритмов или конкретных областях их применения [6-9]. В последние годы появились работы, рассматривающие управление AI/ML в GxP-среде и особенности их валидации [12], однако быстрое развитие регуляторной базы в 2024-2026 гг., появление специализированного руководства GAMP по AI и совместных принципов FDA-EMA обусловливают необходимость актуального интегрированного анализа. Особенно значимым остается вопрос практического перевода высокоуровневых принципов - human-centric design, risk-based approach, context of use, data governance и lifecycle management - в конкретные требования к квалификации, валидации, документированию, мониторингу и управлению изменениями AI-систем в фармацевтической деятельности.</p><p>Целью настоящего обзора является систематизация современных научных и регуляторных подходов к применению искусственного интеллекта в GxP-регулируемой фармацевтической деятельности с анализом эволюции цифровых технологий от PAT и непрерывного производства к Pharma 4.0 и AI/ML; сопоставлением актуальных требований FDA, EMA, ICH и GAMP; определением ключевых требований к контексту применения, данным, валидации, оценке производительности, человеческому контролю и управлению жизненным циклом AI-систем; а также выявлением нерешенных вопросов и направлений дальнейшего формирования надлежащей практики применения искусственного интеллекта в фармацевтической разработке, производстве и обеспечении качества.</p></sec><sec><title>Материалы и методы</title><p>Работа выполнена в формате аналитического обзора научной литературы и нормативно-регуляторных документов, посвященных применению искусственного интеллекта (Artificial Intelligence, AI) и машинного обучения (Machine Learning, ML) в GxP-регулируемой фармацевтической деятельности.</p><p>Для подготовки обзора использовали научные публикации, представленные в международных библиографических и реферативных базах данных PubMed/MEDLINE, а также официальные нормативные, регуляторные и методические документы U.S. Food and Drug Administration (FDA), European Medicines Agency (EMA), International Council for Harmonisation of Technical Requirements for Pharmaceuticals for Human Use (ICH), European Commission и International Society for Pharmaceutical Engineering (ISPE) [1-4, 10, 11, 13-16, 23].</p><p>Основное внимание уделяли научным публикациям и регуляторным документам, опубликованным в 2020-2026 гг. Более ранние источники включали в анализ в тех случаях, когда они имели основополагающее значение для формирования современных подходов к фармацевтической разработке и производству, включая концепции Process Analytical Technology (PAT) [1], фармацевтической системы качества [2], управления рисками для качества [3], компьютеризированных систем [10] и непрерывного производства [4]. Поиск и актуализация научных и регуляторных источников были завершены 25 сентября 2026 г.</p><p>Поиск научной литературы проводили с использованием ключевых слов и их сочетаний на английском языке: “artificial intelligence”, “machine learning”, “pharmaceutical manufacturing”, “GxP”, “GMP”, “pharmaceutical quality”, “validation”, “data integrity”, “quality risk management”, “process analytical technology”, “continuous manufacturing”, “Pharma 4.0”, “regulatory decision-making”, “Good AI Practice”, “context of use”, “AI lifecycle management”, “human oversight”, “generative AI”.</p><p>В обзор включали публикации, посвященные применению AI/ML в фармацевтической разработке, производстве, контроле и обеспечении качества лекарственных средств, а также исследования и аналитические материалы, рассматривающие вопросы валидации AI-систем, качества и управления данными, оценки рисков, интерпретируемости моделей, человеческого контроля и управления жизненным циклом AI/ML-технологий [6-9, 12].</p><p>Отдельный массив анализируемых материалов составили официальные регуляторные документы. При их рассмотрении учитывали организацию-разработчика, дату публикации, статус документа, область применения и этап жизненного цикла лекарственного средства, к которому относятся соответствующие положения. Особое внимание уделяли документам FDA и EMA, отражающим развитие регуляторных подходов к использованию AI в разработке лекарственных средств и при принятии регуляторных решений [11, 13,14, 23], а также руководствам GAMP, посвященным компьютеризированным и AI-enabled системам в GxP-регулируемой среде [15, 16].</p><p>При сравнительном анализе нормативных и научных источников основные положения систематизировали по следующим направлениям: контекст применения (context of use), риск-ориентированный подход, человекоцентричность и human oversight, качество и происхождение данных, data governance, разработка и валидация моделей, оценка производительности, документирование и прослеживаемость, управление изменениями, мониторинг эффективности и управление жизненным циклом AI-систем [3, 11-16].</p><p>Полученные данные подвергали качественному сравнительному анализу и систематизировали с учетом эволюции цифровых технологий в фармацевтической отрасли - от PAT и непрерывного производства к Pharma 4.0 и применению AI/ML - а также современных требований к обеспечению качества, управлению рисками, данным и жизненному циклу AI-систем в GxP-регулируемой деятельности [1, 3-6, 12-16].</p></sec><sec><title>Результаты</title><p>Проведенный анализ научной литературы и нормативно-регуляторных документов позволил выделить несколько взаимосвязанных направлений развития подходов к применению искусственного интеллекта в фармацевтической деятельности: формирование специализированной регуляторной базы; определение принципов надлежащего применения AI; расширение областей его использования на различных этапах жизненного цикла лекарственного средства; развитие требований к данным, валидации и управлению жизненным циклом AI-систем; а также появление первых примеров применения существующих требований CGMP к фактическому использованию AI в фармацевтическом производстве.</p></sec><sec><title>Эволюция регуляторных подходов к использованию искусственного интеллекта в фармацевтической деятельности</title><p>Анализ документов FDA, EMA и ISPE показал последовательное развитие регуляторного подхода от обсуждения потенциальных возможностей и рисков AI/ML к формированию конкретных принципов оценки достоверности моделей, управления их жизненным циклом и применения в GxP-регулируемой среде.</p><p>В 2023 г. FDA опубликовало два специализированных дискуссионных документа, относящихся к использованию AI/ML в фармацевтической сфере. В документе Artificial Intelligence in Drug Manufacturing были обозначены вопросы применения AI в фармацевтическом производстве, включая управление моделями, стандарты, облачные приложения, подходы к валидации и поддержанию моделей на протяжении их жизненного цикла [17]. В мае 2023 г. FDA также опубликовало Using Artificial Intelligence &amp; Machine Learning in the Development of Drug &amp; Biological Products, охватывающее применение AI/ML в исследованиях и разработке лекарственных средств и биологических продуктов [18]. Оба документа имели дискуссионный характер и использовались для сбора обратной связи от заинтересованных сторон.</p><p>В сентябре 2024 г. EMA утвердило Reflection paper on the use of Artificial Intelligence (AI) in the medicinal product lifecycle, распространяющий рассмотрение AI и ML на все стадии жизненного цикла лекарственного средства - от discovery и доклинической разработки до клинических исследований, производства и пострегистрационного периода [13]. Документ связывает степень необходимого контроля с риском применения конкретной AI/ML-системы и потенциальным влиянием ее результатов на качество, безопасность и эффективность лекарственного средства.</p><p>Следующим этапом стало опубликованное FDA в январе 2025 г. проектное руководство Considerations for the Use of Artificial Intelligence to Support Regulatory Decision-Making for Drug and Biological Products [11]. В отличие от более ранних дискуссионных документов, в нем предложена структурированная риск-ориентированная схема оценки достоверности AI-модели для определенного context of use (COU). Таким образом, оценка модели связывается не только с ее техническими характеристиками, но и с конкретной ролью результата модели в формировании доказательств в отношении качества, безопасности или эффективности лекарственного средства [11].</p><p>Важным этапом развития европейского регуляторного подхода стало опубликование в 2025 г. проекта нового EU GMP Annex 22 “Artificial Intelligence”, подготовленного в рамках пересмотра EudraLex Volume 4 совместно с обновлением Chapter 4 и Annex 11. Проект Annex 22 устанавливает специальные требования к применению искусственного интеллекта и машинного обучения при производстве активных фармацевтических субстанций и лекарственных препаратов. В документе особое внимание уделено определению предполагаемого назначения модели (intended use), качеству данных для обучения, процедурам обучения и валидации, установлению показателей эффективности, управлению тестовыми данными, контролю изменений, мониторингу характеристик модели и процедурам человеческой проверки. На момент подготовки настоящего обзора Annex 22 имеет статус проекта и не является действующим приложением EU GMP [23].</p><p>В 2025 г. был опубликован специализированный ISPE GAMP Guide: Artificial Intelligence, предусматривающий применение принципов GAMP к AI-enabled computerized systems в GxP-регулируемых процессах [16]. Руководство рассматривает жизненный цикл AI-системы, распределение ответственности между регулируемой организацией и поставщиками, управление рисками, эксплуатационный мониторинг и поддержание системы в состоянии, пригодном для предусмотренного применения.</p><p>В январе 2026 г. FDA и EMA впервые представили совместный документ Guiding Principles of Good AI Practice in Drug Development, содержащий десять согласованных принципов использования AI для генерации и анализа доказательств на протяжении жизненного цикла лекарственного средства [14]. Область документа включает доклинический и клинический этапы, производство и пострегистрационную деятельность.</p><p>Основные этапы развития регуляторного подхода представлены в таблице 1.</p><table-wrap><caption><title>Таблица 1 - Эволюция регуляторных подходов к применению AI в фармацевтической деятельности</title></caption><table><thead><tr><th>Год</th><th>Организация</th><th>Документ</th><th>Область применения</th><th>Основные положения</th></tr></thead><tbody><tr><td>2023</td><td>FDA</td><td>Artificial Intelligence in Drug Manufacturing</td><td>Фармацевтическое производство</td><td>AI в производстве, жизненный цикл модели, стандарты, облачные приложения, вопросы регуляторного надзора [17]</td></tr><tr><td>2023</td><td>FDA</td><td>Using Artificial Intelligence &amp; Machine Learning in the Development of Drug &amp; Biological Products</td><td>Разработка лекарственных и биологических продуктов</td><td>Возможности и риски AI/ML в разработке лекарств; управление под руководством человека; качество и надежность данных [18]</td></tr><tr><td>2024</td><td>EMA</td><td>Reflection paper on the use of AI in the medicinal product lifecycle</td><td>Весь жизненный цикл лекарственного средства</td><td>Риск-ориентированный подход, данные, прозрачность, контроль человеком, оценка моделей [13]</td></tr><tr><td>2025</td><td>FDA</td><td>Considerations for the Use of AI to Support Regulatory Decision-Making for Drug and Biological Products</td><td>Данные и информация для регуляторных решений</td><td>Контекст применения; риск модели; риск-ориентированная оценка достоверности [11]</td></tr><tr><td>2025</td><td>European Commission / EMA GMDP Inspectors Working Group / PIC/S</td><td>Draft EU GMP Annex 22 – Artificial Intelligence</td><td>AI/ML в производстве активных субстанций и лекарственных препаратов</td><td>Предполагаемое назначение, обучающие данные, валидация, показатели результативности, контроль изменений, мониторинг модели, проверка человеком [23]</td></tr><tr><td>2025</td><td>ISPE</td><td>GAMP Guide: Artificial Intelligence</td><td>Компьютеризированные системы с ИИ в GxP</td><td>Управление рисками, жизненным циклом, поставщиками и эксплуатационным контролем [16]</td></tr><tr><td>2026</td><td>FDA–EMA</td><td>Guiding Principles of Good AI Practice in Drug Development</td><td>Весь жизненный цикл лекарственного средства</td><td>Десять общих принципов Good AI Practice [14]</td></tr></tbody></table></table-wrap><p>Последовательность документов демонстрирует расширение регулируемого контекста: от отдельных вопросов использования AI в производстве и разработке лекарственных средств в 2023 г. к рассмотрению полного жизненного цикла лекарственного продукта и AI-технологии в 2024-2026 гг. [11, 13, 14, 16-18].</p></sec><sec><title>Принципы Good AI Practice FDA-EMA</title><p>Совместный документ FDA и EMA 2026 г. включает десять принципов надлежащей практики использования искусственного интеллекта. Анализ показал, что они охватывают не только непосредственно разработку и тестирование математической модели, но также человеческий контроль, качество данных, организационную ответственность, соответствие применимым стандартам и управление AI-технологией на протяжении всего жизненного цикла [14].</p><p>Первым принципом является Human-centric by design - разработка и применение AI должны соответствовать этическим и человекоцентричным ценностям. Принцип не предполагает исключения специалиста из процесса принятия решений и рассматривает взаимодействие человека с AI как элемент общей системы [14].</p><p>Второй принцип - Risk-based approach - предусматривает соразмерность валидации, мер по снижению риска и надзора установленному риску модели и конкретному контексту ее применения. Данный подход согласуется с общими принципами Quality Risk Management, установленными ICH Q9(R1) [3, 14].</p><p>Третий принцип - Adherence to standards - предусматривает соответствие AI-технологий применимым юридическим, этическим, техническим, научным, кибербезопасностным и регуляторным стандартам, включая GxP [14].</p><p>Четвертый принцип - Clear context of use - требует четкого определения роли и области применения AI-системы. Понятие context of use также занимает центральное место в проектном руководстве FDA 2025 г., где именно от контекста применения и связанного с ним риска зависит требуемая степень подтверждения достоверности модели [11, 14].</p><p>Пятый принцип - Multidisciplinary expertise - предусматривает участие специалистов, обладающих компетенциями как в области AI-технологий, так и в соответствующей предметной области, на протяжении жизненного цикла системы [14].</p><p>Шестой принцип - Data governance and documentation - предусматривает документирование происхождения данных, этапов их обработки и аналитических решений таким образом, чтобы информация была прослеживаемой и проверяемой. Дополнительно устанавливается необходимость соответствующего управления конфиденциальностью и защитой чувствительных данных [14].</p><p>Седьмой принцип - Model design and development practices - связывает надлежащую разработку AI с применением соответствующих практик model/system design и software engineering, использованием данных, пригодных для заявленного назначения, а также оценкой интерпретируемости, объяснимости и прогностических характеристик модели [14].</p><p>Восьмой принцип - Risk-based performance assessment - предусматривает оценку не только изолированной модели, но всей системы, включая взаимодействие человека с AI. Используемые данные и показатели эффективности должны соответствовать заявленному context of use, а прогностические характеристики подтверждаться посредством заранее определенных методов тестирования и оценки [14].</p><p>Девятый принцип - Life cycle management - предусматривает применение риск-ориентированной системы управления качеством на протяжении всего жизненного цикла AI-технологии, включая плановый мониторинг и периодическую переоценку ее характеристик, в том числе при изменении распределения данных (data drift) [14].</p><p>Десятый принцип - Clear, essential information - устанавливает необходимость предоставления целевой аудитории доступной информации о назначении AI, его характеристиках, ограничениях, исходных данных, обновлениях, а также интерпретируемости или объяснимости результатов [14].</p><p>Систематизация этих положений представлена в таблице 2.</p><table-wrap><caption><title>Таблица 2 - Основные принципы Good AI Practice FDA-EMA и связанные с ними элементы контроля</title></caption><table><thead><tr><th>№</th><th>Принцип</th><th>Основное содержание</th><th>Элементы контроля в GxP-контексте</th></tr></thead><tbody><tr><td>1</td><td>Ориентация на человека при проектировании</td><td>Человекоцентричность разработки и использования AI</td><td>Контроль человеком, распределение ответственности</td></tr><tr><td>2</td><td>Риск-ориентированный подход</td><td>Контроль пропорционален риску модели и контекст применения</td><td>Оценка риска, объем валидации, меры контроля</td></tr><tr><td>3</td><td>Соблюдение стандартов</td><td>Соответствие применимым требованиям и стандартам</td><td>GxP, законодательство, кибербезопасность, технические стандарты</td></tr><tr><td>4</td><td>Ясный контекст применения</td><td>Четкое определение роли и области применения модели</td><td>Предполагаемое назначение, границы применения, влияние результат ИИ</td></tr><tr><td>5</td><td>Междисциплинарная экспертиза</td><td>Использование междисциплинарных компетенций</td><td>AI/ML, GxP, статистика, предметные эксперты</td></tr><tr><td>6</td><td>Управление данными и документирование</td><td>Прослеживаемость происхождения и обработки данных</td><td>Происхождение данных, документация, конфиденциальность, защита данных</td></tr><tr><td>7</td><td>Практики проектирования и разработки модели</td><td>Надлежащая разработка модели и системы</td><td>Данные, пригодные для задачи, устойчивость, обобщаемость, объяснимость</td></tr><tr><td>8</td><td>Риск-ориентированная оценка характеристик</td><td>Оценка характеристик всей системы</td><td>Валидация, тестирование, показатели результативности, взаимодействие человека и ИИ</td></tr><tr><td>9</td><td>Управление жизненным циклом</td><td>Управление системой после внедрения</td><td>Мониторинг, периодическая оценка, управление изменениями, дрейф данных</td></tr><tr><td>10</td><td>Ясная существенная информация</td><td>Доступность значимой информации о технологии</td><td>Назначение, ограничения, данные, обновления, объяснимость</td></tr></tbody></table></table-wrap><p>Таким образом, в совместном документе FDA-EMA объектом контроля является не только алгоритм как таковой, а совокупность взаимосвязанных элементов: модель, используемые данные, контекст применения, пользователь, программная среда и процессы управления на протяжении жизненного цикла [14].</p></sec><sec><title>Области применения искусственного интеллекта в жизненном цикле лекарственных средств</title><p>Анализ научных публикаций показал, что применение AI/ML в фармацевтической сфере охватывает несколько этапов жизненного цикла лекарственного средства [5-9].</p><p>На этапе фармацевтической разработки AI/ML применяются для анализа многомерных экспериментальных данных, выявления взаимосвязей между составом, технологическими параметрами и характеристиками лекарственной формы, оптимизации рецептур, прогнозирования физико-химических и биофармацевтических характеристик и поддержки QbD-подходов [5-9].</p><p>В области фармацевтического производства AI рассматривается в сочетании с PAT, непрерывным производством и расширенной аналитикой данных. Описаны подходы к прогнозированию Critical Quality Attributes (CQA) на основании Critical Process Parameters (CPP), выявлению отклонений технологического процесса, оптимизации параметров оборудования, predictive maintenance и поддержке real-time process monitoring [5, 6, 9].</p><p>В контроле качества методы машинного обучения используются при обработке сложных аналитических данных, включая спектроскопическую и хроматографическую информацию, распознавание изображений, классификацию образцов и выявление аномальных результатов [6, 7, 9].</p><p>На этапах доклинической и клинической разработки AI используется для анализа больших массивов данных, идентификации закономерностей и биомаркеров, моделирования характеристик кандидатов, поддержки отбора пациентов и анализа клинических данных [8, 9, 13].</p><p>В фармаконадзоре и пострегистрационной деятельности потенциальные области применения включают автоматизированную обработку сообщений о нежелательных реакциях, поиск сигналов безопасности, анализ неструктурированной информации и real-world data [7-9, 13, 14].</p><p>Отдельным направлением является применение generative AI и больших языковых моделей (Large Language Models, LLM) при работе с текстовой информацией и документацией. К потенциальным задачам относятся подготовка проектов процедур, спецификаций, отчетов, резюме документов и других текстовых материалов. При этом фактический пример применения generative AI в фармацевтическом производстве, зафиксированный FDA в 2026 г., показал использование AI для подготовки спецификаций, процедур и master production or control records [19].</p><p>Основные направления применения AI представлены в таблице 3.</p><table-wrap><caption><title>Таблица 3 - Основные области применения AI/ML в жизненном цикле лекарственного средства</title></caption><table><thead><tr><th>Область</th><th>Возможные задачи AI/ML</th><th>Связанные GxP-аспекты</th></tr></thead><tbody><tr><td>Фармацевтическая разработка</td><td>Оптимизация состава, анализ DoE, прогнозирование характеристик лекарственной формы</td><td>QbD, управление знаниями, валидация модели</td></tr><tr><td>Производство</td><td>PAT, прогноз CQA, мониторинг CPP, обнаружение отклонений, прогнозное техническое обслуживание</td><td>GMP, валидация процесса, контроль изменений</td></tr><tr><td>Контроль качества</td><td>Анализ спектров, хроматограмм и изображений, классификация результатов, выявление аномалий</td><td>Целостность данных, характеристики аналитической методики</td></tr><tr><td>Клиническая разработка</td><td>Анализ данных, биомаркеры, стратификация пациентов</td><td>GCP, качество данных, достоверность модели</td></tr><tr><td>Фармаконадзор</td><td>Выявление сигналов, анализ сообщений и неструктурированных данных</td><td>GVP, прослеживаемость, проверка человеком</td></tr><tr><td>GxP-документация</td><td>Подготовка проектов SOP, спецификации, записи и других документов</td><td>Проверка человеком, надзор подразделения качества, управление документацией</td></tr></tbody></table></table-wrap></sec><sec><title>Требования к валидации, данным и управлению жизненным циклом AI-систем</title><p>Сопоставление рассматриваемых документов показало, что регуляторные и профессиональные подходы сходятся по нескольким основным направлениям контроля AI-систем [3, 10, 11, 13-17].</p><p>Первым является определение intended use и context of use. FDA связывает оценку достоверности AI-модели с конкретной ролью, которую ее результат играет в принятии решения. Следовательно, характеристики модели оцениваются применительно к конкретной задаче, а не независимо от условий ее использования [11].</p><p>Вторым направлением является риск-ориентированная валидация (risk-based validation). Необходимый объем проверки модели и системы должен соотноситься с уровнем риска, связанным с ее использованием [3, 11, 14]. В совместных принципах FDA-EMA подчеркивается необходимость соразмерности валидации, мер по снижению риска и надзора конкретному контексту применения и уровню риска модели [14]. Сходный подход отражен в проекте EU GMP Annex 22 “Artificial Intelligence”, предусматривающем установление предполагаемого назначения AI-модели, требований к качеству обучающих данных, процедурам обучения и валидации, показателям эффективности и тестовым данным. Проект также предусматривает непрерывный надзор за AI-системой, включая управление изменениями, мониторинг характеристик модели и процедуры человеческой проверки при необходимости [23].</p><p>Третьим компонентом является управление данными. Для AI-моделей существенное значение имеют происхождение данных, операции предварительной обработки, аналитические решения, пригодность данных для предполагаемой задачи и возможность их прослеживания [13, 14]. Data governance при этом рассматривается на протяжении всего жизненного цикла AI-системы.</p><p>Четвертое направление включает оценку характеристик модели и всей системы. FDA-EMA предусматривают использование показателей, соответствующих заявленному контексту применения, и тестирование прогностических характеристик модели с использованием пригодных для этой цели данных [14]. При этом объектом performance assessment является полная система, включая взаимодействие AI с пользователем.</p><p>Пятым направлением является управление изменениями и непрерывный мониторинг. В отличие от однократной проверки модели перед внедрением, современные подходы предусматривают наблюдение за ее характеристиками после начала эксплуатации, периодическую переоценку и учет изменений данных, включая data drift [14, 16]. Эти требования дополняют традиционные положения о change control и periodic evaluation компьютеризированных систем [10].</p><p>Шестым компонентом является human oversight. В анализируемых документах человек сохраняется как элемент контролируемой AI-системы. Его роль зависит от контекста применения, риска модели и характера принимаемого решения [11, 13, 14, 16].</p></sec><sec><title>Применение требований CGMP к использованию AI: Warning Letter FDA 2026 г.</title><p>В ходе анализа регуляторных материалов выявлен опубликованный FDA 2 апреля 2026 г. Warning Letter № 320-26-58 в отношении Purolea Cosmetics Lab, содержащий отдельный раздел “Inappropriate Use of Artificial Intelligence in Pharmaceutical Manufacturing” [19].</p><p>Согласно данным FDA, во время инспекции производитель сообщил об использовании AI agents для подготовки спецификаций лекарственных препаратов, процедур, а также master production or control records [19]. FDA установило, что AI-generated документы не были надлежащим образом проверены на точность и фактическое соответствие требованиям CGMP.</p><p>В Warning Letter указано, что при использовании AI как вспомогательного инструмента при создании документов организация должна проверять сгенерированные материалы на точность и соответствие CGMP; отсутствие такого контроля было связано FDA с нарушением 21 CFR 211.22(c) [19].</p><p>Дополнительно инспекторы установили отсутствие process validation перед выпуском препаратов в обращение. В ответ представитель компании указал, что не знал о соответствующем требовании, поскольку используемый AI-agent не сообщил о его необходимости [19].</p><p>FDA также определило требования на случай возобновления производства: если AI используется при выполнении CGMP-деятельности, включая разработку процедур и спецификаций, результаты или рекомендации AI должны проходить проверку и утверждение уполномоченным представителем Quality Unit [19].</p><p>Таким образом, данный документ представляет собой зафиксированный пример применения существующих требований CGMP к практическому использованию AI непосредственно в фармацевтическом производстве.</p></sec><sec><title>Обсуждение</title><p>Полученные результаты показывают, что современный этап внедрения искусственного интеллекта в фармацевтическую деятельность характеризуется переходом от преимущественно экспериментального использования отдельных AI/ML-инструментов к формированию системы их регуляторного и качественного управления. Появление совместных принципов FDA и EMA свидетельствует о включении искусственного интеллекта в повестку регулирования GxP. Проведенный анализ в целом подтверждает эту тенденцию, однако требует важного уточнения: опубликованные в январе 2026 г. Guiding Principles of Good AI Practice in Drug Development не следует интерпретировать как самостоятельное «разрешение» на использование AI в GxP или как ослабление действующих требований. Документ формулирует принципы, в соответствии с которыми применение AI должно быть организовано таким образом, чтобы не снижать требования к качеству, эффективности, безопасности и достоверности генерируемой информации [14].</p><p>Таким образом, принципиальное изменение состоит не в отмене традиционных GxP-подходов, а в расширении объекта контроля. Если для классической компьютеризированной системы основное внимание уделяется соответствию утвержденным требованиям, функциональному тестированию, управлению конфигурацией, доступом и изменениями, то для AI-систем дополнительно возникает необходимость контролировать данные, на которых модель обучалась и тестировалась, параметры и версию модели, границы применимости, показатели ее работы, взаимодействие с пользователем и изменение эффективности во времени [10, 12, 14, 16]. Именно поэтому традиционное понятие computerized system validation не может автоматически и без адаптации охватывать все особенности AI/ML.</p></sec><sec><title>Валидация AI как управление доказательствами на протяжении жизненного цикла</title><p>Для традиционной детерминированной компьютеризированной системы ожидаемый результат обычно может быть заранее определен для заданного набора входных условий. При использовании ML, а особенно генеративных моделей, подобная логика существенно усложняется. Результат зависит не только от программного кода, но также от обучающих данных, архитектуры модели, параметров ее настройки и фактической среды эксплуатации. Для generative AI дополнительными факторами становятся вариабельность выходных данных, чувствительность к формулировке запроса и возможность получения правдоподобного по форме, но фактически неверного результата [12].</p><p>Поэтому применительно к AI более корректно говорить не об однократном подтверждении того, что система была «валидирована», а о поддержании валидированного и контролируемого состояния на протяжении жизненного цикла. Такой подход требует определения intended use и context of use, предварительного установления критериев приемлемости, оценки модели на независимых данных, контроля изменений и периодического подтверждения того, что ее характеристики остаются приемлемыми для первоначально определенной задачи [11, 14, 16].</p><p>Особенно значимой становится проблема model drift/data drift. Даже если первоначальная производительность модели соответствует установленным критериям, изменение характеристик входных данных, производственного процесса, оборудования, сырья или пользовательского поведения способно постепенно снижать достоверность ее результатов. Именно поэтому life cycle management и периодический мониторинг включены FDA-EMA в число самостоятельных принципов Good AI Practice [14]. Это отличает AI governance от подхода, при котором модель проверяется только перед внедрением и далее рассматривается как неизменная программная функция.</p></sec><sec><title>Data governance и Data Integrity как основа надежности AI</title><p>Вторым фундаментальным вопросом является качество данных. Для AI-систем традиционное утверждение о том, что качество результата зависит от качества исходных данных, приобретает непосредственное GxP-значение. Недостаточно репрезентативные, неполные, ошибочные или неконтролируемо модифицированные данные способны приводить к систематически ошибочным результатам даже при технически корректной реализации алгоритма.</p><p>В этой связи требования к AI целесообразно рассматривать совместно с принципами Data Integrity. Руководство WHO определяет достоверные GxP-данные через принципы ALCOA+: Attributable, Legible, Contemporaneous, Original, Accurate, а также Complete, Consistent, Enduring и Available [20]. WHO также прямо связывает управление данными с системой качества и требует применения риск-ориентированного подхода на протяжении жизненного цикла данных [20].</p><p>Для AI эта концепция должна распространяться не только на конечный электронный документ или результат анализа, но и на происхождение данных (data provenance), подготовку training/validation/test datasets, преобразования данных, версии датасетов, настройки модели и историю ее изменений. В случае AI-generated GxP-records дополнительно должен быть определен источник исходной информации, пользователь, инициировавший генерацию, версия модели, результат AI, проведенная человеком проверка и окончательно утвержденная версия документа. Иначе становится затруднительным установить происхождение решения и обеспечить полноценную прослеживаемость.</p><p>Такой подход соответствует позиции FDA в отношении data integrity: все данные, используемые в CGMP-деятельности, должны быть надежными и точными, а меры по предотвращению и выявлению нарушений целостности данных должны определяться на основе риска [22].</p></sec><sec><title>Human-in-the-loop: не формальное присутствие человека, а реальный контроль</title><p>Важное значение имеют человекоцентричность и сохранение итоговой ответственности квалифицированного специалиста. Однако результаты анализа позволяют дополнительно уточнить понятие human-in-the-loop. Наличие человека в технологическом процессе само по себе не гарантирует контроля AI-системы. Если сотрудник автоматически принимает сгенерированный системой результат, не располагая достаточной информацией или компетенциями для его проверки, human oversight становится формальным.</p><p>В GxP-контексте человеческий контроль должен включать как минимум понимание назначения AI-системы, ее ограничений и известных failure modes, наличие доступа к исходной информации, необходимой для проверки результата, полномочия отклонить рекомендацию AI и документирование критических решений. Уровень и глубина такого контроля должны возрастать по мере увеличения потенциального влияния AI-output на качество продукта, безопасность пациента или регуляторное решение [11, 14, 16].</p><p>Особую актуальность этот вопрос приобретает при использовании генеративного AI и LLM. Исследование Salami et al. показало перспективность языковых моделей при анализе фармацевтических производственных отклонений и извлечении информации из deviation reports, однако авторы одновременно выявили сочетание выраженной способности моделей к обработке информации с риском hallucination [21]. Поэтому высокая языковая убедительность результата не может рассматриваться как доказательство его фактической достоверности.</p></sec><sec><title>Значение Warning Letter FDA: применение существующих CGMP-требований к AI</title><p>Наиболее показательное подтверждение практической значимости human oversight представлено Warning Letter FDA в отношении Purolea Cosmetics Lab от 2 апреля 2026 г. [19]. Его значение заключается не только в том, что FDA выделило отдельный раздел “Inappropriate Use of Artificial Intelligence in Pharmaceutical Manufacturing”, но и в характере регуляторной аргументации.</p><p>FDA не ссылалось на январские Good AI Practice Principles как на обязательное основание для нарушения. Регулятор применил существующие требования CGMP, в частности требования к Quality Unit и процедурам производства. AI использовался компанией для формирования спецификаций, процедур и master production or control records, однако соответствующие материалы не проходили адекватной человеческой проверки. FDA квалифицировало отсутствие такой проверки в контексте обязанностей Quality Unit как нарушение 21 CFR 211.22(c) [19].</p><p>Особенно показательна ситуация с process validation. Согласно Warning Letter, представитель предприятия объяснил отсутствие валидации процесса тем, что используемый AI-agent не сообщил о необходимости соответствующего требования. Данный случай демонстрирует принципиальную границу ответственности: отсутствие требования или ошибочная рекомендация AI не освобождают регулируемую организацию и ее квалифицированный персонал от соблюдения CGMP [19].</p><p>Поэтому практический вывод из данного кейса состоит не в том, что фармацевтическим организациям запрещено использование generative AI для работы с документацией. Напротив, FDA не рассматривает применение AI как основание для освобождения от CGMP и при его использовании требует соответствующего human review [19].</p><p>Таким образом, применение требований к AI перешло из теоретической области в инспекционную практику. Однако следует разграничивать рекомендательные Good AI Practice principles и юридически применимые CGMP-требования, нарушение которых стало основанием для Warning Letter.</p></sec><sec><title>Предлагаемый риск-ориентированный подход к классификации AI-систем в GxP</title><p>На основании сопоставления ICH Q9(R1), подхода FDA к context of use, принципов FDA-EMA и рекомендаций GAMP в настоящем обзоре предлагается практическая трехуровневая классификация AI-применений в зависимости от потенциального влияния результата AI на GxP-решение [3, 11, 14, 16].</p><table-wrap><caption><title>Таблица 4 - Предлагаемая риск-ориентированная классификация применения AI в GxP-среде</title></caption><table><thead><tr><th>Уровень</th><th>Характер применения</th><th>Примеры</th><th>Предлагаемый уровень контроля</th></tr></thead><tbody><tr><td>1 — низкий риск</td><td>результат ИИ непосредственно не используется для принятия GxP-решения</td><td>Поиск информации, перевод, подготовка чернового текста, обобщение некритичной информации</td><td>Определение допустимой области применения, защита конфиденциальных данных, пользовательская проверка</td></tr><tr><td>2 — умеренный риск</td><td>AI формирует материал, который может использоваться в GxP-процессе только после независимой экспертной проверки</td><td>Проект SOP, проект сводки отклонения, классификация или предварительный анализ аналитических данных</td><td>Документированный контекст применения, квалификация системы, тестирование, обязательный проверка человеком, журнал аудита/контроль изменений</td></tr><tr><td>3 — высокий риск</td><td>результат ИИ непосредственно влияет на качество продукта, безопасность пациента или критическое GxP-решение</td><td>Управление CPP, прогноз CQA, интерпретация критических QC-данных, решение о выпуске серии, критические элементы фармаконадзора</td><td>Формальная оценка риска, расширенная валидация/оценка достоверности модели, независимое тестирование, строгий контроль человеком, непрерывный мониторинг, lifecycle/управление изменениями</td></tr></tbody></table></table-wrap><p>Предлагаемая классификация не является регуляторной категоризацией FDA, EMA или ISPE и рассматривается как аналитическая модель настоящего обзора. Ее назначение заключается в практической интерпретации общего принципа: глубина доказательств и контроля AI должна быть пропорциональна потенциальному влиянию ошибочного результата.</p><p>Такой подход также предотвращает две противоположные крайности. Первая - попытка валидировать любое использование AI с одинаковой степенью формальности независимо от риска, что способно создавать избыточную регуляторную нагрузку. Вторая - использование AI как обычного офисного инструмента в критических GxP-процессах без учета того, что его результат фактически становится частью регулируемого решения.</p></sec><sec><title>Потенциальные преимущества AI и возникающие риски</title><p>Внедрение AI связано с возможностью ускорения обработки больших объемов информации и снижения нагрузки на персонал. Данные литературы подтверждают потенциал AI для анализа сложных массивов данных, выявления закономерностей, поиска аналогичных производственных отклонений и автоматизации отдельных информационных операций [5-9, 21].</p><p>Однако утверждение об «исключении человеческих ошибок» следует считать чрезмерно категоричным. AI способен снизить вероятность отдельных ошибок, связанных, например, с ручной обработкой большого массива информации или пропуском повторяющихся закономерностей, но одновременно создает новые категории риска: ошибки модели, bias, hallucinations, неверную экстраполяцию за пределы обучающих данных, model/data drift, чрезмерное доверие пользователя к AI-output, отсутствие прозрачности поставщика и неконтролируемое изменение облачной модели [12, 14, 16, 21].</p><p>Следовательно, потенциальное преимущество AI в GxP-среде связано не с заменой человеческой экспертизы, а с возможностью перераспределения функций: AI может выполнять вычислительно и информационно интенсивные задачи, тогда как специалист сохраняет ответственность за критическую оценку, интерпретацию и принятие регулируемого решения.</p></sec><sec><title>Нерешенные вопросы</title><p>Несмотря на существенное развитие регуляторных подходов в 2024-2026 гг., ряд вопросов остается открытым. К ним относятся подходы к валидации foundation models, используемых через внешние облачные сервисы; критерии приемлемости для open-ended generative outputs; управление обновлениями модели, которые выполняются поставщиком без непосредственного контроля GxP-организации; документирование prompts и AI-generated content; оценка hallucination rate и prompt sensitivity; сохранение воспроизводимости; распределение ответственности между разработчиком модели, поставщиком программного продукта и регулируемой фармацевтической организацией.</p><p>Отдельной проблемой является использование постоянно обучающихся моделей. Традиционная GxP-модель change control предполагает идентифицируемое изменение, оценку его влияния, утверждение и последующую проверку. Continuous learning способен размывать границу между отдельными версиями системы. Поэтому для критических применений необходимо либо контролировать и фиксировать моменты обновления модели, либо применять архитектуру, обеспечивающую стабильную валидированную версию до завершения установленной процедуры изменения.</p><p>Таким образом, развитие регулирования AI не означает отказа фармацевтической отрасли от традиционных принципов GxP. Напротив, результаты настоящего обзора показывают их распространение на новый технологический объект. Quality Risk Management, Data Integrity, документирование, прослеживаемость, управление изменениями, ответственность Quality Unit и квалифицированная человеческая проверка сохраняют центральное значение, тогда как специфика AI требует дополнительно учитывать качество обучающих данных, context of use, характеристики модели, model/data drift и управление ее полным жизненным циклом.</p><p>Появление совместных принципов FDA-EMA в январе 2026 г. и последующее применение существующих CGMP-требований к фактическому использованию AI в Warning Letter апреля 2026 г. показывают, что искусственный интеллект перестает рассматриваться как изолированный экспериментальный инструмент и становится объектом системного управления в фармацевтической системе качества. Для фармацевтических организаций это означает необходимость интегрировать AI governance в существующие процессы Quality Risk Management, computerized system lifecycle, Data Integrity и Pharmaceutical Quality System до того, как соответствующие технологии будут включены в критические GxP-решения.</p></sec><sec><title>Перспективы</title><p>Дальнейшее развитие искусственного интеллекта в GxP-регулируемой фармацевтической деятельности, вероятно, будет связано с переходом от традиционной модели computerized system validation (CSV) к более широкому подходу AI lifecycle assurance, при котором подтверждение пригодности системы не ограничивается этапом первоначального внедрения. Для AI-систем особое значение приобретают постоянный контроль применимости модели, мониторинг ее производительности, оценка data/model drift, управление изменениями и документирование всех существенных модификаций в течение жизненного цикла [14, 16, 24].</p><p>Одним из ключевых направлений станет развитие continuous model monitoring. Для AI-систем, используемых в производстве, контроле качества, фармаконадзоре и других критических GxP-процессах, потребуется устанавливать заранее определенные показатели эффективности, допустимые пределы их изменения, частоту переоценки и критерии, при которых дальнейшее использование модели требует дополнительной проверки, повторной валидации либо переобучения [14, 16, 23, 24].</p><p>Одновременно управление AI должно быть интегрировано в существующую Pharmaceutical Quality System (PQS). AI governance целесообразно рассматривать не как самостоятельный изолированный процесс, а как составную часть управления качеством, рисками, изменениями, данными, отклонениями, CAPA и компьютеризированными системами. Такая интеграция соответствует общим принципам ICH Q9(R1) и ICH Q10, поскольку позволяет связывать уровень контроля AI-системы с потенциальным влиянием ее результатов на качество лекарственного средства и безопасность пациента [2, 3].</p><p>Перспективным направлением является также стандартизация документации, сопровождающей AI-модели. Использование унифицированных model cards, datasheets for datasets [25, 26], описаний контекста применения (context of use) и стандартизированных записей о жизненном цикле модели может повысить прозрачность информации о назначении модели, характеристиках обучающих выборок, ограничениях, показателях эффективности, известных рисках и истории изменений.</p><p>Для GxP-применений такие инструменты могут быть дополнены требованиями к журналам аудита (audit trail), управлению изменениями, документированному человеческому контролю и решениям Quality Unit. Формирование отдельного проекта EU GMP Annex 22 “Artificial Intelligence” свидетельствует о переходе от общих принципов ответственного использования AI к разработке специализированных GMP-требований для AI/ML-систем в фармацевтическом производстве [23, 27].</p><p>Совместная публикация FDA и EMA принципов Good AI Practice свидетельствует о развитии международной регуляторной конвергенции в данной области [14]. В дальнейшем можно ожидать дальнейшего сближения подходов к AI governance, model credibility, data governance и lifecycle management. При этом основным вызовом останется перевод общих высокоуровневых принципов в практически применимые требования к квалификации, валидации и текущему контролю AI-систем различного уровня риска.</p></sec><sec><title>Ограничения настоящего обзора</title><p>Настоящий обзор имеет ряд ограничений. Работа выполнена в формате аналитического, а не систематического обзора, поэтому не предусматривала формализованного количественного отбора публикаций по протоколу PRISMA. Основное внимание уделялось научным публикациям и регуляторным документам, непосредственно связанным с применением AI/ML в фармацевтической разработке, производстве и других GxP-регулируемых процессах.</p><p>Дополнительным ограничением является высокая скорость изменения нормативной и технологической среды. Ряд документов FDA и EMA имеет статус guidance, draft guidance или reflection paper, а подходы к регулированию AI продолжают формироваться. Кроме того, быстрое обновление коммерческих AI-моделей, особенно cloud-based и generative AI systems, может приводить к появлению новых рисков и практических сценариев, которые еще не отражены в опубликованной научной литературе и действующих руководствах.</p><p>Предложенная в настоящем обзоре трехуровневая риск-ориентированная классификация применения AI в GxP является авторской аналитической моделью и не представляет официальную классификацию FDA, EMA, ICH или ISPE. Ее практическая применимость требует дальнейшего обсуждения и проверки на конкретных GxP-сценариях.</p></sec><sec><title>Заключение</title><p>Проведенный анализ показывает, что искусственный интеллект перестал рассматриваться исключительно как экспериментальная цифровая технология и постепенно становится частью регулируемой фармацевтической среды. Эволюция от PAT, непрерывного производства и Pharma 4.0 к AI/ML сопровождается изменением подходов к валидации и управлению компьютеризированными системами. При этом ключевые принципы GxP - качество, прослеживаемость, управление рисками, целостность данных, документирование и ответственность квалифицированного персонала - сохраняют свое значение и распространяются на новые технологические решения.</p><p>Публикация в январе 2026 г. совместных Guiding Principles of Good AI Practice in Drug Development FDA и EMA стала важным этапом регуляторной конвергенции. Десять сформулированных принципов определяют основные направления надлежащего использования AI: человекоцентричность, риск-ориентированный подход, четко установленный context of use, междисциплинарную экспертизу, надлежащее управление данными, контролируемую разработку моделей, оценку их производительности, управление жизненным циклом и прозрачность значимой информации. Вместе с тем эти принципы не заменяют существующие GxP-требования, а дополняют их применительно к специфическим особенностям AI-систем.</p><p>Особое значение приобретает переход от однократной валидации AI-модели к управлению ее полным жизненным циклом. Для GxP-критичных применений необходимо учитывать не только техническую работоспособность алгоритма, но и происхождение и качество данных, context of use, model risk, репрезентативность validation/test datasets, human oversight, управление изменениями, monitoring, data/model drift и периодическую переоценку производительности. В связи с этим AI governance должен быть интегрирован в существующую Pharmaceutical Quality System и систему Quality Risk Management.</p><p>Warning Letter FDA в отношении Purolea Cosmetics Lab, опубликованный 2 апреля 2026 г., продемонстрировал практическое значение этих требований. Использование AI для подготовки спецификаций, процедур и master production or control records без надлежащей человеческой проверки было рассмотрено FDA в рамках уже действующих требований CGMP. Данный случай показывает, что применение AI не переносит ответственность с регулируемой организации на алгоритм или его поставщика: окончательная ответственность за достоверность GxP-документации и соблюдение применимых требований остается за квалифицированным персоналом и Quality Unit.</p><p>Несмотря на значительный прогресс, нерешенными остаются вопросы валидации foundation models и generative AI, воспроизводимости открытых текстовых ответов, управления hallucinations, model drift, cloud-based обновлений, контроля данных и распределения ответственности между поставщиком AI и фармацевтической организацией. Поэтому дальнейшее внедрение AI в GxP-среду требует не ослабления традиционных механизмов качества, а их адаптации к новым технологическим рискам. Наиболее устойчивым подходом представляется риск-ориентированное применение AI, при котором глубина валидации, мониторинга и человеческого контроля определяется потенциальным влиянием AI-output на качество лекарственного средства, безопасность пациента и достоверность регулируемых решений.</p></sec><sec><title>Вклад авторов</title><p>Ридванов Ч.И. - разработка концепции обзора; анализ профессиональных и регуляторных аспектов применения искусственного интеллекта в GxP-регулируемой фармацевтической деятельности; интерпретация данных; подготовка и критический пересмотр рукописи.</p><p>Ибрагимова Л.Н. - разработка концепции и методологии обзора; поиск, анализ и систематизация научной литературы и нормативно-регуляторных документов; интерпретация результатов; подготовка рукописи; научное редактирование и общее руководство работой.</p><p>Все авторы ознакомились с окончательной версией рукописи и одобрили ее для публикации.</p></sec><sec><title>Конфликт интересов</title><p>Авторы заявляют об отсутствии конфликта интересов. Данная рукопись ранее не публиковалась и не находится на рассмотрении в других изданиях.</p></sec><sec><title>Финансирование</title><p>Работа выполнена без привлечения внешнего целевого финансирования.</p></sec></body><back><ref-list><title>Литература</title><ref id="ref1"><label>1</label><mixed-citation>U.S. Food and Drug Administration. PAT - A Framework for Innovative Pharmaceutical Development, Manufacturing, and Quality Assurance: Guidance for Industry [Internet]. Silver Spring (MD): FDA; 2004 [cited 2026 Sep 25].</mixed-citation></ref><ref id="ref2"><label>2</label><mixed-citation>International Council for Harmonisation of Technical Requirements for Pharmaceuticals for Human Use. ICH Q10: Pharmaceutical Quality System [Internet]. Geneva: ICH; 2008 [cited 2026 Sep 25].</mixed-citation></ref><ref id="ref3"><label>3</label><mixed-citation>International Council for Harmonisation of Technical Requirements for Pharmaceuticals for Human Use. ICH Q9(R1): Quality Risk Management [Internet]. Geneva: ICH; 2023 [cited 2026 Sep 25].</mixed-citation></ref><ref id="ref4"><label>4</label><mixed-citation>International Council for Harmonisation of Technical Requirements for Pharmaceuticals for Human Use. ICH Q13: Continuous Manufacturing of Drug Substances and Drug Products [Internet]. Geneva: ICH; 2022 [cited 2026 Sep 25].</mixed-citation></ref><ref id="ref5"><label>5</label><mixed-citation>Arden NS, Fisher AC, Tyner K, Yu LX, Lee SL, Kopcha M. Industry 4.0 for pharmaceutical manufacturing: Preparing for the smart factories of the future. Int J Pharm. 2021;602:120554. doi:10.1016/j.ijpharm.2021.120554.</mixed-citation></ref><ref id="ref6"><label>6</label><mixed-citation>Nagy B, Galata DL, Farkas A, Nagy ZK. Application of artificial neural networks in the Process Analytical Technology of pharmaceutical manufacturing-a review. AAPS J. 2022;24(4):74. doi:10.1208/s12248-022-00706-0.</mixed-citation></ref><ref id="ref7"><label>7</label><mixed-citation>Batalha MAB, Pais DAM, Almeida RAE, Martinho ASG. A review of artificial intelligence and machine learning in product life cycle management. PDA J Pharm Sci Technol. 2024;78(5):604-612. doi:10.5731/pdajpst.2023.012922.</mixed-citation></ref><ref id="ref8"><label>8</label><mixed-citation>Suriyaamporn P, Pamornpathomkul B, Patrojanasophon P, Ngawhirunpat T, Rojanarata T, Opanasopit P. The artificial intelligence-powered new era in pharmaceutical research and development: A review. AAPS PharmSciTech. 2024;25(6):188. doi:10.1208/s12249-024-02901-y.</mixed-citation></ref><ref id="ref9"><label>9</label><mixed-citation>Huanbutta K, Burapapadh K, Kraisit P, Sriamornsak P, Ganokratanaa T, Suwanpitak K, et al. Artificial intelligence-driven pharmaceutical industry: A paradigm shift in drug discovery, formulation development, manufacturing, quality control, and post-market surveillance. Eur J Pharm Sci. 2024;203:106938. doi:10.1016/j.ejps.2024.106938.</mixed-citation></ref><ref id="ref10"><label>10</label><mixed-citation>European Commission. EudraLex Volume 4: EU Guidelines for Good Manufacturing Practice. Annex 11: Computerised Systems [Internet]. Brussels: European Commission; 2011 [cited 2026 Sep 25].</mixed-citation></ref><ref id="ref11"><label>11</label><mixed-citation>U.S. Food and Drug Administration. Considerations for the Use of Artificial Intelligence to Support Regulatory Decision-Making for Drug and Biological Products: Draft Guidance for Industry and Other Interested Parties [Internet]. Silver Spring (MD): FDA; 2025 [cited 2026 Sep 25].</mixed-citation></ref><ref id="ref12"><label>12</label><mixed-citation>Patel B, Patel J. Validation, ethics, and lifecycle governance of AI and machine learning in GxP applications: A comparative regulatory analysis and integrated framework. AI Ethics. 2026;6:363. doi:10.1007/s43681-026-01218-9.</mixed-citation></ref><ref id="ref13"><label>13</label><mixed-citation>European Medicines Agency. Reflection paper on the use of Artificial Intelligence (AI) in the medicinal product lifecycle. EMA/CHMP/CVMP/83833/2023 [Internet]. Amsterdam: EMA; 2024 [cited 2026 Sep 25].</mixed-citation></ref><ref id="ref14"><label>14</label><mixed-citation>U.S. Food and Drug Administration; European Medicines Agency. Guiding Principles of Good AI Practice in Drug Development [Internet]. FDA; EMA; 2026 [cited 2026 Sep 25].</mixed-citation></ref><ref id="ref15"><label>15</label><mixed-citation>International Society for Pharmaceutical Engineering. GAMP 5: A Risk-Based Approach to Compliant GxP Computerized Systems. 2nd ed. ISPE; 2022.</mixed-citation></ref><ref id="ref16"><label>16</label><mixed-citation>International Society for Pharmaceutical Engineering. ISPE GAMP Guide: Artificial Intelligence. ISPE; 2025.</mixed-citation></ref><ref id="ref17"><label>17</label><mixed-citation>U.S. Food and Drug Administration. Artificial Intelligence in Drug Manufacturing: Discussion Paper [Internet]. Silver Spring (MD): FDA; 2023 [cited 2026 Sep 25].</mixed-citation></ref><ref id="ref18"><label>18</label><mixed-citation>U.S. Food and Drug Administration. Using Artificial Intelligence &amp; Machine Learning in the Development of Drug &amp; Biological Products: Discussion Paper and Request for Feedback [Internet]. Silver Spring (MD): FDA; 2023 [revised 2025 Feb; cited 2026 Sep 25].</mixed-citation></ref><ref id="ref19"><label>19</label><mixed-citation>U.S. Food and Drug Administration. Purolea Cosmetics Lab - Warning Letter 320-26-58, MARCS-CMS 722591 [Internet]. Silver Spring (MD): FDA; 2026 Apr 2 [cited 2026 Sep 25].</mixed-citation></ref><ref id="ref20"><label>20</label><mixed-citation>World Health Organization. WHO Guideline on Data Integrity. WHO Technical Report Series No. 1033, Annex 4 [Internet]. Geneva: World Health Organization; 2021 [cited 2026 Sep 25].</mixed-citation></ref><ref id="ref21"><label>21</label><mixed-citation>Salami H, Smith-Goettler B, Yadav V. How can language models assist with pharmaceuticals manufacturing deviations and investigations? Int J Pharm. 2025;669:125100. doi:10.1016/j.ijpharm.2024.125100.</mixed-citation></ref><ref id="ref22"><label>22</label><mixed-citation>U.S. Food and Drug Administration. Data Integrity and Compliance With Drug CGMP: Questions and Answers. Guidance for Industry [Internet]. Silver Spring (MD): FDA; 2018 [cited 2026 Sep 25].</mixed-citation></ref><ref id="ref23"><label>23</label><mixed-citation>European Commission. EudraLex Volume 4: Good Manufacturing Practice Guidelines. Draft Annex 22: Artificial Intelligence [Internet]. Brussels: Directorate-General for Health and Food Safety; 2025 [cited 2026 Sep 25].</mixed-citation></ref><ref id="ref24"><label>24</label><mixed-citation>Tabassi E. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1 [Internet]. Gaithersburg (MD): National Institute of Standards and Technology; 2023 [cited 2026 Sep 25]. doi:10.6028/NIST.AI.100-1.</mixed-citation></ref><ref id="ref25"><label>25</label><mixed-citation>Mitchell M, Wu S, Zaldivar A, Barnes P, Vasserman L, Hutchinson B, et al. Model cards for model reporting. In: Proceedings of the Conference on Fairness, Accountability, and Transparency. New York: Association for Computing Machinery; 2019. p. 220-229. doi:10.1145/3287560.3287596.</mixed-citation></ref><ref id="ref26"><label>26</label><mixed-citation>Gebru T, Morgenstern J, Vecchione B, Vaughan JW, Wallach H, Daumé H III, et al. Datasheets for datasets. Commun ACM. 2021;64(12):86-92. doi:10.1145/3458723.</mixed-citation></ref><ref id="ref27"><label>27</label><mixed-citation>European Medicines Agency. Good manufacturing practice: Multistakeholder workshop on expert contributions to artificial intelligence guidance development (Annex 22) [Internet]. Amsterdam: EMA; 2026 Jun 30-Jul 1 [cited 2026 Sep 25].</mixed-citation></ref></ref-list></back></article>