Искусственный интеллект в фарма: эксперт GxP Sonata выступил на конференции PharmLog-2025

13 ноября 2025 года в Москве состоялась XI Ежегодная Международная конференция «Стандарты качества фармацевтической логистики» Quality PharmLog-2025, где эксперт компании GxP Sonata представил доклад о революционных изменениях в применении искусственного интеллекта в фармацевтической отрасли.

Александр Белинский, технический директор PQE CIS, сооснователь ИТ-стартапа GxP Sonata и член Совета Директоров ISPE EAEU, выступил с презентацией на тему «Поддержка инноваций в производстве лекарственных средств и обеспечение гармонизации нормативных актов — пересмотр Приложения 11 и главы 4 GMP наряду с введением специального Приложения 22, посвященного искусственному интеллекту». По итогам конференции доклад получил «Приз за инновационное решение в логистике», что подчеркивает высокую актуальность темы для специалистов отрасли.

Новые нормативные документы: Приложение 22 и эпоха регулируемого ИИ

В 2025 году на сайте Европейской Комиссии появились проекты ключевых документов, определяющих будущее цифровизации фармацевтической отрасли: Глава 4 «Документация», Приложение 11 «Компьютеризированные системы» и принципиально новое Приложение 22 «Искусственный интеллект». Появление отдельного приложения для ИИ-систем знаменует исторический момент — это первое в мире нормативное руководство, специально посвященное применению искусственного интеллекта в фармацевтической промышленности.

Приложение 22 применяется ко всем компьютерным системам, где ИИ используется в критических приложениях, то есть там, где возможно прямое влияние на безопасность пациента, качество продукта и целостность данных. Документ фокусируется на статических, детерминированных ML-моделях, где одинаковые входные данные всегда дают одинаковый результат. Это ключевое требование для GMP-критичных процессов, где необходима воспроизводимость и валидируемость результатов.

Критически важным является то, что Приложение 22 не распространяется на динамические модели (обучающиеся в процессе эксплуатации), генеративный ИИ и большие языковые модели (LLM). Такие системы не могут напрямую использоваться для критических GxP-приложений из-за непредсказуемости их поведения и проблемы «галлюцинаций» — создания правдоподобной, но фактически неверной информации.

В своем докладе Александр Белинский особое внимание уделил точному определению терминов, что критически важно для понимания границ применимости различных технологий в регулируемой среде. Согласно международным стандартам ISO/IEC, искусственный интеллект (AI) представляет собой любую систему, имитирующую интеллектуальные функции (ISO/IEC 22989:2022).

Машинное обучение (ML) является подмножеством AI, где алгоритмы учатся из данных без явного программирования каждого правила (ISO/IEC 23053:2022). Глубокое обучение (Deep Learning) — это подвид ML, использующий глубокие нейронные сети для обработки сложных паттернов. Наконец, генеративный ИИ (Generative AI) представляет собой широкий класс технологий, способных создавать новые цифровые объекты: тексты, изображения, аудио, видео и программный код.

Большие языковые модели (LLM) — это частный случай генеративного ИИ, специализирующийся исключительно на задачах обработки и генерации естественного языка. В презентации были приведены примеры таких систем: ChatGPT, Claude, Gemini, DeepSeek, QWEN, GigaChat и Алиса. Важно понимать, что LLM всегда относится к Generative AI, но Generative AI значительно шире и включает неречевые генеративные модели для изображений, музыки и видео.

Одной из центральных тем доклада стал вопрос: что делать с ChatGPT, Claude, Gemini и другими популярными LLM в контексте GMP-регулируемых процессов? Согласно проекту Приложения 22, использование LLM возможно, но только при наличии HITL (human-in-the-loop) — постоянного контроля со стороны квалифицированного персонала — и не в критических для безопасности пациента и качества продукции GxP-применениях.

Проект документа прямо указывает: «Такие модели не должны использоваться в критических GMP-приложениях. Если используются в некритических GMP-приложениях, которые не оказывают прямого влияния на безопасность пациента, качество продукта или целостность данных, персонал с соответствующей квалификацией и обучением всегда должен нести ответственность за обеспечение того, что выходные данные таких моделей подходят для предполагаемого использования».

Александр Белинский продемонстрировал, что «бытовое» использование LLM действительно чревато множеством «галлюцинаций». Например, если задать ChatGPT, GigaChat или Алисе вопрос о том, как именно провести температурное картирование, результат будет неполным, слишком общим и потребует серьезной проверки фактов. Этот пример наглядно иллюстрирует, почему запрет на прямое использование LLM для критических GxP-приложений является оправданным.

Несмотря на ограничения «ванильных» LLM, современные технологии позволяют значительно повысить эффективность использования больших языковых моделей в фармацевтическом контексте. Retrieval Augmented Generation (RAG) — генерация с дополненной выборкой — представляет собой архитектурный паттерн, который фундаментально меняет способ работы с LLM в регулируемых средах.

Технология RAG характеризуется следующими ключевыми особенностями:

Извлечение знаний (Knowledge retrieval): при получении запроса система извлекает информацию из заранее определенной базы знаний, чтобы предоставить языковой модели релевантные данные для конкретного случая.

Формирование системного промпта (Prompting): промпт объединяет исходный вопрос с информацией, извлеченной из базы знаний.

Генерация ответа (Generation of the answer): LLM формирует ответ на основе этого расширенного промпта.

Постобработка (Post-processing): полученный результат модели может быть дополнительно обработан для обеспечения соответствия требованиям.

Согласно руководству ISPE AI 2025, большие языковые модели генерируют текст, понимая контекст, а RAG улучшает их работу, интегрируя актуальные знания специализированных баз без переобучения, тем самым повышая качество и надежность ответов. Исследования показывают впечатляющие результаты: на биомедицинских задачах точность GPT-4 с RAG достигает 86,3% против 57,9% без внешних документов, а GPT-3.5 с RAG (MedRAG toolkit) показывает 90,3% против 74,3% для базовой модели.

Такой подход дает ряд критических преимуществ для фармацевтической отрасли:

— Новая информация может быть добавлена в базу знаний, что позволяет подсистеме ИИ предоставлять ответы на основе актуальных данных без необходимости переобучать или дообучать модель. Это особенно важно в условиях постоянного обновления регуляторных требований.

— Можно интегрировать специализированный контент, чтобы направлять и информировать LLM. Это включает руководства GMP, стандарты ISO, процедуры компании и научную литературу.

— Извлеченные из базы знаний ссылки и источники могут использоваться для поддержки пользователя системы на базе ИИ при проверке достоверности ответа модели, что критично для аудитов и инспекций.

— Прозрачность и верифицируемость: каждый ответ может быть прослежен к источникам, что удовлетворяет требованиям ALCOA++ и целостности данных.

Руководство ISPE AI 2025 идет еще дальше, указывая на возможность создания более сложных систем — агентного искусственного интеллекта (Agentic AI). Agentic AI использует одного или нескольких агентов с определенными ролями, задачами и инструментами, которые могут применяться для поддержки сложных и абстрактных процессов — таких как сбор знаний, проведение исследований или анализ данных — в гибкой и адаптивной форме.

Эта концепция уже нашла практическое воплощение в продуктах GxP Sonata.

Компания GxP Sonata, созданная в 2024 году в партнерстве между Акелон и экспертами отрасли Александром Белинским и Оксаной Пряничниковой, специализируется на внедрении современных цифровых решений в фармацевтическую отрасль. Основное направление — разработка ИТ-решения E-Validation, предназначенного для автоматизации тестирования оборудования, процессов производства и цифровизации документооборота валидации.

Также у компании GxP Sonata в настоящий момент в разработке ИИ-ассистенты для GMP-применения (системы ОВиК и чистые помещения, производство стерильных продуктов и т.п.).

В своем докладе Александр Белинский представил возможные примеры применения мультимодального ИИ-агента, применительно к сфере GDP:

Система способна анализировать содержание нескольких отчетов об аудите (Contractor Audit Report 1, 2, 3) и формировать суммарный отчет (Comprehensive Audit Summary Report). Это существенно сокращает время QA-специалистов на обработку документации и снижает риск пропуска критических замечаний.

ИИ-ассистент помогает обосновать количество и местоположение дата-логгеров для температурного картирования складских помещений. Система анализирует:

— Базу знаний (RAG) с руководствами: ISPE GPG Cold chain management, WHO TRS 992 Annex 5, PDA TR No.64

— Планировочные решения складского комплекса (мультимодальность)

— Существующие алгоритмы размещения

На основе этой информации ИИ-ассистент помогает оптимально расположить температурные дата-логгеры, учитывая как регуляторные требования, так и специфику конкретного помещения. Ранее пользователь отмечал интерес к этой теме в контексте размещения датчиков в высокостеллажных складах.

Эти кейсы демонстрируют, как современные технологии ИИ с правильной архитектурой (RAG + HITL) могут применяться в GxP-сфере, не нарушая требований регуляторов.