GxP 환경에서 AI 이해도를 향상시키기 위한 5가지 모범 사례

생명과학 분야에서는 환자 안전, 데이터 완전성(Data Integrity), 규제 대응 능력이 선택이 아닌 필수이다. AI와 디지털 혁신을 도입함에 있어, GMP 원칙을 준수하고 21 CFR Part 11, Annex 11, Annex 22, GAMP5, GAMP AI 가이드, ALCOA+ 등 관련 규정과 모범 사례에 기반한 프레임워크 내에서 혁신을 추진하는 것이 매우 중요하다.

하지만 여기에는 하나의 과제가 존재한다.
AI는 새로운 기술이다. 기존의 스프레드시트나 LIMS(Laboratory Information Management System)처럼 전통적인 검증 소프트웨어가 아니며, 종종 불확실성을 동반한다.
따라서 AI가 무엇인지, 어떤 역할을 하며, GxP 시스템에 어떤 영향을 미치는지를 이해하는 AI 리터러시(AI Literacy) 는 IT, 업무, 품질 부서 리더들에게 있어 핵심 역량으로 떠오르고 있다.

ERA Sciences는 AI 성숙도(AI Maturity)는 조직 내 정렬(alignment)에서 시작된다고 믿고있다. 여기에는 AI 주요 용어에 대한 조화롭고 공유된 이해가 포함되어야 한다.
위험 기반 시스템을 처음 도입하는 특수 제약사이든, 임상단계에서 제조로 전환 중인 기업이든, 유럽 내 시리얼라이제이션(serialization)을 구현하고 있는 기업이든, 어떤 상황이든 GxP를 해치지 않으면서 AI 이해도를 높이기 위한 5가지 모범 사례를 소개한다.

1. 공유(조화된) 용어에서 시작하라

“모델(model)”, “학습 데이터(training data)”, “정적/동적 모델”, “알고리즘 출력값(algorithmic output)”과 같은 용어에 대한 오해는 단순한 혼란을 넘어서 검증 일정의 지연이나 디지털 전환 프로젝트의 실패로 까지 이어질 수 있다. 한 부서에서는 “AI 솔루션”이라 부르는 것이 다른 부서에선 단순한 “자동화 스크립트”로 인식될 수도 있다.

주요 문제점:

• 부서 간 AI 관련 용어 사용의 불일치
• 기술 구현과 품질 관리 사이의 불일치
• AI 용어에 대한 이해 부족으로 인한 리뷰 지연

모범 사례:

• 부서 간 협업으로 AI 용어집(AI Glossary)을 마련하고, 이를 다음에 포함시켜야 한다:
  1. 신입 및 재교육(Onboarding/Refresher Training)
  2. 품질 및 IT 문서 템플릿
  3. 프로젝트 킥오프 및 변경관리(Change Control) 문서

표준화된 AI 용어는, 감사 대응, 신규 인력 온보딩, GxP 시스템 내 AI 적용 범위 정립 등 모든 상황에서 일관된 이해의 기반을 제공한다.

• 2. AI 매핑 및 활용사례 프로세스를 개발하라
   AI는 반드시 명확한 목적에 따라 설계되어야 한다. 왜, 어디서, 어떻게 AI를 사용하는지에 대한 명확한 프로세스가 없으면, 프로젝트는 방향성을 잃고 검증이 어려워지며, 미확인된 리스크가 적절히 관리되지 못한 채 후속 문제로 이어질 수 있다. 결국 최종 사용자가 AI에 대한 신뢰를 잃게 된다.
• 이전 기사 “AI Meets GxP: Model Cards for Trust, Transparency and Compliance”에서는 모델 카드(model card)의 개념을 소개한 바 있다. 모델 카드는 AI의 목적, 입력, 출력, 한계를 GAMP5 기준에 맞춰 구조화한 문서로서, 특히 부서 간 검토 시 투명성을 확보하는 데 효과적인 도구가 된다.
• 주요 문제점:
   • AI 도입 목적(‘왜 사용하는가?’)에 대한 명확성 부족
   • 부서 간 AI 도구 사용의 일관성 결여
   • AI의 작동 방식과 GxP 요구사항 간의 정렬 어려움

모범 사례:

 • AI 활용 사례를 개발하기 위한 반복 가능한 프레임워크를 수립한다.

 • GxP 데이터 또는 의사결정에 영향을 미치는 모든 AI 도구에 대해 모델 카드 작성을 의무화한다.

 • AI 사용은 기존 업무 프로세스에 명확히 매핑하고, 그 내용을 표준작업절차서(SOP)에 반영한다.

3. 도구 중심이 아닌 역할 중심으로 교육을 설계하라

모든 직원이 랜덤 포레스트(Random Forest) 모델의 내부 작동 원리처럼 기술적 원리를 이해할 필요는 없지만, AI가 자신의 역할에 어떤 영향을 미치는지는 반드시 이해해야 한다. 이는 AI의 오용 방지, 품질 및 규제 요건 충족, 업무 개선 기회 파악에 직접적으로 연결되기 때문이다.

일률적인 교육은 시간 낭비이며, 구성원의 몰입도 저하를 초래할 수 있다. 따라서 교육은 직무와 책임 수준에 따라 다음과 같이 구분해야 한다:

• 임원 수준 인식(Executive Awareness): AI의 개념, 규제 리스크 노출, 전략적 기회
• 운영 실무 이해(Operational Literacy): 사용 사례 검증, 변경 관리, 데이터 완전성에 미치는 영향 (IT 및 품질 부서 리더 대상)
• 기술적 심화(Technical Depth): 알고리즘의 동작 방식, 데이터셋 처리, 편향 또는 드리프트에 대한 대응 전략 (개발자 및 시스템 설계자 대상)

주요 문제점은 다음과 같다:

• 교육 내용이 지나치게 기술적이거나 반대로 너무 피상적인 경우
• 기술에 대한 이해 부족으로 인해 의사결정자가 AI 도입에 확신을 갖지 못하는 경우
• 기술 부서가 GxP 요건을 정확히 이해하지 못해 AI 구현에 혼란을 겪는 경우

모범 사례는 다음과 같다:

• 팀 기능별로 교육 필요도 분석(Training Needs Analysis)을 수행한다.
• 직무에 따라 AI 학습 수준을 계층화하되, 필수 교육 외에도 모든 추가 교육 자료에 대한 접근을 개방해 학습자가 자율적으로 학습을 지속할 수 있도록 한다.

변경 관리(Change Control) 및 시스템 수명주기(System Lifecycle) 문서화를 통해 교육 내용을 실제 업무에 통합하고 반복적으로 강화한다.

4. AI 관련 커뮤니케이션 체계를 초기부터 구축하라
 AI 구현은 일회성 이벤트가 아니라 지속적으로 진화하는 과정이다.
 시간이 지남에 따라 모델의 예측 성능이 떨어질 수 있고, 팀이 실험을 거듭하며, 새로운 문제가 발생할 수 있다. 이를 사전에 식별하고 공유할 체계가 없다면, 작은 문제가 주요 컴플라이언스 장애로 발전할 수 있다.

주요 문제점:

• 구현 단계에서 커뮤니케이션 부족
• 사용성 또는 규제 이슈의 보고 지연
• 부서 간 커뮤니케이션 단절

모범 사례:

• AI 관련 질의응답 시간을 운영해 누구나 질문할 수 있는 기회를 만든다
• 모니터링 가능한 피드백 양식과 부서 간 미팅(huddle)을 통해 의견 수렴 체계를 갖춘다
• IT와 품질 부서에 AI 챔피언을 지정해 기능 간 연결고리를 만든다

실시간 커뮤니케이션 체계를 초기부터 갖추면 리스크에 선제적으로 대응할 수 있고, ALCOA+ 원칙도 안정적으로 유지할 수 있다.

5. 도입 및 실행 단계에서 “모른다”는 말을 자연스럽게 하게 하라

AI는 종종 블랙박스로 인식되며, 특히 규제가 엄격한 환경에서는 직원들에게 불안감을 준다. 이때 가장 위험한 시나리오는 팀이 AI를 잘 모르는 상황에서 이해한 척하거나 질문을 회피하는 것이다. 이는 검증, 감시, 절차적 통제에 심각한 누수를 초래할 수 있다.

주요 문제점:

• “AI를 다 알아야 한다”는 압박감이 존재함
• 초기 단계에서의 리스크 인식 기회 상실
• 회의나 협업 환경에서 질문을 꺼리는 문화

모범 사례:

• 회고 회의나 전체 회의에 AI 관련 불확실성에 대해 솔직하게 말할 수 있는 시간을 확보한다
• “모른다”는 것을 인정하고 공유하는 팀원에게 칭찬과 긍정적 피드백을 제공한다
• 제기된 질문은 디지털 전환 여정의 일환으로 문서화하고 추적한다

호기심을 장려하는 문화는 컴플라이언스를 약화시키는 것이 아니라, 오히려 리스크를 조기에 드러내고 심리적 안정성을 강화함으로써 컴플라이언스 수준을 끌어올리는 기반이 된다.

AI 리터러시는 곧 컴플라이언스 성숙도다

GxP 환경에서 AI 리터러시는 단순한 기술 이해를 넘어, 안전성·일관성·감사 대응력을 공유하는 공통 언어다. 예측 유지보수, 공정 자동화, 임상 예측 등 어떤 AI 적용 사례든, 목적에 부합하는 도구와 모범 사례를 기반으로 체계적인 준비가 이루어져야 한다.

BioprocessOnline 원문 바로가기