▲ 해외 주요 규제기관들이 AI 활용 의약품 개발 심사에서 사용 맥락과 위험도, 데이터 신뢰성을 주요 평가 기준으로 삼고 있는 것으로 나타났다. (생성형 AI(ChatGPT)로 제작한 사진)

인공지능(AI)을 활용한 의약품 개발이 신약 탐색부터 임상시험, 제조, 시판 후 안전관리까지 확대되면서 해외 주요 규제기관의 심사가 AI 모델의 사용 맥락(Context of Use, CoU)과 위험도에 따라 신뢰성을 평가하는 방향으로 이동하고 있다는 분석이 나왔다.

AI 모델이 임상 평가변수 판정, 제조 품질관리, 약물감시 등 어떤 의사결정에 쓰이는지와 오판 시 환자 안전ㆍ의약품 품질에 미칠 영향에 따라 요구되는 검증 수준과 인간 감독, 전주기 관리 범위가 달라진다는 설명이다.

식품의약품안전평가원 의약품심사부 순환신경계약품과는 최근 발간한 ‘AI 기반 의약품 개발 관련 규제ㆍ심사 동향 정보자료집’을 통해 해외 규제 검토 사례와 심사 고려사항을 정리했다.

자료집에 따르면 글로벌 규제 논의는 AI 기술 자체의 우수성보다 AI 모델이 어떤 목적과 범위에서 쓰이는지, 해당 모델의 출력이 규제 의사결정에 어느 정도 영향을 미치는지를 따지는 방향으로 전개되고 있다.

이 가운데 해외 규제기관들이 공통적으로 강조하는 요소는 위험 기반 접근, 사용 맥락 기반 평가, 데이터 품질 및 대표성, 투명성, 인간 감독, 전주기 관리와 지속적 성능 모니터링이다.

대표적으로 미국 식품의약국(FDA)은 규제 의사결정을 지원하는 AI 모델에 대해 특정 사용 맥락에서 신뢰할 수 있는 결과를 산출하는지 평가하는 ‘위험 기반 신뢰성 평가 프레임워크’를 제시했다.

이는 AI 모델이 답해야 할 질문과 사용 맥락을 먼저 정의한 뒤, 모델 위험도를 평가하고 해당 사용 목적에서 모델 출력의 신뢰성을 입증하는 방식이다.

FDA는 모델 위험도를 판단할 때 잘못된 의사결정이 환자 안전ㆍ의약품 품질ㆍ연구결과 신뢰성에 미칠 영향과, 해당 의사결정에서 AI 모델 출력이 차지하는 비중을 함께 고려한다.

이에 따라 같은 AI 모델이라도 단순 참고자료로 쓰이는 경우와 임상시험 결과 해석, 제조 품질관리, 시판 후 안전관리 판단의 핵심 근거로 쓰이는 경우에는 필요한 검증과 문서화 수준이 달라질 수 있다는 설명이다.

다만 FDA는 해당 프레임워크를 모든 AI 활용에 일괄 적용하지는 않았다.

가이던스 초안은 비임상, 임상, 시판 후, 제조 단계에서 AI 모델이 의약품ㆍ생물의약품의 안전성, 유효성, 품질 관련 규제 의사결정을 뒷받침하는 정보나 데이터를 생성하는 경우를 적용 대상으로 삼았다.

반면 신약후보물질 탐색, 규제 제출자료 작성 보조, 내부 업무흐름 개선처럼 환자 안전성ㆍ의약품 품질ㆍ연구결과 신뢰성에 직접 영향을 미치지 않는 운영 효율화 목적의 AI 활용은 적용 범위에서 제외했다.

유럽 의약품청(EMA)은 AI와 기계학습(ML)을 활용할 때 데이터 품질, 모델 성능, 투명성, 윤리, 개인정보보호와 전주기 관리 체계를 함께 검토해야 한다는 방향을 제시했다.

특히 AI 모델이 적용 환경과 입력 데이터 변화에 따라 성능 저하나 모델 드리프트를 일으킬 수 있는 만큼, 개발 단계 검증뿐 아니라 사용 중 성능 모니터링과 변경관리 체계도 필요하다고 설명했다.

또한 임상시험에서는 AI 기반 치료군 배정, 용량 결정, 일차 평가변수 분석, 의사결정 지원을 높은 규제 영향 또는 높은 환자 위험 상황으로, 확증 임상시험에서는 모델 고정, 과적합 방지, 데이터 누수 차단, 통계분석계획 반영을 주요 고려사항으로 구분했다.

이러한 방향은 FDA와 EMA가 올해 공동으로 제시한 ‘의약품 개발에서 AI 활용 시 고려할 10대 원칙’에서도 확인된다.

양 기관은 AI 기술 개발과 사용이 ▲인간 중심 설계 ▲위험 기반 접근 ▲명확한 사용 맥락 ▲다학제적 전문성 ▲데이터 거버넌스와 문서화 ▲해석 가능성ㆍ설명 가능성을 고려한 모델 개발 ▲위험 기반 성능 평가 ▲전주기 관리 원칙 등을 충족해야 한다고 제시했다.

다른 규제기관과 국제기구도 AI 활용에 따른 관리체계 정비를 병행하고 있다.

영국 의약품규제청(MHRA)은 AI 의료기기 규제 샌드박스인 'AI 에어록(AI Airlock)'을 통해 합성데이터, 대규모 언어 모델(LLM) 환각, 모델 드리프트, 자동화 편향 등을 검토했다.

일본 의약품의료기기종합기구(PMDA)는 규제기관 내부 업무에서 AI 활용을 확대하는 계획을 제시했다.

세계보건기구(WHO)는 보건의료 AI의 윤리ㆍ거버넌스와 전주기 규제 접근을, 국제의약품규제조화위원회(ICH)는 모델 기반 의약품 개발 근거의 계획ㆍ평가ㆍ문서화 원칙(M15 가이드라인)을 밝혔다.

실제 규제 검토 사례에서도 각 규제기관은 AI가 낸 결론 자체보다 그 결론이 어떤 데이터와 절차를 거쳐 도출됐는지를 중점적으로 검증했다.

자료집이 정리한 6개 사례의 주요 검토 사항은 사용 목적의 제한, 독립 검증자료 확보 여부, 데이터 대표성, 판단 근거의 설명 가능성, 인간 평가자와의 병행 여부, 모델 고정과 변경관리 등이었다.

이 가운데 아스트라제네카와 에비노바가 공동 개발한 임상 사망 판정 도구 ‘AIDA’는 AI 모델의 사용 맥락을 단일 평가변수로 명확히 한 대표적 사례로 꼽았다.

https://www.newsmp.com/news/articleView.html?idxno=255766