규제 체크포인트: 생성형 AI 의료기기의 해외 규제 동향

생성형 AI의 ‘환각(Hallucination)’이 인허가와 법적 책임에 어떤 영향을 미치는지 알고 계십니까? 연구진을 보호하고 성공적인 제품화를 돕기 위해, 미국/EU가 주목하는 3가지 핵심 체크포인트를 확인해보세요.

1. [진입 단계] 우리 제품이 나도 모르게 ‘의료기기’로 분류될 리스크

2. [인증 단계] 환각 제어(RAG 등)를 통한 품질 입증 및 인허가 통과 전략

3. [사후 책임] 의료사고 발생 시 책임 소재와 설계 결함 방어 방안

- (주)날리지웍스 임정희 파트너 -

1. [진입 단계] 의료기기 분류 리스크: "의사가 AI를 맹신하게 만들면 '의료기기'입니다"

주요 이슈

솔루션의 당초 개발목표가 단순 정보 제공 도구로 설계했더라도, 생성형 AI의 환각 문제로 근거 없이 진단·치료 권장사항이 Output으로 생성될 경우, 해당 솔루션은 본래 의도와 무관하게 ‘질병 진단·치료’ 행위를 수행하는 의료기기로 분류될 위험이 있음

해외 동향 : 미국 FDA의 CDS 면제 조항의 엄격한 해석

FDA CDS 가이드라인 CDS(임상 의사결정 지원) 면제 조항과 Criterion 4의 장벽(미국 FD&C Act Section 520(o)(1)(E) 및 2022 FDA CDS 가이드라인)

의무 내용 21세기 치료법(21st Century Cures Act)은 특정 조건(Criterion 1~4) 충족 시 CDS SW를 의료기기 정의에서 제외(Non-Device)함

핵심 쟁점 (Criterion 4) 2025년 현재 가장 큰 쟁점이 되는 것은 Criterion 4로, 이는 “의료 전문가(HCP)가 권장 사항의 근거를 독립적으로 검토할 수 있도록 해야 하며, 의료전문가가 해당 권장 사항에 주되게 의존하지 않도록 해야 함”

적용 현황 FDA는 FM(Foundation Model)의 '블랙박스' 특성을 고려하여 이 면제 조항을 매우 좁게 해석하고 있음. 즉, 근거를 명확히 설명하지 못하는 AI는 의료기기(Device CDS)로 분류하여 규제하겠다는 기조를 강화함

...................(계속) 

☞ 자세한 내용은 첨부파일을 이용하시기 바랍니다.