첨단 AI 디지털 의료제품 레드팀 챌린지 및 기술 워크숍 조직위원회 회의. [사진 조직위원회 사무국]

식품의약품안전처가 주최하는 '2026 첨단AI 의료제품 레드팀 챌린지 및 기술 워크숍' 개최 계획이 5월 20일 서울 웨스틴 조선호텔에서 열린 조직위원회를 통해 최종 확정됐다.

이번 행사는 식약처와 함께 ▶한국전자통신연구원(ETRI) ▶분당서울대학교병원 ▶㈜STA테스팅컨설팅 ▶한국화학융합시험연구원(KTR)이 공동 주관한다.

행사는 오는 9월 3일부터 4일까지 노보텔 앰배서더 서울 동대문 호텔에서 열린다. 의료 AI 및 AI 보안·시험 분야 전문가 200여 명이 참여할 예정이며, 첫째 날에는 레드팀 챌린지, 둘째 날에는 기술 워크숍과 시상식이 진행된다.

올해 챌린지는 지난해보다 대상 모델 규모를 1.5배 확대해 국내외 대표 LLM·FM과 의료 특화 AI 모델 등 총 15종을 대상으로 운영된다. 평가는 기술적 난이도와 안전·위해도, 취약점 재현성, 공격의 창의성·다양성 등을 기준으로 진행된다.

특히 올해 행사에서는 ㈜STA테스팅컨설팅이 식약처 연구개발(R&D) 과제로 개발한 '생성형 AI 디지털의료제품 레드팀 시험평가 플랫폼'이 처음 운영 인프라로 적용된다. 해당 플랫폼은 의료제품에 특화된 적대적 공격 시나리오 설계와 시험 환경 제공, 결과 수집·분석, 취약점 재현 로그 관리 등을 지원하는 의료 AI 전용 시험평가 시스템이다.

회사 측은 해당 플랫폼이 의료 AI 제품 인허가 단계에서 활용 가능한 신뢰성·안전성 평가 체계로 확장될 수 있도록 설계됐으며, 이번 행사를 통해 실제 운영 환경에서 검증이 이뤄질 예정이라고 설명했다.

둘째 날 열리는 기술 워크숍에서는 의료 AI 안전과 제품 평가, 글로벌 규제 동향, 기술·표준 동향 등이 주요 의제로 다뤄질 예정이다. 점심시간에는 '첨단 의료AI 안전 포럼'도 함께 운영된다.

조직위원회 관계자는 "의료 AI 개발사와 보안 연구자, 임상 전문가, 학생 등 누구나 참여할 수 있도록 운영할 계획"이라고 밝혔다.

한편 이번 행사에는 ▶국가인공지능전략위원회 ▶보건복지부 ▶보건산업진흥원 ▶한국인터넷진흥원 ▶대한의료인공지능학회 등 유관 기관과 업스테이지, AIM intelligence 등 기업이 후원 기관으로 참여한다.