병원이 AI 챗봇을 믿고 써도 될까, 레드팀 테스트로 확인하는 디지털 의료제품 검증법진료실에 AI 챗봇 하나를 들이는 일이 이렇게 복잡한 검증 절차를 거쳐야 하는 줄은 미처 몰랐다. 식품의약품안전처가 오는 9월 첨단 AI 디지털 의료제품 레드팀 챌린지를 연다는 소식을 접하면서, 병원과 개발사들이 그동안 놓치고 있었을지 모를 검증의 실체를 제대로 들여다보게 됐다. 의료 AI를 그냥 믿고 쓸 수 없는 이유 의료 현장에 인공지능이 들어오는 속도는 빠른데, 그 인공지능이 실제로 안전한지 확인하는 절차는 상대적으로 낯설다. 진단을 보조하고 환자 상담에 응답하는 시스템이 늘어나는 만큼, 그 이면에서 발생할 수 있는 오작동이나 악용 가능성을 미리 찾아내는 작업이 함께 가야 한다는 게 이번 챌린지의 출발점이다. 식약처..