의료 정보 및 관리 시스템 협회(HIMSS)의 최근 조사에서 의료 기관의 약 3분의 1이 직원이 AI를 사용함에 있어 공식적인 제한 없이 허용하고 있다는 사실이 드러났다.

HIMSS의 조사에 따르면, 의료 기관의 47%가 AI 승인 프로세스를 갖추고 있지만, 42%는 승인 프로세스가 없다고 답했다. 응답자의 42%는 소속 의료 기관이 AI에 대한 허용 가능한 사용 정책을 서면으로 보유하고 있다고 밝혔지만, 48%는 없다고 답했다.

이 조사는 의료 서비스 제공자, 벤더, 컨설팅 회사, 정부 기관, 기타 조직의 사이버 보안 전문가 273명에게 대표성을 갖도록 진행되었으며, AI를 포함한 광범위한 사이버 보안 현황을 파악하는 데 중점을 두었다.

응답자의 37%는 기술적 업무에, 35%는 진료 서비스에, 그리고 34%는 사이버 보안 및 행정적 업무에 AI를 활용하고 있다고 답했다. 이는 AI가 의료 분야에서 점점 더 보편화됨에 따라 활용 사례가 증가할 것을 시사한다. 

HIMSS는 "승인 프로세스는 AI 기술 도입 전에 사전 검토하는 적극적인 역할을 하여 승인되지 않거나 부적절한 사용의 가능성을 줄일 수 있다"고 설명했다. 또한, AI 사용을 모니터링하는 것은 "지속적인 AI 활동 감독을 제공하여 잠재적인 오용, 규정 준수 문제, 보안 위험을 식별하고 해결"하는 반응적인 역할을 한다고 강조했다. 

응답자의 31%는 소속 기관이 시스템 및 기기 전반에 걸쳐 AI 사용을 적극적으로 모니터링하고 있다고 답했지만, 52%는 하지 않고 있으며, 17%는 모른다고 답했다. HIMSS는 모니터링의 부재가 데이터 유출과 같은 위험을 초래할 수 있다고 지적하며, AI 사용에 대한 견고한 모니터링 전략의 필요성을 역설했다.

응답자의 42%가 소속 의료 기관이 AI에 대한 허용 가능한 사용 정책을 서면으로 보유하고 있다고 답했다. HIMSS는 이러한 정책이 "기술, 특히 AI의 안전하고 책임감 있는 사용을 위한 명확한 지침을 제공"하며, 조직의 AI 도입 여부에 따라 단독 또는 일반적인 정책에 통합될 수 있다고 설명했다.

응답자의 75%가 데이터 프라이버시를 AI 관련 최우선 우려 사항으로 꼽았으며, 데이터 유출(53%)과 AI 시스템의 편향(53%)이 그 뒤를 이었다. 거의 절반이 지적 재산 도난(47%)과 투명성 부족(47%)에 대한 우려를 표했고, 41%는 환자 안전 위험을 강조했다.

HIMSS는 "이러한 조사 결과는 의료 분야의 AI 사용에 대한 견고한 보호 장치, 윤리적 프레임워크, 그리고 적극적인 조치의 필요성을 보여준다"고 강조했다.

소수의 응답자가 내부자 위협 활동을 경험했다고 답했다. 부주의한 활동은 5%, 악의적인 활동은 3%, 둘 다는 3%였다. HIMSS는 "이 수치는 작아 보일 수 있지만, 많은 조직이 AI 관련 내부자 위협에 대한 모니터링을 아직 도입하지 않아 잠재적 위험이 감지되지 않고 있을 가능성이 있다"고 경고했다. 

저자는 "AI 도구와 시스템에 대한 의존도가 높아지면서 부주의하거나 악의적인 내부자 활동에 대한 새로운 기회가 생겨나며, 이는 민감한 데이터와 운영 무결성에 대한 위험을 증폭할 수 있다"고 지적하며, 의료 기관이 AI 사용에 대한 승인 프로세스와 모니터링을 강화할 것을 촉구했다.

HIMSS는 북미, 유럽, 영국, 중동, 아시아-태평양 지역에서 활동하고 있는 단체이며, 이 조사는 의료 분야의 사이버 보안 전문가들에게 중요한 시사점을 제공한다.