인공지능(AI)은 산업의 다양한 분야에서 작업 효율성을 개선해 비용을 절감하고 작업 속도를 줄이는 등 많은 장점이 있다. 의료 서비스에서도 인공지능을 활용하면 건강 결과를 예측하고 진단 속도를 높일 수 있다.
인공지능은 의료 분야에 혁신을 가져올 수 있는 뛰어난 도구이다. 하지만 "의료 분야의 인공지능: 국립 의학 아카데미의 보고서"라는 JAMA의 관련 칼럼에 따르면, 도구를 개발·구현 및 책임감 있게 유지하기 위해선 아직 실질적인 과제가 남아있다.
사람들의 건강과 직결된 '의료 부문'인 만큼 AI를 책임감 있고 유익하게 개발하고 활용하기 위한 고민이 필요하다. HEALTH IT, AMA 등 외신이 해당 컬럼을 인용, 미국 의학 협회가 의료용 인공지능을 개발·사용·구현·규제하는 사람들을 위해 제시한 7가지 가이드라인을 보도했다.
JAMA의 관련 컬럼을 미국 국립 의학 아카데미, 스탠퍼드(캘리포니아), 내슈빌(Nashville), 테네시 소재 밴더빌트(Vanderbilt) 대학교 전문가들이 작성했다.
의료에서 책임감 있는 AI 사용을 위한 7가지 가이드라인
1. 접근성, 표준화 및 품질을 가지고, 모집단의 정확성을 보장하는 데이터를 추진한다.
접근성, 표준화 및 품질을 가진 인구 대표 데이터를 추진하는 것이 필수적이다. 이는 모든 모집단의 정확성을 보장하는 방법이다. 현재 많은 데이터가 있지만, 데이터의 품질, 적절한 합의, 상호 운용성 및 데이터 전송 규모에 대한 문제가 있다.
2. 명시적이고 암묵적인 편견을 해결하며 윤리적이고 공평하고, 포괄적인 의료 AI 우선순위를 정한다.
기본 편향을 면밀히 조사해 기존의 불평등을 악화시키거나 해결할 수 있는 가능성을 파악하고, 이를 어떻게 배치해야 하는지를 파악해야 한다.
3. 투명성과 신뢰 관계를 구축한다. 즉, 차등적 요구를 수용한다.
AI 개발자, 구현자, 사용자 및 규제기관은 스펙트럼 전체에 필요한 투명성 수준을 명확히 하기 위해 협력적으로 지침을 정의해야 한다. 또한 데이터, 성능 및 알고리즘 투명성이 명확하게 분리되어 있어야 한다.
4. 단기적으로는 AI 자율 요원이 아닌 증강 지능에 초점을 맞춘다.
완전 자율형 AI(Fully Autonomous AI)는 대중과 관련이 있으며 기술 및 규제 문제에 맞닿아 있다. 임상의와 환자의 데이터 합성, 해석 및 의사 결정을 지원하는 증강 지능(Augmented Intelligence)이 현재 기회가 있는 곳이다.
5. 적절한 교육 및 교육 프로그램을 만들고 배포한다.
커리큘럼은 다원적이어야 하며 AI 개발자, 구현자, 의료 시스템 리더, 일선 임상 팀, 윤리학자, 휴머니스트, 환자 및 보호자를 참여시켜야 한다.
6. 명확하고 정보에 입각한 정보 기술 거버넌스 전략을 구현한다.
의료 시스템, 인적 인자(human factor) 및 구현 과학(implementation science)을 학습하기 위한 프레임워크와 모범 사례를 활용한다. 의료 제공 시스템은 실질적인 AI 배치 및 통합에 착수하기 전, 강력하고 성숙한 정보 기술 거버넌스 전략을 가져야 한다.
7. 규제와 입법을 통해 신뢰를 증진하고, 혁신과 안전의 균형을 맞춘다.
AI 개발자, 의료 시스템 리더, 임상 참여자, 정보학 및 보건 IT 전문가는 임상 데이터를 기반으로 효과와 안전성을 위해 배치된 임상 AI를 평가해야 한다.
[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]
