인공지능(AI) 도구가 의료 분야에 점점 더 많이 도입됨에 따라, UC 샌타크루즈 정치학과 박사 과정 학생인 루시아 비탈레의 최신 연구는 현재의 약속과 불안의 경관을 점검함.
AI 지지자들은 이 기술이 의료 공급망 관리, 질병 발생 모니터링, 진단, 의료 이미지 해석, 심지어 의료 종사자 부족을 보완하여 치료 접근의 형평성 격차를 줄이는 데 도움을 줄 것이라고 기대함. 그러나 다른 이들은 개인 정보 권리, 모델의 인종 및 성별 편향, 환자 치료 실수로 이어질 수 있는 AI 의사 결정 과정의 불투명성, 심지어 보험 회사가 건강이 좋지 않은 사람들을 차별하는 데 AI를 사용할 가능성 같은 문제에 대해 경고하고 있음.
이 도구들이 궁극적으로 어떤 영향을 미칠지는 개발 및 배포 방식에 따라 달라질 것임. 비탈레와 그녀의 공동 저자, 브리티시컬럼비아대학교 박사 과정 학생인 레아 쉽턴은 사회과학 및 의학 저널에 발표한 논문에서 AI의 현재 경로에 대한 광범위한 문헌 분석을 수행함. 그들은 AI가 궁극적으로 제한된 영향을 미치는 기술 발전의 긴 목록에 추가될 가능성이 높다고 주장함. 이는 글로벌 공공 건강의 보다 근본적인 구조적 문제를 회피하는 '회피의 정치'에 참여하기 때문임.
예를 들어, 과거의 많은 기술 개입과 마찬가지로, 현재 개발되고 있는 대부분의 AI는 질병 치료에 초점을 맞추고 있으며, 건강의 근본적인 결정 요인은 무시하고 있음. 비탈레와 쉽턴은 검증되지 않은 AI 도구에 대한 과대 광고가 지역 사회 건강 종사자 및 피해 감소 프로그램과 같은 저기술이지만 증거 기반의 전체론적 개입을 시행해야 할 긴급한 필요성에서 주의를 분산시킬 수 있다고 우려하고 있음.
우리는 이러한 패턴을 이전에 보았음. 우리는 공공 건강을 실제로 변화시키지 못하는 이러한 기술적 은총에 계속 투자하고 있음. 이는 건강 정책 우선 사항에서부터 건강한 식품 접근 및 안전한 거주지에 이르기까지 건강의 깊이 뿌리내린 정치적 및 사회적 결정 요인을 다루지 않기 때문임.
AI는 또한 역사적으로 생물 제약 산업에서 일반적이었던 해악과 착취의 패턴을 지속하거나 악화시킬 가능성이 높음. 논문에서 논의된 한 예는 AI의 소유권과 이익이 현재 고소득 국가에 집중되어 있으며, 규제가 약한 저소득 및 중간 소득 국가가 데이터 추출 또는 잠재적으로 위험한 신기술의 실험 대상으로 삼을 수 있다는 것임.
이 논문은 또한 AI에 대한 느슨한 규제 접근 방식이 새로운 치료법과 도구에 대한 공정하고 저렴한 공공 접근보다 지적 재산권 및 산업 인센티브의 우선 순위를 계속해서 높일 것이라고 예측함. 그리고 기업의 이익 동기가 제품 개발을 계속해서 주도할 것이기 때문에 AI 회사들은 연구 및 개발 투자에서 어떤 문제를 타겟으로 할지를 결정할 때 세계에서 가장 가난한 사람들의 필요를 간과하는 건강 기술 부문의 장기적인 경향을 따를 가능성이 높음.
하지만 비탈레와 쉽턴은 밝은 점을 발견함. AI는 의료 시스템 자체를 개선하는 데 집중함으로써 더 깊은 영향을 미칠 수 있는 잠재력을 가지고 있음. AI는 병원 간 자원을 보다 효율적으로 배분하고 보다 효과적인 환자 분류를 위해 사용될 수 있음. 진단 도구는 전문의가 없는 작은 농촌 병원에서 일반 의사의 효율성을 개선하고 능력을 확장할 수 있음. AI는 심지어 증가하는 출산 관리 사막 지역에서 산전 검진과 같은 기본적이지만 필수적인 건강 서비스를 제공하여 노동 및 전문화의 격차를 메울 수 있음.
이 모든 응용 프로그램은 치료 접근의 형평성을 높일 수 있는 잠재력을 가지고 있음. 그러나 그 결과는 보장되지 않음. 이러한 기술이 어떻게 그리고 어디에 배포되는지에 따라, 진정한 건강 종사자 부족이 있는 곳에서 치료의 격차를 성공적으로 메우거나 기존의 의료 종사자에게 실업 또는 불안정한 기회로 이어질 수 있음. 그리고 건강 종사자 부족의 근본 원인, 즉 탈진 및 고소득 국가로의 '두뇌 유출'이 해결되지 않는 한, AI 도구는 궁극적으로 유용하지 않은 진단이나 발생 감지를 제공할 수 있음. 왜냐하면 지역 사회가 여전히 대응할 수 있는 능력이 부족하기 때문임.
이익을 극대화하고 해를 최소화하기 위해, 비탈레와 쉽턴은 AI가 의료 분야에 더 확장되기 전에 규제가 마련되어야 한다고 주장함. 적절한 안전 장치는 AI가 과거의 해로운 패턴을 따르지 않도록 돕고, 대신 미래 프로젝트가 공공의 이익에 부합하도록 새로운 경로를 개척할 수 있도록 할 수 있음.
"AI와 함께 우리는 새로운 기술을 관리하는 방식을 수정할 기회를 가지고 있다"고 쉽턴은 말함. "하지만 우리는 세계 보건 기구, 건강 개입을 자금 지원하고 제공하는 주요 공공-민간 파트너십, 그리고 기술 회사를 호스팅하는 미국, 인도, 중국과 같은 국가를 통해 AI 건강 기술의 윤리적 거버넌스를 위한 명확한 의제와 프레임워크가 필요함. 이를 구현하는 데는 지속적인 시민 사회의 옹호가 필요할 것임."
