비즈니스 기회
건강 분야에서 AI는 무엇을 할까요?
건강 분야의 인공 지능이 큰 가능성을 보여줬음에도 불구하고 AI 도구가 잠재적으로 유해한 결과를 보여줌에 따라 전 세계 규제 당국이 조치를 취해야 한다는 압력이 가중되고 있습니다.
Jameel Clinic은 교수진과 업계 전문가가 건강 분야의 AI 정책 개발에 관해 규제 기관과 협력할 수 있는 기회를 제공하는 일일 이벤트를 주최했습니다.
약물이 미국 식품의약국(FDA)의 승인을 받기 전에 안전성과 효능을 모두 입증해야 합니다. 그러나 FDA는 승인을 위해 약물의 작용 메커니즘에 대한 이해를 요구하지 않습니다. 설명 없이 결과를 받아들이는 것은 FDA 승인을 확보하기 위해 안전하고 효과적인 인공지능 모델의 "블랙박스" 의사결정 과정을 완전히 설명해야 하는지에 대한 의문을 제기합니다.
이 주제는 12월 4일 월요일 MIT Abdul Latif Jameel Clinic for Machine Learning in Health(Jameel Clinic) AI 및 건강 규제 정책 컨퍼런스에서 다루어진 많은 토론 포인트 중 하나였으며, 이는 교수진 간의 일련의 토론과 토론을 촉발시켰습니다; 미국, EU 및 나이지리아의 규제 기관; 건강 분야의 AI 규제에 관한 업계 전문가.
기계 학습이 계속 빠르게 발전함에 따라 규제 기관이 해당 국가가 혁신 경쟁력을 유지하도록 보장하면서 유해한 영향의 가능성을 계속해서 줄일 수 있는지 여부에 대한 불확실성이 지속됩니다. 솔직하고 개방적인 토론 환경을 조성하기 위해 Jameel Clinic 행사 참석은 채텀 하우스 룰(Chatham House Rule) 시행을 통해 토론에 참여하는 100명의 청중을 대상으로 엄격하게 관리되었으며, 출처가 밝혀지지 않고 논쟁의 여지가 있는 의견과 주장을 논의할 수 있도록 발표자의 익명성이 허용되었습니다. .
Jameel Clinic의 목표는 건강 분야에서 AI에 대한 화제를 불러일으키는 이벤트를 주최하는 대신, 규제 기관에 AI의 최첨단 발전을 계속 알리는 동시에 교수진과 업계 전문가가 규제에 대한 새롭거나 다른 접근 방식을 제안할 수 있는 공간을 만드는 것이었습니다. 특히 임상 환경과 약물 개발에서 AI를 사용하기 위한 건강 분야의 AI 프레임워크입니다.
산업계가 팬데믹 이후 노동력 부족, 비용 증가(한 연사에 따르면 "일반적인 믿음에도 불구하고 급여 문제는 아니다"라고 말함), 높은 소진 및 사직률로 인해 어려움을 겪고 있기 때문에 의학에서 AI의 역할은 그 어느 때보다 중요합니다. 의료 전문가들 사이에서. 한 연사는 임상 AI 배포의 우선순위가 환자 진단 및 치료보다는 운영 도구에 더 중점을 두어야 한다고 제안했습니다.
한 참석자는 "개발자 커뮤니티와 의료 시스템뿐 아니라 환자와 규제 기관을 비롯한 모든 구성원에 대한 교육이 확실히 부족하다"고 지적했습니다. 의사들이 임상 AI 도구의 주요 사용자인 경우가 많다는 점을 감안할 때 참석한 많은 의사들은 조치를 취하기 전에 규제 기관에 문의해 달라고 간청했습니다.
참석한 대다수의 AI 연구자에게 데이터 가용성은 주요 문제였습니다. 그들은 AI 도구를 효과적으로 작동시키기 위한 데이터가 부족하다는 점을 한탄했습니다. 많은 사람들이 지적 재산에 대한 접근을 막거나 단순히 대규모 고품질 데이터 세트의 부족과 같은 장벽에 직면했습니다. “개발자들은 데이터를 생성하는 데 수십억 달러를 소비할 수 없지만 FDA는 그렇게 할 수 있습니다.”라고 이벤트 중에 한 연사가 지적했습니다. “AI에 대한 투자 부족으로 이어질 수 있는 가격 불확실성이 있습니다.” EU의 연사들은 정부가 AI 연구자들에게 건강 데이터를 제공하도록 의무화하는 시스템 개발을 홍보했습니다.
하루 종일 진행된 행사가 끝날 무렵, 많은 참석자들은 토론 연장을 제안했고, 건강 분야 AI 규제에 대한 개방적이고 생산적인 토론에 도움이 되는 독특한 공간을 만든 선별적인 큐레이션과 폐쇄적인 환경을 칭찬했습니다. 향후 후속 조치가 확정되면 Jameel Clinic은 추진력을 유지하고 규제 당국이 해당 분야의 최신 개발 상황을 계속 파악하기 위해 유사한 성격의 추가 워크숍을 개발할 것입니다.
한 참석자는 “모든 규제 시스템의 북극성은 안전입니다”라고 인정했습니다. "세대적 사고는 그것에서 비롯되고, 그 다음에는 하류로 작용합니다."
* 원문: What to do about AI in health?
* 출처: web.mit.edu