WHO는 생성적 인공 지능(AI)이 파괴적인 변화를 가져올 수 있다고 경고했습니다.

Jan 31, 2024

메시지를 남겨주세요

 
WHO의 경고
 

     1월 18일 AFP에 따르면 레퍼런스 뉴스 네트워크(Reference News Network)는 1월 20일에 이렇게 보도했습니다.

세계보건기구(WHO)는 생성적 인공지능(AI)이 신속한 질병 진단을 통해 의료에 파괴적인 변화를 가져올 수 있지만, 성급하고 보장되지 않은 구현은 위험을 가져온다고 경고했다.
보도에 따르면 WHO는 지난 18일 공개한 문서에서 의료용으로 대형 다중모달모델(LMM)을 활용하는 것의 위험성과 장점을 분석했다. 이런 종류의 생성 AI는 다양한 데이터(텍스트, 이미지, 동영상)를 활용해 진단 결과를 생성할 수 있다.news-640-426데이터 유형에 국한되지 않는 알고리즘을 기반으로 합니다.
"어떤 사람들은 LMM이 인간의 생각과 행동을 모방하고 인간의 문제를 대화형 방식으로 해결할 것이라고 믿습니다." WHO의 디지털 및 혁신 보건 부서 책임자인 Alan Labrick은 말했습니다.
WHO는 LMM이 앞으로 의학 치료, 과학 연구 및 약물 치료에 널리 사용될 것이라고 믿습니다. 조직은 진단, 과학 연구 및 약물 개발, 의료 및 간호 교육, 관리 및 증상 확인 등 기술이 사용될 수 있는 5개 영역을 확인했습니다.
LMM은 큰 응용 잠재력을 갖고 있지만 WHO는 이 기술이 "거짓, 부정확, 왜곡 또는 불완전한" 결과를 낳을 수 있다고 말했습니다. “LMM이 건강과 의학 분야에서 점점 더 많이 사용됨에 따라 오류, 잘못된 사용 및 개인적인 피해는 불가피합니다.”라고 조직은 지적했습니다.
WHO 문서는 LMM의 새로운 윤리적 경향과 관리 문제를 소개하고 이 기술을 안전하게 사용하는 방법에 대해 정부, 기업 및 환자에게 40가지 권장 사항을 제공합니다.
WHO는 이 기술이 의료 분야에 먼저 적용돼 결함을 발견하고 바로잡을 수 있다고 본다. 세계보건기구(WHO) 수석 과학자 제레미 파라(Jeremy Farrar)는 "제너레이티브 AI가 의료 서비스를 개선할 수 있지만 개발자, 규칙 제정자, 사용자가 수반되는 위험을 완전히 인식하고 있어야 한다"고 강조했습니다.
news-635-398Farrar는 "의료 분야에서 가능한 최상의 결과를 달성하고 지속적인 의료 불평등을 극복하려면 LMM의 개념, 개발 및 사용에 관한 투명한 정보와 정책이 필요합니다"라고 말했습니다.
WHO는 LMM으로 인해 피해를 입은 사용자가 합리적인 보상을 받고 구조 수단을 가질 수 있도록 일부 보증 도입을 요구합니다.
보고서에 따르면 AI는 공중보건과 임상의학에 활용되고 있지만 WHO는 LMM에 일부 위험이 있으며 "사회, 의료 시스템, 최종 사용자가 이에 대처할 준비가 충분히 되어 있지 않을 수 있다"고 보고 있다.
WHO는 또한 LMM이 일반적으로 거대 기술 기업에 의해 개발 및 적용되므로 이들 기업의 기술 독점에 대한 우려와 위험이 높아질 수 있다고 믿습니다. WHO는 LMM의 연구 및 개발이 과학자와 엔지니어뿐만 아니라 의료 분야의 실무자와 환자에게도 의존할 것을 요구합니다.
또한 조직은 환자 관련 정보는 물론 의료 서비스의 신뢰성까지도 위험에 빠뜨릴 수 있는 사이버 보안에 있어 LMM의 취약성에 대해 경고했습니다. 정부는 LMM을 의료용으로 승인하는 책임을 규제 기관에 부여하고 기술의 영향을 평가하기 위해 사용에 대한 청문회를 요구해야 한다는 결론을 내렸습니다.

문의 보내기
문의하기질문이 있으시면

전화, 이메일 또는 아래 온라인 양식을 통해 문의하실 수 있습니다. 전문가가 곧 연락을 드릴 것입니다.

지금 연락하세요!