Ricky Lee

Ricky Lee

Client Developer


의료분야에서의 AI (3)

업데이트:

의료 분야의 AI에 대한 이슈

인식

4차 산업혁명의 중심인 인공지능이 인간을 대체할 가능성은 높지만 의료영역에서 임상 의사를 빠르게 대체하는 것은 아직은 어려움이 있다. 최소한 의료분야의 경우에서는 사람처럼 직관적인 판단으로 진료 행위를 하는 것은 어려울 것이다. 왜냐하면 인공지능이 특정부분에서 인간을 뛰어넘는 능력을 가지고 있지만 진단과 치료는 분석에 의한 판단이 아니라 경험이기 때문이다. 경험은 단순학습이 아니라 노하우이고 생명 존중에 대한 윤리이기 때문에 대체 보다는 지원을 강화해야 할 것이다.

예를 들어 의사가 진료실에서 진통제를 처방하면서 환자의 손을 한 번 잡아 주는 것만으로도 환자의 아픔은 크게 가실 수 있는데 이건 현실적으로 인공지능이 할 수 없는 일이다. 또한. 불의의 사고 대처, 새로운 질병에 대한 연구, 환자에 대한 인간적 접근, 패러다임 전환에 따른 대응, 오류에 빠지지 않도록 컴퓨터 균형 제어, 인간의 진화에 따른 컴퓨터 업데이트, 돌발적 한계상황 대처까지 의사가 필요한 수 많은 이유가 존재한다. 결국, 인공지능의 역할은 의사들이 좋은 판단을 내릴 수 있도록 돕는 것으로 해석된다.


규정 및 법, 제도

의료 분야는 타 분야와 달리 인간의 생명을 다루기 때문에 윤리적 측면의 접근이 매우 중요하다. 예를 들어, 인공지능 검사를 한번이라도 실시한 환자의 암 예측 확률이 보험사, 직장 등에 알려졌을 경우, 암 예측을 30%라고 했을 때 암이란 이유로 미리 치료를 권장해야 할 것인가? 아니면 이전처럼 우선 지켜보자고 해야 할 것인가? 인공지능 기술로 판단한 진단과 예측 결과는 어떤 영향을 미칠지는 알 수 없기 때문에 윤리적인 문제도 함께 고려하는 것은 당연하다. 결국 개인의 윤리 의식이 객관적이라고 볼 수 없기 때문에 법, 제도의 판단이 필요하다.

위에서 언급한 점 말고도, 의료 분야에서 AI에 대한 많은 이슈가 존재한다. 특히 한국이라는 나라의 특성도 어느 정도 작용하는데, 이 이슈들을 언급하고자 한다.


한국에서의 AI 의료 이슈

1. 개인정보보호 측면

한국은 방대한 의료 관련 데이터를 보유하고 있으나, 실제 AI로 학습할 양질의 데이터가 부족하다. 우리나라는 건강보험 데이터베이스, 건강검진 데이터베이스, 병원의 의료정보 등 방대한 의료 데이터가 존재하나 개인 정보 및 의료정보 보호 정책으로 AI 분석을 위한 데이터 공유 및 활용이 어려운 실정이다. 개인정보보호 측면에서 사용자 정보를 식별할 수 없는 데이터를 기반으로 AI 분석은 가치 있는 정보를 얻어낼 수 없기 때문이다.

또 개인의 의료정보 유출로 인한 사생활 침해에 대한 우려가 있다. 의료기관은 환자의 질병, 건강 상태 등 민감한 의료 및 바이오 정도 등을 보유하게 되는, 최근 AI를 포함한 ICT 융합형 의료 신기술 도입이 증가하면서 대규모의 의료정보를 보유한 대형병원의 보안 사고에 대한 우려가 높아지고 있다. 특히 AI를 활용하여 악성 코드로 환자의 의료 기록, 영상, 이미지 등을 조작하여 의사를 속이는 형태의 범죄에 대한 우려가 증가할 수 있는데, 세계적으로 급증하는 해킹으로 인한 개인 정보 유출에 대해 의료기관의 대응 시스템이 미흡하다는 의견이다.

국내 의료법에 의하면, 상급 종합 병원에 정보 보호 관리체계 인증 획득을 의무화하고 있다. 그러나 해킹에 의한 의료정보 침해사고에 의한 피해 사실은 신고 의무가 없어서 대응이 소극적인 수준으로 머무르고 있다.


2. AI 활용의 효과

AI를 활용하는 것이 만족할 만큼 진단의 정확성을 가져오는지 불확실한 상황이다. 앞서 언급한 IBM의 AI 솔루션 ‘왓슨 포 온콜로지’ 가 출시되자 국내외의 여러 병원에서 도입하여 사용하고 잇다. 그러나, IBM 왓슨의 문제는 학습 데이터 선택과 암의 종류, 병원 및 국가별 상이에 따라 왓슨의 능력이 다르게 나타나는 신뢰성의 문제를 가지고 있다.

국내의 경우 길 병원과 건양대 병원이 왓슨 도입 후 암 진단에 대한 의사와의 의견 일치율이 40% 정도로 매우 저조했다고 한다. 왓슨은 미국 데이터를 기반으로 만들어진 태생적 특성으로 인해 국가별 특성, 즉 한국인 고유의 빅데이터가 반영되지 못한 것이 낮은 의견 일치율의 원인으로 지적되고 있다.


3. AI 오작동에 대한 책임

AI의 오작동으로 인한 의료 사고에 대한 법적 책임 소재가 불분명하다. AI 시스템의 오류로 인해 예기치 못한 의료사고가 발생 할 경우, 병원 / 의사 / 개발자 / 의료기기 제조업체 중 책임을 질 주체가 누구인지 명확하지가 않다.

특히 환자가 AI의 진단을 의사보다 선호할 경우, 의사와 AI 중 누가 책임을 져야 할지에 대한 논의가 필요한 시점이다.


4. AI의 의사결정 불투명성

AI의 특징인 블랙박스 즉, 의사결정의 불투명성으로 인한 신뢰의 문제가 존재한다. 딥러닝 학습이 증가하면서 AI의 결과물이 어떤 방식에 의해 구현되었는지 알 수 없다. AI의 추론 과정을 알아야 AI가 내린 결정에 신뢰를 가질 수 있는데, 심층 신경망의 규모가 커지면 추론 과정을 이해하는 것은 불가능해진다.

결국 AI가 어떤 방식으로 왜 그런 선택을 했는지, 결정을 했는지 설명할 수 있어야만 AI에 대한 신뢰가 높아지고 활용의 효과도 커질 것이다.


5. AI 학습을 위한 데이터 수집의 어려움

개인정보 침해에 대응하여 개인 정보 보호법에 의해 개인 정보의 수집과 활용에 있어 매우 엄격하게 관리하고 있다. AI 성장과 적용의 핵심은 데이터 수집과 수집한 데이터에 대한 학습이다. 그러나 우리나라는 개인정보보호 측면을 강조하다 보니 AI 학습과 분석을 위한 가치 있는 데이터 확보가 어려워 다양하고 혁신적인 AI 활용 의료 서비스 개발에 제약이 많다.


한국의 AI 이슈 개선 방안

1. 데이터 가공 기술 개발

의료의 지능화를 촉진하기 위해서 정형, 비정형의 수집한 데이터를 가치 있는 데이터로 가공할 수 있는 데이터 전처리 기술 개발이 중요하다. 의료 AI에서 중요한 것은 단순히 다량의 의료 데이터를 수집하는 것 보다는 수집한 데이터를 학습이 가능한 의료 데이터로 변환시키는 기술의 확보이다.


2. 의료정보 침해사고 방지 시스템 체계 구축

의료정보 침해사고를 방지할 수 있는 시스템적 대응 체계 구축이 필요하다. 병원 등 의료기관 내 환자의 의료정보 유출 방지를 위한 체계는 다음과 같다.

  • 사용자 접근 통제 및 인증 시스템의 고도화
  • 암호화 대상 의료 정보 전송 및 저장 시 데이터 암호화 기술 적용
  • 의료 정보에 대한 해킹, 악성 코드 등 사이버 위협에 효율적으로 대응하기 위한 일종의 컨트롤 타워 설치 등에 대한 요구


3. 결과에 대한 원인을 설명할 수 있는 기술

현재 AI의 한계로 지적되고 있는 것의 하나로 AI가 진단 및 치료 등에 대한 의사의 의사결정 지원 시 결과만 알려주고 어떤 근거로 그러한 판단을 내렸는지 AI 스스로 논리적인 설명이 어렵다.

예를 들어, AI를 통해 암 진단 결과가 나올 경우 블랙박스와 같은 AI 알고리즘 하에서 어떤 방식으로 결과가 도출되었는지 의사와 환자 모두 알아야 AI 알고리즘에 대한 신뢰가 생길 것이다.


4. 의료 데이터 활용, 공유 또는 가이드 마련

의료기관 등에서 보유한 방대한 양질의 의료 데이터에 대한 활용, 공유 시스템 또는 가이드 마련이 요구된다. 개인 정보 보호 정책으로 인해 의료기관 간 수집된 데이터의 공유가 불가능하기 때문에 이를 해결할 정책적 방안 마련이 시급한데, 기존 보유한 의료 데이터에 대한 개인 정보 침해를 최소화하면서 사용 목적이나 범위 등을 명확하고 구체적으로 설정하는 정부의 활용 가이드 마련이 필요하다.


5. 의료사고에 대한 책임 소재 규명 정책 마련

AI에 의한 의료사고에 대해 책임 소재 규정을 하기 위한 사회적 합의 및 정책 가이드 마련이 중요하다. 의료행위 주체에 AI를 포함시킬 것인지, 포함한다면 AI와 관련된 개발자, 보험사 등의 책임 범위는 어떤 수준인지 등 구체적인 가이드에 대한 사회 구성원 간 공론화가 필요한 시점이다.


6. AI 전문 인력 양성

AI 기술 자체의 전문 인력 뿐만 아니라 의료 도메인 지식을 토대로 AI 활용 데이터 분석, 예측이 가능한 의료 AI 애널리스틱 양성을 위한 전문대학원 및 교육 프로그램 제공이 필요하다.


7. 한국인의 특성을 반영한 의료 AI

IBM 왓슨의 사례에서 봤듯이 미국인 데이터 기반 AI 플랫폼을 암 진단 일치율에서 국가별로 상이한 결과를 보여주고 있다. 즉, 어떤 데이터를 학습했느냐가 의료 AI 플랫폼의 성과를 좌우한다. 이에 따라, 한국 사람의 의료 데이터로 학습한 의료 AI 플랫폼의 개발 및 보급이 중요하다.


결론 및 시사점

지금까지 현재의 의료 분야에서의 AI에 대해 알아보았다. 앞으로 의료 분야에서 인공지능의 미래는 어떻게 될지 상상할 수 없다. 개요에서 언급했듯이, 이제는 인공지능 기술이 의료에 적용될 경우 “무엇이 좋아질 것인가?” 혹은 “무엇을 줄 것인가?” 라는 관점보다는 “어디에 어떻게 적용할 것인가?”에 관심이 모아지고 있다. 경제적 기술적 관점에서 판단하여 AI와 의료분야 연구에 대해 제안을 하자면 다음과 같다.

  1. 인공지능 기술이 진단지원이나 분석만 하는 것이 아니라, 천문학적 비용이 소요되는 신약 개발에 있어서 신약 후보 물질의 빠른 분석과 시뮬레이션을 통한 기전 예측에 의해 시행착오를 줄일 수 있으므로 관련 연구가 지속적으로 이루어질 수 있도록 지원되어야 한다.

  2. 학습을 목적으로 한 의료 데이터를 확보하는 것이 쉬운 일이 아니며 대량의 의료 데이터를 가지고 있다고 하더라도 의미 있는 정보를 찾기에는 어려움이 있다. 따라서 수집된 데이터를 의미 있는 데이터로 처리하는 사이언스 및 헬스케어 애널리틱스 측면의 경쟁력을 갖추어야 한다.

  3. 잘못된 진단으로 인한 책임의 대상을 특정하고 개인정보 및 민감 정보 유출로 인한 피해나 의료인을 대체할 것이란 막연한 불안감 등을 해소하기 위해 법, 제도 개선에 따른 정책적인 지원과 근거기반의 홍보로 보수적인 시각에서 단계적인 접근이 필요하다. 결론적으로 인공지능 기술의 도입은 의료 및 바이오 분야의 신뢰성과 정확성을 향상시켜 최적의 의료 서비스 제공을 가능하게 하며, 차원 높은 분석에 대한 연구자와 관리자의 요구에 의해 오히려 일자리 창출로 이어질 것으로 사료된다.


참고자료

  • 인공지능신문: http://www.aitimes.kr/news/articleView.html?idxno=14442
  • CEONEWS: http://www.ceomagazine.co.kr/news/articleView.html?idxno=2154
  • 중앙일보(헬스미디어): https://jhealthmedia.joins.com/article/article_view.asp?pno=21556
  • 데일리메디: http://www.dailymedi.com/detail.php?number=854316&thread=22r06
  • 최윤섭의 헬스케어 이노베이션: http://www.yoonsupchoi.com/2017/07/30/ai-medicine-3/
  • 코로나19 최전방에서 활약하는 AI기술: https://www.phopick.com/post/470123
  • 히트뉴스: http://www.hitnews.co.kr/news/articleView.html?idxno=16123
  • 헬스경향: https://www.k-health.com/news/articleView.html?idxno=47215
  • 씨젠: http://www.seegene.co.kr/
  • 메디소비자: http://www.medisobizanews.com/news/articleView.html?idxno=66579
  • 인공지능 신문: http://www.aitimes.kr/news/articleView.html?idxno=15514
  • 이데일리-2025년 수술 40% 수술로봇 담당: https://www.edaily.co.kr/news/read?newsId=01295606622653576&mediaCodeNo=257
  • 청년의사-길병원, 국내 최초 정형외과 인공지능 로봇 도입: http://www.docdocdoc.co.kr/news/articleView.html?idxno=1074557
  • 미디어데일-다빈치 로봇 수술기로 신장이식 성공: http://www.mediadale.com/news/articleView.html?idxno=31220
  • AI가 변화시키는 헬스케어: https://yimjang.tistory.com/entry/AI-Healthcare-Impact
  • 인공지능 기술의 의료 현장: http://blog.naver.com/PostView.nhn?blogId=hyouncho2&logNo=221507688887
  • 개인 맞춤형 진료: https://www.bioin.or.kr/InnoDS/data/upload/tech/81C28A0A-673C-CDDF-D8DC-A9BDD4BD20DA.pdf
  • 인공지능과 헬스케어 산업 혁신: http://www.ictconference.kr/sub/pdf/day2/006(%EA%B9%80%ED%83%9C%ED%98%B8).pdf
  • 의료, 바이오 분야의 인공지능: https://www.bioin.or.kr/fileDown.do?seq=42831&bid=tech


Writer: Jae-Hwan Lee

댓글남기기

참고