우리 부부가 의료 AI 책임 구조를 파헤치기 시작한 이유

작년 겨울, 남편이 병원에서 돌아와 한숨을 쉬며 소파에 털썩 앉았어요. "오늘 큰일 날 뻔했어..."

알고 보니 AI 진단 시스템이 폐렴을 단순 기관지염으로 판독했는데, 남편이 환자 증상이 이상해서 다시 검사했더니 폐렴이었다는 거예요. 만약 그대로 항생제만 처방하고 보냈다면? 생각만 해도 아찔했죠. 그날 밤 우리 부부는 처음으로 AI 진단의 법적 책임에 대해 진지하게 얘기했어요.

남편은 의사고, 저는 회계사예요. 평소엔 서로 일 얘기를 잘 안 하는데, 이 문제는 달랐어요. 남편은 "AI가 틀렸는데 왜 내가 책임져야 해?"라고 했고, 저는 "그럼 누가 책임지는데? 기계가 배상금 물어줄 수 있어?"라고 되물었죠.

사실 병원에서 AI 진단 시스템 도입한 지 2년쯤 됐대요. 처음엔 다들 신기해하고 정확도도 높아서 좋아했는데, 문제는 이런 일이 생겼을 때였어요. 남편 동료 중에 실제로 소송에 휘말린 분이 있었거든요. AI가 유방암 2기를 1기로 판독했고, 그 의사가 별다른 검토 없이 그대로 진단했다가... 환자가 6개월 후에 전이 발견하고 소송 걸었대요.

그 의사분, 결국 8천만 원 물어줬어요. 보험으로 일부 처리했지만, 보험료는 올라가고 평판은 바닥이 됐죠. 제일 억울한 건 뭔지 아세요? AI 회사는 아무 책임도 안 졌다는 거예요. 계약서에 "최종 판단은 의사가 한다"고 써있다면서요.

미국은 좀 다르더라고요. 제가 회계 쪽 일을 하다 보니 해외 사례도 자주 보는데, 2018년에 IBM Watson이 폐암 오진한 사건 있었잖아요. 그때 법원이 책임을 나눴어요. IBM이 40%, 병원이 35%, 의사가 25%. 총 배상금이 320억 원이었는데, 이렇게 나눠서 물었다는 거죠. 우리나라였으면? 의사가 다 뒤집어썼을 거예요.

남편이 그러더라고요. "나는 의대 6년, 인턴 레지던트 4년 해서 10년을 공부했는데, AI는 학습 몇 개월 만에 전문의 수준이래. 근데 책임은 왜 내가 다 지냐고." 맞는 말이에요. 근데 또 환자 입장에서 보면 AI한테 소송 걸 수도 없잖아요.

제가 회계사 입장에서 보면 더 복잡해요. 병원에서 AI 시스템 도입하면 자산으로 잡히는데, 이게 문제 생기면 충당부채로 잡아야 하거든요. 근데 얼마나 잡아야 할지 아무도 몰라요. 왜? 판례가 거의 없으니까. 작년에 상장한 의료 AI 회사 재무제표 봤는데, 법적 리스크 충당금이 10억 원이더라고요. 솔직히 터지면 100억도 모자랄 텐데.

최근에 남편 병원에서 있었던 일인데요. AI가 치과 엑스레이에서 충치를 12개 발견했대요. 그런데 실제로는 3개였어요. 환자가 "왜 멀쩡한 이를 치료하려고 했냐"고 항의했죠. 다행히 남편 동료가 다시 확인해서 문제없이 넘어갔지만, 만약 그대로 치료했다면? 과잉진료로 고발당했을 거예요.

제가 얼마 전에 의료 AI 스타트업 투자 검토를 했어요. 기술력은 정말 좋더라고요. 정확도 98%? 대단하죠. 근데 재무제표 뜯어보니 보험료로만 연 2억 원 나가고 있었어요. 법무팀 비용은 또 따로고. CEO한테 물어봤어요. "소송 한 번 걸리면 어떻게 하실 거예요?" 그분이 뭐라고 했는지 아세요? "우리는 보조도구만 만드는 거라 책임 없어요." 투자 안 했습니다.

2025년부터 법이 바뀐다는 얘기 들으셨어요? 의료 AI 책임법이라고, 제조사도 최대 50%까지 책임지게 한대요. 남편은 좋아하는데, 저는 걱정이에요. AI 회사들이 보험료 감당 못 해서 철수하면? 결국 의료 현장이 더 힘들어질 수도 있거든요.

요즘 남편이 하는 말이 있어요. "AI 결과 나오면 일단 의심하고, 두 번 확인하고, 기록 꼼꼼히 남긴다." 예전엔 AI 결과 그대로 믿었는데, 이제는 오히려 더 신경 쓴대요. 아이러니하죠? 업무 효율 높이려고 도입한 AI 때문에 일이 더 많아진 거예요.

저희 부부가 최근에 내린 결론이 있어요. 남편은 의료기록 관리 프로그램 새로 배우고, 저는 의료 AI 기업 분석할 때 기술력보다 법무·보험 체계를 먼저 본다는 거.

얼마 전에 친구가 물어봤어요. "AI가 의사 대체한다며?" 저는 이렇게 답했어요. "AI가 책임질 수 있을 때까지는 아니야."

진짜 무서운 건 뭔지 아세요? 지금 이 순간에도 전국 병원에서 AI가 수만 건의 진단을 내리고 있다는 거예요. 그중에 몇 개가 틀릴까요? 그리고 그 책임은 누가 질까요?

남편이 가끔 농담처럼 말해요. "나중에 문제 생기면 당신이 변호해줘." 저는 회계사지 변호사가 아닌데... 근데 정말 그런 날이 올지도 모르겠어요. AI 시대의 의료 현장, 생각보다 복잡하고 위험해요. 기술 발전도 좋지만, 책임 구조부터 명확히 해야 하지 않을까요?