AI 세무 시스템, 혁신인가 위험인가? 내가 직접 겪은 충격적인 현실

작년 여름이었나, 사무실에 처음 AI 세무 시스템 도입 얘기가 나왔을 때만 해도 솔직히 좀 의아했다. 회계법인에서 십몇 년 일하면서 손으로 하나하나 확인하던 습관이 몸에 배어 있었는데, 갑자기 AI가 세금 신고를 자동으로 처리한다니. 처음엔 "그냥 엑셀 좀 더 똑똑해진 거 아니야?"라고 생각했다. 그런데 막상 써보니, 이건 단순한 계산기 수준이 아니었다. 영수증 사진만 찍으면 항목을 알아서 분류하고, 세법 개정 사항까지 실시간으로 반영해서 공제 항목을 추천해주는 거다. 동료 하나는 "이제 우리 필요 없는 거 아니야?"라고 농담처럼 말했지만, 그 말이 완전히 농담만은 아니란 걸 나도 알았다.

처음 몇 달은 신기했다. 클라이언트 자료 정리하는 시간이 확 줄었고, 단순 반복 작업에서 해방된 기분이었다. 그런데 어느 날, 한 중소기업 고객사의 부가세 신고를 AI가 처리한 결과를 검토하다가 이상한 걸 발견했다. 매입세액 공제 항목 중 일부가 중복 처리되어 있었던 거다. 시스템이 같은 거래를 서로 다른 날짜에 입력된 두 건의 영수증으로 인식한 모양이었다. 만약 내가 그냥 넘어갔다면 과다 환급 신청이 됐을 거고, 나중에 세무조사 들어오면 그 책임은? 순간 등골이 서늘해졌다. 시스템 오류였지만, 최종 확인은 내가 한 거니까 결국 내 책임이 되는 거다.

그 일 이후로 AI 세무 시스템에 대한 생각이 완전히 바뀌었다. 편리하긴 한데, 이게 과연 누구를 위한 편리함인가 싶었다. 개발사는 "AI는 의사결정 지원 도구일 뿐"이라고 말한다. 그러니까 최종 책임은 사용자인 세무사나 회계사한테 있다는 뜻이다. 근데 AI가 점점 더 복잡한 판단까지 내리는 상황에서, 그 모든 결과를 일일이 검증하는 게 현실적으로 가능할까? 하루에 처리해야 할 건수가 수십 건인데, AI가 내놓은 계산식과 근거를 다 뜯어보려면 차라리 수작업이 더 빠를 때도 있다. 그럼 이 시스템을 도입한 의미가 뭔가?

실제로 독일과 EU에서는 아직 AI 세무 시스템의 법적 지위가 명확하지 않다. 내가 찾아본 자료에 따르면, 현재 유럽연합 차원에서 AI 규제법안(AI Act)이 논의 중이긴 한데, 세무 분야에 특화된 조항은 거의 없다. 대부분의 국가에서 AI는 여전히 "보조 도구"로만 인정되고, 법적 책임은 전적으로 인간 전문가에게 있다. 독일 세무사협회(Steuerberaterkammer)의 2024년 지침서를 보면, AI 시스템을 사용하더라도 세무사는 모든 신고 내용에 대해 전문가적 판단을 유지해야 하며, 시스템 오류로 인한 손해도 세무사가 배상 책임을 진다고 명시되어 있다. 그러니까 AI가 잘못 계산해도, 그걸 못 잡은 세무사 잘못이라는 거다.

지난 가을에 참석했던 한 세미나에서 어떤 변호사가 이런 말을 했다. "AI의 책임 문제는 결국 제품 책임법의 영역으로 갈 수밖에 없다"고. 그러니까 AI 시스템을 하나의 제품으로 보고, 결함이 있으면 제조사가 책임지게 해야 한다는 논리였다. 하지만 현실은 그렇게 단순하지 않다. 세무 AI는 단순한 계산기가 아니라 학습하고 진화하는 시스템이다. 내가 입력한 데이터에 따라 결과가 달라지고, 심지어 같은 데이터라도 시스템 업데이트 후에는 다른 판단을 내릴 수도 있다. 그럼 이게 제품 결함인가, 사용자 오류인가, 아니면 그냥 AI의 본질적 한계인가?

실제로 한번은 이런 일도 있었다. 한 프리랜서 고객이 자기 사업 소득을 신고하는데, AI 시스템이 특정 경비 항목을 공제 가능하다고 판단했다. 나는 그 항목이 애매하다고 생각해서 추가 자료를 요청했는데, 고객은 "AI가 된다고 했는데 왜 안 된다는 거냐"며 항의했다. AI가 제시한 근거는 최근 판례 하나였는데, 자세히 보니 그 판례는 완전히 다른 업종에 적용된 케이스였다. AI는 키워드만 비슷하면 연관성이 있다고 판단했던 거다. 결국 나는 직접 세법 조문과 유사 사례를 찾아서 설명해야 했고, 고객은 "그럼 AI는 왜 쓰는 거냐"며 불만을 표했다. 그 순간 느꼈다. AI는 효율을 높여주지만, 동시에 사람들의 기대치도 높인다는 걸.

더 큰 문제는 책임 소재가 불분명할 때 발생하는 윤리적 딜레마다. 예를 들어, AI가 세법 해석을 잘못해서 고객이 추가 세금을 내게 됐다고 하자. 고객은 회계사한테 따진다. 회계사는 AI 개발사한테 문의한다. 개발사는 "시스템은 정상 작동했고, 최종 검토는 전문가 책임"이라고 답한다. 결국 회계사가 배상하거나, 고객이 손해를 감수하거나 둘 중 하나다. 이런 구조에서는 AI 도입이 리스크 감소가 아니라 리스크 전가에 불과하다.

내가 알기로 한국에서도 비슷한 논의가 있다고 들었다. 국세청이 AI 세무 지원 시스템을 시범 운영한다는 뉴스를 본 적이 있는데, 거기서도 "최종 책임은 납세자 본인"이라는 단서가 붙어 있더라. 결국 어느 나라나 같은 고민을 하는 거다. AI는 도구일까, 아니면 파트너일까? 만약 도구라면 칼로 손가락 베인 건 칼 탓이 아니라 사용자 탓이다. 하지만 AI가 스스로 판단하고 추천한다면, 그건 단순한 도구 이상이다. 그럼 책임도 나눠져야 하는 거 아닐까?

몇 달 전에 우리 사무실에서 AI 시스템 책임 문제로 내부 회의를 했다. 대표님은 "앞으로는 AI 사용 여부를 고객에게 명시하고, 동의서를 받자"고 제안했다. 그러니까 'AI 시스템을 보조적으로 사용하며, 최종 검토는 세무사가 진행합니다. 시스템 오류 가능성을 인지하고 동의합니다' 이런 식의 문구를 계약서에 넣자는 거였다. 솔직히 그게 완벽한 해결책은 아니지만, 최소한 책임 범위를 명확히 하는 데는 도움이 될 것 같았다. 그래도 찜찜한 건 어쩔 수 없었다. 고객 입장에서는 "그럼 AI 쓰는 게 나한테 무슨 이득이야?"라고 생각할 수도 있으니까.

유럽에서는 최근 몇몇 대형 회계법인들이 자체적으로 'AI 윤리 가이드라인'을 만들기 시작했다. 내가 읽어본 한 보고서에는 이런 원칙들이 있었다. 첫째, AI 사용 사실을 고객에게 투명하게 공개할 것. 둘째, AI의 판단 근거를 추적 가능하게 기록할 것. 셋째, 중요한 의사결정은 반드시 인간 전문가가 최종 검토할 것. 넷째, AI 시스템 오류 발생 시 즉시 보고하고 개선할 것. 말은 그럴듯한데, 실제로 이걸 다 지키려면 시간과 비용이 만만치 않다. 특히 작은 사무실에서는 현실적으로 어렵다.

그래서 나는 요즘 이런 생각을 한다. AI 세무 시스템은 분명 미래다. 하지만 그 미래가 장밋빛이려면, 기술 발전만큼이나 제도와 윤리가 따라와야 한다. 지금처럼 책임은 전부 사람한테 떠넘기고, 효율만 강조하는 방식으로는 오래 못 간다. 언젠가는 AI 개발사도 일정 부분 책임을 져야 하는 시대가 올 거라고 본다. 그게 제품 책임이든, 배상 보험이든, 아니면 완전히 새로운 형태의 법적 장치든 말이다.

한 가지 흥미로운 건, 일부 AI 개발사들이 이미 '오류 보상 제도'를 시범 운영하고 있다는 점이다. 시스템 오류로 명백한 손해가 발생하면, 일정 금액까지는 개발사가 보상해주는 방식이다. 물론 한도가 있고, 적용 범위도 제한적이지만, 그래도 책임을 나누려는 시도로는 의미가 있다. 우리 사무실에서도 그런 보상 제도가 있는 AI 시스템으로 교체할지 논의 중이다.

결국 내가 내린 결론은 이거다. AI는 효율의 도구지, 책임의 주체가 될 순 없다. 적어도 지금 법 체계에서는 그렇다. 그러니 세무사나 회계사로서 우리가 할 일은 명확하다. AI를 믿되, 맹신하지 말 것. 시스템이 제시한 결과를 항상 비판적으로 검토할 것. 그리고 고객에게 AI 사용의 장점과 한계를 솔직하게 설명할 것. 이 세 가지만 지켜도, AI 시대에 우리의 전문성은 여전히 가치가 있다.

요즘 후배들한테 자주 하는 말이 있다. "AI가 아무리 발전해도, 네가 왜 그 숫자가 나왔는지 설명할 수 있어야 진짜 회계사다." AI는 빠르고 정확할 수 있지만, 맥락을 이해하고, 고객의 상황을 판단하고, 때로는 법의 회색지대에서 최선의 선택을 조언하는 건 여전히 사람의 몫이다. 그리고 뭔가 잘못됐을 때 책임지는 것도 사람이다. 그게 불편하고 부담스럽지만, 동시에 우리가 대체 불가능한 이유이기도 하다.

앞으로 AI 세무 시스템이 더 발전하고, 법과 제도가 정비되면, 지금보다 훨씬 명확한 책임 구조가 만들어질 거라고 믿는다. 그때까지는 우리 같은 현장 전문가들이 조심스럽게, 그러나 적극적으로 AI를 활용하면서, 동시에 그 한계와 위험을 끊임없이 지적하고 개선을 요구해야 한다. 그게 바로 이 기술이 지속 가능하게 발전하는 유일한 방법이라고 생각한다. 윤리적 투명성과 법적 책임, 이 두 가지가 균형을 이룰 때 비로소 AI는 진짜 우리의 파트너가 될 수 있을 거다.