CWN(CHANGE WITH NEWS) - [구혜영 칼럼] 인공지능(AI)기반 복지국가모델을 위한 제언

인공지능(AI)기술이 사회전반에 적용되면서 복지행정의 패러다임도 급격히 변화하고 있다. 정부는 AI를 활용해 복지사각지대를 발견·지원하고, 빅데이터를 활용해 맞춤형 서비스를 제공하여 행정의 효율성을 높이고 있다. 

우선 AI기술은 사회보장 분야에서 정책시뮬레이션 기능을 대폭 강화시키고 있다. 인구구조 변화, 경기변동, 복지정책 조정에 따른 재정부담과 수혜효과를 사전에 정밀하게 예측할 수 있도록 해주기 때문이다. 정책입안자들이 보다 합리적인 의사결정을 내리는 데 결정적 도움을 주고 있는 것이다.  

그리고, 복잡한 복지대상자의 사례관리도 변화시키고 있다. 딥러닝기반 추천시스템이 수천 건의 사례를 자동으로 분류하고, 최적의 지원방안을 제시하게 됨으로써 공무원들이나 사회복지사들은 반복적인 업무에서 벗어나 더 많은 시간을 수급자와의 상담과 문제해결에 투입할 수 있게 될 것으로 보인다. 또한 음성인식, 수어통역기술, 자동통번역기술은 고령층과 장애인, 다문화가족 등 디지털 취약계층의 복지서비스 접근성에 획기적인 개선을 가져올 것이다.

특히 무엇보다 중요한 것은 복지·보건·고용·의료·주거·행정·세금 등 여러 부처에 흩어진 데이터를 통합해 분석할 수 있어 국민 개개인의 상황을 입체적으로 파악하고, 필요한 지원을 빠짐없이 제공하는 ‘AI기반 복지국가’인 생애통합적 사회보장 서비스가 가능해질 수 있다는 점이다. 투명한 AI 의사결정시스템 구축은 데이터 활용의 정당성을 확보하고, 국민신뢰를 회복하는 계기가 될 수도 있다.

하지만 장밋빛 전망만 있는 것은 아니다. AI기반 사회보장시스템은 본질적으로 국민의 소득, 건강 및 질병, 위치, 가족관계, 경제상황, 주거 등 민감한 정보를 통합분석하기 때문에 자칫 과도한 국가감시로 인식될 수 있다. 지난 코로나19 팬데믹 당시 확진자 동선공개로 인한 심각한 '신상털기' 논란에서 보듯, 사생활 보호와 복지 효율성 사이의 긴장은 해소되기 쉽지 않을 것이다. 

더 심각한 문제는 사이버상의 낙인과 차별을 누구나 경험하게 될 수 있다는 점이다. AI가 특정집단을 '고위험군' 또는 '잠재 위험군'으로 분류해 관리할 경우, 디지털 공간에서 차별적 꼬리표가 붙을 수 있다. 누구도 모르는 사이 누군가는 사회통합을 저해하는 존재, 그래서 새로운 형태의 배제존재로 남을 수 있다.

또한, 현장 공무원이나 사회복지사의 전문성 역량약화도 우려된다. 데이터기반 자동결정에 지나치게 의존하면, 복잡한 상황을 판단하고 공감하는 능력이 축소될 수 있다. 핸드폰 의존으로 암기할 수 있는 전화번호가 거의 없다거나, 내비게이션 없이는 길을 찾지 못하는 것처럼, 인간 고유의 문제해결 능력과 관계형성 역량이 퇴화할 위험이 있다는 것이다.

그리고, 책임소재의 모호함도 문제가 될 수 있다. 다단계 알고리즘체계에서 어디선가 잘못된 결정이 내려졌을 때, 그 책임이 정부에 있는지, 시스템 개발자에게 있는지, 데이터 제공자에게 있는지 분명치 않을 경우가 발생하게 된다는 것이다. 특히 급변하는 사회경제 환경에서 AI모델은 빠르게 노후화되어, 과거 데이터에 근거한 부적절한 판단을 내릴 가능성이 높아지면서 현재에 최상의 정답을 기대하기는 어렵게 된다.

이러한 문제들에 대응하기 위해서는 기술적·사회적·법제도적 차원의 통합적 접근이 필요하다. 첫째, 기술적 측면에서는 설명가능한 AI(XAI) 도입이 시급하다. AI의 의사결정 근거를 명확히 시각화하여 공무원, 사회복지사와 수혜자 모두가 그 결과를 이해할 수 있어야 한다. 공정성 지표를 내장한 알고리즘, 차등 프라이버시와 연합학습 같은 개인정보보호 기술도 필수다. AI시스템에 대한 공정성·안전성 평가를 의무화하고, 인증받은 모델만 운영을 허가하는 검증체계도 구축해야 한다.

둘째, 사회적 측면에서는 시민참여가 핵심이다. 복지수급자 및 이용자, 시민단체, 학계, 기술전문가가 AI정책설계와 평가과정에 참여해 사회적 합의를 이끌어내야 한다. 정부는 사회보장 AI활용 현황과 오류, 개선사항을 담은 윤리보고서를 매년 공개하고, 공무원 및 사회복지사를 대상으로 데이터 편향, 알고리즘 이해, 사회적 영향평가 등을 포함하는 전문교육도 의무화해야 할 것이다. 무엇보다 AI결정에 이의를 제기하고 인간 상담원과 소통할 권리를 보장하는 '인간개입 데스크'도 필요하다.

셋째, 법제도적 측면에서는 사회보장 AI특별법 제정을 검토해야 한다. 데이터 수집부터 활용, 보관, 폐기까지 명확한 법적 근거를 마련하고, AI오류로 인한 피해발생 시 신속한 보상체계를 구축해야 한다. 개인정보 자기결정권 강화를 통해 본인 데이터의 열람, 수정, 삭제를 요구할 수 있는 권리도 보장되어야 할 것이다. 

이러한 사업을 효과적으로 추진하기 위해서는 'AI사회보장원' 같은 전문기관 설립을 검토할 필요가 있으며, 이 기관은 데이터관리, 모델검증, 윤리심사, 기술인증, 시민사회 의견수렴 등의 업무를 통합적으로 수행하되, 정치적 중립성과 예산 독립성이 보장되어야 한다.

AI는 도구이지 목적이 될 수는 없다. 기술에 의한 효율성만 추구한다면서 인간의 본연의 존엄과 권리가 훼손해서는 안 된다. 투명성, 공정성, 책임성을 갖춘 AI 사회보장시스템을 구축할 때, 비로소 우리는 기술과 인간이 조화롭게 공존하는 ‘AI기반 복지국가’로 나아갈 수 있을 것이다.

▲

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]