CWN(CHANGE WITH NEWS) - 외신, 前 워싱턴DC 법무장관의 AI 규제 법안 재조명

해외 뉴스 플랫폼 트루트만 페퍼가 생성형AI의 발전에 따른 편견과 차별 문제가 개선되지 않은 상황을 지적하며, 지난해 퇴임한 워싱턴DC 법무장관 칼 라신(Karl Racine)의 인공지능(AI) 규제 법안에 주목했다.

최근 들어 디지털 이미지 생성 프로그램 DALL-E부터 자연어 처리 기술을 갖추어 블로그 게시글, 에세이, 시 등 다양한 글을 작성할 수 있는 챗GPT(ChatGPT)까지 다양한 프로그램이 등장하면서 AI 기술의 역량의 비약적인 발전이 입증되었다. 지금까지 등장한 여러 AI 툴은 웹 브라우저로 수집한 다양한 자료를 바탕으로 현재와 같은 역량을 갖추게 되었다.

하지만 AI 프로그램은 역량이 발전함과 동시에 편견과 차별 등 법적, 윤리적 문제로 끊임없는 논란을 낳았다. AI 이미지 생성 프로그램이 인종차별적인 이미지를 생성한 사례가 발생해 논란이 된 것을 그 예시로 언급할 수 있다.

많은 기업이 편견과 차별이 없는 심사 과정이라는 숭고한 목표를 가지고 있었으나 AI 모델 훈련에 사용된 기본 데이터의 주관성이 시스템에 침투하여 차별적인 결과를 만든 탓이다. 결국, AI는 피하고자 했던 암묵적인 편견을 강화하기만 했다.

라신 전 법무장관이 빠르게 발전하는 AI 기술에 관심을 보이며, AI 규제를 외치는 이유이다. 라신 장관은 차별 요소를 담은 데이터로 알고리즘 훈련 과정을 거친 AI 모델이 편견과 차별적 결과를 보여줄 수 있다고 지적했다.

라신 전 법무 장관은 ‘알고리즘의 차별 금지법(Stop Discrimination by Algorithms Act of 2021)’으로 AI의 편견과 차별 문제를 엄격하게 다루고자 했다. 만약, ‘알고리즘의 차별 금지법’이 통과한다면, ‘기업과 기관의 개인 계급 혹은 인종, 종교, 출신 국가, 성별, 성 정체성, 표현, 가작 관계, 소득, 장애 등의 차별 요소가 있는 데이터를 기반으로 한 노골적인 차별 데이터 이용 금지’, ‘기업과 기관이 사용하거나 개발한 AI의 차별 패턴 연례 감사 및 알고리즘의 차별 문제, 그동안 발생한 차별 문제 확인 의무화’, ‘알고리즘의 의사 결정 방식 명시’ 등을 법으로 다루게 될 것이다.

이를 어긴다면, 1회 위반 시 최대 1만 달러의 과징금이 부과된다. 또한, 법원이 위반 건수 1회당 최소 100달러, 최대 1만 달러의 실제 손해배상금을 부과할 수 있는 행위 위반에 대한 사적인 소송 사유를 제공한다.

한편, 일각에서는 여전히 알고리즘이 일련의 객관적인 수학적 명령이지만, 알고리즘의 문제에 맥락에서 예방 조치를 취하지 않으면 기존의 주관적 편견을 악화할 수 있을 것이라고 지적한다. 또, 법률로 규제를 강화해도 제공된 데이터를 기반으로 사회 경제적 격차를 악화시킬 수 있을 것이라는 우려를 제기했다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]