CWN(CHANGE WITH NEWS) - [독점] 해외 합동 연구팀, 온라인 학습 지원하는 윤리적 AI 챗봇 개발

코로나 시대에 온라인 강의가 보편화되었다. 호주 비영리 미디어 기관 더컨버세이션에 따르면, 온라인 학습과 4차 산업혁명 흐름에 따라 캐나다와 미국, 레바논, 영국, 프랑스 연구 기관 19곳의 전문가로 구성된 합동 연구팀이 지난해 8월부터 신속한 인공지능(AI) 챗봇 기반 온라인 학습 기술을 개발했다.

연구팀은 24시간 일주일 내내 활용할 수 있다는 점과 수천 건의 질문을 동시에 처리할 수 있다는 특성에 주목해, 챗봇 기반 온라인 학습 방식을 구상하게 됐다.

연구팀은 전략적으로 챗봇을 활용해 반복적인 하위 수준의 안내 작업부터 시작해 AI 챗봇 훈련을 시작했다. 연구팀은 연구에 참여한 전문가가 소속한 연구 기관의 보유 기술을 함께 활용했다. 반복 훈련과 함께 챗봇은 사용 방법 설명 글과 튜토리얼, 워크샵을 진행할 수 있는 능력을 갖추게 되었다. 챗봇의 안내 능력은 개인의 필요와 디지털 능력, 복합 학습 경험 설계 배경지식 수준에 따라 맞춤 설정할 수 있다.

온라인 학습 지원 챗봇의 구체적인 탄생 과정은 다음과 같다.

우선, AI 마크업 언어(Artificial Intelligence Markup Language) 방식을 활용한다. 프로그래머가 AI에 문답 라이브러리와 핵심 키워드를 제시하면, 엄격한 정의가 지정된 프레임에 따라 적합한 답을 제시하도록 훈련한다.

챗봇은 처음에 주어진 데이터세트를 기반으로 답변한다. 이후 연구팀은 유연하면서 자연스러운 답변을 제시하기 위해 자연어 처리(NLP) 접근 방식을 활용했다. 프로그래머가 초기 데이터세트를 생성하면, AI 툴이 현재의 변화를 학습해 주어진 질문에 가장 적합한 답변 조합을 제시한다. 그다음에 문장 속 키워드를 식별하고는 질문의 맥락을 파악하며 답변 능력을 향상한다.

연구팀은 AI 챗봇 개발 과정에서 답변 능력과 함께 윤리성도 고려했다. 맥그로힐(McGraw Hill)과 마이크로소프트, 노드 앵길라 에듀케이션(Nord Anglia Education), 피어슨 PLC(Pearson PLC) 등 복수 기관의 자금 지원과 함께 영국 버킹엄대학교를 중심으로 '교육 분야의 AI 윤리성 프레임워크(The Ethical Framework for AI in Education)'를 작성했다.

프레임워크는 AI 시스템이 기관과 학습자의 자치권 부여와 인간과의 관계 존중, 인간의 통제 능력 보장이라는 조건을 명시했다.

연구팀은 설계 단계부터 챗봇을 윤리적으로 개발해야 한다고 강조한다. 즉, 보안과 안전, 책임성, 투명성과 같은 가치관을 중시한다는 의미이다.

마지막으로 연구팀은 유네스코(UNESCO)의 AI 윤리 권고사항에 명시된 바와 같이 사용자에게 피해를 주지 않고, 프라이버시를 보호하는 방안도 염두에 두었다. 특히, 교육 및 학습 수단으로 활용할 때, 사용자가 잠재적인 피해를 겪지 않도록 보호하는 것이 중요하다는 점에서 개발 단계에서 AI를 공정하게 다루며, 항상 인간이 접근할 수 있는 옵션을 부여했다. 인간의 실수와 입력 오류도 이해하고 다양한 능력, 다국어 텍스트 커뮤니케이션을 존중하는 것을 대표적인 예시로 언급할 수 있다.

또한, 각국의 데이터 보호 정책을 따라 잠재적인 개인 정보 유출 피해가 발생하지 않도록 데이터 수집 문제를 최소화했다. 연구팀이 챗봇 개발을 위해 대화 일부분만 수집 허가를 요청했다.

한편, 연구팀이 개발한 온라인 학습 지원 AI 챗봇은 일부 교육 기관에서 학습과 관리 업무 전달, 학생 연구 지원에 활용 중이다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]