인공지능(AI)이 전 산업에 빠르게 확산되고 있다. 빠른 확산과 함께 지난해 불거진 ‘이루다’ 이슈로 AI에 대한 신뢰성(Trustworthness) 확보가 화두로 부상했다. EU, 미국 등 주요국은 이미 사회적, 산업적 수용을 전제로 AI 신뢰성 정책을 펼치고 있다. 우리나라도 AI강국 도약을 위해 지난달 13일 ‘신뢰할 수 있는 인공지능 실현전략’을 발표했다. 이번 전략은 민간 자율 신뢰성 확보 지원체계를 구축해  스타트업 등에 대한 지원책을 담은 것이 특징이다. 국내 AI기업 대부분은 신뢰성 확보 체계를 갖추기 어려운 스타트업과 중소기업이다. 이에 와이즈넛, 알체라, 뷰노 등 국내 대표 AI 기업 3개사를 통해 국내 AI기업들이 AI 신뢰성을 어떻게 인식하고 있는 지, 또 어떤 대비를 하고 있는 지 살펴봤다. 이들 3사는 “AI기업 미래는 신뢰성에 확보에 달렸다”면서 “중소기업과 스타트업의 신뢰 구현 체계 마련이 무엇보다 중요하다”고 강조했다. <편집자 주>

 와이즈넛(대표 강용성)은 인공지능 챗봇 및 빅데이터 검색 및 분석 SW 기업이다. 2000년 설립됐다. 지난 21년간 언어처리기술 기반의 빅데이터 검색과 수집, 분석, AI 챗봇 등 빅데이터 및 인공지능 기술 근간이 되는 핵심 기술인 자연어처리와 머신러닝, 텍스트마이닝, 의미분석, 검색 같은 자체 원천 기술을 확보, 정부의 디지털 뉴딜 기조에 맞는 데이터 사업을 영위하고 있다. 

와이즈넛의 대화형 인공지능 챗봇 ‘와이즈 아이챗(WISE iChat)’은 구축형 모델과 서비스형 모델 두 가지 형태가 있다. 고객 비즈니스 환경과 인력, 예산, 운영, 활용 목적에 따라 선택적으로 제공한다. 강용성 와이즈넛 대표는 “인공지능 챗봇 분야에서 공공기관 및 지자체, 금융, 제조, 유통, 교육, 여행 등 전 산업분야에서 약 170여 건의 챗봇 상용화 레퍼런스를 구축했다”면서 “국내 최다 인공지능 챗봇 구축 사례를 보유하고 있다”고 밝혔다. 

강 대표는 지난해 이슈가 된 AI 챗봇 ‘이루다’와 관련해 “대화형 학습데이터를 선정하고 사용하는 과정에서 편향성이 있는 데이터를 정제하지 않은 채 인공지능 학습에 그대로 활용해 발생한 문제”라며 “2016년 미국 마이크로소프트가 개발해 오픈한 서비스 챗봇 ‘테이(Tay)’에서도 이미 발생한 사례인데, 이루다 개발사가 학습 데이터 선정 및 정제 단계에서 이런 점을 충분히 고려하지 못해 발생했다”고 해석했다. 이어 강 대표는 “기술적으로 데이터 편향 문제가 재현되지 않도록 하기 위해 인공지능 서비스에 활용하는 데이터를 선정하고 정제하는 과정에서 데이터를 검증하는 기술 사용, 즉, 텍스트마이닝과 언어분석, 검색 등의 기술을 적용한 ‘대화 데이터 검증 도구’를 만들어 선제적으로 대응하는 것이 하나의 대안”이라고 진단했다.

 ‘이루다’ 같은 사건이 다시 일어나지 않기 위해 과기정통부는 발빠르게 움직여 지난달 ‘신뢰할 수 있는 인공지능 실현전략’을 발표했다. 앞서 과기정통부는 지난해 12월에는 ‘사람이 중심이 되는 인공지능 윤리기준’도 발표한 바 있다. 또 최근 개인정보보호위원회는 AI 자율점검표를 마련해 AI 설계 및 개발, 운영에 지켜야 할 개인정보보호법상의 주요 의무 및 권장사항을 자율 점검토록 한 바 있다. 

강 대표는 “정부의 인공지능 윤리 규범 제정 및 공표는 인공지능 산업 성장에 의해 발생할 수 있는 여러 부작용을 방지하기 위한 노력으로 생각한다”면서 “동시에 고려할 점은 AI 윤리 규범이 인공지능 산업의 지나친 규제가 되지 않도록 자율적인 환경에서 이뤄져야 한다”고 밝혔다. 도를 넘은 세밀한 법적 규제로 신 산업에 해당하는 인공지능 산업이 자칫 위축될 수 있다는 거다.  강 대표는 “정부 차원의 강력하고 세밀한 표준 규제가 아니라 업계가 수용 가능한 수준의 기업 내 자발적인 윤리 기준에 따른 표준을 마련할 수 있게 했으면 한다”면서 “이를 위해 인공지능 산업을 지원 및 관리하는 새로운 정부 조직 구성이 필요하다고 생각한다”고 덧붙였다. 

와이즈넛이 AI 신뢰성 확보를 위해 시행하고 있는 노력도 공개했다. 강 대표는 “수많은 데이터를 확보 및 활용하는 과정에서 우리 회사가 보유하고 있는 각종 언어처리기술을 조합해 대화 데이터 전처리를 검증하는 프로세스를 구축, 고객 시스템에 적용하고 있다”면서 “자연어 분석 및 처리 원천기술을 보유하고 있는 우리의 강점을 최대한 활용하고 있다”고 말했다. 이어 “와이즈넛은 편향 데이터 사용을 방지하고 개인 정보에 해당하는 내용을 미리 필터링, 정제된 데이터만 인공지능 학습 데이터로 활용할 수 있게 하고 있다”면서 “향후 AI 신뢰성 확보를 위해 설명가능한 인공지능(eXplainable AI, XAI)을 도출하고, 윤리적 기준을 충족하기 위한 노력을 지속할 계획”이라고 밝혔다.    

와이즈넛은 설명가능한 인공지능(XAI)을 도출하기 위해 SOTA (State-of-the-art, 최고 기술) 기술을 내재화, 기술 완성도를 높이기 위한 노력을 하고 있다. 또 지난 21년간 자연어 기반 솔루션 사업을 수행하면서 축적한 테스트 전처리 및 정제 기술을 십분 활용하고 있다. 특히 제품과 서비스 목적과 특성에 따라 불필요한 정보(성희롱, 혐오, 차별 발언 등)에 적용가능한 윤리적 기준을 마련하고, 이를 정제(필터링) 할 수 있는 기술을 개발, 정부의 AI 윤리 가이드라인에 부합하는 서비스를 구축할 수 있게 연구개발을 진행하고 있다. 

 강 대표는 AI인증 도입에 대해서도 의견을 밝혔다. 인간의 생명과 직결된 분야에 대해 강력한 규제가 선행돼야 한다면서 “개인 안전성을 위협하거나 악용할 여지가 많은 AI 기술에 대한 인증 도입이 빠르게 정립될 필요가 있다”면서 “특히, 자율주행과 스마트공장, 인공지능 국방체계와 같이 인간 생명과 안전에 직결된 분야가 그 예”라고 밝혔다. 이어 “자율주행 시 안전에 대한 윤리적 기준 수립과 스마트공장 내 산업 재해 발생 시 윤리적 우선순위 수립, 국방시스템에서 작전 수행 및 인본주의 우선 순위 등이 논란 여지가 많은 분야”라며 “이들 분야에 우선 신뢰성 및 안정성 인증 도입이 이뤄져야 한다”고 말했다. 

AI 신뢰성과 관련해 정부나 동종 업계에 바라는 점도 밝혔다. “AI 산업은 아직 초기 단계로 한국 기업의 경우 글로벌 플랫폼 기업과의 무한 기술 경쟁을 해야 하는 상황에 놓여있다”면서 “이런 상황 속에서 정부가 신산업인 인공지능 산업에 대한 지속적인 관심을 가지고 효과적이고 전폭적인 산업 지원 정책을 마련해 주는 것이 중요하다”고 강조했다. 이어 전 분야에 디지털 전환을 적용할 지금이 대한민국에 아주 중요한 시기라며 “범 정부 차원의 지원이 절실하다”면서 “신뢰성 부분에 있어 정부가 제시하는 가이드라인이 초기 산업 발전에 저해가 되지 않도록 운용해야 한다”고 덧붙였다.

No Comment

Comments are closed.