‘책임 있는 혁신(Responsible Innovation)’은 성찰적 기술 설계론이다. 공허하거나 난해한 이론 체계가 아니라 실용적인 도구 모음이다. 심의 요청 게임, 위해(危害) 모델링, 공동체 배심원 등으로 구성된 이 방법론은 기술 제품의 디자인 단계에 관여해 윤리적 결과물을 도출하는 데 활용된다. 윤리의 공백 상태에 빠져 있는 데이터 과학, 인공지능 기술 개발자들을 돕기 위해 고안된 일종의 절차론이다.

심의 요청 게임을 예로 들어보자.

이 게임에 참여하는 개발자, 혹은 기술 설계자들은 다양한 이해관계자들에게 미칠 영향을 1~5점 단위로 평가해야 한다. 이 과정에서 자연스럽게 자신이 개발하는 인공지능(AI) 제품에 대한 사회·윤리적 이해가 쌓이게 된다. 여럿이 동시에 게임을 즐기기에 다양한 관점을 접할 수 있는 기회도 생겨난다. 검은색 스크린 위에 나열된 수백·수천 줄의 황갈색 코드에선 발견되지 않았던 신세계를 간단한 카드 게임으로 경험해볼 수 있다. 사회와 대화할 수 있는 유익한 기회임엔 틀림없다.

책임 있는 혁신은 ‘디자인싱킹’·‘애자일’이라는 혁신적 설계 프로세스에 비어 있던 윤리적 책임성을 채워넣는 역할을 한다. 아직 툴킷이 소개된 지 얼마 되지 않아 보편적 방법론으로 자리를 잡진 못했지만, 소프트웨어 개발 생태계에 신선한 자극을 만들어낼 잠재력은 충분해 보인다. 여전히 과제는 이 툴킷을 활용한 AI 개발자들의 태도와 사고다.

아나콘다라는 데이터 과학 플랫폼 기업이 데이터 과학자·교수·학생을 대상으로 조사해 이달 초 공개한 결과를 보면, 교수와 강사 15%만이 AI 윤리를 가르친 적이 있다고 응답했다. AI 윤리를 배운 적이 있다고 응답한 학생은 18%에 불과했다. 무려 100개국 2360명 데이터 과학자들을 대상으로 실시한 조사였음에도 윤리과목에 대한 이해, 교육 경험은 이 정도 수준에 불과했다. 알고리즘 및 데이터 편향, 시스템 공정성 문제, 프라이버시 침해 등 AI의 사회적 문제가 불거지고 있는 상황인데도 현실은 여전히 윤리의 진공 상태에 놓여 있다.

교육부는 올초 AI 대학원을 8개교 체제로 확대 편성했다. 며칠 전 정부는 ‘디지털 뉴딜’을 포함한 한국판 뉴딜을 선언했다.

한국사회는 AI를 거론하지 않고 성장을 이야기할 수 없는 단계로 빠르게 진입했다. AI의 성장판은 창대하게 열렸고, 당장이라도 손에 잡힐 듯 성과가 쏟아질 듯한 분위기다. 그러나 유독 AI 윤리에 대한 논의는 잠잠하다. AI 대학원의 커리큘럼에도 도드라져 보이지 않는다. 있으면 좋고 없다고 문제 될 리 없는 흔한 장식품처럼만 여기지 않았으면 하는 바람이다.

<이성규 전 메디아티 미디어테크랩장>