남주곤 국가과학기술연구회 디지털전환분과위원
![[포럼] 사실을 확정짓는 건 AI 아닌 인간](http://contents.dt.co.kr/images/202305/2023052202102369660003[1].jpg?var=1755 "[포럼] 사실을 확정짓는 건 AI 아닌 인간")
우선 데이터 학습 기반의 인공지능은 수많은 데이터에서 학습한 지식을 토대로 판단을 도출하므로 귀납적 방식을 사용한다고 볼 수 있다. 그런데 이러한 귀납적 추론방식은 18세기 영국의 철학자인 데이비드 흄이 지적한 귀납의 오류를 벗어날 수 없다. 인류가 여태껏 보아온 까마귀의 색깔이 모두 검었다고 해서, '모든 까마귀는 검다'라는 말이 확고한 사실이라고 할 수는 없는 것이다. 모든 귀납적 방식은 귀납의 오류를 갖고 있고 따라서 귀납적 방식만을 사용하는 인공지능 또한 이 오류를 벗어날 수 없다. 즉, 사실을 사실이라 완벽히 확인할 수 없는 것이다.
현실에서 실제 있었던 사실에 관한 확인도 마찬가지다. 사람은 오감을 통해 현상을 직접 지각하며 이렇게 지각한 현상을 사실이라고 믿는다. 하지만 인공지능은 사람과 같이 현상을 직접 지각할 수 없고 오직 사람이나 다른 기계가 생성한 데이터를 통해 간접적으로만 현상을 지각할 수 있다. 즉, 인공지능은 현상을 토대로 창작된 글, 사진, 동영상 등과 같은 매체 데이터를 통해서만이 지각할 수 있는데 결국 이러한 방식 또한 귀납적 추론 방식에 해당하므로 이 역시 귀납의 오류에서 벗어날 수 없다. 기계학습 기반 인공지능은 귀납적 추론 방식만을 확인하므로 완벽한 사실 확인은 불가능하다. 따라서, 인공지능이 사람과 같은 사실 확인 능력을 갖추기 위해서는 사람의 사고구조와 같이 연역적 추론 기능도 갖추어야만 한다.
그런데 이러한 연역적 추론 방식은 경험 즉 데이터 학습만으로는 얻을 수 없다. 통상 수학적 진리, 논리적 원리, 인과관계 분석과 같은 지식은 경험에서 나오는 것이 아니다. 우리는 1 더하기 1의 해답이나 혹은 (1, 2) (2, 4) (3, 6) (4, x)에서 x가 무엇이냐는 문제의 답을 경험에서 찾지 않는다. 이러한 연역적 추론 능력은 경험과는 별개로 작동하기 때문인데, 독일의 칸트를 비롯한 유럽대륙의 합리주의자들은 이러한 지식을 사람이 선천적으로 타고나서 경험보다 앞서 있는 인식능력 즉 선험적 지식이라고 보았다. 따라서, 이러한 연역적인 추론 능력을 인공지능으로 구현하지 못하는 한 인공지능이 스스로 사실 확인을 하는 일은 영원히 불가능할 수도 있는 것이다.
덧붙여 이런 생각은 인공지능의 윤리 문제로까지 확장할 수 있다. 어떤 행위가 윤리적인지를 판단하는 것은 경험적 지식만으로는 어렵고 연역적 추론 능력을 필요로 하기 때문이다. 특히 칸트는 모든 이성적 존재는 선험적인 도덕법칙을 가지며 이 도덕법칙에 따라 행동하는 것이 윤리적인 행동이라고 하였다. 사람은 이러한 도덕법칙을 가지고 경험해보지 못한 수많은 상황에서도 윤리적 행동 기준을 추론해 낸다. 이러한 도덕법칙을 인공지능에 구현하는 기술을 갖지 못하는 한 다양한 상황에서 스스로 윤리적으로 행동하는 인공지능을 기대할 수 없는 것이다. 트롤리 딜레마에서 철로를 돌려 더 많은 사람을 구하지 않는 인간을 인공지능이 어찌 이해할 것인가.
말과 언어가 사람과 소름 끼치도록 닮았다고 해서 사람도 아닌 인공지능에 진실을 추구하는 이성을 갖추기를 기대하는 것이 오히려 허황한 생각인지도 모른다. 아직은 인공지능은 기계일 뿐이며 사람과 같은 이성적 존재가 아니다. 따라서 인공지능이 사실 확인을 도울 수는 있어도 사실을 사실이라 확정하는 것은 아직 인간의 몫이다. 사람을 흉내 내는 기계를 사람으로 보지 않는 능력이 인공지능 기계와 함께 세상을 살아야 하는 우리에게 더욱 중요해질지도 모를 일이다.
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
