기계가 인간을 대신할 수 있을까?
최근 ChatGPT가 화제다. 전문적으로 관련 분야를 연구하는 과학자나 엔지니어들은 어떻게 받아들일지 모르겠지만, 최소한 나 같은 일반인에게는 정말 엄청난 기술적 진보로 느껴진다. 그런데… 그와 같은 기술적 진보가 단순한 흥미거리를 넘어서 정말로 인간의 손길을 대체할 수 있을까? 난 아니라고 생각한다. (물론, 먼 미래에는 가능할 수 있겠지만, 최소한 가까운 미래에는 불가능하다고 생각한다.)
한 가지 예를 들어보자. 지금 와서 돌아보면 ChatGPT에 비해 초보적인 수준의 기술이지만, 처음 선보였을 당시에는 그에 못지 않게 충격적이었던 기술이 바로 주변에서 쉽게 접할 수 있는 "번역기"다. 초기에는 어색하고 조악한 수준이었지만 자동으로 번역이 된다는 사실만으로도 놀라웠고, 오랜 시간 지속적으로 발전해온 결과 이제는 꽤나 매끄러운 수준의 번역이 가능해졌다. 그런데 재미있는 것은, 상당한 발전을 이뤘음에도 불구하고, 번역기만을 사용해 번역하고 출판한 책은 우리 나라에 단 한 권도 없다는 점이다. 기업에서도 해외 고객사에 제출할 자료를 번역기로 번역하는 일은 결코 없다. (아주 간단한 문장으로 이루어진 짧은 이메일을 보내는 경우나, 정말로 외국어를 구사할 수 있는 직원이 전혀 없어서 어쩔 수 없이 사용해야 하는 영세 기업 등은 제외하자.)
그 이유가 뭘까? 그건 기계가 아무리 높은 수준에 도달한다고 해도 "검증"과 "책임"의 문제에 대해서는 인간을 대신할 방법이 딱히 존재하지 않기 때문이다. 번역기를 아무리 개선하고 발전시켜도, "만에 하나 틀릴 경우"에 대한 우려를 불식시킬 방법이 없다. 즉, 이를 검증하기 위해 또 다시 인간의 손길이 필요한 것이다. 또한 추후에 문제가 발생할 경우 그에 대한 책임을 지는 것 역시 기계가 대신해 줄 수 없는 인간만의 영역이다.
또 다른 예로 자율 주행 자동차가 있다. 뉴스를 통해 꽤나 긴 시간 동안 자주 접해온 기술인데, 왜 아직 상용화가 되지 않았을까? (물론, 인간의 개입을 필요로 하는 초보적인 수준의 자율 주행은 이미 상용화가 됐다. 그러나 내가 말하는 자율 주행은, 인간의 개입도 필요 없고 별다른 제약도 없는 완전한 의미의 자율 주행이다.) 그 이유는 예측할 수 없는 돌발 상황 속에서 인간과 같은 (또는 인간 보다 나은) 대응을 할 수 있을지 확신할 수 없기 때문이다. 그런데, 돌발 상황에 대응하기 어려운 것은 인간 초보 운전자도 마찬가지 아닌가? 왜 인간 초보 운전자는 되고 자율 주행 자동차는 안되는 걸까? 그건 인간 초보 운전자에게는 책임을 물을 수 있기 때문이다. 자율 주행 차량도 탑승자에게 책임을 물으면 되는 것 아닌가? 물론 가능하지만, 그렇게 되면 탑승자가 운전에 신경을 쓰고 개입할 수 밖에 없다. 즉, 더 이상 완전한 의미의 자율 주행이라고 말할 수가 없게 된다. 역시나 검증과 책임의 문제를 피할 수 없는 것이다.
개인적으로 생각하기에 기술을 발전시키는 것 자체는 상대적으로 덜 어려운 것 같다. 정말 어려운 것은 검증과 책임의 문제를 해결하는 것이다. ChatGPT의 상황 역시 크게 다르지 않다. ChatGPT를 통해 99% 수준의 결과물을 얻을 수 있다 해도 단 1%의 오류가 포함될 위험이 존재한다면, 이를 검증하기 위해 결국은 인간의 개입이 필요하고, 검증한 사람은 그 결과물에 대해 책임을 져야 하고, 그 책임을 져야 하는 사람이 다시 검증을 반복하는 굴레를 벗어날 수가 없다. 이 부분을 해결하지 못한다면, ChatGPT는 그저 흥미로운 장난감 수준을 벗어나기 어려울 것이다.