챗GPT시대, 우리가 절대 해서는 안될 일은

미국 OpenAI라는 회사가 2022년 12월 공개한 ChatGPT가 화제다. 현재까지 두 달여 동안 많은 사람들이 감탄하며 사용 후기를 쓰고 있고, 여러 가지 분석기사도 쏟아져 나오고 있다. 사용자가 입력한 질문에 대한 ChatGPT의 답변 내용이 이전에 나왔던 유사한 서비스들과는 차원이 다르다는 평가가 주를 이루고 있고, 심지어 미국 뉴욕시의 공립학교는 학습효과에 부정적인 영향을 준다는 이유로 ChatGPT 접근을 차단하기까지 했다.

이슈가 되고 있는 ChatGPT의 본질을 파악하기 위해서는 먼저 그 기술적인 원리를 이해해야 한다. 그런 다음 해당 기술의 가능성이 어디까지이며, 그 한계가 어디인지 알아보는 과정이 필요할 것이다.

ChatGPT는 기본적으로 사람과 대화(채팅)를 하는 인공지능 챗봇(Chatter robot)이다. OpenAI 홈페이지에는 ChatGPT를 “Optimizing Language Models for Dialogue”로 소개하고 있다. 덧붙여 “대화 방식으로 상호 작용하는 ChatGPT라는 모델을 훈련했고, 대화 형식을 통해 ChatGPT는 후속 질문에 답하고, 실수를 인정하고, 잘못된 전제에 이의를 제기하고, 부적절한 요청을 거부할 수 있다”고 설명하고 있어, 인공지능 언어 모델을 통하여 매우 많은 양의 데이터를 학습한 것을 알 수 있다.

ChatGPT 기술의 원리는

먼저, AI가 인간과 대화(Dialogue)를 할 수 있는 원리를 알아보자. ChatGPT는 대규모 인공지능 모델인 ‘GPT-3.5’ 언어 기술을 사용하는데, 여기서 GPT(Generative Pre-trained Transformer)는 어떤 문구(Text)가 주어졌을 때 그 다음 문구가 무엇인지 예측하며 글을 이어서 만드는 모델이다. 네이버나 구글 검색창에 특정 단어를 입력하면 연관검색어가 뜨는데, GPT를 이용한 간단한 서비스에 해당한다. ChatGPT를 실제로 사용해보면, 질문에 대한 대답을 한 번에 띄워주지 않고, 문장이나 어구 단위로 계속 덧붙여가며 보여주는데, 보여주기식이 아니라 실제 프로세싱 과정을 그대로 보여주는 것이다.

GPT의 역사를 짚어보면, 지난 2018년 GPT-1이 등장하였고, 현재 GPT-3.5까지 발전하였으며, 올해 안에 GPT-4기술이 상용화될 것이라고 한다. AI분야 가장 유명한 사건인 ‘알파고-이세돌 바둑대결’(2016년) 이후에서야 GPT가 등장하였으니 얼마나 최신의 기술인지 알 수 있다. GPT 기술의 각 세대별 핵심적인 차이는 학습양, 즉 매개변수의 규모에 있다. 1세대는 1억 1700만 개, 2세대는 15억 개, 3세대는 1750억 개의 매개변수를 가졌고, 4세대는 100조 개의 매개변수를 가질 것으로 예측된다. 최근 GPT-4가 ‘튜링테스트’를 통과했다는 소문이 퍼지고 있는데 그 의미는 사람이 GPT-4 기술을 이용한 챗봇과 대화를 하는지 사람과 대화를 하는지 전혀 알 수 없는 수준이라는 것을 의미한다.

ChatGPT는 뭐까지 할 수 있나

이러한 상황까지 왔으니, 사람이 할 수 있는 일은 없고, 이제 AI에게 모든 일을 넘겨야 하는 것인가 고민이 될 수 있다. 여기서 중요한 것은 ChatGPT를 포함한 AI가 잘할 수 있는 일과 할 수 없는 일을 명확하게 구별하는 것이다. 이를 위해 현재 가장 유명세를 타고 있는 DALL-E 2(이미지 창작 AI)와 ChatGPT(AI 챗봇)를 중심으로 구별해보고자 한다. 굥교롭게도 둘다 OpenAI의 것이다.

2021년 출시된 DALL-E는 단어를 입력하면 그림을 생성하는 서비스다. 인터넷상에 존재하는 방대한 양의 이미지를 학습하여, 기존 그림을 모방하고 기존 그림들을 조합하기도 하며, 특정한 화풍의 그림을 조금 다르게 변형하기도 하고, 심지어 화풍 여러 개를 조합할 수도 있다. 이는 우리가 어려서 그림을 배우는 과정과 유사한데, 처음에는 선생님의 그림, 잘 그린 그림을 따라 그리고, 그 다음에는 잘 그린 그림을 조합해서 새로운 것을 그리기도 한다. 그러나 배움이 거의 끝난 사람, 미술을 전공한 대학생 이상이나 유명한 그림 작가는 남들과 다른, 기존에 없는 무엇인가를 창작하려고 노력한다. 이 정도 수준의 사람이 창의력을 발현한 작품은 아직까지는 DALL-E가 그린 그림보다 뛰어나다고 볼 수 있다. 작품의 컨셉을 잡고, 창의적 개념을 떠올리는 일이 여전히 인간의 영역으로 남아 있는 반면, 컨셉을 캔버스에 옮기는 사람의 작업은 DALL-E가 이미 대체하고 있다.

ChatGPT를 사용해본 사람이 감탄하는 부분은 결과물이 대학생이 작성한 에세이, 보고서, 논문 보다 수준이 높다는 점에 있다. 박사과정생이 논문을 작성하는 과정을 간단하게 도식화해보자(인문학 논문과 과학 논문이 다를 수 있다). 먼저 논문의 컨셉과 기존에 없었던 내용을 결론으로 생각한다. 또는 기존에 없던 연구결과를 가정하고 결론을 정하고 가설을 세운다. 이후 다양한 사례와 기존의 논문들을 리서치하고 이를 정리하며, 핵심을 뽑아낸다. 그리고 자신의 결론에 맞는 부분과 맞지 않는 부분을 분류하여 각각의 이유와 논리를 부여한다. 사실 이러한 과정을 통해서 논문의 80% 이상은 기존에 존재하고 있는 내용을 참고한다. 10~20%의 내용이 논문의 결론에 해당하며, 그 논문에 가치를 부여하는 부분이고 기존에 없던 것이다.

기존에 존재하는 80%에 해당하는 작업은 사람보다 ChatGPT가 더 잘할 수 있는 부분이 된 것 같다. 과거 밤을 새워서 도서관에서 자료를 찾는 일을 Google이 대신 하였듯이(Google 덕분에 도서관에서 밤을 새며 논문을 쓰는 사람은 없어졌다), 이제는 자료를 찾고 정리하여 문장을 구성하고 주석을 다는 일까지 ChatGPT가 수 분 이내에 할 수 있는 시대가 되었다.

ChatGPT를 속일 수 있을까

그렇다면, ChatGPT가 대답한 내용을 100% 믿을 수 있을까? 일정한 분야를 오래 연구한 교수 수준 이상의 사람들은 ChatGPT가 제공하는 정보의 정확성을 의심하고 있다. 그럴듯한 말로 포장되어 매력적인 문장으로 구성되어 있지만, 그 내용을 꼼꼼히 따지고 들어가면 부정확하거나 틀린 내용이 적지 않다는 것이다.

ChatGPT의 정확성은 누가 보장하는가? 누구도 보장하지 않는다. Google에 검색된 내용의 정확성은 누가 보장하는가? 아무도 보장하지 않는다. 검색된 내용의 정확성을 검증하는 사람은 검색어를 넣어 검색을 한 사람이다. 검색된 결과를 다방면으로 분석해보고, 상반되는 내용이 있다면 어느 정보가 맞는지 논리적으로 따져봐야 한다.

Google은 여러개의 검색 결과를 우선순위대로 보여 주어 검색한 사람이 직접 클릭해가며 여러 링크를 읽도록 하는 반면, ChatGPT에서는 이런 검증과정이 생략된 채 ChatGPT가 제시하는 결과를 믿거나 말거나 양자택일을 해야 한다. 물론 방대한 양의 데이터를 학습하는 과정에서 서로 상반된 내용에 대해 어떤 결론을 선택할지에 관한 나름의 알고리즘이 있을 것이다. 아마도 더 근거가 많거나, 빈도수가 많은 내용을 정확한 정보로 선택했을 것이다.

만약 ChatGPT가 이런 알고리즘을 선택하고 있다면, 이 알고리즘을 속이는 것은 의외로 간단하다. 즉 빈도수를 늘리거나 근거를 더 많이 인터넷상에 뿌려 놓게 되면, 거짓이 진실로 둔갑할 수 있다.

인간은 무엇에 더 뛰어난가

ChatGPT가 정확성의 문제를 해결한다면, 인간은 이제 인간만이 할 수 있는 일을 심각하게 고민해야 한다. 인간이 그간 해왔던 모든 일의 80% 이상을 AI가 대체할 것이고, AI가 할 수 없는 20%의 일을 하는 인간만이 사회에서 그 존재 가치를 유지할 수 있게 될 것이기 때문이다.

아직도 우리는 대학원생이 가져야 하는 중요한 덕목이 성실하게, 외국 논문을 잘 분석하고, 다양한 사례와 정보를 조사하여 잘 정리하는 능력이라고 생각하는 세상에 살고 있다. 이런 가치관을 버리지 못하면 에세이를 작성할 때 ChatGPT 접속을 금지하는 뉴욕시 공립학교의 우를 범할 수 있다. 앞으로 우리는 ChatGPT를 잘 활용하여 인간은 생각하는 일에 집중하고 생각의 힘과 크기를 키우는데 역량을 쏟아야 한다.

이 칼럼을 쓰면서, 칼럼을 쓰는 일도 마찬가지이지 않을까? 스스로 반문하게 되었다. 뉴스나 사실보도 기사는 이제 ChatGPT가 작성하게 될 것이다. 그리고 칼럼니스트는 창의적인 생각, 정보를 통합하는 통찰력, 남다른 미래를 보는 눈을 가져야 살아남을 것이다.

그리고 한가지 더! AI는 과연 창의적으로 생각하거나 표현하지 못할까? 필자의 대답은 “아직까지는”이다. 에세이를 예를 들어 설명해보면, ChatGPT가 에세이를 쓰는 일만 잘할까? 그렇지 않다. ChatGPT는 에세이에 점수를 메기는 일도 잘한다. 즉 채점도 AI가 더 잘할 수 있다. 채점을 할 수 있다는 것은 좋은 에세이를 가려낼 수 있다는 것이다. 그리고 잊지 말아야 할 사실은 인간이 하나의 에세이를 작성할 시간에, AI는 100만개의 에세이를 작성할 수도 있다는 사실이다.