챗GPT 이녀석, 네가 저작권자라고?

너는 편견이 없다고?

오픈AI는 14일(미국시간) ChatGPT4를 발표했다. ChatGPT 열풍이 사그라들지 않고 점점 더 타오르는 모양새다. ChatGPT 활용 사례, 도움을 받았다는 사례가 다양한 분야에서 회자되고 있다. 나아가 MS의 Bing, Naver, 카카오는 ChatGPT로 대표되는 생성AI를 접목한 서비스를 내놓고 있고, 자동차 회사에서 지방자치단체까지 ChatGPT를 경쟁적으로 도입하고 있다. 대표적으로 “ChatGPT를 활용해서 업무시간을 대폭 줄였다., “창의적인 글을 쓰는 일도 ChatGPT가 잘한다”는 등 찬사가 이어지고 있으나, 다른 한편에서는 ChatGPT가 내놓는 답이 정확한 지에 대해 의문을 제기하고, ChatGPT의 답을 상업적으로 이용할 경우, 법적 문제를 우려하는 목소리도 커져가고 있다.

그래서 필자가 ChatGPT에게 직접 물어보았다. “ChatGPT가 답변하는 내용을 신뢰할 수 있는가? 오류나 편견이 있는 것은 아닌가?”라고 물었더니, ChatGPT는 “주어진 질문이나 주제에 대한 이해에 오류나 편향 또는 제한이 있을 수 있고”, “나는 인공지능이고 개인적인 신념이나 의견이 없기 때문에 편견을 가질 수 없다”고 대답했다. 그리고 답변의 정확성에 대해서는 “응답의 품질과 정확성은 내가 훈련받은 입력 데이터의 품질과 정확성은 물론, 질문의 명확성과 특이성에 따라 달라진다”고 한발 발뺌을 하기도 했으며, “나와 같은 AI언어 모델을 비롯해서 모든 정보는 출처를 확인하는 것이 좋다. 내 응답의 정확성에 대해서 확신이 없거나 의문이 있는 경우 신뢰할 수 있는 출처에서 추가 정보를 찾거나 해당 분야의 전문가와 상담하는 것이 좋다”고 결론을 내렸다.

넌 법적으로도 완벽하니?

이에 더해 ChatGPT에게 “ChatGPT가 답변한 내용을 상업적으로 이용할 경우 법적인 문제점이 무엇이 있는지 알려달라”고 질문해봤는데, “ChatGPT의 응답을 상업적 목적으로 사용하면 지식재산권 침해, 계약 위반 및 그로 인한 손해에 대한 책임을 포함한 법적 문제가 발생할 수 있다는 점에 유의해야 한다”고 대답했다. 나아가 ChatGPT는 “내가 생성한 콘텐츠는 저작권법에 의해서 보호되며 OpenAI(ChatGPT의 개발회사)의 허락 없이 응답을 상업적으로 사용하거나 배포하는 것은 저작권 침해로 간주될 수 있다”는 답도 하였다. 추가로 “내 답변을 상업적 목적으로 사용할 계획이라면 자격을 갖춘 변호사에게 법률자문을 구하여 적용 가능한 모든 법률과 규정을 준수하는지 확인하는 것이 중요하다”라는 답을 내놓았다.

결국 ChatGPT의 대답은 전문가와 상담하거나 자세한 것은 법률자문을 구해보라는 것이다. 그래서 지금부터 변호사의 시각에서 그리고 사업가의 시각에서 1) ChatGPT가 얼마나 오류와 편견을 가질 수 있는 가능성이 있는지, 2) ChatGPT를 상업적으로 활용하는 것에 대한 법적인 문제점에 대해서 생각을 정리해보고자 한다. 그리고 다시 한번 3) 인간이 ChatGPT 시대에 어떤 의사결정을 하고 어떻게 살아가야 하는지에 대한 고민을 같이 해보고자 한다.

‘글’을 쓴다는 건 뭘까?

먼저, 2018년 알파고 사건보다 왜 더 많은 사람들이, 더 많은 분야에서, 더욱 오래 ChatGPT 이슈에 열광하는지를 생각해 보았다. 그것은 바로 ChatGPT가 인간의 사상과 감정의 기초라고 할 수 있는 ‘글’을 생성하기 때문이다. ‘글’은 저작권이라는 권리가 생기게 된 모태이기도 하다. 우리 저작권법에 의하면 인간의 사상 또는 감정을 표현한 창작물을 저작물이이라고 하는데, ‘글’은 저작권의 근간을 이루고 있다고 해도 과언이 아니다.

어문저작물은 저작권법의 저작물 분류에서도 가장 앞에 등장한다. 글이라는 것은 거의 모든 창작의 기초라고 할 수 있는데, 예를 들어 음악가는 음악적인 영감을, 화가, 무용가, 사진작가, 심지어 건축가도 자신의 아이디어나 영감을 글로 메모하거나 쉽게 표현할 수 있다. 그 메모를 기초로 음악으로, 그림으로, 사진으로 다른 창작물(작품)로 바꿀 수 있다.

그리고 우리가 하는 업무를 살펴보면, 하루 중 거의 대부분의 업무가 글을 작성하는 것이며, 창작에 가까운 글을 작성해야 하는 일도 더러 있다. 필자의 오늘 하루를 돌아봐도 그러한데, 회의록을 남기고, 대화를 기록하고, 아이디어나 전략을 생각한 후 이를 기록한다. 그리고 여러 가지 서류를 작성하고 글로 업무지시를 한다.

오류와 편견의 책임은 누구?

글은 정보를 쉽게 보편적으로 전달하는 수단이다. 그래서 글에 오류나 편견이 있으면 심각한 문제가 발생할 수 있다. 미 컬럼비아대학의 오데드 넷처 경영대학원 교수는 챗GPT 등 생성 AI에 대해 “시간은 줄여주겠지만 작업 결과가 참인지 거짓인지 모른다는 게 가장 큰 문제”라고 지적한 바 있다.

앞서 ChatGPT 스스로도 오류와 편향(bias)이 있을 수 있다고 답하면서 애써 편견(prejudice)은 없다고 했다. 그러나 필자가 앞선 칼럼에서 언급하였듯이, ChatGPT와 같은 생성AI는 학습하는 데이터에 기초해서 답변을 하는 것이어서 데이터의 내용과 수집에 오류와 편견이 있으면 그 답변에 필연적으로 오류와 편견이 있을 수밖에 없다. 그래서 결국 이 오류와 편견을 수정하는 것을 ‘인간’이 해야 한다. 인간이 직접 해야 한다는 것은 아니고, 인간이 알고리즘을 만들어 생성AI의 오류와 편견을 필터링해야 한다. ChatGPT 또한 인간의 피드백을 통해 강화학습(이에 대해서는 필자의 다른 칼럼에서 자세하게 설명한 바 있다)을 하고, 오류를 수정하고 있다. 그러나 인간의 필터링과 강화학습은 또 다른 편견과 오류의 통로가 될 수도 있다.

그리고 앞으로 더 심각한 문제가 발생할 수 있다. ChatGPT 기능이 탑재된 플랫폼이나 앱에서 오답을 제공한다면, 책임 문제를 피할 수 없을 것이다. 앞으로 ChatGPT의 API(Application Programming Interface)가 다양한 플랫폼에 활용될 것이다. ‘한글’, ‘엑셀’ 등 많은 소프트웨어에도 ChatGPT 기능이 탑재되고 있다. 구글과 네이버 등의 검색 서비스는 사용자에게 검색의 결과만 제공할 뿐 정답을 제공하는 것이 아니어서 검색 결과에 대해서 책임을 질 일이 없다. 그러나 새롭게 등장한 ChatGPT는 정답이라고 할만한 ‘해답’을 제시하기 때문에 선풍적인 인기를 끌게 되었고, 이런 장점이 여러 플랫폼의 발목을 잡을 수도 있다. 고객은 플랫폼이 내놓는 해답을 신뢰할 것이고, 오류가 있다면 응당 플랫폼에게 책임을 물을 것이기 때문이다.

구글은 지난번에 ChatGPT에 대응하여 ‘바드’를 런칭하였고 홍보영상도 배포하였는데, ‘바드’의 대답에 오류가 발견되어 회사 주가가 5% 폭락하는 홍역을 치르기도 했다. 생성AI에 있어서 결과물의 정확성이 생명이고 경쟁력이 될 것은 뻔한 이치인데, 당장은 부정확한 정보 제공에 대해 책임을 회피해야 하는 과제가 있다. 플랫폼이 책임을 회피하는 방법은 의뢰로 아주 간단하다. Beta라는 이름을 달고, 이용약관에 “오류에 대해서 플랫폼은 책임이 없다”고 명시하는 방법이다. 테슬라가 1000만원이 넘는 가격의 Full Self Driving(FSD, 자율주행) 서비스에 아직까지 Beta 딱지를 붙이고 있는 이유이다. 그러나 언젠가는 Beta 딱지를 떼어야 하는 시기가 온다. 필자는 생성AI 서비스의 베타 딱지를 떼는 것이, 테슬라가 FSD에서 Beta 딱지를 떼는 것 만큼 어려울 것이라고 본다.

이 녀석, 네가 저작권자라고?

더 심각한 것은 저작권 침해의 문제, 표절의 문제이다. 특히 ChatGPT를 활용하여 논문을 작성하는 경우 표절 문제가 발생할 가능성이 매우 크다. ChatGPT는 필자의 질문에 대답하면서 ChatGPT가 생성한 글들이 마치 ChatGPT에게 저작권이 있는 것처럼 설명하였는데, 이것 또한 심각한 오류이다. 타인의 창작적인 표현을 그대로 베끼는 것 자체는 일부 수정을 가하더라도 저작권 침해에 해당할 가능성이 매우 큰데, ChatGPT가 내놓는 결과는 타인의 저작권을 침해한 것일 수도 있다. 세계적인 언어학자인 촘스키 교수는 ChatGPT에 대해 “천문학적인 양의 데이터에 접근해 규칙성, 문자열 등에 기반해 문장을 만드는 첨단기술 표절 시스템(high-tech plagiarism system)”이라고 평가한 바 있다.

그렇다면, AI가 저작권 침해, 표절도 거르도록 하면 되지 않을까 생각할 수 있다. 이는 반은 맞고, 반은 틀린 생각이다. 이해를 위해서 생성AI에 관한 기술적인 설명이 필요하다. 어렵지 않으니 짧게 설명해보겠다. ChatGPT가 답변을 생성하는 로직을 구성할 때, 즉 인공신경망을 구성할 때, 출처를 트래킹하는 알고리즘을 별도로 개발해 추가할 수도 있다. 그러나 출처 트래킹을 하지 않는다면, ChatGPT는 자신이 한 답변의 출처를 알 수 없고, 스스로 자신의 답변과 원본을 비교하여 표절이나 저작권 침해의 문제가 있는지 판단을 할 수도 없다.

그런데 문제는 대부분의 생성AI에는 이런 기능이나 알고리즘이 추가되어 있지 않다는 점이고, 표절이나 저작권 침해를 진단하는 시스템은 또 하나의 커다란, 생성AI에 버금가는, 프로젝트가 될 수도 있다는 점이다. 그리고 사업적 관점에서 접근해보면, ChatGPT는 자연어 처리를 기반으로 문장을 생성하는데 모든 컴퓨팅 파워를 써야 한다. 한정된 자원을 문장 생성에만 투여하는 것이다. 따라서 앞서 설명한 트래킹이나 표절 진단 등에 컴퓨팅 파워를 사용할 여력이 없다. 즉 ChatGPT는 그럴듯한 문장의 생성을 빠르게 하는데 모든 컴퓨팅 파워와 리소스를 사용하도록 설계되어 있을 수밖에 없다. 법적인 책임의 문제는 이용약관으로 극복해야 하는 상황이다.

결론적으로 필자의 질문에 ChatGPT가 대답한 바와 같이 오류나 편견을 제거하기 위해 사용자가 스스로 추가 정보를 찾거나 해당 분야의 전문가와 상담할 필요가 있고, 저작권 침해 등 법적 문제를 해결하기 위해 변호사에게 자문을 구해야 하는 것이다.

그래서 인간이 잘 할 수 있는 건?

필자는 여기에 역설적으로 인간의 가치와 인간이 나아가야 할 방향이 있다고 생각한다. ChatGPT가 등장하면서 의사와 변호사 같은 복잡다기한 지식을 다루는 전문직이 없어질 것이라는 예측이 많았다. 그러나 필자는 과정은 맞는데 결론은 반대가 될 것이라고 생각한다. ChatGPT의 답변에 오류가 많이 발생하는 분야일수록 인간을 필요로 하고, 그런 분야를 찾아야 인간이 보다 오래 일을 할 수 있게 될 것이다.

결론이 반대일 것이라는 생각의 근거는 복잡다기한 지식 영역의 특징에서 찾을 수 있다. 복잡다기한 지식을 다루는 분야는 전제의 작은 차이가 결론을 뒤바꿀 수 있는 특징이 있고, 이전의 지식을 비판적으로 바라볼 필요가 있다는 특징도 있다. 대법원 판례가 무수히 뒤집히고, 최고라고 각광받던 수술법과 진단법이 변경되기도 한다. 그렇기 때문에 이런 영역에서는 인간의 오류 체크가 필수적이고, 오류의 책임을 인간이 지도록 구조화되어 있다.

모두가 동의하듯 복잡다기한 지식을 다루는 분야에서 ChatGPT는 뛰어난 능력을 발휘할 것이라는 점은 분명하다. 간단하고 기초적인 법률서비스와 의료진단은 ChatGPT가 자동으로 할 수 있게 될 것이다. 또한 변호사와 의사가 하는 일의 범위는 점점 줄어들 것이고, ChatGPT 등 생성AI를 활용하는 변호사나 의사는 정해진 시간에 더욱 많은 업무를 처리하게 될 것이다. 변호사와 의사는 마지막 오류 체크와 감독만 하면 된다.

결론적으로 인간은 인공지능의 오류와 편견을 바로잡는 일을 하여 인공지능을 돕는 일을 할 수 있다. 나아가 여러 인공지능을 이렇게 저렇게 결합하여 새로운 거대 인공지능을 만드는 일도 인간만이 할 수 있는 일이다. 그리고 우리 모두는 단순 반복작업에서 벗어나 복잡한 지식 분야에서 다양한 입장과 주장을 정리하고, 다수의 의견에 논리적 비판을 가하여 소수의 의견에 힘을 불어넣는 일 등 다양한 시각과 다양한 문화를 이해하고 통찰하는 일도 할 수 있을 것이다.