플랫폼 기업의 ‘알고리즘 공개’, 진짜 해결책일까

[김정민 변호사] 지난 10월 26일에는 공정거래위원회가 가맹택시에 콜(승객호출)을 몰아준 의혹을 받고 있는 카카오모빌리티에 대해 현장조사를 벌여 알고리즘을 확보했다고 한다. 이는 카카오모빌리티가 자사 가맹택시를 우선배정하고, 타사 택시는 배제하고 있다는 택시업계의 의혹 제기와 신고에 따른 것이다.

플랫폼 기업 알고리즘 공개여부 ‘논란’

앞서 지난해 10월 6일 공정위는 네이버가 쇼핑·동영상 분야 검색서비스의 ‘우선 노출 알고리즘’을 수년간 인위적으로 조정해 자사 서비스를 검색결과 상단에 올려온 행위에 대해 시정명령과 함께 과징금 267억 원을 부과한 적이 있다. 구체적으로는 네이버쇼핑 내에 스마트스토어(자사 오픈마켓) 제품의 노출 개수를 점차 늘리도록 알고리즘을 변경했고, 동영상 검색에서 네이버TV 동영상이 타사 동영상보다 더 잘 노출되도록 알고리즘을 조정했다고 본 것이다.

이렇듯 최근 플랫폼의 불공정행위가 화두가 되고 있고, 그 비난의 화살이 알고리즘의 불공정으로 모아지고 있다. 그렇다면 플랫폼 기업의 알고리즘이란 무엇이고, 알고리즘은 반드시 공정해야 하는가?

현재 우리의 일상을 보면, 플랫폼으로 시작해서 플랫폼으로 끝난다고 해도 과언이 아니다. 우리는 SNS로 커뮤니케이션하고, 쇼핑 플랫폼에서 물건을 사며, 동영상 플랫폼이 추천해주는 컨텐츠를 소비한다. 현재 이런 플랫폼 기업의 알고리즘은 우리의 일상생활 속에 깊숙이 스며들어 영향력을 점차 확대해 가고 있다. 한마디로 거대한 광고판이 된 SNS, 네이버쇼핑, 유튜브라는 플랫폼 위에서 기업들은 상위 노출에 목숨을 걸고 있고, 고객들은 상위 노출된 것을 위주로 소비한다.

결국 핵심은 ‘순위’이고 ‘줄세우기’다. 그 순위를 정하는 기준과 원칙이 알고리즘인 것인데, 시험 점수가 좋은 사람이 좋은 대학을 가고, 시험 점수대로 합격자가 정해지며, 알고리즘상 점수가 높은 순서로 상위 노출되어야 하는 것은 일견 당연해 보인다. 시험 점수가 낮은 사람이 합격을 하고, 점수가 낮은 것이 상위노출이 되면 공정성에 의심을 받는 것이다. 플랫폼의 영향력이 지대하기에 플랫폼의 공정성에 대한 요구도 더욱 강조될 것이다.

카지노 플랫폼도 공정성 지키는데

플랫폼 사업자는 기업이다 보니 자사의 이익을 극대화해야하는데 자사의 이익을 극대화하는 가장 확실한 방법은 자사의 이익을 극대화하도록 알고리즘을 설정하는 것이다. 자사의 상품(또는 용역)을 상위 노출시키고, 광고비를 많이 내는 것을 상위 노출시키면 된다. 그러나 과도한 이익 극대화는 플랫폼 사업을 망하게 할 수도 있다는 것도 깨달아야 한다.

카지노와 슬롯머신을 생각해보자. 카지노측과 고객의 승률을 적절히 설정하는 것이 카지노 플랫폼의 아주 기초적인 알고리즘이라고 할 수 있다. 이익 극대화를 위해서는 카지노 승률을 최대로 하면 된다. 하지만 고객은 그런 카지노를 금방 외면할 것이다. 대박이 터지지 않는 슬롯머신은 고객을 유인할 수 없다. 따라서 카지노는 승률을 적정한 수준으로 설정할 수밖에 없다.

플랫폼에도 이와 비슷하게 사업자 스스로 자정이 가능하다는 논리가 있다. 즉, 불공정한 알고리즘은 결국 도태된다는 것이다. 그러나 플랫폼에서는 카지노와 다르게 고객이 유불리를 즉각적으로 확인할 수 없다는 한계가 있다. 고객은 최저가에 가까운 쇼핑을 했고, 택시를 타고 목적지로 이동했다. 어차피 물건을 누구에게 샀는지, 어떤 회사의 택시를 탔는지는 고객에게 고려사항이 아니다.

플랫폼의 알고리즘은 우리가 모르는 사이 불공정하게 바뀔 수 있다. 그 피해는 고객보다는 경쟁관계에 있는 기업이 입게 된다. 따라서 플랫폼 내에서 경쟁관계에 있는 자가 플랫폼의 공정을 요구할 수밖에 없다. 문제는 플랫폼이 이미 독점화되었기 때문에 경쟁관계에 있는 기업이 플랫폼을 갈아탈 수 없다는 것이다. 따라서 독점화된 플랫폼에 대해 공정의 화두를 던질 수밖에 없다.

‘영업비밀’, ‘어뷰징’ 이유로 공개거부는 안돼

알고리즘이 공개되면 역효과는 없을까? 알고리즘 비공개의 정당성을 주장하는 주요 논거로 ‘영업비밀’과 ‘어뷰징(어뷰즈 공격)’ 예방이 있다. ‘영업비밀’ 정도에 해당하는 알고리즘은 극히 소수에 불과하므로 논외로 하고, 어뷰징에 대해서만 살펴보자. 점수를 매기는 기준이 알려지면, 이 기준의 허점이나 버그를 이용해 편법으로 점수를 올릴 수 있다는 것이 핵심이다. 어뷰즈 공격으로 인해 대다수 선의의 이용자들이 피해를 볼 수 있다.

마치 실력은 없으면서 시험 점수만 잘 받을 수 있다는 것이데, 한국 교육의 현실이 떠올라 씁쓸한 느낌이 든다. 점수만 높은 인재를 거르고 실력 있는 인재를 뽑는 것이 대학과 기업의 책무이듯, 어뷰즈 공격을 방지하는 것은 플랫폼의 책무이다. 어뷰징이 가능한 알고리즘은 도태되어야 한다. 플랫폼 스스로 개선책을 찾아야 한다.

고객의 알권리 측면에서도 알고리즘의 공개는 필요하다. 예를 들어 ‘요기요’에서 음식을 시킬 때 상위 노출되는 음식점 순위가 광고비 순인지, 근거리 순인지, 평점 순인지 정도는 이용자들이 알 수 있어야 한다. 플랫폼 기업 입장에서는 이를 적극적으로 마케팅에 활용할 수도 있다. 즉 공개가 필요한 알고리즘은 프로그램을 포함한 구제척인 알고리즘 전체가 아니라, 알고리즘의 기준과 원칙이다. 이런 기준과 원칙이 불공정하다면 비판을 받고 수정해야 하는 것이다.

알고리즘 공개의 범위에 대한 해답은 상장법인이 공개하는 회계정보에서 찾을 수 있다. 상장법인이 재무제표와 사업보고서 등 개괄적 정보는 공개하되 개별 계약서, 영수증 등은 공개하지 않는 것처럼, 구체적인 알고리즘이 구현된 프로그램 자체는 비공개로 하되, 회사가 운영하고 있는 알고리즘의 기준과 원칙은 공개해야 한다.

나아가 기업의 탈세나 법규위반이 문제가 됐을 때 세무조사나 감독청의 조사를 받는 것처럼, 플랫폼이 불공정한 알고리즘을 사용하고 있다는 합리적인 의심이 있다면 구체적인 알고리즘을 감독당국만이라도 들여다보아야 하고, 그 속에 불공정성이나 법규 위반이 있다면 그 위반 결과만을 공개할 수 있어야 한다.

중요한 건 ‘기준과 원칙’...변경기록도 꼭 남겨야

독점성이 높은 플랫폼에 대한 알고리즘 감사를 해야 한다는 주장도 있는데, 감사의 전문성이나 실효성이 있을지는 의문이다. 컴퓨터 전문가가 다양한 검색어 묶음으로 테스트해보면 나오는 결과치를 가지고 플랫폼 알고리즘에 관한 역추적(리버스엔지니어링)이 가능하고, 추측된 알고리즘의 불공정성이 의심이 된다면 감독당국에 조사를 의뢰할 수 있으면 된다.

사후 조사와 처벌도 중요하지만 예방은 더욱 중요하다. 플랫폼 기업의 알고리즘을 무턱대고 강제로 공개하는 법규와 규제를 만드는 것은 바람직하지 못하다. 우선은 플랫폼 기업이 어떤 기준과 원칙으로 알고리즘을 구성했는지를 공개하도록 하고, 구체적인 프로그램과 알고리즘을 수정·변경하는 경우 그 내용과 어떤 절차와 결재를 거쳤는지를 있는 그대로 회사 내부 자료로 기록할 의무를 부과할 필요가 있다. 그래야만 문제가 발생하고 위법한 알고리즘 수정·변경이 행해졌을 때 책임소재를 분명히 할 수 있기 때문이다.

나아가 알고리즘 변경의 모든 과정이 기록된다면, 문제 발생시 책임을 회피하기 위해 내부 직원들이 위법한 알고리즘 조작·변경하는 것을 기피하게 될 것이며, 알고리즘 불공정을 미연에 예방하는 효과도 있을 것이다.