[특별 기고] 독점적 플랫폼과 사회적 통제의 필요성

박재형 재미 정치학박사·'AI는 중립적인가' 저자
AI 시스템 이윤 추구로만 프로그래밍시 사회 해악
미국·EU, AI 기반 독점적 플랫폼 사회적 통제 시도
언론 등급화 네이버, 효과적 사회적 통제 시급

박재형 재미 정치학박사

우리 사회는 시장 내부의 문제를 줄이면서도 시장의 이점을 누릴 수 있도록 규범과 규제를 마련해왔다. 인공지능(AI)과 같은 첨단 기술은 기업과 사회 사이 힘의 균형에 변화를 가져왔다. 디지털 플랫폼 기업은 이러한 기술 보급 전에는 불가능했던 이용자 참여와 같은 목표를 추구할 수 있게 됐다. 그러나 이 과정에서 독점적 플랫폼의 잠재적 해악이 더 커졌다. 이에 따라 사전 예방적이고 표적화된 규제가 더욱 필요해졌다.

소셜미디어 페이스북의 인공지능 시스템은 이용자 참여를 극대화하는 데 매우 효과적이지만, 사회의 목표들을 희생시킨다. 이 회사의 내부 고발자 프랜시스 하우겐이 2021년 월스트리트저널(WSJ)에 폭로한 '페이스북 파일'에 따르면 페이스북은 다른 모든 것보다 이용자 참여를 항상 우선시했다. 페이스북은 내부 연구를 통해 인스타그램 사용이 여성·청소년의 신체 이미지와 관련한 정신 건강 문제와 관련 있다는 사실을 발견했다. 하지만 문제의 해결을 위해 적절한 조치를 취하지 않았다.

첨단 인공지능 시스템을 이용하는 디지털 플랫폼에 대한 통제는 시간이 갈수록 더 어려워지고 있다. 매개변수가 약 12조개에 달하는 페이스북의 추천 모델은 현재 세계에서 가장 큰 인공신경망으로 알려졌다. 이 시스템은 인간 전문가로 구성된 팀보다 이용자 참여 게시물을 더 잘 예측한다. 그동안 인간이 직접 하던 작업을 초인적인 수준에서 수행할 수 있을 것으로 예상된다. 그런데 시스템이 초인적인 능력을 얻게 되면서, 결과적으로 개발자는 그것에 대한 통제력을 잃을 수 있다.

이러한 문제를 방지하려면 디지털 플랫폼을 구동하는 인공지능 시스템에 대한 통제 능력이 필요하다. 인공지능의 통제에는 두 가지 차원이 있다. 인공지능 시스템에 대한 '직접 통제'는 운영자가 충분한 수준의 통제를 할 수 없다는 점에서 필요하다. '사회적 통제'는 인공지능 시스템이 사회규범에 따라 행동하도록 보장하는 것이 어렵다는 현실을 반영한다.

인공지능에 대한 직접 통제가 기술적 과제라면, 사회적 통제는 거버넌스의 과제라고 할 수 있다. 인공지능 시스템에 대한 사회적 통제는 운영자가 원하는 것을 인공지능이 정확하게 수행하도록 하는 것, 사회에 외부의 영향을 가하지 않도록 보장하는 것을 포함한다. 페이스북의 내부 고발자가 폭로한 내용 대부분은 이와 관련된 문제들이다. 페이스북 창업자 마크 저커버그는 사회의 공동선(共同善)보다 이용자의 참여, 나아가 회사의 이익과 시장점유율을 우선시했기 때문에 이러한 문제들로 이어졌다.

기업이 운영하는 인공지능 시스템의 사회적 통제는 시장의 힘 때문에 약해진다. 마약 카르텔과 인신매매범이 페이스북을 이용해 사업을 벌였던 사실이 드러났지만 이를 막기 위한 페이스북의 시도는 미흡했다. 이러한 예는 발달한 인공지능 시스템이 다른 모든 것보다 이윤 추구라는 하나의 목표로 프로그래밍될 때 사회에 얼마나 해로울 수 있는지를 보여준다.

미국과 유럽연합(EU), 그리고 한국 등 주요 국가들에서는 인공지능을 기반으로 하는 독점적 디지털 플랫폼에 대한 사회적 통제를 시도하고 있다. 미국은 셔먼법(Sherman Act) 등 반독점법을 이용한 규제와 함께 독점적 지배 기업에 대한 규제정책을 시행하고 있다. EU 역시 디지털 플랫폼을 규제하고, 지역 내 디지털 시장 보호를 목적으로 디지털서비스법(Digital Services Act) 등을 제정한 바 있다. 이러한 법과 정책들은 구글과 애플의 뉴스 노출 알고리즘에 대한 투명성을 요구하는 등 독점적 플랫폼의 사회적 통제를 위하여 중요한 역할을 한다.

한국도 네이버와 같은 독점적 플랫폼 규제를 위한 법과 정책을 시행하고 있다. 하지만 인공지능 등 첨단 기술 발달과 사회적 환경 변화의 속도를 따라가지 못한다는 지적을 받는다. 특히 언론사에 등급을 매겨 이용자에 대한 각 언론사의 뉴스 노출을 제한하는 등 네이버의 독점적 권력 남용을 통제하기에는 역부족이다. 다른 나라들에서 찾아볼 수 없는 독점적 플랫폼 네이버에 대한 효과적인 사회적 통제 방안 마련이 시급하다.

"엄격한 규제는 모든 것을 멈추게 하고, 느슨한 규제는 혼란으로 이어진다"는 소위 '규제의 역설'은 정보기술(IT) 등 혁신에 초점을 맞춘 분야에 대한 규제의 어려움을 나타낸다. 일각에서는 "규제가 혁신을 막으면 안 된다. 자유시장경제에서 규제가 능사는 아니다"는 주장을 한다.

그러나 혁신을 보장하기 위한 규제의 완화는 공정한 경쟁과 운영의 투명성이 우선 조건이다. 공정한 경쟁을 막는 독점적 플랫폼은 혁신과 거리가 멀다. 국가 권력을 능가하는 지배력으로 자유민주주의 체제에 위협이 될 수 있는 독점적 플랫폼에는 더욱 분명한 사회적 통제가 요구된다.