컴퓨터 마음 통제 기계(Computer, the Mind Control Machine)

** 한국정보법학회 2018년 가을 정기 세미나 토론문입니다.

사람의 감각과 사고구조를 본 딴 컴퓨터가 출현하면서 소프트웨어가 중요해지자 이를 경고하는 수많은 신호가 있었다. 컴퓨터는 소프트웨어의 지배를 받고 소프트웨어는 이를 만든 사람의 지배를 받는다. 소프트웨어를 지배하는 자가 컴퓨터를 사용하는 사람을 지배하게 된다. 컴퓨터는 사람의 생각을 도와주는 도구이므로 사람의 생각을 콘트롤 할 가능성이 있기 때문이다.

나아가 문자, 음악, 사진, 동영상 등 눈과 귀로 얻을 수 있는 모든 정보는 디지털화된다. 디지털화된 정보는 전기신호만으로 쉽게 실시간으로 전달되고, 영원히 보관되며, 쉽게 가공된다. 인터넷이 나뉘어 있던 모든 사람의 신경망을 하나로 묶는 중앙 신경망의 골격을 형성하고 있다(J.C.R. Licklider, Man-computer symbiosis. IRE Transactions on Human Factors in Electronics, volume HFE-1, pages 4-11, March 1960). 모든 인간이 시간과 공간의 제약 없이 연결된다.

상업화의 바람 속에서, 인터넷은 감시기술을 중심으로 발전하였다. 상품 판매, 망 이용대금 부여와 망 관리를 보다 효율적으로 하고자 하는 기업의 욕구는 컴퓨터에 일정한 자취 내지 기록을 남기는 방향으로 인터넷을 이끌었다. 이런 방향의 발전은 다음 단계로 맞춤형 추천 또는 광고를 위해서 개인의 인터넷 사용내역을 기록하기 시작하였다. 스마트폰이 널리 사용되면서 모든 개인은 물리적으로 기계를 소지하고 다닌다. 그 결과 개개인의 이동 내역은 물론 건강 상태까지 모든 행동을 기록하기 시작한다. 소셜네트워크는 개인에 대한 정보를 넘어 개인 사이의 관계에 대한 정보를 기록하기 시작하였다.

개인에 대한 모든 기록은 데이터베이스화 되고 분석될 뿐 아니라, 분석 결과를 가지고 개개인을 자극하고 그 결과를 다시 기록하고 분석하여 정교하게 발전한다. 인공지능은 이러한 사람 사이의 데이터를 분석하는데 최적화 되어 발전한다(Google and Microsoft Can Use AI to Extract Many More Ad Dollars from Our Clicks, The Wired, 08.31.17). 기계(Mind Control Machine)가 사람의 마음을 조정할 수 있게 되는 것이다(Google, democracy and the truth about internet search, Guardian, 4 December 2016).

이를 뒷받침 하는 것이 행동 심리학이다. 행동심리학은 눈으로 관찰 가능한 행동만을 심리학의 연구 대상으로 한정하고 이를 통해 인간의 마음과 행동을 알아보고자 한다. 데이터를 수집하여 저장하고 이를 분석하여 대상자를 자극하여 반응을 보고(광고에 대한 반응을 보고) 새로운 자극(광고)을 만들어 다시 반응을 봄으로써 점정 정교한 개인 통제 알고리즘이 발전하고 있다(빅데이터는 시그널이다•••소비자 무의식영역까지 파고들라, 전자신문, 2018.02.07).

이를 통해 힘의 불균형은 물론 사회 구조의 변화까지도 만들어 질 수 있다. 선거는 이미 유권자 데이터베이스 전쟁이다(‘유세차’가 가는 곳, 빅데이터는 알고 있다, 한겨례, 2017-04-29). 유권자를 분석하여 자극하고 투표를 하게 하는 알고리즘 전쟁인 것이다(How Trump Consultants Exploited the Facebook Data of Millions, The New York Times, MARCH 17, 2018). 근로관계도 바뀔 수 있다. 근로자를 분석하여 자극하여 고용관계 없이도 근로자처럼 사용할 수 있다(How Uber Uses Psychological Tricks to Push Its Drivers’ Buttons, The New York Times, April 1, 2017).

문제는 데이터 보유, 알고리즘 개발 능력은 매우 불균형하게 분포되어 있다는 데에 있다. 일반 개인이 기업이나 정부를 상대로 대항할 수 있는 무기를 가지고 있지 않다. 일반 개인은 누가 내 데이터를 얼마나 가지고 있는지, 어떤 알고리즘을 왜 사용하는지 알 수도 없는 경우가 많다. 이는 사회적인 힘의 균형에 있어 개인을 약자로 만드는 것이다. 정보 사회에서 새로운 통제점(control of points)이 생기는 것이다. 이러한 통제점은 끊임 없이 분석되어야 한다(Yochai Benkler, Degrees of Freedom, Dimensions of Power, Daedalus, 145(1) 18-32 (2016)). 그리고 또 하나의 문제는 알고리즘은 결코 중립적이지 않다는 것이다. 알고리즘 설계와 데이터 수집 분석의 메커니즘은 정치적, 경제적 관점을 내포할 수 밖에 없고 궁극적으로 이를 설계한 사람의 이익에 봉사할 가능성이 크다(Laura DeNardis, Hidden Levers Of Internet Control, Information, Communication & Society, 15:5, 720-738, 2012).

이러한 문제의식을 바탕으로 한다면 그 해결책으로는 두 가지가 제시될 수 있을 것이다. 우선 데이터와 분석기술을 가진 자들을 상대로 규제를 하는 것이다. 예를 들어 기업을 상대로 개인정보를 수집하는데 일정한 제한을 가할 수 있다. 정보 투명성을 들어 기업에 대하여 데이터나 알고리즘을 공개하라고 요구하는 규정을 생각해 볼 수도 있다. 데이터나 알고리즘에 대한 감사를 받으라고 할 수도 있을 것이다. 그러나 개인에 대한 실효적인 보호체계로는 부족할 수 있다. 이미 데이터가 충분히 수집된 상황에서 개인은 꼼짝 없이 당할 수 밖에 없고 기업이 보유하고 있는 데이터나 알고리즘의 공개는 제약이 많기 때문이다. 개인 행동 데이터의 노출은 컴퓨터에 대한 개인의 의존이 높아질 수록 불가피하다고 느껴질 수도 있다. 근본적으로는 개인 스스로가 아니라 다른 제3자의 선의적인 행동에 기대어야 한다는 점에 한계가 있기도 하다.

강조하고 싶은 것은 다른 하나의 해결 방법인 개인이 스스로를 실제로 지킬 수 있는 권리를 실제로 보장받을 수 있도록 하는 것이다. 법적인 권리의 이름은 무엇이 되던 좋다. 프라이버시, 사생활의 비밀, 익명권도 필요하다. 익명으로 읽을 권리로도 표현될 수 있다. 중요한 것은 개인이 그러한 권리를 실질적으로 행사하여 실제로 자신을 스스로 보호할 수 있도록 하는 것이다. 개인은 원하지 않을 때 자신의 행동을 노출당해서는 안 되고 생각을 통제당해서는 안 되며 그러한 의지가 실제로 관철되어야 한다. 데이터는 수집, 저장, 분석 및 적용이라는 단계를 거친다. 개인이 효과적으로 자신을 방어할 수 있는 단계는 수집단계이다. 저장된 이후에는 분석 및 적용에 대하여는 개인의 힘만으로는 통제하기 어렵다.

그런 점에서 프리 소프트웨어 운동은 우리가 사용하는 기술에 대하여 개인이 지배권을 가져야만 진정한 자유를 누릴 수 있다는 해안을 준다. 프리소프트웨어 운동은 네가지 자유를 제안하였다(https://www.gnu.org/philosophy/philosophy.html). 자유0 : 프로그램을 실행할 수 있는 자유 자유1 : 프로그램의 변경시킬 수 있는 자유 자유2 : 프로그램을 재배포할 수 있는 자유 자유3: 프로그램을 변경하여 재배포할 수 있는 자유

이러한 자유는 소프트웨어의 지배력이 커지는 세상에서는 더욱 중요하다. 구글의 검색엔진, 은행의 신용평가 알고리즘을 자유롭게 연구하고 변경하여 배포할 수 있다면 개인의 선택권은 더 넓어 질 수 있을 것이다. 블랙박스의 문제점은 상당히 해결될 수도 있다.

나아가 데이터 집중과 힘의 불균형의 문제는 개인적인 차원의 문제는 아님을 지적하고자 한다. 이는 마치 환경문제와 같이 나만 잘한다고 해결되지 않는다. 내 정보를 노출하지 않더라도 나를 아는 사람이 나의 사진이나 나에 대한 글을 올렸을 때에는 이미 내 정보도 노출되기 때문이다. 내가 구글 메일을 사용하지 않더라도 이미 주변 사람의 반 이상이 구글메일을 사용한다면 내가 누구로부터 어떤 메일을 받았는지는 구글이 파악하게 된다. 따라서 개인의 선택만을 강조하다보면 어느새 오염된 환경과 마추칠지도 모른다.