김홍탁 총괄 콘텐츠 디렉터

자율자동차가 본격적으로 등장하면 운전자는 차 안에서 자신이 원하는 일을 마음껏 할 수 있게 될 터이다. 요즘 어린 아이들이 전화 다이얼을 돌린다고 하면 무슨 말인지 못알아듣듯이, 핸들을 꺾다라는 말의 뜻을 모르는 시대가 올 수도 있을 것이다. AI 덕분에 상상도 못했던 일들이 펼쳐진다. 그러나 우리는 기술의 이면에 숨어 있는 위험에 대해서는 잘 알고 있지도 못할 뿐더러 별 관심도 없다.

지율자동차가 주된 운송수단이 되려면 무엇보다 안전에 대한 우려가 없어져야 한다. 도로 위의 사람을 식별하여 급정거하거나 피해야 하는 상황이 발생할 터인데, AI가 그 긴박한 상황을 실수없이 처리하기 위한 알고리즘은 어떻게 작동할 것인가. AI가 머신 러닝을 통해 기술이 더욱 정교화되는 기계의 영역이라면, 그 원리를 주입하는 알고리즘은 인간의 영역이다. 가령 사람이 도로에 급작스럽게 튀어나왔을 때 AI가 제대로 인식하려면 사람의 형태에 대한 수많은 데이터를 입력해야 한다. 그런데 이 과정에서 흑인보다는 백인을, 여성보다는 남성의 데이터를 더욱 풍부하게 주입한다면 어찌 될까? 흑인과 여성이 사고에 노출될 확률이 높다는 추론을 할 수 있다. 과연 이 추론이 괜한 우려일까? 자동차의 안전을 확보하기 위한 충돌 테스트에 사용되던 더미(인체모형)는 성인남성의 표준 체형과 몸무게에 근거해 만들어졌다. 충돌 사고시 여성의 목뼈 부상이 남성의 2배인데, 여성의 안전을 위한 데이터는 존재하지도 않았던 것이다.

그런 관점에서 "알고리즘은 코드에 내재한 의견이다.(Algorithms are opinions imbedded in code.)"라는 캐시 오닐(Cathy O'Neil)의 지적은 공감이 간다. 데이터가 문제가 아니라 데이터를 다루는 인간의 생각이 문제라는 점을 잘 드러냈다. 그는 대량살상무기를 뜻하는 'Weapons of Mass Destruction'을 패러디한 제목의 책 '대량살상 수학무기(Weapons of Math Destruction)'에서 Mass를 데이터를 뜻하는 Math로 바꿔 빅데이터의 잘못된 활용이 가져올 폐해를 신랄하게 지적했다. 데이터 권력을 가진 자들에 의해 세상이 좌우될 수 있다는 무서운 사실을 대중화하는 데 기여했다. 나는 그러한 정황을 알고리즘 파시즘이라 부르고 싶다. 이미 알고리즘은 데이터를 소유하고 있는 기업의 이익을 위해 교묘한 방식으로 이용되고 있다. 특정 상품을 검색했을 때 그 제품이 바로 페이스북의 광고로 뜨는 것을 보고 소름이 끼쳤었다. 지금은 무덤덤한 일상이 됐지만. 국가가 보유한 데이터 역시 국민을 통제하기 위한 수단으로 활용될 수도 있다. 특히 코로나 19로 인해 개개인의 일거수 일투족의 데이터가 수집되고 있는데, 코로나 19 이후 전세계의 국가들이 이 데이터를 어떻게 처리할 지는 국민의 데이터 주권 관점에서 눈여겨볼 필요가 있다.

나쁜 마음을 먹으면 국가의 운명을 좌우할 수 있는 선거에서도 확증편향을 강화시키는 도구로 데이터를 악용할 수 있다. 실제 페이스북의 데이터를 이용하여 데이터를 분석하는 회사 케임브리지 애널리티카(Cambridge Anaylitica)는 미 대선 캠페인에서 여론을 형성할 목적으로 데이터를 활용했다. 페이스북의 데이트 앱을 다운로드 받은 27만명의 개인정보를 기반으로 이들의 친구의 개인정보까지 포함하여 5000만명의 데이터를 확보한 케임브리지 애널리티카는 지지난 미국 대선에서 트럼프나 힐러리를 지지하지 않는 중도층을 대상으로 힐러리에게 매우 불리한 메시지를 만들어냈다. "부정한 힐러리를 패배시키자(DEFEAT CROOCKED HILLARY)"라는 슬로건에서 CROOCKED의 알파벳 O 두 개를 수갑 형태 OO로 표현해, 힐러리가 범죄자라는 인식을 강하게 각인시켰다. 선거의 승리는 결국 부동표의 향방이 관건인데, 이러한 접근법은 트럼프의 당선에 큰 영향을 미쳤다. 이 사건으로 마크 저커버그가 청문회에 섰고, 케임브리지 애널리티카는 문을 닫았지만 선거버스는 이미 떠난 뒤였다.

한국은 세계 5위의 데이터 생산량을 자랑하지만 국내 클라우드 시장의 약 70%를 아마존웹서비스(AWS), 마이크로소프트, 구글 등이 장악했기에 우리의 데이터는 미국의 글로벌 기업으로 줄줄이 새고 있다. 함부로 활용되고 있는 우리의 소중한 데이터를 보호하기 위해 데이터 주권을 주창하는 소셜 무브먼트를 이끌어 우리의 권리를 찾아야할 시점이다. 최종적으로 디지털 프리이버시를 보장하는 강력한 법이 제정돼야 한다. 우선 기업의 데이터 수집과 처리에 세금을 부과해야 한다. 예를 들어 수도세가 사용한 물의 양에 따라 책정되듯이 기업이 소유하고 처리하는 데이터의 양에 따라 세금을 부과하는 것이다. 그렇다면 기업은 엄청난 양의 데이터를 수집하지 않게 될 것이다. 탄소배출이 많은 기업이 엄청난 탄소세를 물어야 하는 것과 같은 이치다. 기업에 족쇄를 채우는 것은 결국 세금이다.

아울러 개인의 데이터를 제공할 때 정보활용에 동의할 것을 요구받기만 하는 우리는 개인 정보를 제공하는 댓가로 정보 활용 비용을 지불받아야 할 것이다. 기업이나 기관은 개인 정보 보호를 위한다는 명분을 내세우지만, 정보는 늘 해킹당하고 오용돼 왔다. Active X가 무슨 소용이 있을까? 이미 정보를 다 털린 우리는 알몸으로 벌판에 서 있는데. 우리는 아무런 혜택도 없이 데이터를 무방비로 내주고 있다. 줄 거면 돈받고 주자. 세상에 공짜는 없다.

#알고리즘파시즘 #데이터주권 #데이터세금 #대량살상수학무기

미국 대선에서 등장한 "부정한 힐러리를 패배시키자(DEFEAT CROOCKED HILLARY)" 라는 슬로건에서 CROOCKED의 알파벳 O 두 개를 수갑 형태 OO로 표현해, 힐러리가 범죄자라는 인식을 강하게 각인시켰다.