보라빛 소를 만나기 위한 도약

MS 얼굴인식 규제 법률 제정 촉구, 직원들의 요구를 경영진이 수용.pdf

◾ 마이크로소프트의 최고법무책임자 브래드 스미스 사장은 유명 싱크탱크인 브루킹스 연구소에서 강연을 통해 각국 정부가 2019년에 얼굴인식 기술을 규제하는 법률을 제정해야 한다고 호소

▸ 세계 어느 나라나 대기업은 정부의 규제 강화에 반대하는 경향이 있으나, 인공지능(AI)에 관한 한 종종 반대 움직임이 나타나고 있는데, 마이크로소프트는 올해 7월경부터 얼굴인식 기술에 대한 규제가 한시라도 빨리 제정될 필요가 있다는 의견을 피력해 오고 있음

▸ 스미스에 따르면 현재 얼굴인식 기술은 세 가지 큰 문제를 안고 있는데, 첫째는 기술적으로 불완전함에도 사용되어 편견과 차별을 조장할 우려가 있다는 것으로, 얼굴인식 기술은 백인 남성의 식별률이 가장 높고 여성과 유색 인종은 잘못 인식하는 경향이 높음

▸ 이에 대해 스미스는 얼굴인식 기술의 성능을 제삼자가 검증하는 제도나, 사업자가 얼굴인식 기술의 한계를 정직하게 고객에게 밝히는 것을 의무화 하는 투명성 규정, 그리고 얼굴인식 기술의 차별적 사용을 금지하는 규제가 필요하다고 지적

▸ 두 번째 문제는 프라이버시 침해로, 얼굴인식 기술을 이용하면 여러 대의 카메라로 한 명을 장기간 용이하게 추적할 수 있어, 가령 소매점이라면 고객이 매장에 들어온 순간부터 상품을 선택하여 구입한 후 가게를 나가는 것까지 파악할 수 있음

▸ 과거와는 비교가 되지 않는 수준의 고객 개인 정보를 입수할 수 있게 되었지만 소비자에게는 알리지 않고 있는 것이 문제인데, 스미스는 소매점 등이 얼굴인식 기술을 사용할 경우 그 취지를 명확히 전달하거나 소비자 동의를 받는 것을 의무화하는 규제가 필요하다고 호소

▸ 세 번째 문제는 정부기관이 얼굴인식 기술을 이용해 시민을 감시하고 인권을 침해하는 것인데, 이는 헌법이 보장하는 집회의 자유와 언론의 자유, 이동의 자유를 훼손된다는 점에서 민주주의의 근간을 위협하는 것임

▸ 스미스는 법률을 제정하여 정부기관이 얼굴인식 기술을 이용해 시민을 감시하는 것을 반드시 제한해야 한다고 주장하는데, 법원의 영장을 얻은 경우에만 얼굴인식 기술을 이용한 감시를 허용하거나 긴급 사태가 발생한 경우에만 모니터링을 허용해야 한다는 것임

<자료: New York Times>

◾ 이러한 스미스의 주장은 아주 솔직하고 정직한 것이긴 하지만, 한편으로는 왜 마이크로소프트가 이런 주장을 앞장서 하는가라는 의문도 동시에 제기되고 있음

▸ MS는 정부에 새로운 법률 제정을 요구할 뿐만 아니라 MS 자신이 먼저 사내 규정을 정비했는데, AI의 개발과 이용에 대해 '공정성, 투명성, 책임, 비차별, 경고와 동의, 합법적 감시‘라는 6개 원칙을 마련하였고 2019년 1분기부터 이를 실행에 옮기기로 하였음

▸ MS의 주장과 행동이 극히 당연한 것임에도 일각에선 그 배경에 대해 의구심을 표하고 있는데, 관련 법률이 미비하면 기업에게는 좋은 것이 소비자의 개인 정보를 대량으로 모으거나 정부 기관에 시민 감시를 위한 기술을 적극적으로 영업할 수도 있기 때문

▸ 이런 의문에 대해 스미스 사장은 ‘MS가 얼굴인식 기술에서 뒤쳐지고 있기 때문에, 법률을 마련케 하여 선도 기업들의 발목을 잡으려 한다’는 의혹은 전혀 사실이 아니라고 반박

▸ 실리콘밸리에 그런 루머가 돌고 있긴 하지만, MS의 얼굴인식 기술은 미국 국립표준기술연구소(NIST)이 실시한 벤치마크 테스트에서 최고 수준으로 평가된 바 있으며, 굳이 다른 회사를 의식할 필요는 전혀 없다는 것

◾ MS가 의식하고 있는 것은 의외로 사내 분위기인데, 스미스 사장은 강연에서 ‘얼굴인식 기술과 관련된 문제의 심각성을 일깨워 준 것은 우리 직원들이었다’고 고백

▸ MS에서는 2018년 6월에 얼굴인식 기술을 둘러싸고 직원들의 ‘반란’이 일어났는데, 당시는 트럼프 행정부가 불법 이민자의 부모와 자식을 분리 수용하는 조치가 미국 내에서 큰 비판을 받고 있던 때였음

▸ 그러던 차에 불법 이민 단속을 담당하는 미국 ‘이민관세집행국(ICE)’에 MS가 얼굴인식 기술을 제공하고 있다는 의혹이 제기되자, 시민사회뿐 아니라 MS 내부에서도 회사를 비판하는 목소리가 커지게 된 것임

▸ MS가 ICE에 협력하고 있다는 증거로 간주된 것은 MS의 마케팅 부서가 2018년 1월에 공개한 블로그 기사였는데, 기사 내용은 미 공군과 ICE의 두 조직이 마이크로소프트 애저(Azure)의 정부기관용 버전인 ‘Azure Government(애저 거버먼트)’를 이용하기로 했다는 것임

▸ 블로그에는 ‘애저 거버먼트를 사용하면 딥러닝 기반의 얼굴인식 기술 등을 이용할 수 있게 된다’라는 표현이 보이는데, 이를 통해 유추해 볼 때 MS가 ICE에 얼굴인식 기술을 제공하고 있다고 간주된 것임

▸ 그러나 실제로 MS가 ICE에 제공한 것은 이메일 및 정보 공유 등 백오피스용 클라우드 서비스뿐이었다고 하는데, 그럼에도 기업 내외부의 항의를 엄중하게 받아들인 MS는 2018년 7월 스미스 사장 명의의 성명서를 발표하고 ICE에 얼굴인식 기술을 제공하지 않겠다고 밝혔음

▸ 그리고 이번 브루킹스 연구소 강연을 통해 다시 한 번 얼굴인식 기술에 대한 MS의 입장을 명확히 표명하였고, 규제의 필요성을 공개적으로 호소하였음

<자료: Los Angeles Times>

◾ 2018년은 IT 대기업에 의한 소비자의 프라이버시 침해 이슈가 두드러진 한 해였지만, MS의 행보는 대기업의 자정 노력을 보여주고 있다는 점에서 희망적임

▸ AI의 윤리적 사용을 위한 직원들의 저항은 2018년 3월에 구글에서 먼저 시작되었는데, 직원들은 구글이 미 국방부의 무인항공기용 AI 개발 프로젝트인 ‘Maven(메이븐)’에 참가해 살인 병기의 개발에 AI를 제공하려 한다고 비판하며 이를 반대하는 활동을 시작했음

▸ 직원들의 저항의 불길이 구글에서 MS로 옮아 붙은 것으로도 볼 수 있는데, MS에서는 직원들의 거센 요구가 경영진의 의식까지 바꿔놓는 결과로까지 이어졌음

▸ 올해는 IT 대기업들에서 벌어진 대규모의 개인정보 유출 사건과 플랫폼 사업자들이 정치적 목적의 데이터 이용을 묵인 내지 방조했다는 의혹으로 시끄러운 한해였는데, MS와 구글의 사례는 직원들의 적극적인 관심과 개입이 AI 산업의 발전에 중요한 요인임을 보여주고 있음