미 국방부에 AI 기술 제공한 구글, 직원 항의로 계약 연장 포기

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1850호(2018. 6. 13. 발행)에 기고한 원고입니다.

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.

미 국방부에 AI 기술 제공한 구글, 직원 항의로 계약 연장 포기.pdf

◾ 지난 5월 중순 구글 직원들은 미 국방부의 드론을 이용한 이슬람 국가 정찰에 구글의 AI 기술이 사용되고 있다며, 이 사업에서 구글이 철수할 것을 요청하며 항의한 바 있음

▸ 미 국방부는 드론을 이용한 정찰 임무를 수행하고 있는데, 여기에 AI(인공지능)를 도입하여 정찰 프로세스 자동화를 시도하였음

▸ ‘프로젝트 메이븐(Project Maven)’이라 명명된 이 시스템은 이슬람 국가(IS)와 시리아 등지에서 무인 항공기가 촬영한 영상에 찍혀있는 차량이나 인물 등의 객체를 AI가 이미지 분석을 통해 판정하도록 한 것임

▸ 그런데 구글이 메이븐 프로젝트에 AI 기술을 제공하고 있는 것으로 밝혀지면서 구글 직원들은 이에 항의하며, 순다르 피차이 CEO에게 국방부와 즉각적인 계약 해지를 요구하는 공개서한을 보냈음

▸ 공개서한에는 구글이 그 동안 군사 산업에 어떻게, 어느 범위로 관여해 왔는지, 그리고 회사의 방침이 정확히 무엇인지 밝힐 것을 요구하는 내용도 들어 있는데, 이 서한에는 4천 명의 구글 직원이 서명했고 12명의 엔지니어들은 항의의 뜻으로 퇴사하였음

<자료> Google

[그림 1] 구글 직원들의 항의 서한

◾ 이에 대해 구글 측은 국방부에 제공한 AI 기술은 드론을 비행시키거나 무기를 발사하는 데 사용되는 것은 아니며, 어디까지나 일반적인 임무에 사용되는 것이라 해명하였음

▸ 구글의 클라우드 사업부 총괄 책임자인 다이앤 그린은 구글이 공여한 것은 오픈소스인 ‘텐서플로우(TensorFlow) API’이며, 무인 항공기로 촬영한 이미지를 분석하고 개체를 파악하기 위한 용도로 사용되고 있다고 밝혔음

▸ 프로젝트 메이븐에 공여된 기술은 전투력을 행사하는 전투 행위에 적용되는 것이 아니라, 입수한 데이터를 분석하는 일반적인 정보 행위에 사용되었다는 것임

▸ 따라서 구글이 제공한 기술은 소위 ‘자율 병기(Autonomous Weapons)’에 사용되는 것이 아니며, 공격을 수반하지 않는 일상적인 정찰 활동에만 사용되었음을 강조하였음

▸ 자율 병기는 AI가 공격 목표를 파악하고, AI가 트리거를 시작하는 병기를 가리키는데, 인간의 판단을 거치지 않고 AI가 목표를 선택, 공격하므로 살인 로봇이라고도 불림

▸ 프로젝트 메이븐에서 적의 행동을 파악하는 데에만 AI를 사용한다는 구글의 해명에도 불구, 구글 직원들은 이 기술을 응용하면 얼마든 자율 병기로 이어질 우려가 있기 때문에 기술 공여에 반대한다는 입장을 더욱 거세게 표명하였음

◾ 미 국방부가 보도자료 형태로 공개한 프로젝트 메이븐의 개요를 보면, 국방부는 AI와 기계학습의 도입을 미션으로 하는 조직의 신설과 시스템 개발을 추진하고 있음

▸ 보도자료에 따르면 이 프로젝트 수행을 위해 국방부 내에 ‘알고리즘 전쟁 교차 기능 팀(Algorithmic Warfare Cross-Functional Team)’이라는 부문이 신설되며, 프로젝트를 관할하는 시스템도 개발하게 됨

<자료> Wired

[그림 2] 신설된 알고리즘 전쟁 교차기능 팀

▸ 신설 부문은 국방부 조직 전반에 걸친 AI와 기계학습의 도입을 미션으로 하고 있으며, 그 첫 사업이 바로 프로젝트 메이븐임

▸ 미 국방부는 이슬람 국가(IS)가 지배하고 있는 지역과 시리아에서 무인 항공기를 비행시켜 정찰 활동을 전개하고 있는데, 무인 항공기에 탑재된 카메라로 지상을 촬영하면 애널리스트가 동영상과 사진을 보고 찍혀 있는 객체의 종류를 판정해 왔음

▸ 이 정찰 임무는 현재 전략 드론인 ‘ScanEagle’과 전술 무인 항공기인 ‘MQ-1C Gray Eagle’ 및 ‘MQ-9 Reaper’이 맡고 있음

▸ 그런데 촬영된 이미지가 대용량이기 때문에 애널리스트가 수작업으로 처리하기에 한계가 있어, 이 과정을 AI로 자동화하는 것을 목적으로 메이븐 프로젝트를 시작하였음

▸ 알고리즘이 객체를 38개 종류(차량, 사람, 행동 등)로 특정한 후, 문제라고 생각되는 정보를 추출해 내면 이를 애널리스트가 정밀 분석하는 프로세스로 변경한 것임

◾ 구글 직원들의 반대 항의에 대해서는 과민반응이라는 의견과, 세계 최고 수준인 구글의 AI 기술력을 감안할 때 문제 소지를 사전에 차단해야 한다는 옹호론이 엇갈리고 있음

▸ 현재 구글만 미 국방부에 AI 기술을 공여하고 있는 것은 아니어서, 아마존과 마이크로소프트도 클라우드 서비스를 통해 이미지 분석 기술 등을 제공하고 있으며, 데이터 과학에서 톱을 달리는 팔란티어(Palantir) 역시 국방부에 정보 서비스를 제공하고 있음

▸ 이들 기업에서는 AI가 군사 목적으로 사용되는 것에 대해 반대 운동은 일어나지 않고 있는데, 이를 두고 타 산업과 마찬가지로 국방부도 정부 분석에 AI를 이용하는 것뿐인데 구글 직원들이 너무 이상향을 쫓는 것 아니냐고 불편해하는 시각도 있음

▸ 반면, 세계 최첨단의 AI 기술을 가진 구글이기 때문에 그 기술을 군사 시스템에 제공 한 것에 대한 반대의 목소리가 높아지고 있는데, 특히 ‘악해지지 말자’는 구글의 미션을 거론하며 비판하는 목소리가 많음

▸ 대학 교수를 중심으로 하는 AI 연구자 1천여 명은 구글 창업자이자 알파벳의 CEO인 래리 페이지에게 프로젝트 메이븐에서 손을 떼고, 앞으로도 AI를 군사 목적으로 사용하지 않는 것을 명확히 하라는 요구를 전달하기도 하였음

◾ 기업 안팎에서 항의가 거세지자 구글은 국방부와 계약을 연장하지 않겠다고 밝히며, AI 기술의 활용과 관련한 윤리 가이드라인을 만들어 발표하겠다는 계획을 밝혔음

▸ 사태가 발생하자 초기에 구글은 직원들의 항의에도 불구하고, 일반적인 정보 분석에 AI 기술이 적용된 것이라면 별 문제 없다는 입장을 고수하였음

▸ 그러나 직원들이 항의의 표시로 퇴사까지 하는 상황에서도 꿈쩍않는 구글에 대한 비난이 거세지면서 6월 1일 다이앤 그린 클라우드 총괄 책임자는 직원과의 미팅을 통해 2019년 3월 만료되는 메이븐 프로젝트의 계약을 연장하지 않겠다고 밝혔음

▸ 이 자리에서는 또한 AI 기술 활용과 관련한 윤리 가이드라인 작성 계획도 밝혔는데, 여기에 메이븐 프로젝트와 같이 군사 임무에 사용되는 경우도 포함할 지에 대해서는 정확히 알려지지 않았음

◾ 이번 문제는 비즈니스 철학에 대한 것이기도 하지만, 근본적으로는 국방에서 AI를 어느 범위까지 응용할 것인가에 대한 사회적 협의가 이루어지지 않은 데서 기인한 면이 큼

▸ 이번에 문제가 된 구글의 텐서플로우는 오픈소스로 공개되어 있기 때문에 누구나 자유롭게 사용할 수 있고, 구글이 계약을 연장하지 않는다고 해도 국방부의 프로젝트 메이븐에서는 텐서플로우를 계속해서 사용할 수 있음

▸ 텐서플로우 외에도 시장에는 수많은 오픈소스 AI 기술들이 공개되어 있으며 이들이 군사 목적으로 사용되고 있을 가능성을 배제할 수 없기에, 이번 구글 직원들에 의한 문제 제기는 AI 오픈소스를 어떻게 관리해야 하는가라는 본질적인 질문을 포함하고 있음

▸ 한편 AI의 군사 이용에 대해서는 일찍부터 그 위험성이 지적되었고, 전세계 차원에서 운용 지침의 제정이 요구되어 왔으나, 각국의 군사 시스템에서는 이미 고급 AI가 도입 되어 있고 통일된 규칙이 없는 채 개발이 선행되고 있는 상황임

▸ 이런 상황에서 구글이라는 AI의 강자가 언급되자 그 파급력에 대한 사회의 우려가 단번에 높아지면서 이슈화 된 것으로 볼 수 있는데, 이번 일을 계기로 하이테크 기업들은 AI의 군사 이용에 관한 명확한 정책 수립을 요구받게 될 것으로 보임

▸ 아울러 군사 프로젝트에 AI를 활용하는 것 외에 일반적인 AI 활용에 있어서도 더욱 엄격한 윤리적 지침을 마련해야 한다는 시민사회의 요구가 높아질 가능성도 제기되고 있음