보라빛 소를 만나기 위한 도약

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1884호(2019. 2. 19. 발행)에 기고한 원고입니다.

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.

◾ IBM 기초연구소는 최근 얼굴인식 기술의 공정성과 정확성 향상을 목표로 ‘얼굴의 다양성(Diversity in Faces, DiF)’라는 데이터셋을 공개

▸ 카메라와 알고리즘을 이용해 얼굴을 인식하여 개인을 식별하는 기술의 실용화는 최근 급속히 확대되고 있으며, 스마트폰의 잠금 해제에 Face ID 등의 얼굴 인식 시스템이 이용되기도 하고, 경찰의 수사 및 경비에 얼굴 인식 시스템이 도입되어 일부 성과를 올리고 있기도 함

▸ 그러나 얼굴 인식 시스템의 정밀도는 아직 완벽함과는 거리가 있는데, 가령 영국 경찰이 도입한 얼굴 인식 시스템의 경우 오판정률이 90%가 넘는 일도 있었음

▸ 2017년 6월 영국 카디프에서는 UEFA 챔피언스 리그 결승전이 열렸는데, 대규모 스포츠 이벤트는 테러의 표적이 될 가능성이 높아 당시 뉴 사우스 웨일즈 경찰은 감시 카메라를 이용한 자동 얼굴인식 시스템으로 범죄 용의자를 탐지해 내겠다는 계획을 세웠음

▸ 결승전 당일 자동 얼굴인식 시스템에 의해 범죄 용의자로 지목된 사람은 모두 2,470명에 달했는데, 이 중 2,297명이 잘못된 판정으로 드러났음

▸ 웨일즈 경찰의 사례에서 오판정률이 높았던 원인은 인터폴에서 제공한 용의자 사진의 화질이 떨어졌기 때문인데 그 외에도 얼굴인식 시스템의 정확도는 여러 요인에 의해 영향을 받음

▸ 오인식 비율이 높아지는 원인 중에는 ‘얼굴인식 시스템의 편향성’도 있다는 지적이 있는데, 실제로 아프리카계 미국인은 백인보다 5~10% 정도 정확도가 떨어진다는 연구 결과가 있음

▸ IBM 기초연구소의 연구팀은 실제 얼굴인식 시스템의 성능에 영향을 미치는 것은 ‘내재적인 얼굴의 다양성’이지 인식의 정확도가 개인이나 집단에 따라 달라질 수는 없다는 입장인데, DiF 데이터셋의 공개 목적이 얼굴인식 기술의 ‘공정성’ 향상이라 한 것은 이런 연유임

◾ 이번에 IBM이 공개한 DiF에는 다양한 성별과 인종의 얼굴 이미지와 그에 대한 주석이 포함되어 있는데, 약 100 만 명분의 데이터가 포함되어 있다고 함

▸ IBM 연구소는 만일 인종이나 성별에 따라 얼굴인식의 정확도에 차이가 발생한다면, 이는 알고리즘을 학습시킬 데이터셋이 특정 성별이나 인종에 편중되어 있기 때문으로, 데이터셋의 표본을 늘리고 인종과 성별의 샘플링을 균형있게 함으로써 해결가능하다고 보았음

▸ DiF 데이터셋의 각각 이미지에는 머리 모양과 얼굴의 대칭, 코의 길이, 이마의 높이 등 얼굴의 객관적 척도와 함께 연령이나 성별 등의 주석 데이터가 라벨링되어 있다고 함

▸ 연구팀에 따르면 주석 데이터에서는 얼굴 부위 47곳 이상의 크기와 특징을 정리되어 있으며, 이것이 얼굴인식 시스템의 공정성과 정확성을 향상시키고 알고리즘의 성능을 더욱 강력하게 만드는 학습 교사의 역할을 하고 있음

▸ 연구팀은 IBM 기초연구소에서 보다 공정하고 정확한 얼굴인식 시스템을 개발하기 위한 연구 노력을 계속하고 있지만, 단지 자신들의 연구로만으로 얼굴인식 시스템이 발전할 수는 없다고 판단하였음

▸ DiF를 공개한 것은 이를 통해 다른 곳에서 진행되는 얼굴인식 시스템의 연구에도 기여하는 것이 중요한 과학적 의제를 진전시키는 일이라 보았기 때문이며, 이번에 공개된 DiF가 얼굴인식 시스템 연구의 새로운 첫 걸음이 되기를 희망하고 있음

▸ DiF 데이터셋은 전세계에 있는 얼굴인식 시스템 연구 커뮤니티에 제공되는데, DiF에 접속을 원하면 IBM 기초연구소의 설문 조사에 응하고 이메일로 신청하면 됨

▸ Diversity in Faces Dataset - Trusted AI - IBM Research AI(https://www.research.ibm.com/artificial-intelligence/trusted-ai/diversity-in-faces/)

◾ 한편 DiF를 기반으로 한 시스템 개발 연구를 통해 얼굴인식의 공정성과 정확성 개선이라는 목표는 달성될 수 있겠지만, 그에 비례해 기술에 대한 통제 요구도 커질 것으로 보임

▸ 2017년 뉴 사우스 웨일즈 경찰의 얼굴인식 시스템이 2천명 이상의 시민을 범죄 용의자로 오판한 것이 알려지자, 영국에서는 즉각 시스템 폐지 운동이 전개된 바 있음

▸ 영국의 시민단체 ‘빅브라더 워치(Big Brother Watch)'는 실시간 얼굴 인식은 시민의 자유에 대한 위협일 뿐만 아니라 위험하고 부정확한 정치적 도구라며 강력히 비판하고 있는데, 기술의 정확성 여부와 상관없이 얼굴인식 기술에 대한 근원적 문제제기는 지속될 것으로 보임

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1874호(2018. 11. 28. 발행)에 기고한 원고입니다.

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1872호(2018. 11. 14. 발행)에 기고한 원고입니다.

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1865호(2018. 9. 26. 발행)에 기고한 원고입니다.

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.

웨더뉴스-엔비디아, AI 이용한 전세계 강우 상황 가시화 프로젝트.pdf

◾ 웨더뉴스(Weathernews)는 최근 엔비디아(NVIDIA)와 협력하여 전세계 강우 상황을 AI(인공 지능)로 가시화하는 프로젝트를 시작한다고 발표

▸ 전지구적 차원의 기후 변화 영향으로 최근 세계 곳곳에서 자연 재해가 빈발하고 있는데, 동남아시아 지역 등 비가 많이 내림에도 불구하고 기상 관측 인프라가 아직 정비되어 있지 않고 기상 전문 인력도 부족한 지역이 많음

▸ 기상 상황 파악과 예측 능력이 자연재해 빈발 흐름에 제대로 대응할 수 없는 것인데, 이에 따라 자연히 피해가 선진국에 비해 커지기가 쉬움

▸ 웨더뉴스의 프로젝트는 이런 문제를 겪고 있는 국가를 지원하기 위한 것으로, 엔비디아가 보유한 딥러닝 기술을 이용하여 강수 분포를 가시화하고 강우를 예측하여 호우 피해 경감에 기여할 것을 목표를 하고 있음

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1862호(2018. 9. 5. 발행)에 기고한 원고입니다.

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.

싱가포르 정부,‘AI 거버넌스 프레임워크’ 구축의 방법론 제시.pdf

[ 요 약 ]

[ 본 문 ] 

◾ 2018년 6월 싱가포르 정부가 발표한 ‘AI 거버넌스 및 윤리 정책’ 계획은 싱가포르와 관련된 AI의 윤리와 혁신에 관련한 전세계 기업들의 정책 수립에도 좋은 참조가 될 전망

▸ ‘Artificial Intelligence Governance and Ethics Initiatives'라는 제목의 이 계획은 혁신 친화적인 규제와 AI 이용자가 신뢰할 수 있는 환경의 구축을 목표로 각 산업 분야와 기업이 AI 개발과 관련한 자발적인 규칙을 제정할 것을 요청하고 있음

▸ 싱가포르 정부의 계획은 지금까지 각국 정부가 발표한 유사한 보고서와 확연히 구별되는데, 기업이 AI 시스템을 개발하는 데 ‘어떤(WHAT)’ 가치를 지킬 것인가에 더해, 어떻게(HOW) 지켜야 할 것인지에 대해 심도 있게 파고 드어 기술하고 있기 때문

▸ 따라서 이 계획은 비단 싱가포르와 비즈니스를 전개하는 외국 기업들에 영향을 미칠 뿐만 아니라, 우리나라를 포함 각국의 기업들이 ‘AI의 윤리’를 고려하면서도 혁신을 촉진하는 틀을 만드는 데 유용한 참조가 될 가능성이 있음

◾ 지금까지 여러 국가에서 공개된 AI의 윤리와 거버넌스에 관한 보고서는 ‘무엇이 중요한 질문인가’라는 관점에서 전세계가 공유할 ‘원칙’을 정리하는데 초점을 두고 있음

▸ 현재 미국의 백악관, 영국 하원 과학 기술위원회, 프랑스 의회, 일본 총무성 산하 정보통신정책연구소 등이 AI의 윤리와 거버넌스에 관한 원칙과 지침을 책정하고 있음

▸ 정부뿐 아니라, 미국 전자전기학회(IEEE), 비영리법인인 생명의 미래(Future of Life Institute), 구글, IBM, 페이스북 등 기업이 조직한 ‘AI 파트너십(Artificial Intelligence Governance and Ethics Initiatives)’ 등 다양한 산학연 기관이 AI의 윤리와 거버넌스를 고려할 때 원칙과 논점을 제정하고 있음

▸ 우리나라의 경우 2017년 10월에 과학기술정보통신부와 한국정보화진흥원·정보문화포럼이 ‘지능정보사회 법제도 포럼’을 출범시키고 지능정보사회의 윤리 가이드라인 마련작업을 시작한다고 발표한 바 있음

▸ 당시 포럼은 인간 중심의 지능정보사회 구현을 목표로 이해관계자의 의견을 수렴해 개발자·공급자·이용자 대상 윤리 가이드라인을 2017년 연내 확정한다는 방침이었음

▸ 그러나 이후 과학기술정보통신부는 입장을 바꿔, 국내 AI 관련 산업은 아직 초기 단계여서 정부가 나서 가이드라인을 만들 상황이 아니기 때문에, 민간부문과 상의해 보편적 수준의 신기술 연구 가이드라인을 만든다는 쪽으로 계획을 변경하였음

▸ 지금까지 발표된 수많은 보고서의 공통점은 AI와 윤리를 고려함에 있어 ‘무엇이 중요한 질문이며, 가치인가’, 즉 ‘WHAT’의 관점에서 전세계적으로 공유할 수 있는 원칙을 정리하고 목록화했다는 것임

▸ 세계 곳곳에서 지난 2년여 동안 논의가 전개된 결과‘WHAT’에 대한 논점은 이미 도출되었으며, 현재 그 다음 단계로 요구되고 있는 것은 AI를 이용한 기술과 서비스를 제공하는 개발자와 기업이 그 원칙을 어떻게 구현해야 하는가라는 ‘HOW’에 대한 논의임

◾ 싱가포르 정부가 제시한 이번 계획은 HOW에 천착한 것으로, 각 산업 분야와 기업이 다양한 가치를 자율적으로 취사선택하는 실천적인 거버넌스 프레임워크를 제시하고 있음

▸ 싱가포르 정부는 이 계획을 수립하기 위해 한국에서 가이드라인 마련 계획을 발표했던 것과 같은 시기인 2017년 10월부터 AI 거버넌스 관련 부처들의 전체 회의를 시작하였음

▸ 참여 부처들은 다방면에 걸쳐 있는데, 사업 개발의 ​​중심이 된 ‘IMDA’는 싱가포르 정보 통신부의 구체적인 정책을 수립·실행하는 법정 위원회임

▸ 또한 IMDA 산하의 개인정보보호위원회(PDCD)와 싱가포르 금융관리국(MAS), 육상교통청(LTA), 검찰청, 싱가포르 경쟁 및 소비자 위원회(CCCS) 등 각 부문의 규제 및 감독 기관들이 함께 참여하였음

▸ 그 밖에도 보건부(MOH), 정보통신부(MCI), 총리실 직속의 ‘스마트 국가와 디지털 거버넌스 오피스(SNDGO)’, 정부기술청(Gov Tech), 전략적 미래 센터(CSF), 부처 횡단으로 추진되고 있는 인공지능 관련 5개년 계획인 ‘AI 싱가포르’ 등도 참여

◾ 싱가포르의 여러 부처들이 한 데 모여 약 8개월간의 논의를 거친 끝에 올해 6월 ‘AI 거버넌스 및 윤리 정책’ 계획이 공개된 것이며, 3가지 주요 내용을 담고 있음

Discussion-Paper-on-AI-and-PD-Personal-Data-Protection-Commission-Singapore.pdf

▸ 주요 내용 3가지는 (1) 소비자와 고객의 신뢰를 얻고 혁신을 추진하기 위한 논점을 정리 한 ‘토론 논문(discussion paper)'을 공개

<자료> PDPC of Singapore

[그림 1] AI 거버넌스의 논점을 정리한 토론 논문

▸ (2) 각 산업 분야의 업계 단체나 소비자 단체의 리더들이 자율적 규칙 만들기를 위해 대화하는 ‘AI와 데이터의 윤리적 사용’ 자문위원회를 설치

▸ (3) AI와 데이터 이용의 거버넌스에 관한 연구 프로그램을 싱가포르 경영 대학(SMU)에 5년간 설치한다는 것임

▸ 이에 따라 싱가포르 정부는 계획을 발표하며, (1)의 내용에 해당하는 ’인공지능과 개인 데이터에 관한 토론 논문: 인공지능의 책임 있는 개발과 수용의 조성(Discussion Paper On Intelligence and Personal Data-Fostering Responsible Development and Adoption of AI)'도 함께 공개하였음

▸ 계획의 핵심은 산업계에 AI에 대한 자율 규제의 프레임워크를 제정하도록 촉구하는 것이며, 토론 논문은 이를 위한 논점을 정리한 것으로 총 16페이지, 5장으로 구성되어 있음

▸ 이 토론 논문은 2018년 6월 공개된 이후 싱가포르의 여러 부처 및 업계 단체에 배포되었고, PDPC의 웹사이트에서도 볼 수 있으며, 현재 피드백을 수렴하고 있음

◾ 토론 논문의 제1장 ‘도입(Introduction)' 파트는 민간 기업이나 업계 단체에 대해 자발적인 행동 기준을 포함한 거버넌스 프레임워크를 제정하라는 요구를 명확히 하고 있음

▸ 도입부는 규제를 제정하는 감독 기관, AI 개발자와 서비스를 제공하는 기업, 나아가 소비자 등 이해관계자 사이에서 ‘어떤 거버넌스가 필요한가’에 대해 대화하는 것이 중요하다고 지적하는데, 이 때 중요한 관점으로 다음의 세 가지를 제시하였음

▸ ① 거버넌스 프레임워크는 특정 AI 기술에 국한되지 않는 기술 중립적인 것으로서, 엄격한 관리체계가 아님(light-touch)

▸ ② AI를 이용한 기술과 서비스를 제공하는 개발자 및 공급자가 자사의 기술과 서비스 개발에 어떤 규제(자율 행동규범도 포함)가 관련되어 있는지를 알 수 있도록 하기 위해, 규제를 제정하는 측은 규제와 규칙을 명확한 형태(regulatory clarity)로 제공해야 함

▸ ③ 최소한의 요건으로는, 설명 가능성, 투명성, 공정성, 그리고 인간중심주의를 촉진하는 원칙과 규칙을 제정함으로써 기술 개발에 대한 소비자의 신뢰를 획득함

▸ 이 밖에도 도입부에서는, 이해관계자에 속하는 ‘AI 개발자’, ‘사용자 기업’, ‘소비자와 고객’에 대해 정의하고 있으며, AI를 실행하는 데는 ‘데이터 처리’, ‘알고리즘에 의한 분석’, ‘모델 선택’ 등의 단계가 있음을 설명하고 있음

◾ 이어 제2장은 거버넌스 프레임워크의 두가지 원칙, 3장은 그 원칙을 산업에 적용하기 위한 전제, 4장은 거버넌스 프레임워크의 작동 방식, 5장은 향후 과제에 대한 내용을 담고 있음

▸ 2장에서 제시된 거버넌스 프레임워크의 두 가지 원칙은 ‘투명성’과 ‘인간중심성’인데, 규칙을 제정할 때는 이 원칙을 규제기관, 협회, 기업, 소비자 단체 등이 공유하는 것이 중요하므로 자문위원회 같은 대화의 장을 마련할 것을 권고하고 있음

▸ 3장에서는 두 원칙을 개별 산업 분야에 적용할 때 ‘기술중립성’과 ‘최소 기준’이라는 두 가지 전제와 ‘법적 책임성’이라는 한계를 반드시 고려해야 함을 기술하고 있음

▸ 3장까지가 왜(WHY) 거버넌스가 필요하고, 어떤(WHAT) 논점이 있는지를 정리한 것이라면, 제4장은 거버넌스 프레임워크가 어떻게(HOW) 규칙을 만드는지 그 방법을 4단계로 보여주고 있음

▸ 마지막 5장의 제목은 ‘다음 단계(Next Step)’로, 본 논문의 목적이 토론을 촉진하기 위한 것이기 때문에 많은 조직이 이 프레임워크를 이용해 논의할 것을 권고하고 있음

[표 1] 싱가포르 정부가 제시한 ‘AI 거버넌스 프레임워크’의 4단계 규칙 제정 프로세스

◾ 이러한 틀이 제대로 작동하게 하려면 민간 기업의 자발적 규정 마련과 법적 규제, 이 양축이 역할을 잘 분담하는 것이 중요함

▸ 실제로 유럽연합이 일반데이터보호규칙(GDPR)을 2018년 5월부터 시행한 바도 있어, 싱가포르는 현재 국제적인 틀과 보조를 맞추는 위해 개인정보보호법의 개정 등을 위한 작업이 진행 중에 있음

▸ 이번 계획 발표 이후에도 금융, 교통, 의료 등 각 산업 특유의 아젠다에 대해서는 회의 참석 주체인 관할 부처들이 계속 논의를 진행할 전망

▸ 가령 싱가포르 금융 관리국(MAS)은 이미 금융업이 AI와 데이터 분석을 활용하는데 필요한 책임 있는 윤리적 이용 가이드라인을 만들기 위한 논의를 시작하고 있음

▸ 한편 본 토론 논문의 내용 범위는 어디까지나 ‘비즈니스’에 국한된 것이며, ‘국방(Defense)’은 포함하지 않기로 제1차 회의에서 합의한 것으로 알려졌음

◾ 토론 논문이 기업의 자발적 규칙 마련을 촉구하고 있지만, 4장에 설명된 대로 일률적으로 체크리스트화 하는 것은 아니며 각 기업이 필요한 규칙을 선택하도록 권고하고 있음

▸ 이를 통해 각 기업과 산업의 규모에 따라 가능한 범위에서 대책을 강구함으로써, 스타트업을 중심으로 한 혁신을 저해하지 않고 AI 관련 사업을 키워 나갈 것을 기대하는 것임

▸ 각 업계 단체와 기업은 AI 기술을 사용한 시스템과 서비스를 개발할 때, 본 논문을 참조해 어떤 가치를 중요시하고, 누구에게 어떤 대책을 실시해야 하는지, 또는 하지 않아도 좋은 것은 무엇인지를 스스로 판단에 의해 결정해야 한다는 것임▸ 예를 들어 본 논문에는 무엇이 ‘손해’에 해당하는 지를 구체적으로 기술하지 않고 있으며, 기업 스스로 자발적으로 정의하고 조치를 취할 것을 요구하고 있음

<자료> ITPro

[그림 2] 위험의 크기와 확률 매트릭스

▸ 나아가 논문에서 제시된 프레임워크 자체도 하나의 예이자 프로토타입일 수 있는데, 가령 프레임워크 작동의 4단계에서는 위험 평가의 영향과 확률 이외에도 비용 및 리소스 등을 평가 기준에 넣는 것이 가능함

▸ 핵심 요지는 “중요하게 생각하는 목표를 설정하고(1단계), 적절한 프로세스를 통해 대책을 강구하며(2단계), 고객에게 미치는 영향도 고려하되(3단계), 구체적인 위험 평가를 실시한다(4단계)”는 프레임워크를 견지하며 판단해야 한다는 것임

▸ 즉 각 단계에서 무엇을 중시할 지는 업계 단체나 기업이 자발적으로 궁리하되, 대내외적으로 설명할 수 있는 확실한 나름의 근거와 프로세스를 마련해야 한다는 것임

◾ 싱가포르 정부의 ‘AI 거버넌스 구조’는 표준을 제정해 지침으로 내리는 하향식이 아니라, 가치 공유 이후 기업이 자율적으로 제정하는 상향식 접근을 제시한다는 것이 특징

▸ 서두에 언급한 것처럼 싱가포르 정부가 공개한 논문이 보여준 거버넌스의 구조는 AI에 대한 '원칙'과 '지침'을 제시하는 기존의 보고서와 사뭇 다른 양상을 띠고 있음

▸ 지금까지의 보고서의 목적은 대부분 전세계적으로 공유할 수 있는 원칙과 논점을 제시하는 것이었으며, 그 논점이 특정 이해관계자의 관점에 치우치지 않도록 하려다 보니 이해관계자의 다양성이 중요했음

▸ 가령 IEEE의 ‘윤리적으로 조화된 설계’ 보고서는 250명 이상이 참여해 만들어졌는데, 추상적인 논의에 빠지지 않겠다는 취지하에 의료, 교통, 군사 등 개별 분야의 사례와 문헌을 수시로 소개하고 있음

▸ 물론 기존에도 AI 연구 개발 및 기술 설계를 진행하는데 있어 어떻게 거버넌스 구조를 만들 것인가에 대한 논의도 있었으나, 거버넌스 구축 방법을 표준으로 제정하는 접근방식을 취했으며, 대표적인 것이 IEEE-SA 표준 규격임

▸ 이에 비해 싱가포르 정부는 똑같이 HOW에 관해 논의하고 있더라도 정부가 표준을 만든다는 하향식 접근이 아니라 무엇이 최소한 지켜야 할 가치인가(WHAT)를 공유한 다음, 구체적으로 그것을 지켜나가는 방법에 관해서는 각 업계 단체와 기업이 취사선택을 하여 자율적으로 규칙을 만드는 상향식 접근 방식을 제시하고 있음

▸ 또한 지금까지 AI 관련 기술과 시스템 개발에서 자율적으로 규칙을 제정하려는 논의가 개별 산업단체 및 기업 차원에서 시도된 것에 비해, 싱가포르 정부는 AI에 관련된 모든 산업 분야에 걸쳐 정부와 산업계 및 소비자 단체 등의 지식인으로 구성된 자문위원회를 설치하고 있다는 점도 특징임

◾ 우리나라를 포함해 전세계적으로 AI 거버넌스와 윤리에 대한 프레임워크 제정의 필요성이 높아지고 있는 가운데, 싱가포르의 행보는 유의미한 참조 사례로 주시할 가치가 있음

▸ 싱가포르가 추구하고 있는 관과 민의 하이브리드에 의한 AI 거버넌스 규정 제정이나, 상향식 접근방식 등은 싱가포르의 특수한 환경 때문이라 치부할 수도 있음

▸ 실제 싱가포르는 서울시 한 구 크기의 도시 국가로 인구는 560만 명 정도에 불과하며, 일당 체제로서 정책 결정이 빠르고, 고려해야 할 이해관계자의 수가 다른 나라에 비해 많지 않다는 점 때문에 가능한 전략일 수도 있음

▸ 그러나 WHAT에 초점을 맞추어 다양한 이해관계자의 관점에서 논점을 정리해 열거한 두꺼운 보고서와 비교하면, 구체적인 HOW의 논의로 전환하여 민간 기업의 자유를 존중하면서 AI를 적절하게 통제하고 자국 산업의 발전을 촉진하려는 싱가포르의 노력은 실질적이고 합리적이며 행보가 가벼운 것으로 보임

▸ 물론 완전한 정부 주도도 아니고 완전히 민간에 맡기는 것도 아닌, 민관이 공동으로 고민해 가는 싱가포르식 ‘거버넌스 프레임워크’가 실제로 어떤 결과를 나을 지는 아지 알 수 없으며 지켜보아야 함

▸ 프레임워크가 어떻게 작동하는지, 기업·산업별 재량에 따라 해석의 유연성의 차이나 실제 효력이 어떻게 구축되고 조정되어 가는지 등은 실제로 구조가 작동되기 전에는 알 수 없는 부분이 많기 때문

▸ 그러나 싱가포르가 AI 거버넌스 프레임워크와 관련해 새로운 관점과 방식을 제시한 것은 사실이며, 싱가포르의 노력으로부터 무엇을 배울 것인지를 식별하기 위해서라도 싱가포르의 향후 행보를 계속 주시할 필요가 있을 것임

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1861호(2018. 8. 29. 발행)에 기고한 원고입니다.

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.

전세계 디지털 혁신 공급망을 꿈꾸는 캐나다의 AI 수퍼클러스터.pdf

[ 요 약 ]

[ 본 문 ]

◾ AI(인공지능) 연구개발의 겨울 시기로 불렸던 1990년대부터 AI에 대한 투자를 지속해 온 캐나다에는 이미 세계 유수의 AI 스타트업들이 몰려들고 있음

▸ 캐나다는 AI를 생명과학과 항공우주 산업을 비롯, 모든 제조업에 엄청난 충격을 가져다 줄 새로운 산업 플랫폼으로 보고, 토론토, 몬트리올, 에드먼튼 등 3개 도시에 세계적인 AI 수퍼클러스터를 구축해 전세계의 우수한 인재를 유치하고 있음

▸ 몬트리올 소재 AI 연구소인 ‘엘리먼트 AI(Element AI)’가 올해 5월에 발표한 ‘캐나다 인공지능 생태계(Canadian AI Ecosystem) 2018’ 보고서에 따르면 캐나다에는 650개의 AI 스타트업이 있으며, 이는 2017년에 비해 28% 증가한 것

Canadian+AI+ecosystem+2018.pdf

▸ 캐나다의 강점은 ‘AI의 겨울’로 불렸던 1990~2000년대에도 쉬지 않고 AI에 투자를 해온 것으로, 토론토, 몬트리올, 에드먼튼에는 딥러닝과 강화 학습을 발전시켜 온 대학 및 연구기관과 우수한 AI 연구자가 다수 존재함

<자료> Element AI

[그림 1] 2018 캐나다의 인공지능 산업 생태계

◾ 캐나다의 AI 3대 도시 중 토론토와 몬트리올은 심층학습 연구의 세계적인 중심지이며, 에드먼튼은 2천 년대부터 강화학습의 연구에 주력해 오고 있음

▸ 현재 딥러닝 기술의 융성은 토론토 대학의 제프리 힌튼(Geoffrey Hinton) 교수와 몬트리올 대학의 요슈아 벤지오(Yoshua Bengio) 교수, 그리고 힌튼의 제자인 얀 르쿤(Yann LeCun) 박사 등 3명에서 비롯되었음

▸ 이들은 2004년 캐나다 첨단연구기구(CIFAR, Canadian Institute for Advanced Research)에서 신경망 연구 프로젝트인 ‘Neural Computation & Adaptive Perception(NCAP, 신경 컴퓨팅과 적응형 지각)’을 시작하였음

▸ 딥러닝이라는 개념도 힌튼이 2006년 발표한 논문에서 비롯되었는데, 이후 토론토와 몬트리올은 딥러닝 연구의 세계적인 중심지가 되었음

▸ 에드먼튼에는 2000년대부터 강화학습의 연구에 주력해 온 앨버타 대학이 있는데, 심층 강화학습으로 알파고를 개발한 딥마인드(DeepMind)에는 창업 초기부터 앨버타 대학에서 강화학습을 배운 연구원 12명이 참가하기도 하였음

◾ 캐나다의 전략은 토론토, 몬트리올, 에드먼튼의 대학이나 연구 기관에 전세계에서 인재를 모으고 이들이 계속 캐나다에 남아 활동하도록 전폭적인 지원을 하는 것임

▸ 캐나다가 3대 도시에 AI 인재의 수퍼클러스터를 형성시킨 것은 전세계에서 모여든 우수한 인력을 AI 인재로 육성한 후 이들이 자국으로 돌아가거나 미국으로 가는 것이 아니라 캐나다에 계속 머물도록 하기 위해서임

▸ 이를 위해 캐나다는 AI 인재를 잡아두기 위해 AI 스타트업 지원을 강화하는 외에 AI 인재들이 활약할 수 있는 장을 마련하기 위해 국내외 유력 기업의 AI 연구개발(R&D) 거점 및 비즈니스 거점을 유치하는 데 총력을 기울이고 있음

▸ 3대 도시의 AI 수퍼클러스터는 캐나다 기업들에 AI 기술과 AI 인재를 제공하는 원천, 즉 AI의 공급망(supply chain)이 되며, AI 공급망은 캐나다 기업들이 디지털 혁신을 추진하는 데 매우 강력한 무기가 됨

▸ 캐나다 정부가 AI 진흥을 추진하는 목적은 단순히 AI 스타트업의 육성에 있는 것이 아니며, 캐나다 기업의 디지털 혁신을 촉진하여 국가 산업 전체를 레벨업 하기 위한 것임

◾ 토론토, 몬트리올, 에드먼튼의 AI 수퍼클러스터는 ‘유력 대학, 산학협력 연구소, 스타트업 지원기관’의 3개 기둥이 받치고 있으며 캐나다 정부와 지자체의 지원 하에 정비되어 있음

▸ 수퍼클러스터를 떠받치는 3대 요소는 (1) AI 연구를 실행하는 유력 대학, (2) 유력 대학과 산업계가 연계하여 AI 인재를 육성하는 NPO(비영리단체) AI 연구소, (3) 대학 및 AI 연구소가 배출한 AI 인재의 창업을 지원하는 스타트업 액셀러레이터임

▸ 가령 토론토의 경우 토론토 대학 외에 토론토에서 100 킬로미터 거리에 있는 워털루 대학, 요크 대학 등이 AI 연구 및 AI 인재 육성에 힘을 쏟고 있으며, 산학 연계의 AI 연구 기관으로는 2017년에 발족한 벡터 연구소(Vector Institute)가 있음

▸ 토론토 대학의 힌튼이 수석 과학고문을 맡고 있는 벡터 연구소는 온타리오 정부가 5천만 캐나다 달러를 지원하고, 구글, 액센츄어, 우버 등 민간기업 30개 사가 8천만 달러를 투자하여 설립되었음

▸ 벡터 연구소는 AI 연구를 수행할 뿐만 아니라 이미 대학을 졸업한 엔지니어와 연구자에 대한 AI 교육도 실시하는데, 벡터 연구소가 올해 여름에 개최하는 섬머 스쿨에는 270명이 참가하여 AI에 대한 교육을 이수하였음

▸ AI 스타트업을 육성하는 기관으로는 토론토 대학에 인접한 MaRS 디스커버리․디스트릭트 (MaRS Discovery District)와 토론토 인근의 마크햄에 있는 벤처랩(ventureLAB) 등이 있음

▸ 이처럼 AI 연구, AI 인재 육성, AI 스타트업 육성 기관 등이 모두 토론토 주변에 몰려 있는 환경을 구축함으로써 ‘토론토 AI 클러스터’를 지탱하고 있는 것이며, 이는 몬트리올과 에드먼튼의 클러스터도 마찬가지

[표 1] 캐나다 3개 도시의 AI 수퍼클러스터 및 주요 참여기관

◾ 캐나다 정부는 클러스터의 3대 기둥 중에서도 특히 AI 연구소에 국가 차원의 지원 전략을 수립하고 대규모 자금 지원을 하고 있음

▸ 토론토의 벡터 연구소, 몬트리올의 몬트리올 학습 알고리즘 연구소(Montreal Institute for Learning Algorithms, MILA), 에드먼튼의 앨버타 기계 지능 연구소(Alberta Machine Intelligence Institute, AMII) 등 3개 연구소는 캐나다 정부로부터 두둑한 지원도 받고 있음

▸ 캐나다 정부는 2017년 3월, ‘범 캐나다 인공지능 전략(Pan-Canadian Artificial Intelligence Strategy)’을 수립하고 CIFAR을 통해 벡터 연구소, MILA, AMII 등 3개 연구소에 1억 2,500 만 달러의 자금을 투자한다고 발표한 바 있음

▸ 이어 캐나다 정부는 올해 2월 ‘혁신 수퍼클러스터 전략(Innovation Superclusters Initiative)’을 발표하고, AI 스타트업을 지원하는 ‘SCALE.AI’ 조직을 설립하여 소매, 제조, 통신, 운수 등 모든 산업의 기업과 AI 스타트업을 연계하는 사업을 시작하였음

▸ 한편 캐나다 정부는 AI 수퍼클러스터 전략과 함께 해양 연구를 위한 ‘오션 수퍼클러스터’ 등 5개의 수퍼클러스터를 육성한다는 목표 하에 총 9억 5,000만 캐나다 달러를 투자할 계획임을 함께 발표하였음

▸ 대학뿐만 아니라 비영리 연구소와 AI 스타트업 액셀러레이터에 대한 지원에도 주력한다는 점과, AI 인재를 자국에서뿐 아니라 전세계에서 끌어들이려는 점이 캐나다 정부가 추진 중인 AI 국가 전략의 가장 큰 특징임

▸ 이렇게 된 데에는 미국의 상황도 영향을 미쳤는데, 이민 정책에 대해 소극적 또는 반대 입장인 트럼프 행정부가 출범한 2017년에 인도에서 캐나다로 온 유학생은 14만 명이었으며, 이는 2016년의 7만 명에 비해 두 배로 늘어난 것임

▸ 이런 유학생 AI 인재들이 캐나다에서 창업하고 혁신을 촉진하게 하는 것이 캐나다 정부의 목표인데, 캐나다의 인구는 3,600만 명에 불과하기 때문에 글로벌 경쟁력을 확보하기 위해서는 전세계에서 인재를 유치할 수밖에 없다는 것이 캐나다 정부의 판단임

◾ 한편 수퍼클러스터들의 구성이 기본적으로 비슷하긴 하나 도시별로 특색과 강점이 보이기도 하는데, 캐나다 최대의 AI 클러스터인 토론토는 AI 인재 파워가 가장 눈길을 끔

▸ 토론토 대학은 딥러닝의 대부로 불리는 제프리 힌튼 교수의 존재가 절대적인데, 힌튼 교수 문하에서 선도 기술기업의 AI 연구소를 이끄는 연구자가 여럿 배출되고 있음

▸ 페이스북의 AI 연구소를 이끄는 얀 르쿤, 애플의 AI 연구를 총괄하는 루슬란 살라쿠트디노프(Ruslan Salakhutdinov), 오픈AI(OpenAI)의 공동 설립자인 일리아 수츠케버(Ilya Sutskever) 등이 모두 힌튼 교수의 문하생임

▸ 힌튼 교수가 문하생들과 창업한 스타트업 DNN리서치(DNNresearch)는 2013년에 구글 에 인수되었으며, 구글의 AI 연구 부문인 구글 브레인과 딥마인드에는 지금도 힌튼 교수의 문하생과 토론토 대학 출신들 다수가 수석 연구원으로 재직하고 있음

▸ 수많은 주요 기술 기업들이 토론토에 AI의 연구 개발의 거점을 마련하고 있는 배경도 바로 토론토 대학과 협업하고 이 대학이 배출하는 AI 인재를 확보하기 위해서임

▸ 구글, 우버, 톰슨 로이터(Thomson Reuters) 등이 2016~17년에 AI 연구 거점을 토론토에 설치했으며, 올해 5월에는 삼성전자와 미국 3대 인터넷 쇼핑몰 중 하나인 엣시(Etsy)가, 6월에는 엔비디아가 토론토에 AI 연구 거점을 개설하겠다는 계획을 밝힌 바 있음

◾ 이런 특성을 살려 토론토가 속해 있는 온타리오 주정부는 AI 인재 육성을 가속화하는 정책을 지속적으로 설계해 실행해 오고 있음

▸ 2017년에 주정부는 온타리오의 대학에서 AI 관련 석사 학위를 취득하는 학생 수를 2023년까지 연간 1,000 명으로 늘리겠다는 계획을 발표하였음

▸ 이를 위해 토론토에 설립한 것이 바로 온타리오의 9개 대학과 40여 개 민간 기업이 협력하여 만든 AI 연구기관 ‘벡터 연구소(Vector Institute)’임

▸ 2억 300만 달러의 예산을 확보하고 있는 벡터 연구소는 20명의 상근 연구원과 100명의 박사 연구원을 보유 중인데, AI 응용 연구 수행뿐 아니라 학부 졸업생을 위한 AI 교육을 제공하거나 제휴를 맺은 타 대학을 위한 AI 인재 육성 프로그램을 개발하고 있음

▸ 올 여름에는 사회인을 대상으로 약 1개월 코스의 ‘딥러닝․강화학습 섬머 스쿨’도 개강했는데, 전세계 60개국에서 온 270명이 수강을 하였음

▸ 벡터 연구소의 수석 과학 고문으로는 힌튼 교수가 취임했으며, 연구 이사는 힌튼 교수의 문하인 리차드 제멜(Richard Zemel)이 맡고 있음

◾ AI 인재 육성과 더불어 온타리오 주정부가 전력을 쏟고 있는 것은 토론토에 글로벌 기업의 AI 연구소를 유치함과 동시에 AI 스타트업을 적극 육성하는 것임

▸ 많은 AI 연구자를 배출하고 있고 앞으로 더욱 가속화시켜 나가려는 토론토의 가장 큰 고민거리는 이렇게 육성한 AI 연구자의 대부분이 토론토를 떠나 구글, 페이스북 등 실리콘밸리 기업으로 가버리는 것임

▸ 현재 빅데이터는 대부분 실리콘밸리의 거대 기업들만 보유하고 있으며, 이는 AI 연구자를 끌어 모으는 강력한 구심력으로 작용하고 있기 때문

▸ 온타리오 주정부는 인력 유출을 최소화하기 위해 토론토에서 배운 AI 연구자들이 토론토에서 창업해 연구를 지속할 수 있는 환경을 조성하는 정책을 펴고 있음

▸ 토론토에서 AI 스타트업 육성의 중심이 되고 있는 곳은 토론토 대학에 인접한 ‘MaRS 디스커버리 디스트릭트(MaRS Discovery District)’인데, 원래 의료 스타트업 육성 시설이었으나 지금은 수많은 AI 스타트업들이 입주해 있는 시설이 되었음

▸ 벡터 연구소도 MaRS 디스커버리 디스트릭트에 입주해 있는데, 사실 이것 역시 AI 스타트업 지원사업의 일환으로, AI 연구자가 스타트업에 계속 근무하면서도 벡터 연구소에 다니며 AI 연구를 지속할 수 있도록 하기 위한 것임

▸ 딥러닝 연구는 발전 속도가 빠르기 때문에 기업에서 비즈니스 용도의 AI를 개발하더라도 최신의 AI 연구 흐름을 접해 둘 필요가 있는데, 비즈니스와 연구라는 두 마리 토끼를 한 번에 쉽게 잡게 하려는 것이 목적임

◾ 실제 힌튼 교수의 문하생들은 토론토 대학 및 벡터 연구소에 적을 유지하면서 AI 스타트업을 창업하여 AI의 비즈니스 응용이라는 목표를 실현해 나가고 있음

▸ 가령 벡터 연구소의 공동 설립자인 조던 제이콥스가 창업한 ‘레이어 6(Layer 6)’는 고도의 ‘추천 시스템’을 산업에 적용할 것을 목표로 2016년에 설립되었는데, 2017년에 추천 시스템의 콘테스트인 ‘ACM RecSys Challenge 2017’에서 1위를 차지하였음

▸ 레이어 6가 흥미로운 것은 2018년 1월 캐나다의 유력 금융기관인 TD(Toronto-Dominion) 뱅크 그룹에 인수된 후에도 논문 발표 등 연구 활동을 지속하고 있다는 점

▸ TD 뱅크 인수 이후 레이어 6의 주요 사업은 은행을 위한 추천 시스템의 개발이었지만, 동시에 구글이 개최하는 이미지 인식 기술 콘테스트인 ‘Google Landmark Recognition Challenge 2018’에 참가하는 등 기업활동 이외의 연구 활동도 계속하고 있음

▸ 힌튼 문하이자 벡터 연구소 공동 설립자 중 한명인 브렌단 프레이(Brendan Frey) 역시 토론토 대학의 교수로 계속 재직하면서 2015년에 창업한 딥러닝 기반 신약 개발 스타트업인 ‘딥 제노믹스(Deep Genomics)’를 이끌고 있음

▸ 딥 제노믹스는 유전자 치료에 딥러닝 적용을 시도하고 있는데, 환자의 유전자에서 암의 원인이 되는 결함을 찾아내는 AI와, 그러한 유전자의 결함을 겨냥한 화합물을 찾아내는 AI 등을 모두 딥러닝 기반으로 개발하고 있음

▸ 토론토와 인근 지역은 사실 유명 기술기업을 많이 배출해 온 곳인데, 토론토 북쪽 마크햄에서는 GPU 메이커인 ATI 테크놀로지스(현재 AMD 산하)가, 토론토 서쪽 워털루에서는 블랙베리를 만든 RIM과 콘텐츠 관리 솔루션 기업 오픈텍스트(OpenText)가 태어났음

▸ 마크햄이나 워털루에서는 제 2의 ATI나 블랙베리를 만들기 위해 2000년대부터 스타트업 육성 시설을 마련했으며, 지금은 AI 스타트업 육성에 주력하고 있는데, AI 인재를 실리콘 밸리에 빼앗기지 않겠다는 토론토의 의지가 아주 강렬함을 잘 보여주는 사례임

◾ 토론토에 이어 캐나다 제2의 도시인 몬트리올의 수퍼클러스터도 AI 연구소가 인재를 육성하고, 이들을 찾아 대기업의 연구소가 들어서는 등 토론토와 비슷한 양상을 보이고 있음

▸ 몬트리올은 딥러닝 연구 전문가로 제프리 힌튼과 쌍벽을 이루는 요수아 벤지오 교수를 중심으로 학계와 스타트업이 대기업과 적극적으로 협력하고 있음

▸ 몬트리올에서는 벤지오 교수가 재직 중인 몬트리올 대학, 벤지오의 출신학교인 맥길 대학, 벤지오가 연구 책임자로 있는 몬트리올 학습 알고리즘 연구소(Montreal Institute for Learning Algorithms, MILA) 등 3개 기관이 AI 연구 및 AI 인재 육성의 중심임

▸ 몬트리올 도시 지역의 상업 진흥 단체인 ‘몬트리올 인터내셔널’에 따르면, 몬트리올에는 250명의 AI 연구자가 거주하고 있으며, 9,000명의 대학생이 AI 관련 수업을 대학에서 수강하고 있다고 함

▸ 몬트리올에는 대기업의 AI 연구 거점 개설도 한창이어서, 2016년에는 구글 브레인 팀이, 2017년에는 딥마인드가 각각 AI 연구소를 개설했는데, 특히 딥마인드는 앨버타에 이어 몬트리올에 두 번째 캐나다 내 AI 연구 거점을 마련한 것임

▸ 마이크로소프트는 2017년에 몬트리올의 스타트업인 ‘말루바(Maluuba)’를 인수하고, 이 기업을 캐나다 내 MS의 AI 연구 조직으로 개편한 바 있음

▸ 이 밖에도 IBM, 페이스북, 삼성전자, 프랑스의 전자 대기업인 탈레스 그룹(Thales Group) 등이 모두 2017년에 몬트리올에 AI 연구 거점을 개설하였음

◾ AI에 기반을 둔 디지털 변혁을 추진하기 위해 캐나다 정부가 AI 공급망 구축을 목표로 설립한 조직인 ‘SCALE.AI(Supply Chains and Logistics Excellence AI)'의 본부도 몬트리올에 있음

▸ AI 공급망은 AI 인력 및 AI 기술을 일반 기업에 공급하는 구조를 구축하려는 것으로, AI 스타트업의 육성뿐 아니라 AI에 의한 디지털 변혁(Digital Transformation)이 모든 산업 분야에서 촉진되도록 하려는 캐나다 정부의 목표가 반영된 것임

▸ 벤지오 교수가 공동 창업자로 있는 스타트업이 AI 공급망 구축의 앞장서고 있는데, 2016년에 설립된 ‘엘리먼트 AI(Element AI)’는 2017년 6월에 시리즈 A 펀딩으로 1억 3,750만 달러를 조달, AI 스타트업의 시리즈 A 자금으로는 사상 최대 규모를 확보한 바 있음

▸ 엘리먼트 AI는 대기업에 AI 솔루션을 제공하고 AI 연구자들의 창업을 지원하는 스타트업으로, 직원은 300명이며, 몬트리올, 토론토, 런던, 서울, 싱가포르에 거점을 두고 있음

▸ 현재 주요 고객은 금융업과 제조업으로, 엘리먼트 AI 소속 AI 연구자가 중심이 된 팀이 6개월에 걸쳐 고객 기업의 업무 흐름을 분석하고 어떤 AI를 도입하면 업무를 근본적으로 혁신할 수 있는지 로드맵을 수립한 후, 여기서 개발한 기계학습 앱을 도입한다고 함

▸ 엘리먼트 AI의 목적은 디지털 마케팅 및 보안과 같은 포인트 솔루션의 제공이 아니며, 기업이 자신들의 데이터를 제공하면 기계가 데이터를 기반으로 기업의 업무 프로세스 전반을 최적화하는, 모든 용도에 사용할 수 있는 AI 플랫폼을 제공하는 것임

▸ 엘리먼트 AI가 솔루션을 제공하는 곳은 주로 전통 산업에 속해 있는 대기업, 즉 거대하고 변화가 느린 기업인데, 왜냐하면 거기에 큰 기회가 있다고 보기 때문임

▸ 이에 대해 벤지오 교수는 뛰어난 AI 인재들일수록 큰 성장이 기대되는 스타트업이나 실리콘밸리를 지향하는 경향이 있어 대기업의 AI 인재 채용이 어렵기 때문이라 설명

▸ 그러나 대기업은 거대한 시장을 확보하고 있고 자금도 이미 풍부하며 또한 그들 밖에 가지고 있지 않은 빅데이터가 있기 때문에, 벤지오 교수는 엘리먼트 AI가 스타트업에 눈을 돌리기 쉬운 AI 인력과 대기업을 중개하는 역할을 하게 되기를 희망하고 있음

<자료> ITPro

[그림 2] 몬트리올 대학의 요수아 벤지오 교수

◾ 벤지오 교수는 AI 기술이 특정 국가에 독점되지 않고 사회 전반적으로 활용되도록 하는데 관심이 많은데, 그의 이런 생각은 엘리먼트 AI와 캐나다 정부의 정책에 영향을 미치고 있음

▸ 엘리먼트 AI의 직원들은 입사 후에도 몬트리올의 MILA와 토론토의 벡터 연구소 등 산학 협력 기반의 AI 연구소와 연계한 AI 기초 연구를 지속하고 있는데, 이는 AI 인재들이 학계에 상주하는 것이 필요하다는 벤지오 교수의 생각이 반영된 것임

▸ 벤지오의 행보는 종종 토론토 대학의 힌튼과 비교되는데, 힌튼은 문하생들과 창업한 DNN리서치(DNNresearch)를 구글에 매각하였고, DNN리서치는 구글의 AI 연구 부문이 되었으며 힌튼은 토론토 대학 교수직과 구글의 연구자 역할을 겸임하고 있음

▸ 이에 대해 벤지오 교수는 구글이나 페이스북에 가지 않고 학계에 상주하는 것이 아주 중요하다며, 자신이 창업한 엘리먼트 AI를 실리콘밸리 거대 IT 기업에 매각할 의향이 절대 없음을 밝히고 있음

▸ 그 이유는 AI 사용의 중립성 때문인데, 사람들에게 좋은 일과 사회에 좋은 일만 계속 생각하고 싶다며, 구글이나 페이스북에도 AI 연구소가 있지만 과연 그들의 연구가 중립적이고 지속가능한 것인가에 대해 의문을 표시하고 있음

▸ 벤지오가 가장 우려하는 것은 AI의 독점인데, AI에 의한 비즈니스 자동화는 기업 간 격차를 확대할 뿐 아니라 나아가 AI의 독점에 의해 국가 간 격차를 조장할 수 있기 때문

▸ 특정 국가에 AI의 힘이 독점 되지 않도록, 벤지오 교수는 캐나다 연구진과 유럽 등의 연계를 중시하고 있는데, 여기서 ‘특정 국가’는 물론 미국을 의미함

▸ AI 공급망을 통해 모든 기업에 AI를 보급시켜 나간다는 캐나다 정부와 엘리먼트 AI의 목표는 실리콘밸리의 미국 기업들이 AI를 독점하게 못하게 하겠다는 벤치오 교수의 철학에 기인한 바가 큼

[표 2] 몬트리올과 토론토에 AI 연구 거점을 마련한 주요 글로벌 기업

◾ 캐다나의 AI 연구 인프라가 미국 이외 유럽 지역과 연계를 강화하는 대표적 사례는 프랑스 전자 대기업 탈레스 그룹이 몬트리올에 AI 연구소 ‘cortAIx'를 설립한 것임

▸ 몬트리올은 프랑스어가 공용어인 퀘벡 주에 있어 프랑스와 유대가 강한데, 프랑스 전자 대기업은 탈레스 그룹은 2017년 10월에 AI 연구소 ‘cortAIx(Centre of Research and Technology in Artificial Intelligence eXpertise)’를 몬트리올에 설치하였음

▸ cortAIx는 MILA 등 몬트리올의 AI 에코시스템과 연계하여 교통 시스템 등 탈레스 그룹의 비즈니스 영역에서 딥러닝 적용을 추진하는 것을 목적으로 하며, cortAIx는 몬트리올에서 50명의 AI 연구자를 채용한다는 계획을 갖고 있음

▸ 탈레스는 방위 사업도 하고 있지만 cortAIx는 군사 분야 연구는 제외하고 있는데, 이는 벤지오 교수를 비롯해 AI 연구자 대부분이 AI가 군사 및 첩보 분야에서 활용될 것을 우려한다고 지적한 것을 수용했기 때문

▸ 제너럴 일렉트릭(GE)과 포드자동차 등 미국의 전통적 대기업이 실리콘밸리에 AI 연구 거점을 마련하는 움직임을 보이고 있지만, 탈레스 그룹의 사례를 기점으로 유럽의 전통 기업들은 몬트리올을 AI 연구 거점의 1순위 후보로 검토할 가능성이 높아지고 있음

◾ 캐다나 주요 도시의 AI 수퍼클러스터들은 교육과 인재 양성에 대한 장기적 안목의 투자와 함께, 산업 응용과 학문적 연구 사이의 건강한 긴장관계가 핵심성공요소임을 재확인

▸ 다양한 산업에서 성공을 거두고 있는 클러스터들의 공통점은 대부분 장기간에 걸친 교육의 혁신과 이를 통해 인재들이 지속적으로 양성되는 시스템을 갖추고 있다는 것인데, 캐나다의 AI 수퍼클러스터들 역시 동일한 특성을 보여주고 있음

▸ 이는 AI에 대한 초기 관심이 잦아들고 기술발전 속도도 답보하며 소위 AI의 겨울이라 불렸던 1990년대 이후 약 20년 동안에도 연구개발투자를 아끼지 않았던 캐나다 정부의 뚝심에 기인한 것으로 캐나다가 AI 산업을 선도할 수 있는 강력한 토대가 되고 있음

▸ 교육에 대한 장기적 투자는 뒤늦게 AI 연구와 클러스터 구축을 시작해 한 자칫 단기적 성과에 집착하기 쉬운 후발주자들이 귀감으로 삼아야 할 지점임

▸ AI 기술연구를 토대로 스타트업 창업을 지원하되 창업 이후에도 지속적으로 연구활동을 병행할 수 있는 환경을 조성하는 것도 캐나다 AI 생태계의 강점인데, 기업과 학문간의 건강한 교류는 AI 기술과 경제를 폭넓은 관점에서 조망하게 하는 힘이 되고 있음

▸ 캐나다의 AI 생태계는 개별 기업이 아닌 사회 전체, 나아가 전지구적 관점에서 AI 기술의 고른 보급과 활용을 지향하고 있으며, 이는 전세계가 캐나다의 AI 생태계를 찾고 캐나다가 글로벌 AI 연구와 산업을 선도할 수 있는 강력한 원동력이 되고 있음

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1860호(2018. 8. 22. 발행)에 기고한 원고입니다.

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.

페이스북, 실생활에서 상식을 익히고 사람의 말을 이해하는 AI 개발.pdf

[ 요 약 ]

[ 본 문 ]

◾ 페이스북 인공지능 연구소(AI Research)는 AI가 거리로 나와 실제 사회와 상호작용을 통해 지성(인텔리전스)을 습득하는 기술을 연구하고 있음

▸ AI의 등장으로 자연어 분석 기술이 비약적으로 발전했는데, 특히 기계 번역(Machine Translation)와 자연어 이해(Natural Language Understanding) 부문에서 AI가 급속한 발전을 거듭하면서 인간 생활의 편의성 향상을 지원할 수 있게 되었음

▸ 그러나 AI가 번역과 대화를 할 수 있게 되었다고는 하지만 알고리즘이 말의 의미를 이해하고 있는 것은 아니며, 아직은 어디까지나 말의 뜻을 모른 채 AI가 인간을 모방하는 것이며 대화하는 것처럼 보이는 것이 지나지 않음

▸ 가령 사람과 너무 흡사해 경악스럽다는 반응을 이끌어 낸 ‘구글 듀플렉스(Duplex)’의 경우도, 직접 테스트에 나선 IT 기자들이 고의로 엉뚱한 대답을 내놓자 무슨 말인지 몰라 전혀 대응하지 못하는 모습을 보였음

▸ 따라서 페이스북 AI 연구소는 AI의 자연어 기능이 향상되고 멋진 가상 비서의 등장이 잇따르고 있지만 정말 유용한 가상 도우미를 개발하려면 AI가 지능을 갖도록 만들어 사람처럼 말의 의미를 이해할 필요가 있다는 생각을 갖고 있음

▸ 연구소측에 따르면 AI가 지능적이 될 수 없는 이유는 교육 방법에 있는데, 알고리즘이 대량의 텍스트 데이터로 교육을 받고, 통계 기법에 기초해 번역과 대화를 하기 때문임

▸ 따라서 페이스북 AI 연구소는 지능적인 AI를 개발하려면 알고리즘이 실제 사회 속에서 주변 환경이나 다른 사람과 교제를 하며 말을 배움으로써 단어의 의미를 이해하고 말을 할 수 있게 된다고 주장함

◾ 페이스북 AI 연구소는 최근 이와 관련한 논문을 발표하고, 길거리에서 관광객을 안내해 주는 ‘토크 더 워크(Talk the Walk)’라는 교육 모델을 소개하였음

▸ 연구소 측은 말을 환경과 연계하는 방법으로 AI를 교육시키는 연구를 진행하고 있으며, 이 주제에 관한 논문 'Talk the Walk: Navigating New York City through Grounded Dialogue(토크 더 워크: 현실적 대화를 통해 뉴욕 시에서 길을 찾기)'를 발표하였음

Talk the Walk-Navigating New York City through Grounded Dialogue.pdf

▸ 논문은 AI가 거리에 나와 실제 사회와 상호작용을 통해 지능을 습득하는 기법을 보여주고 있으며, 두 개의 AI(에이전트)를 생성하는데, 첫 번째 AI는 ‘가이드 에이전트’이고 두 번째 AI는 ‘관광객 에이전트’이며 두 에이전트는 서로 떨어져 있음

▸ 이 작업은 ‘Talk the Walk(토크 더 워크)’라고 불리며, 대화를 통해 가이드 에이전트가 길을 잃은 관광객 에이전트를 목적지까지 말로 안내하는 과정을 보여 줌

▸ 원래 영어 표현에서 ‘Walk the Talk(워크 더 토크)’는 ‘말한 것을 실천에 옮기다’라는 뜻인데, ‘토크 더 워크’는 ‘실천할 것을 말해주기’ 정도로 번역할 수 있음

<자료> Dhruv Batra et al.

[그림 1] Talk the Walk 교육 모델: 대화를 통한 인간의 언어 이해 모델

◾ ‘토크 더 워크’ 교육 모델은 길을 잃은 관광객이 안내소로 전화를 해 목적지까지 가는 경로에 대한 설명을 듣는 상황을 재현하고 있음

▸ 실험에서 두 에이전트(가이드와 관광객을 대표)는 뉴욕 시내에서 대화를 하게 되는데, 가이드는 지도를 보며 목적지를 파악할 수 있지만 관광객의 위치는 모르며, 반면 관광객은 지도를 볼 수는 없지만 자신이 처한 곳의 사방 풍경을 보고 말할 수 있음

▸ 가이드는 길을 잃은 관광객과 대화를 주고받게 되며, 관광객이 가고자 하는 목적지에 도달할 수 있도록 방향을 유도함

▸ 연구팀은 이 작업을 수행하기 위해 뉴욕의 다섯 지역을 선택해 그 지도를 생성했는데, 지도에는 360도 카메라로 촬영한 영상(스트리트 뷰)이 포함되어 있고, 이는 관광객 에이전트가 교차로의 모서리에 주위의 풍경을 둘러보는 상황에 활용됨

▸ 또한 사진에 찍힌 유명 바나 은행, 상점 등의 랜드마크에는 그것이 무엇인지 알려주는 태그를 붙여, 관광객 에이전트가 간판을 보고 답을 할 수 있는 상황을 설정하였음

▸ 한편, 가이드 에이전트용으로는 2D 지도를 준비하였고, 여기에는 도로명과 주요 랜드마크들을 표시하였음

▸ 태스크는 간단한데, 관광객은 스트리트 뷰를 보고 눈앞에 있는 랜드마크를 가이드에게 알려주며, 가이드는 이 정보를 단서로 관광객의 현재 위치를 파악하고 목적지까지 갈 수 있도록 길 안내를 함

▸ 가이드는 관광객이 목적지에 도착했다고 확신한 시점에 길 안내를 멈추며, 시스템이 관광객이 정말 목적지에 도착했는지 검증한 후 일련의 작업이 종료됨

<자료> Facebook AI Research

[그림 2] 가이드 에이전트와 관광객 에이전트의 대화(인간의 언어로 대화)

◾ 논문에 따르면 가이드 에이전트의 관광객 길 안내 정확도는 88.33%로, 실제 사람이 안내했을 때의 정확도 76.74%를 웃도는 것으로 나타남

▸ 가이드 에이전트가 관광객을 안내하기 위해서는 먼저 관광객의 주변 풍경 설명을 듣고 위치를 파악해야 하는데, 이를 위해 연구팀은 풍경의 묘사를 말로 전달받고 이를 위치정보로 변환하는 기능을 가진 ‘위치결정 모델’을 개발하였음

▸ 모델의 명칭은 ‘Masked Attention for Spatial Convolutions(MASC)’이며, 연구팀은 뉴욕 시내에서 MASC를 테스트하고 그 성능을 평가하였음

▸ 평가 결과 두 에이전트의 MASC 판정 정확도는 88.33%를 기록했으며, 실제 사람끼리 동일한 작업을 실행했을 때의 판정 정확도는 76.74%였음

▸ 단, 이번 연구에서 높은 정확도를 기록한 AI 간의 대화는 인간의 말을 사용한 것은 아니고 특별한 언어 모델(Emergent Communication)을 사용했는데, 이 방식에서는 AI가 생성하는 원시 데이터를 이용하여 대화하게 됨

▸ 한편, AI가 인간의 말을 사용해 대화할 경우 MASC 판정 정확도는 50.00%로 감소하는데, 연구팀은 이런 평가 결과로 볼 때 인간의 언어는 정보를 정확하게 전달하는데 적합한 구조가 아님을 알 수 있다고 결론

<자료> Facebook AI Research(클릭하면 동영상을 보실 수 있습니다)

[그림 3] Talk the Walk 학습 모델의 정확성(에이전트 간 원시 데이터 이용 대화의 경우)

◾ 이번 연구는 AI가 불완전한 커뮤니케이션 도구인 사람의 언어를 정확하게 이해하기 위해서는 사람들이 그러한 것처럼 실제 환경 속에서 언어를 배울 필요가 있음을 보여주고 있음

▸ 토크 더 워크가 AI에 제공한 언어를 배울 수 있는 프레임워크는 ‘가상의 전형(Virtual Embodiment)’이라 불리는데, 이는 여러 에이전트가 조성된 환경 속에서 체험을 통해 말의 의미를 학습하는 기법을 말함

▸ 토크 더 워크는 이런 컨셉에 기반을 둔 것으로 AI는 사회와 상호작용을 통해 지각(Perception), 행동(Action), 쌍방 커뮤니케이션(Interactive Communication) 기능을 학습함

▸ 이번 연구에서는 AI가 인간의 말을 사용하여 커뮤니케이션 할 때 의사소통의 정확성이 크게 저하됨을 보여주었는데, 이는 거꾸로 불완전한 커뮤니케이션 도구인 인간의 언어를 정확하게 파악하는 것이 AI에 부과된 명제라 할 수 있음

▸ 미션 수행을 위해서는 AI 역시 사람들이 해온 것처럼 환경과 접목되어 있는 언어를 배우려는 노력이 필요한 것이며, 이를 반영해 페이스북 AI 연구소는 워크 더 토크를 오픈소스로 공개해 AI가 언어를 배울 수 있는 환경을 확산시키려 하고 있음

◾ 한편 페이스북 AI 연구소는 토크 더 워크 외에도 AI가 상호작용을 통해 지능을 얻게 하려는 다양한 연구를 함께 진행하고 있는데, ‘임바디드 비전(Embodied Vision)’도 그 중 하나

Embodied Question Answering.pdf

▸ 지난 6월 샌프란시스코에서는 로봇의 두뇌인 딥러닝에 초점을 맞춘 로보틱스 분야 컨퍼런스 ‘RE·WORK Deep Learning in Robotics Summit’가 열렸는데, 오픈AI, 구글 브레인 등 주요 플레이어들이 참가해 기초 기술부터 응용 기술까지 폭넓게 논의하였음

▸ 페이스북 AI 연구소도 이 서밋에 참가하여 ‘임바디드 비전’이라는 최신 AI 기술을 소개하였는데, 번역하면 ‘개념을 구체화한 컴퓨터 시각장치’ 정도의 의미로 흔히 사용하는 ‘컴퓨터 비전(Computer Vision)’ 기술과 대비할 수 있음

▸ 컴퓨터 비전이 로봇 혹은 에이전트의 시각 능력을 의미하는 것에 비해, 임바디드 비전은 로봇의 ‘인지 능력’을 가리킨다고 볼 수 것인데, 로봇이 주위의 개체를 단순히 파악할 뿐만 아니라 사람처럼 그것의 의미를 이해하는 데 보다 중점을 두고 있음

▸ 토크 더 워크와 마찬가지로 임바디드 비전 역시 AI가 인간처럼 지능적이 되기 위해서는 ‘상호작용을 통한 학습(Learning from Interaction)’이 필요하다는 명제에 기반을 둠

▸ 지금까지 AI는 주어진 데이터 세트를 가지고 컴퓨터 비전을 통해 학습했는데, 가령 사진 데이터 세트인 ‘이미지넷(ImageNet)’으로 개와 고양이의 구분법을 배우는 것임

▸ 이제 AI는 그 다음 단계의 학습, 즉 물건을 만지며 그 의미를 학습하는 단계로 넘어가야 하는데, 마치 아기가 손으로 만져가며 물건의 의미를 배우듯이 AI도 상호작용을 통해 기초 지식을 학습할 필요가 있다는 것이 페이스북의 생각임

◾ 이를 위해 페이스북 AI 연구소는 AI 교육을 위한 가상 환경으로 ‘하우스3D(House3D)’를 개발했는데, 주택 내부를 3D로 표현한 것으로 로봇은 이 안을 이동하며 상식을 배워 나감

▸ 로봇이 하우스3D 안을 이동하면 눈앞의 장면이 바뀔 뿐만 아니라 각 장면에 등장하는 객체에는 이름이 붙어 있는데, 이는 로봇이 가상 환경을 돌아다니며 객체를 접하는 과정에서 객체의 의미를 학습하도록 한 것임

▸ 로봇이 여느 방과는 다른 유형의 공간인 부엌으로 이동하게 되면, 거기에 설치되어 있는 오븐과 식기 세척기 등의 객체를 배우고 부엌의 의미를 학습하게 됨

<자료> Georgia Gkioxari et al.

[그림 4] AI 교육을 위한 가상 환경 하우스3D를 통해 방의 이름과 방안의 객체를 학습

◾ 페이스북 AI 연구소는 세 가지 측면에서 로봇을 교육하는데, 로봇이 각각의 교육을 통해 학습한 것을 토대로 추론함으로써 질문에 대한 답을 찾을 수 있게 하는 것이 목표임

▸ 첫 번째 교육은 로봇이 가상 환경에서 물건을 보고 단어의 의미를 학습하게 하는 ‘언어 기초교육(Language Grounding)’으로 로봇은 환경 속에서 물건과 이름을 연결함

▸ 두 번째 교육은 로봇이 집안에서 지정된 위치로 이동하게 하는 ‘비주얼 내비게이션(Visual Navigation)’으로 로봇은 집안의 통로를 더듬어 찾아 가 문을 열고 지정된 위치까지 이동하게 됨

▸ 세 번째 교육은 로봇이 어떤 질문을 받으면 집안을 돌아다니며 그 답을 알아내도록 하는 ‘임바디드QA(EmbodiedQA)’로 로봇은 답변을 찾기 위해 가상 환경 속을 이동함

▸ 기존의 로봇은 질문을 받으면 인터넷 검색을 통해 그 답을 찾지만, 임바디드QA에서는 실제 공간으로 이동하여 답을 구하는데, 가령 ‘자동차가 무슨 색이지?’라는 질문을 받으면 로봇은 그 질문의 의미를 이해하고 집안에서 자동차를 찾기 시작함

▸ 이 때 로봇은 자동차는 차고에 주차되어 있다는 상식을 가동해 집안에서 차고를 향해 나아가게 되며, 차고의 정확한 위치를 모르더라도 다시 한 번 습득한 상식을 가동해 차고는 야외에 있을 것으로 추측하게 됨

▸ 결국 로봇은 현관에서 야외에 나와 정원을 가로질러 이동한 뒤 차고에 도착하고, 거기에서 자동차를 발견해 그 색이 무슨 색임을 파악한 후 답을 할 수 있게 되는 것임

<자료> 5Georgia Gkioxari et al. 클릭하면 자세히 보실 수 있습니다. 

[그림 5] 임바디드QA 작동 과정

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1859호(2018. 8. 15. 발행)에 기고한 원고입니다.

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1855호(2018. 7. 18. 발행)에 기고한 원고입니다.

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.

※ 아래 글은 정보통신기술진흥센터(IITP)가 발간하는 주간기술동향 1855호(2018. 7. 18. 발행)에 기고한 원고입니다.

▶ IITP에서 PDF 포맷으로 퍼블리싱한 파일을 첨부합니다. 가독성이 좋으니 참고하시기 바랍니다.