제네바 협정이 ‘삼성’ 킬러로봇 금지해야 하는 이유

2016년 6월 파리 근교에서 개최된 유로사토리 방위산업전시회의 최고 스타는 지상전투 로봇이었다. 기관총과 유탄발사기가 장착된 테미스(TheMis)와 테러를 진압하는 도고(Dogo) 그리고 호송대를 호위하는, 구동륜 6개에 포탑이 설치된 7톤 장갑차 로배틀(RoBattle) 등이 있다. 이들 로봇은 아직 인간이 원격조종하지만 벌써 자동화된 지상로봇도 있다. 

그 예로 한국기업 삼성이 설계한 SGR-A1이 대표적이다. 고성능 카메라와 4km 거리에서도 움직이는 목표를 감지하는 센서를 갖춘 이 ‘경계병’은 2013년부터 밤낮을 가리지 않고 남북을 가른 휴전선을 감시하고 있다. 또 목소리와 암구호를 인식하고 인간과 동물을 구별해 휴전선을 넘어온 이들에게 투항 명령을 보낸다. 표적이 두 손을 들면 이 ‘로보캅’은 발포하지 않는다. 반대의 경우, 구경 5.56mm의 대우 K3 기관총이나 구경 40mm 유탄발사기를 사용할 수 있다. 발포 승인은 아직 지휘부에 있는 인간의 손에 달렸지만 이 로봇에는 알아서 작동하는 ‘자동’ 모드도 있다.(1) 삼성은 이 경계병이 절대로 지치지 않고, 기상조건에도 영향을 받지 않는다고 강조했다. 

로봇을 설계하고 지지하는 사람들에게 로봇의 가장 큰 장점은 소위 ‘3D’, 즉 ‘더럽고 어렵고 위험한’(2) 일을 대신한다는 점이다. 로봇은 위험한 임무(지뢰 제거, 방사선 피폭이나 생화학 위험물질에 노출될 수 있는 상황에서 이동), 반복 업무(감시, 정찰 등), 물리적으로 힘든 일(무거운 화물 운반)을 문제없이 수행하며 군인을 대체한다. 

드론과 마찬가지로, 이런 새로운 유형의 무기는 그로 인해 발생하는 심각한 문제에도 불구하고 지금까지 어떤 다자 간 규제에도 구애받지 않고 개발됐다. 군사전문가들에게 초미의 관심사는 ‘다른 강대국에 뒤처지지 않는 것’으로 보인다. 미국 국방성은 최근 보고서에서 전투로봇 분야 개발에서 뒤처지지 않도록 시급히 취해야 할 조치와 “국방부가 자율로봇을 서둘러 도입”하기 위한 몇몇 방안을 제안했다. 

중국의 국영기업은 자율성을 발휘할 수 있는 다양한 로봇을 이미 개발 중이다. 러시아는 최근 우니쿰(Unicum) 시스템을 실험한 듯하다. 정부 관계 부처에 따르면 우니쿰 시스템의 목표는 “향후 인간이 전혀 개입하지 않아도 되는, 지능을 갖춘 차량 개발”이다.(3) 또 이스라엘은 민간기업과 군수산업단지에서 시작된 스타트업이 개발한 수많은 지상로봇을 실제로 현장에 투입하고 있다. 화약 포탄과 핵무기에 이어 로봇공학의 급속한 발전과 인공지능의 눈부신 성능이 전쟁기술의 제3차 혁명을 가져오리라 보는 이들도 있다. 별다른 대비책이 없는 현 상황에서 점점 더 정밀화되는 기술은 ‘킬러로봇’으로 불리는 ‘자율살상무기(LAWS: Lethal Autonomous Weapons Systems)’의 완성도를 높일 것이다. 물론 관련 담당자들은 이런 사실을 부인하고 있지만 말이다. 

“대부분의 경우, 그리고 무력행사에 관한 일이라면 정말로 완벽한 자율성을 지닌 로봇은 절대로 없을 것입니다. 의사결정체계에 인간이 있기 때문이지요.”(4) 애슈턴 카터 미 국방부 장관은 2016년 9월 이렇게 장담했다. 그러나 비슷한 시기에 폴 J. 셀바 미 합동참모본부 차장은, “약 10년 이내에 미국이 스스로 살생 여부를 결정할 수 있는 로봇을 설계하는 기술을 개발할 수 있을 것”이라면서, 이어 “물론, 미국에서 그럴 계획은 아직 없다”고 덧붙였다.(5)   

국제인권단체 휴먼라이츠워치(HRW) 무기부문 수석연구원으로 전 세계적 ‘킬러로봇 금지’ 운동을 이끄는 보니 도허티는 “인간의 통제권을 의무화함으로써 무력행사 결정에 영향을 주는 도덕적 기본 원칙이 위협받지 않도록 할 수 있을 것”이라고 했다.(6) 무기의 자동화가 실현되면서 미지의 세계로 난 창이 열렸다. “이 기술의 개발은 국제법의 권한과 원칙을 넘어서는 질문을 던진다”고 쥘리앵 앙스랭 군비축소 국제법 전문가는 지적했다.(7) 자율살상무기 기술 개발은 사실상 1949년 제네바협약과 추가의정서가 체결된 이후, 전시에 적용되는 국제인도법의 여러 핵심 원칙, 즉 인간의 존엄성, 예방조치, 민간인과 군인의 구별, ‘기대되는 직접적이고 구체적인 군사적 이득과 비교할 때 지나친’ 민간인 사상을 피하기 위한 ‘비례성’ 등을 해친다. 로봇이 단독으로 인간의 생사를 결정하게 되는 때가 되면, 전쟁의 성격 자체가 변할 것이다. 

영국 천체물리학자 스티븐 호킹과 미국 언어학자 노암 촘스키는 물론, 엘론 머스크(스페이스X)와 스티브 워즈니악(애플) 등 기업인을 포함한 명사 수천 명은 2015년 7월 28일 열린 국제인공지능콘퍼런스에서 LAWS 금지를 촉구했다. 그들은 공개서한을 통해 “우리는 수많은 분야에서 인공지능의 어마어마한 잠재력이 인류에게 혜택을 주리라고 믿는다. 인공지능 개발의 목적은 그런 것이어야 한다. 군비경쟁을 위해 인공지능을 활용하는 것은 치명적인 계획이다. 인간의 유의미한 통제 없이 작동하는 공격형 자율 무기의 전적인 금지를 통해 이런 사태를 방지해야 한다”라고 견해를 밝혔다. 그들은 “어느 한 군사 강국이 인공지능을 탑재한 무기 개발을 진행한다면 전 세계적 군비경쟁은 사실상 불가피하고, 그런 기술 개발이 어떤 결과를 낳을 것인지는 자명하다. 자율형 무기는 내일의 칼라시니코프 소총이 될 것”이라며 자율형 무기의 확산을 가장 경계했다. 화학무기 사용을 금지한 화학자들과 핵무기확산방지를 합의한 물리학자들의 선례를 비춰볼 때 그들은 인공지능 연구자들 대부분이 자신들의 업적을 바탕으로 한 무기 개발에 뛰어드는 것은 바람직하지 않다고 주장했다.

 

신무기의 출현에 따라, 국제사회는 정기적으로 회담을 열고 제네바협약을 보완 및 강화해왔다. 1980년에는 ‘대량피해나 무차별하게 영향을 미치는 재래식 무기의 사용금지 또는 제한에 관한 협약’이 채택됐다. 이 협약은 1998년 발효되고 107개국이 비준한 제4의정서를 보완했다. 의정서의 내용은 실명 레이저 무기 사용과 이송을 금지하는 것인데, 실제로 이런 무기가 전장에 등장하기도 전에 마련됐다. 국제적십사위원회(ICRC)는 당시 비정부기구의 협조를 구하고 언론에 정보를 제공하면서 협의문 작성과 채택에 적극적으로 힘썼다. ICRC 대표단은 여러 국가를 방문해 해당 국가의 공식 대표단과 사전 회의를 열기도 했다. 유럽의회와 아프리카단결기구(OAU, 현 아프리카연합(AU)의 전신)와 국제의원연맹(IPU)의 지지가 결정적이었다. 

전쟁 무기의 자동화 추세에 대한 우려의 목소리가 높아지면서 특정재래식무기금지협약(CCW) 당사국 회의가 여러 번 열렸다. 2013년 LAWS에 관한 비공식 회의를 주재한 장위그 시몽미셸 프랑스대사는 LAWS를 군축법의 특별 범주에 편입시키도록 하는 첫 번째 합의안을 마련했고, 이는 장기적으로 새로운 의정서 도입으로 이어질 것이다. 아직까지 비공식적으로 이뤄지는 연례회의 끝에 중남미와 아프리카 19개국, 그리고 파키스탄이 전면금지에 찬성 입장을 표시했다. 2016년 12월 열렸던 가장 최근 회의에서는 이 분야에서 가장 선두에 있는 국가들을 비롯한 88개국이 다소 신중한 태도를 보이며 해당 로봇에 국제법을 적용하기 위한 공식회의를 시작하는 데 합의했다.  

제네바협약을 준수할 수 있는 유일한 장치인 인간의 통제 정도에 따라 킬러로봇의 불법성을 판단하기 위해서, 우선 LAWS의 실천적 정의에 대해 연구해야 한다. 로봇은 이미 목표를 선택하는 능력을 갖췄고, 어떤 국가도 로봇의 전적인 자율성을 강력하게 요구하지 않는다. 인간이 무력행사를 지시하는 권한을 가져야 하는지, 아니면 단순히 무력행사를 중단시킬 권한만 지녀야 할지, 그렇다면 그 한계는 어디까지로 할지 합의해야 한다. HRW는 인간의 ‘실질적인 통제’를 주장하는 반면 대다수의 당사국은 애매할 수밖에 없는 ‘유의미한 통제’ 정도로 그쳤으면 하는 듯하다. 프랑스는 다양한 ‘자동제어장치’를 갖춘 시스템과 인간의 감시가 전혀 없는 ‘자율적’ 시스템을 좀 더 확실하게 구별하길 바라는 입장이다.(8) 애초에 인간이 계획한 방식대로 해당 시스템이 사용되려면 ‘치명적인 무력에 비추어 적절한 인간의 개입’이라는 개념으로 뜻이 모일 것 같다. 그렇지만 군사작전 지역의 급변하는 상황은 어찌할 것인가?

군비시스템은 ‘구별’과 ‘비례성’의 원칙에 따라 그 기능이 미칠 결과를 따져 평가돼야 한다. 그러므로 책임 소재가 불분명해지지 않도록 하는 것이 중요하다. 로봇 프로그래밍의 복잡성을 핑계로 삼지 않고 자기 행동에 책임을 지는 결정권자와 지휘체계를 명확하게 밝힐 수 있어야 한다. 

모든 군사강국이 명목상 참여만 하는 상황에서 최소한의 규제 합의가 가져올 위험성은 간과할 수준이 아니다. 러시아는 킬러로봇 금지에 반대하지는 않았지만, 자율형 살상무기가 무엇인지 한층 명확하게 정의되지 않는 한 공식적 외교 절차에 착수하지 않을 것이라고 했다. 중국은 법적 구속력이 있는 협정 마련을 지지한다는 의견을 냈지만, 인도와 마찬가지로 무기사찰기구에 대해서는 지극히 조심스러운 입장을 보였다. 이스라엘은 전면적인 금지에 반대하고 LAWS가 군사적으로는 물론 인도적인 측면에서도 이점이 있다는 점을 강조하며 ‘단계별’ 접근을 지지했다. 

아직 명확한 입장이 알려지지 않았지만, 가장 큰 파문을 일으킬 미국의 신행정부가 관건이다. 선거운동 기간에 이 문제가 다뤄진 적도, 이에 대한 제임스 매티스 신임 국방부 장관의 입장도 알려진 바가 없다. 지금까지 미국은 CCW 관련 조치와 킬러로봇에 대한 우려를 불식하기 위한 ‘임시 단계’로서 무기 검토에 관한 ‘올바른 관례’ 마련은 지지한다면서도 사용 금지는 ‘조급하다’고 평해왔다. 

‘킬러로봇 금지’ 운동의 조율을 맡은 메리 웨어햄은 “공식적인 절차에 들어가기 위해 정부전문가 집단의 도움을 받기로 하면서 당사국들이 더 이상 이 문제가 외부 대학교수들의 손에만 머물러 있지 않도록 했다”고 반기며 “이로써 마침내 이 문제에 대해 무엇이라도 하고 있다는 희망을 심어줬다”고 자평했다. 국제무대에서 국가적 주체와 비국가적 주체의 견고한 결집이 있어야만 적절한 기한 이내에 새로운 의정서가 채택될 수 있을 것이다. UN 헌장에서 정한 국제평화와 안전의 유지라는 목표를 지키기 위해서는 킬러로봇의 확산 가능성을 애초에 차단해야 할 것이다.  

글·에두아르 플림린 Edouard Pflimlin

기자 겸 국제관계전략연구소 연구원

번역·서희정 mysthj@gmail.com

한국외국어대 통번역대학원 졸업

(1) ‘Robotisation de la guerre: le soldat SGR-A1, l’ultime sentinelle(로봇으로 대신하는 전쟁-궁극의 경계병 SGR-A1)’, Contrepoints.org, 2015년 1월 7일, ‘Samsung Techwin SGR-A1 Sentry Guard Robot’, GlobalSecurity.org, 2011년 7월 11일.

(2) 영문으로 ‘Dull, dirty and dangerous’을 의미한다. Ronan Doaré, Didier Danet&Gérard de Boisboissel(엮음), <Drones et killer robots. Faut-il les interdire?(드론과 킬러로봇, 금지해야 하는가?)>(Presses universitaires de Rennes, 2015)에서 재등장했다.

(3) ‘Bientôt une armée de robots autonomes?(조만간 자율로봇 군대가 등장할 것인가)’, Sputniknews.com, 2015년 10월 19일.

(4) Sydney J. Freedberg Jr&Colin Clark, ‘Killer Robots? “Never.” Defense Secretary Carter says’, BreakingDefense.com, 2016년 9월 15일.

(5) Matthew Rosenberg&John Markoff, ‘The Pentagon’s “Terminator Conundrum”: Robots that could kill on their own’, <The New York Times>, 2016년 10월 25일.

(6) ‘Killer Robots and the concept of meaningful human control’, 국제연합(UN) 재래식 무기 금지협약 관련 대표단을 위한 보고서, Human Rights Watch, 2016년 4월.

(7) Julien Ancelin, ‘Les systèmes d’armes létaux autonomes(SALA): enjeux juridiques de l’émergence d’un moyen de combat déshumanisé(자율살상무기(LAWS), 인간이 아닌 전투수단 등장으로 인한 법적 과제)’, <La Revue des droits de l’homme>, Nanterre, 2016년 10월.

(8) 2015년 4월 13일에서 17일까지 열린 CCW 당사국 간 LAWS에 관한 비공식 전문가회의에서 프랑스 대표단의 발제문 참조.