SOURCE

"자율살상 무기 안 만들겠다"··· AI 전문가 2400명 2차 선언

master 0 447

1년내 벌써 두번째다. 기술 업계 리더들이 치명적인 자율살상 무기를 생산, 거래, 사용하는 작업에 일절 참여하지 않겠다고 공개 선언했다.
 

Credit: Getty Images Bank



이번 선언은 스웨덴 스톡홀롬에서 열린 2018 세계 AI 연합 컨퍼런스(2018 International Joint Conference on Artificial Intelligence)에서 나왔다. 생명의 미래 연구소(Future of Life Institute)가 주도했고, 150개 기업과 전세계 90개국 2400명 이상의 전문가가 서명했다. 서명 목록에는 IT 업계의 유명 CEO와 엔지니어, 과학자, 기업 등이 다수 포함됐다. 구글 딥마인드와 엑스프라이즈파운데이션, 일론 머스크 등이다.

이에 앞서 약 1년 전에는 AI와 로봇 전문가들이 UN에 공개서한에 보낸 바 있다. 이른바 '제3의 전쟁혁명(third revolution in warfare)'이라 불리는 자율살상 무기의 사용을 중단시키기 위해서다.

자율살상 무기는 LAWS(lethal autonomous weapons systems) 혹은 킬러 로봇이라고 불린다. 사람 없이도 사람 목표를 식별하고 조준해 살상한다. 이는 곧 이 치명적 힘에 대한 최종 결정에서 인간의 판단이 배제된다는 것을 의미한다. 누군가의 죽음에 대한 결정과 허가가 온전히 자동화된 무기 시스템에 주어지는 것이다. 이는 다른 드론이나 자율 무기 시스템과 다르다. 드론은 인간의 통제 속에 놓여 있고, 자율 무기 시스템 대부분은 다른 무기의 공격에 대한 방어를 수행할 뿐이다.

뉴사우스웨일 대학의 교수 토비 월시는 LAWS를 둘러싼 윤리 문제를 강조했다. 그는 "누구를 살리고 어떻게 죽음에 이르게 할 것인가에 대한 결정권을 기계에 넘겨서는 안된다. 기계는 윤리의식이 없기 때문이다. 여러분과 여러분이 속한 기업/조직에 호소한다. 전쟁이 이런 방식으로 더 끔찍해지지 않도록 선언에 동참하길 바란다"라고 말했다.

월시는 호주 로봇 연구자 모임의 일원이다. 지난해 11월 호주 총리 말콤 턴불에 AI 무기화에 대한 반대 입장을 분명히 할 것을 요구하기도 했다. 월시를 포함한 AI 연구자들은 턴불에 보낸 공개 서한을 통해 다가오는 UN 총회에서 치명적 무기에 대한 전 세계적 금지와 규제를 요구해야 한다고 주장했다.

다음은 이번에 서명한 공개 선언서 전문이다.

AI는 이미 군사 시스템에서 더 많은 역할을 할 수 있는 준비가 끝났다. 따라서 시민과 정책입안자, 리더들은 AI 사용에 대한 문제를 시급하게 다뤄야 한다. 우리는 인간의 삶이 절대로 기계에 좌우돼서는 안된다는 점에 분명히 하며 이 선언에 서명한다. 이 부분에는 윤리적인 요소가 있고, 기계가 인간의 생명에 대한 판단을 내릴 수 있도록 해서는 안된다.

실제적인 위험도 있다. 인간의 개입없이 목표를 선택해 처리하는 치명적인 자율살상 무기는 모든 국가와 개인을 위험에 빠뜨릴 수 있다. AI 연구자 수천명은 이러한 위험과 능력, 인간의 생명을 빼앗는 것의 어려움을 없애야 한다는 데 동의한다. 치명적 자율살상 무기는 폭력과 압제의 가공할 수단이 될 수 있다. 특히 감시와 데이터 시스템과 연결되면 이런 위험성이 더 커진다.

치명적 자율살상 무기는 핵이나 생화학무기와 완전히 다른 특성을 갖는다. 일단 한쪽이 이를 도입하면, 아무런 제한 없이 너무나 쉽게 전 세계적 군비 경쟁으로 치달을 수 있다. 현재 인류에는 이를 관리할 수 있는 기술적인 툴과 전 세계적 규제가 없기 때문이다. 이러한 군비경쟁을 비판하고 막는 것은 국가 차원은 물론 전 세계적인 안전 측면에서 매우 중요한 일이다.

여기에 서명한 우리들은 각국 정부와 그 정부의 지도자들에게 치명적 자율살상 무기에 대한 강력한 국제적 규범과 규제, 금지 법안을 만들 것을 촉구한다. 이들은 아직 만들어지지 않았지만, 그에 앞서 우리는 자발적으로 이 주장에 동참할 것이다. 따라서 우리는 치명적 자율살상 무기의 개발과 제조, 거래, 사용에 참여도, 지원도 하지 않을 것이다. IT 기업과 조직 뿐만 아니라 리더와 정책입안자들, 그리고 다른 개인들도 이 선언에 동참하기를 기대한다. 


ciokr@idg.co.kr

원문보기: http://www.ciokorea.com/news/38964#csidxaea1f0451558d5097a0009d9f9d5edd onebyone.gif?action_id=aea1f0451558d5097a0009d9f9d5edd 

0 Comments