UPDATED. 2021-10-24 14:40 (일)
유엔, 'AI 안면 인식'에 대한 인권 위협 경고
유엔, 'AI 안면 인식'에 대한 인권 위협 경고
  • 이문숙 기자
  • 승인 2021.09.16 07:24
  • 댓글 0
이 기사를 공유합니다

경제전반에 큰 영향 미치는 AI, 인권침해 등 위험성도 간과하지 말아야
사진=UN 인권최고대표 Michelle Bachelet 페이스북 캡처.
사진=UN 인권최고대표 Michelle Bachelet 페이스북 캡처.

[초이스경제 이문숙 기자] 인권 보호를 위한 안전장치를 요구하는 유엔(UN)에 따르면 우리는 안면 인식과 같은 특정 인공 지능 시스템에 모라토리엄을 부과해야 한다고 AFP는 15일(현지시간) 보도했다.

인공지능(AI)이 취업 등 경제 전반에 큰 영향을 미치는 가운데 이같은 지적이 나와 눈길을 끈다. 

유엔(UN)은 급속히 진전되는 지구촌의 인공지능 기술 발달에 경종을 울렸다. 인권 단체의 고등 판무관 미셸 바쉴렛은 "인공지능 기술을 인권에 미치는 영향을 충분히 고려하지 않고 사용하면 부정적이거나 치명적인 영향을 미칠 수 있다"고 말했다. 그녀는 사생활이나 이동 및 표현의 자유에 대한 권리를 위해 인공지능에 의존하는 시스템이 제시하는 위험에 대한 평가를 요청한 다음 가장 큰 위험을 나타내는 것들을 금지하거나 강력하게 규제할 것을 촉구했다.

그러나 이러한 평가가 수행되기를 기다리는 동안 전 칠레 대통령은 "국가는 잠재적으로 큰 위험을 초래할 수 있는 기술에 대해 모라토리엄을 부과해야 한다"고 강조했다.

특히 미첼 바첼레트(Michelle Bachelet)는 자동 의사 결정을 가능하게 하는 기술이나 프로필을 설정하는 기술을 예로 들었다. "인공지능(AI) 시스템은 공공 서비스의 혜택을 받을 수 있는 사람을 결정하고, 채용 기회가 있는 사람을 결정하고, 물론 사람들이 보고 공유할 수 있는 정보에 영향을 미치는 데 사용된다"고 그녀는 강조했다.

이 분야에서 유엔의 최고기구인 인권이사회가 위임한 이 보고서는 이러한 기술이 어떻게 작동하는지 또는 그 영향이 제대로 평가되지 않은 채 배치되는 경우가 많았는지 살펴보았다. 인공지능 오작동으로 신체적 특징을 가진 사람을 제대로 인식할 수 없는 제대로 훈련되지 않은 안면 인식 시스템을 기반으로 사람들이 복지를 받거나 취업을 하거나 무고한 사람들을 체포할 수 없다는 판단에 따른 것이다.

바첼레트 씨는 "인공 지능에 기반한 결정과 관련된 차별의 위험, 즉 인간의 삶을 바꾸거나 낙인 찍거나 해를 끼칠 수 있는 결정은 모두 너무 현실적"이라고 주장했다. 보고서는 이러한 인공지능이 종종 불투명한 방식으로 구축되는 거대한 데이터베이스의 도움으로 훈련된다고 지적했다. 이러한 데이터베이스 자체는 잘못 만들어지고 구식이 될 수 있으므로 인권 침해를 가져올 수 있다는 것이다. 

특히 보고서는 예측 방법을 포함하여 법 집행 기관에서 AI 기반 시스템의 사용이 증가하고 있음을 강조한다. AI가 편향된 데이터베이스를 사용하는 경우 이는 예측에 반영되어 고위험으로 잘못 식별된 영역에 영향을 미치는 경향이 있다고 했다. 실시간 및 원격 얼굴 인식도 전 세계적으로 점점 더 많이 사용되어 개인의 위치를 영구적으로 파악할 수 있다고 지적했다.

그녀는 "AI와 관련하여 계속해서 대세를 따라잡기 위해 노력하고 통제가 거의 또는 전혀 없이 사용되도록 허용하고 사실 이후에 인권 결과를 복구하도록 허용할 여유가 없다"고 주장했다.

그녀는 "AI가 사람들에게 봉사하는 힘은 부인할 수 없지만 AI가 거대한 규모로 거의 보이지 않는 방식으로 인권 침해를 부추기는 능력도 크다는 점을 간과해선 안된다"고 경고했다. 그녀는 "모든 사람의 이익을 위해 AI에 대한 인권에 기반한 안전장치를 마련하기 위해 행동해야 한다"고 말했다고 매체는 전했다. 


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.