신뢰할 수 있는 AI(인공지능)에 대한 윤리 지침?!

< 인간의 얼굴을 가진 AI를 곧 만날지도 모른다>

인공지능의 윤리문제, 어떻게 봐야할까?

 

2018년 말부터 국내외 미디어를 통해, 유럽 집행위원회(European Commission)가 전문가 그룹을 통해 AI(인공지능)에 대한 가이드라인을 만들고 있으며, 성안되고 있는 그 몇몇 가안(draft)들에 대해서 보도된 바 있습니다.

 

이렇게 시작된 성과물이 최근에 나왔습니다. 지난 2019년 4월 8일, ‘신뢰할 수 있는 인공지능에 대한 윤리 지침(Ethics guidelines for trustworthy AI)’으로 그 연구 보고서가 발간되었습니다.

 

이 가이드라인에 따르면, 신뢰할 수 있는 AI는 3가지 대원칙을 갖추어야 합니다.

 

(1) 합법적 lawful -  respecting all applicable laws and regulations (모든 적용 가능한 법과 규정을 존중)

(2) 윤리적 ethical - respecting ethical principles and values (윤리적 원칙과 가치를 존중)

(3) 보완견고적 robust - both from a technical perspective while taking into account its social environment (사회적 환경을 고려하면서 기술적 관점도 겸비)

 

2020년 초반까지 AI의 신뢰성에 대한 구체적 지침/측정방법들이 제시될 것이며, 주요 항목은 아래 7가지라고 합니다.

인간 대행 및 감독 (Human agency and oversight) 기술적 보완견고성 및 안전 (Technical Robustness and safety) 개인정보보호 및 데이터 거버넌스 (Privacy and data governance) 투명성 (Transparency) 다양성, 차별금지, 공정성 (Diversity, non-discrimination, and fairness) 사회적 환경적 혜택 (Societal and environmental well-being) 책임 (Accountability)

 

이와 관련하여 국내 거의 모든 일간지를 비롯하여 몇몇 전문지가 이 내용을 다루었지만, ‘EU가 AI에 대한 윤리적 가이드 라인을 내놓았다.’는 것 이외에 그 이유부터 내용 및 의미 등에 대한 심층보도가 없어 직접 보고서 원문을 찾아봤습니다.

 

그리고 아래 그림의 프레임워크에 따라 이번 보고서에서는 CHAPTER II의 ‘7 Key Requirements’가 제시된 것이고, 2020년 초반까지 CHAPTER III의 ‘신뢰할 수 있는 AI 측정 리스트’가 제시될 것임을 알 수 있었습니다. 

The Guidelines as a framework for Trustworthy AI (출처: Ethics guidelines for trustworthy AI, 7p.)

위의 일곱가지 요구 사항들은 인류를 위한 것인만큼 인공지능 이전에 우리 인간이 먼저, 특히 컨텐츠를 생산하는 이들이 기억하고 적용해야 할 것입니다.

 

개인정보의 보호와 함께, 정보처리의 투명성을 가져야 할 것이며, 무엇보다 다양성을 인정하고, 차별하지 않으며, 공정성을 구비하는 것이 기본 윤리적 덕목으로 AI 저널리즘 시대에 중요하게 부각되고 있습니다.

 

기계적 중립성을 가질 것이라고 예측되는 인공지능이 차별과 혐오를 쏟아냈다는 보도도 있었습니다.

 

결국, 지능의 핵심은 판단력과 상상력인데, 상상력은 아직 AI에 있어 미래의 영역이고, AI가 적절한 판단력을 가질 수 있도록 하는 ‘데이터’들을 우리는 쌓아가고 있는 것일까요?

 

신뢰할 수 있는 ‘인공지능’에 대한 윤리지침은 마치, 신뢰할 수 있는 ‘언론홍보’에 대한 윤리 지침, 신뢰할 수 있는 ‘저널리즘’에 대한 윤리 지침처럼 느껴집니다.

 

유럽 집행위원회의 계획처럼 2020년 CHAPTER III ‘Trustworthy AI assessment List’가 나오면 다시 한번 전해드리며 다뤄보도록 하겠습니다.