- 제네바에서 AI 윤리 실천 경험 토대로 인권 기반 접근의 필요성 및 체계 구축 등 제언
- 공동체기술윤리위원회 이채영 위원장, “책임감을 갖고 스스로 앞장서서 기술 윤리 준수”
[2023-12-15] 카카오가 한국의 기술 윤리 기업으로서 스위스 제네바 UN 회의장에서 열린 신기술에 관한 인권 기반접근에 대한 2023년도 정책연구보고서 발간 행사에 참여해 AI 윤리 도입의 중요성과 카카오의 AI윤리 거버넌스 체계구축 사례 등에 관해 설명했다.
카카오(대표이사 홍은택)는 지난 14일(현지시간 기준) 스위스 제네바 UN 회의장에서 열린 ‘스타트업의 관점에서 바라본신뢰가능한 AI를 위한 인권 기반의 접근 및 관련 국제 규범에 대한 논의’ 보고서 발간을 기념하기 위한 행사의 패널에나섰다. 본 행사는 주제네바 대한민국 대표부, 서울대 인공지능 정책 이니셔티브(SAPI), 그리고 Universal Rights Group(URG)의 공동 주최로 마련되었다.
SAPI(디렉터: 임용 서울대 법학전문대학원 교수)는 2022년에 주제네바 대한민국 대표부의 의뢰로 URG와 함께‘신기술에 관한 인권 기반의 접근’에 대한 정책 연구를 수행하여 보고서를 발간한 바 있으며, 금년에는 신기술 중 AI에대한 인권 기반의 접근을 실천하는 방안을 스타트업의 관점에서 심도 있게 논의하는 후속 보고서를 발간했다. 본보고서에는 카카오의 AI 윤리 거버넌스 고도화 사례도 담겨 있다. 카카오 인권과 기술윤리팀 하진화 매니저가 본 행사에참여해 관련 내용을 소개했다. 행사 진행을 맡은 임용 교수는 "지금까지 AI 윤리를 포함한 거버넌스 논의가 서구권빅테크 중심으로 이뤄진 측면이 있다. 앞으로는 보다 다양한 문화적 사회적 맥락이 반영되고, 미래 혁신의 엔진이 될스타트업들의 관점에서도 현실적이고 실천 가능한 제안과 규범 논의가 필요하다. 이번 보고서를 통해 보다 많은 논의가촉발되기를 기대한다"고 말했다.
카카오는 그동안 연구하고 실천해 온 AI 윤리 실행 경험을 기반으로, AI 윤리 강화를 위한 가이드라인, 사내 인식을개선하기 위한 노력 등에 대해 설명했다. 이와 함께 AI를 포함한 기술 윤리를 기반으로 서비스를 검토하는 것이 안전하고신뢰할 수 있는 서비스를 만드는 데 있어 중요한 근간이라고 강조했다.
산업과 기업의 고유 특성을 고려해 AI 윤리를 위한 거버넌스 구축을 체계적으로 논의해야 하며, AI 윤리 부서나담당자를 지정하는 등 실질적 노력이 이용자의 안전과 건강한 디지털 생태계 구축으로 이어질 수 있다고도 의견을보탰다.
이해관계가 다양한 부서끼리 의사결정을 할 때는 인권과 기술 윤리를 준수해 서비스를 만들어야 기술이 불러올 수 있는잠재적 역기능과 부작용을 효과적으로 사전 예방할 수 있다는 것을 인지하고 협업해야 한다고도 피력했다.
아울러 인권 기반 접근(Human Rights Based-Approach, HRBA)을 토대로 AI 윤리를 준수하는 것은 지속가능경영측면에서도 가치있는 일이며 기업과 인권 이행 지침(UNGP)의 일환이라고 덧붙였다.
카카오 인권과 기술윤리팀 하진화 매니저는 “카카오 AI윤리 이슈는 ‘리스크 식별→과제의 우선 순위 선정→문제개선’의 절차에 따라 체계적으로 관리되고 있다" 며 "일련의 과정은 카카오의 인권 경영 원칙과 긴밀하게 연관되어있다"고 설명했다.
카카오는 디지털 기업으로서 사회적 책임을 다하고 AI 윤리를 강화하기 위한 노력을 지속하고 있다.
2018년 알고리즘 윤리헌장을 발표하며 국내 기업 최초로 알고리즘 윤리 규범을 마련했다. 인류의 편익과 행복을추구하는 카카오 AI 기술의 지향점, 의도적 차별성 방지, 윤리에 근거한 학습 데이터 및 수집 관리 원칙, 알고리즘 관리의독립성과 알고리즘에 대한 설명 방침 등의 내용을 담았다.
또한 2022년 국내 기업 최초로 전사적 AI윤리 논의 기구인 ‘공동체 기술윤리위원회’를 신설했다. 공동체 전반에 걸쳐기술 윤리를 점검하고, 이를 사회와 함께 발전시켜 나가는 방안을 지속적으로 연구하겠다는 취지이다. 카카오 공동체서비스들의 AI 윤리 규정 준수 여부와 위험성 점검, 알고리즘 투명성 강화 등을 위한 체계적 정책 개선 업무를 수행한다.
이채영 카카오 공동체 기술윤리위원회 위원장은 "사회적 책임에 걸맞은 윤리적 규범과 원칙에 대해 고민하고 기술을활용한 서비스를 제공할 때 윤리적 접근 방식을 고려하는 것은 매우 가치 있고 중요한 일”이라고 말하며 “카카오는책임감을 갖고 스스로 앞장서서 기술 윤리를 준수할 것이며 AI 윤리 점검 도구 개발에 힘쓰고 구체적인 실천 방안을마련하기 위해 노력할 것"이라고 밝혔다.
Comments