[스타트업투데이] 챗GPT(Chat GPT)의 등장과 함께 인공지능(AI) 윤리에 대한 관심사도 커지고 있다. 

앞서 과학기술정보통신부는 지난 4월 정보통신정책연구원(KISDI), 한국정보통신기술협회(TTA) 등과 함께 ‘제2기 인공지능 윤리정책 포럼’ 출범식을 개최하며 챗GPT 등 초거대∙생성형 AI 확산에 대응해 AI 윤리와 신뢰성 확보에 나섰다. 

지난 2021년 초 AI 챗봇 ‘이루다’가 이용자와의 대화에서 실제 연인 간 대화에 있을 법한 대답을 하면서 일각에서는 AI 개발 윤리에 대한 논의의 필요성이 제기됐다. 이후 국내 기술 기업은 물론 금융, 게임, 교육 등 AI 관련 기업을 중심으로 AI 윤리 체계를 수립하고자 움직이고 있다. 

투자업계 관계자는 “지난 몇 년간 AI 기술과 관련된 정책이 지속해서 나오고 있지만, AI 업계가 워낙 많은 변화를 일으키는 분야엔 만큼, AI 윤리 문제에 바로 조치를 취할 수 있는 역량은 부족한 게 사실”이라며 “기본적으로 정책에 대한 철학이 필요하고 이를 바탕으로 서비스를 어떻게 만들어야 할지, 새롭게 등장하는 AI 시대에 기업은 어떤 준비를 해야 할지 혼란스러운 부분도 있다”고 지적했다. 

일각에서는 AI 윤리를 체계적으로 수립한 ‘카카오’ 사례에 주목하고 있다. 카카오는 국내 기업 중 최초로 카카오만의 기술윤리 철학을 수립했다. 이후 온라인 사내 교육 ‘카카오 크루가 알아야 할 윤리 경영’ 진행, ‘기술 윤리 위원회’ 및 ‘인권과 기술윤리팀’ 신설 등을 진행하며 AI 윤리 수립에 노력하는 모습을 보인다. 

카카오는 생성형 AI와 관련된 윤리 문제를 어떻게 대비하고 있을까. 

카카오가 지난 2018년 1월 「카카오의 알고리즘 윤리헌장」을 제정했고 같은 해 11월 유네스코(UNESCO)가 ‘지식사회의 발전과 올바른 거버넌스 구축을 위한 AI 활용’을 주제로 주최한 AI 정책 포럼에 초청돼 AI 기업 윤리에 대해 발표했다. 

윤리헌장 따르면 먼저 ‘카카오는 알고리즘과 관련된 모든 노력을 우리 사회 윤리 안에서 다하며 이를 통해 인류의 편익과 행복을 추구한다’는 게 카카오 알고리즘의 기본 원칙이다. 이를 바탕으로 ▲차별에 대한 경계 ▲학습 데이터 운영 ▲알고리즘의 독립성 등 기술 변화를 반영해 카카오 기술에 근간이 되는 윤리헌장 5개 원칙을 수립했다. 

이후 카카오는 2019년 ‘기술의 포용성 개념’을 추가한 1차 개정, 2022년 ‘아동과 청소년 조항’을 추가한 2차 개정과 ‘프라이버시 신규 조항’을 추가한 3차 개정 등 기술 변화를 반영해 카카오 기술의 근간이 되는 윤리헌장 8개 원칙을 수립했다. 

특히 카카오는 ‘증오발언 근절’에 주목했다. 알고리즘 결과가 의도적으로 사회적으로 차별하는 경우가 있지 않도록 경계하기 위해서다. 또 국가나 지역 등 출신을 비롯해 인종, 외양, 장애 및 질병 유무 등에 근거해 특정인과 특정 집단을 공급하는 발언을 ‘증오발언’이라고 정의를 내렸다. 

황승택 카카오 인권과기술윤리팀 부장은 “카카오가 디지털 기업이고 디지털 기업은 사회의 플랫폼 기업”이라며 “플랫폼 기업의 사회적 책임에 있어 정책은 기업뿐만 아니라 정부의 여러 이해관계자 모두를 고려해야 한다”고 강조했다. 

이에 따라 2020년에는 국가인권위원회, 한국언론법학회, 미디어자문위원회와 논의를 시작했고 약 1년 6개월여에 걸쳐 이듬해 1월 ‘증오발언 근절을 위한 카카오의 원칙’과 함께 정책 논의 과정을 다룬 녹서를 발행했다. 지난해에는 증오발언 대응을 위한 정책 자료집 ‘코딩북’ 개발에 착수했다. 

코딩북은 수집한 데이터를 분석 가능한 형태로 변환 시 참고할 수 있는 정의나 원칙, 판단 기준 등을 담은 지침서로 기술 및 서비스 내에서 증오발언을 판별하는데 도움을 줄 것으로 기대된다. 

황 부장은 “서비스를 제공하는 기업이 어떤 철학을 바탕으로 사회와 이용자에게 기술을 제공해야 한다는 원칙을 카카오에는 굉장히 중요한 가치”라며 “알고리즘을 이용한 추천 서비스를 통해 이용자의 개인정보가 유출되거나 특별한 어떤 개인이 식별되지 않도록 하는 게 중요하다고 봤다”고 설명했다. 

카카오의 ‘증오발언 근절’은 이모티콘 제작 가이드에도 적용된다. 카카오는 카카오 이모티콘 스튜디오에 「윤리∙비즈니스∙저작권필수 지침」을 게시하며 모든 작가에게 안내하고 있다. 해당 지침을 어기거나 기타 타인의 권리를 침해할 여지가 있다면 입점을 금지하는 것은 물론 입점 이후에도 판매를 중단하도록 조치를 내렸다. 

이밖에도 한국언론학회로부터 추천받은 외부 미디어 전문가와 함께 ‘뉴스 알고리즘의 투명성을 위한 워킹 그룹’을 구성하고 지난해 8월 포털 다음 뉴스 배열에 대한 알고리즘을 이용자에게 투명하게 공개하기도 했다. 

카카오 관계자는 “가장 중요한 점은 카카오 알고리즘에 있는 원칙에 사회 윤리 안에서 모든 노력을 다한다는 점”이라며 “특히 아동과 청소년이 부적절한 정보와 위험에 노출되지 않도록 준비 중”이라고 전했다. 

한편 지난해 7월 ‘카카오 공동체 기술윤리 위원회’(Tech for good committee)가 출범했다. 매월 정기회의를 통해 카카오 공동체 서비스의 AI 윤리규정 준수 여부와 위험성 점검, 알고리즘 투명성 강화 등 정책을 체계적으로 개선하고 업무를 수행하는 것을 목표로 둔다. 위원회에는 카카오를 포함해 카카오게임즈, 카카오페이, 카카오엔터테인먼트,카카오모빌리티, 카카오엔터프라이즈, 카카오브레인, 카카오뱅크 등 8곳의 기술부문장 및 최고기술책임자(CTO)가 위원으로 참여한다. 

또 같은 달 카카오 기술윤리 전담조직인 ‘인권과기술윤리팀’을 발족하며 알고리즘 윤리확립, 디지털 포용 및 접근성 제고, 이용자 및 개인정보보호 등 기술윤리 관련 정책 업무를 강화했다. 

황 부장은 “대부분 AI 데이터 학습 등의 서비스는 설계부터 모니터링∙운영 평가까지 모든 게 포함돼야 한다”면서도 “자세히 밝힐 수는 없지만, 현재 카카오는 AI 윤리 거버넌스 고도화를 추진 중”이라고 전했다. 

[스타트업투데이=염현주 기자] [email protected]