쉽게 쓰여진 AI 거버넌스

AI 관련 개념들이 쏟아져 나오는 요즘, 심심찮게 AI 거버넌스라는 말을 들을 수 있다. 혹시 ‘거버넌스’라는 단어가 낯설어 살짝 뜨끔한 AI 엔지니어라면 안심하라. 거버넌스는 엔지니어 당신을 위한 개념이 아니라, 당신의 노동력을 착취해가는 높으신 관리자 분들을 위한 개념이기 때문이다. 하지만 먼 훗날 나도 관리자가 될 것이라는 실낱같은 희망을 품고 당신의 소중한 AI 기술을 짜내고 있다면 잠깐 짬을 내어 관심을 가져보는것도 좋다.

 

당신이 공들여 만든 AI 모델은 생각보다 더 큰 위험을 안고 있을 수 있다. Microsoft 가 16년도 야심차게 출시한 Tay Chatbot은 출시 되자마자 성/인종 차별적인 발언을 쏟아내며 16시간만에 서비스가 중단되었고, 15년도 Google Photo의 객체 탐지 알고리즘은 흑인을 ‘고릴라’로 인식하며 즉시 기능이 중단되었다.

 

모델의 서비스 성능 뿐 아니라, 개발 과정에서의 위험도 존재한다. 예컨데 21년 출시되었던 대화형 챗봇 ‘이루다’를 개발했던 스캐터랩은 동의 없이 카톡 데이터를 수집하여 AI 를 학습했다는 사실이 알려지며 큰 비판을 받았고, 한동안 서비스를 중단해야 했던 것을 기억할 것이다.

이러한 사고가 만약 당신의 회사에 발생한다면? 브랜드 평판은 순식간에 추락하고, 그로 인한 잠재적 손실은 가히 엄청날 수 있다.

 

이를 가장 막고 싶은 사람은 누구일까? 그렇다. 바로 소위 C-level 이라고 부르는 윗분들, 또는 서비스에 책임을 져야 하는 관리자들이다. 그들은 이렇게 물을 것이다.

 

“AI 모델 서비스를 운영해서 생길 수 있는 위험, 어떻게 막을건가?”

 

그리고 그 질문에 대한 대답이 바로 AI 거버넌스다.

 

당신의 C-level 또는 매니저는 당신에게 이러한 지시를 내릴 것이다.

 

자네,

• 잠재적 리스크 요소들 모두 분석하게 (리스크 파악)
• 그리고 내가 그걸 수치적으로 한눈에 볼 수 있게 만들어오게 (평가지표 및 모니터링)
• 앞으로 개발하는 모든 AI들은 목적과 사용처를 명확히 정리해두게 (유즈케이스)
• 개발 진행 상황도 빠짐없이 문서화하도록 (AI 라이프사이클)
• 학습에 사용되는 데이터 수집 방식도 투명하게 남겨두게 (데이터 거버넌스)
• 아, 사고 나면 책임 묻게 담당자와 로그도 잘 수집해둬 (역할 분리 / 로그수집)

이처럼 모델이 안전하게 개발되고 서비스될 수 있도록 하는 일련의 과정들이 바로 AI 거버넌스이다.

 

이러한 과정은 특히 의료, 법률, 금융처럼 리스크가 치명적일 수 있는 보수적인 도메인에서는 더욱 중요하다. 하지만 혁신을 사랑하는 진취적인 AI 엔지니어라면 이러한 의문을 품을지도 모른다.

 

“연구하고 개발하기도 바빠 죽겠는데, 굳이 이런 기록과 문서작업까지 꼭 해야 돼요?”

 

그 대답은 이러하다. “지금은 선택이지만, 곧 의무가 된다.”

 

안타깝게도 윗분들의 걱정은 국회까지 올라갔고, 결국 거버넌스 절차가 법적으로 강제되는 상황에 이르렀다. 대한민국의 경우, 24년도에 ‘AI 기본법’ 이 제정되었는데, 이는 26년도부터는 적절한 거버넌스 절차를 통과한 모델들만 서비스를 할 수 있도록 강제한다. 너무 아쉬워 하지는 마라. 이미 유럽은 ‘EU AI Act 법’ 이 지정되어 24년부터 철저한 감사과정을 통과한 AI 만이 서비스 할 수 있도록 규제하고 있다. 한국과 유럽 외의 국가들도, 너도나도 앞다투어 AI 거버넌스를 위한 법률을 제정하고 시행하고 있다.

 

즉, 머지 않아 기업들에게 AI 서비스를 위해 감사와 보고서 작성 과정이 일상이 될 것이다. 참으로 귀찮은 일이다. 하지만 너무 투덜거리지는 말자. 결국 AI를 다루는 일은 모델을 훈련시키는 것보다, 윗분들의 불안을 다스리는 게 더 어려운 법이다. 또 혹시 모른다. 거버넌스를 잘 알아두면, 언젠간 나도 윗분들 세계로 승천(?)시켜 줄 지.