생성형 인공지능(AI)이 금융 산업에 빠르게 확산되고 있다. 금융 회사들은 AI 기술 혁신을 통해 소비자 경험을 강화하고 기업 이익을 확대하기 위해 AI 관련 위험 및 규제에 철저히 대응하는 AI 거버넌스 프레임을 구축해야 한다.

한국 딜로이트 그룹이 딜로이트 아시아태평양규제전략센터(ACRS)의 ‘아시아 태평양 지역의 생성형 AI 적용 및 규제’ 국문본 보고서를 발간했다. 이번 보고서는 아시아 태평양 지역의 기술 및 규제 관련 딜로이트 글로벌 전문가 12명과의 인터뷰를 통해 정책 및 규제 당국이 기술 발전에 따라 기존 AI 프레임워크를 어떻게 재평가하는지 분석하고, 금융 기업들이 규제 변화에 따른 미래 환경에 선제적으로 대비할 방안을 제시한다.

오픈 AI ‘챗GPT(ChatGPT)’와 구글 ‘바드(Bard)’와 같은 서비스는 AI 기술 개발 혁신과 함께 생성형 AI의 대중화를 이끌었다. 이에 따라 아시아 태평양 규제 당국의 공통 위험에 대한 원칙도 빠르게 진화하고 있다. 보고서는 규제 당국이 지식 재산 침해, 잠재적 편향 등 AI에 따른 여러 위험 요소들을 고려해 기술 혁신을 통한 이익과 소비자 안전 사이의 균형을 찾아야 한다고 강조한다.

특히 개인 정보 유출, 재정적 위험 등 민감한 잠재 리스크가 있는 금융 서비스의 경우 규제 당국의 관심과 압박이 가시화될 수 있기 때문에 생성형 AI 시대의 금융 산업은 중대한 변화와 혼란의 시기를 지나고 있다고 볼 수 있다.

보고서는 금융업계가 AI 관련 위험을 식별 및 관리하기 위해 △규제 준수와 위험 관리 지원을 위한 AI 거버넌스 프레임워크 개발 △학력·소득 등 고객 취약성에 대한 생성형 AI의 편향 또는 차별 발생 방지 조치 구축 △고객 개인 정보 등 데이터 보호 의무 준수 △지식 재산의 부주의한 노출이나 저작권 침해를 방지하기 위한 통제장치 구축 △생성형 AI 기술 관련 인재 확보 투자 및 기존 임직원 대상 AI 기술 교육 제공 등 권고 사항을 제시한다.

마쓰야마 아키히로 딜로이트 아시아태평양 리스크 자문 리더는 “AI 규제 및 법안은 아직 대부분의 국가에서 개발 또는 시행 초기 단계에 있지만, 금융 회사는 가능한 한 빠르게 자체 AI 거버넌스 프레임워크를 구축하고 AI 관련 위험에 대응하기 위한 조치를 준비하는 등 신중한 접근 방식이 필요하다”며 “민간 부문은 규제 기관 및 입법 당국자와의 적극적인 대화를 통해 업계 지식 및 경험을 공유해 규칙 제정 절차를 원활하게 하고, AI의 미래 경로에 대한 공감대를 이끌어내는 것이 필수적”이라고 말했다.

장형수 한국 딜로이트 그룹 금융산업통합서비스그룹 고객 산업 리더는 “생성형 AI 도입으로 업무 효율성 향상과 고객 경험 최적화와 같은 업무 성장 동력을 확보하고 경쟁력 우위를 부각하려는 금융 회사는 편향성과 지식 재산권 침해, 규제 위험에 직면할 수 있다”며 “딜로이트는 ‘신뢰할 수 있는 인공지능’ 프레임워크를 통해 윤리적이고 합법적인 방식으로 업계를 선도할 수 있는 솔루션을 제시한다”고 강조했다.

한편, ‘아시아 태평양 지역의 생성형 AI 적용 및 규제’ 리포트 전문은 딜로이트 인사이트 앱(iOS/Android) 혹은 딜로이트 홈페이지 (https://www2.deloitte.com/kr/ko/pages/technology-media-and-telecommunications/articles/2024/20240206.html)에서 확인할 수 있다.