PAI, 기업용 AI 거버넌스 프레임워크 발표
- •인공지능 파트너십(PAI), 안전한 기업 AI 통합을 위한 4대 핵심 원칙 정의
- •거버넌스 체계, 정적 준수에서 AI 에이전트를 위한 동적 시스템으로 진화해야
- •가치 사슬 전반에 걸친 인간 중심 설계 및 글로벌 표준 수립 강조
인공지능 파트너십(Partnership on AI, 이하 PAI)이 JPMorganChase와 협력하여 대기업 내에서 인공지능을 안전하고 포용적으로 확장하기 위한 전략적 로드맵을 공개했다. AI가 단순한 실험적 시범 운영을 넘어 기업의 핵심 비즈니스 기능으로 자리 잡으면서, '기업 AI 거버넌스 포럼'은 성공적인 AI 도입을 위해 기술적 배포 이상의 조직 문화적 근본 변화가 필요하다고 진단했다. 이에 따라 이번 프레임워크는 통합, 협업, 역동성, 그리고 인간 중심성이라는 네 가지 핵심 측면을 강조한다.
먼저 '통합'은 거버넌스를 별도의 기술적 장애물로 취급하는 대신 의사결정 흐름에 직접 내재화하는 것을 의미한다. 실제로 데이터 책임자와 같은 새로운 리더십 역할을 통해 감독 기능을 실무에 적용함으로써 내부적인 신뢰를 구축해야 한다는 설명이다. 또한 '협업' 측면에서는 산업 가치 사슬 전반의 공정한 경쟁 환경을 조성하기 위해 글로벌 표준을 수립하는 데 집중한다. 특히 '소버린 AI'개념을 고립주의가 아닌, 국가가 스스로의 디지털 목표에 대한 주도권을 유지하는 방식으로 재정의했다.
이번 로드맵에서 가장 주목할 만한 변화는 '역동성'에 대한 요구다. 기존의 정적인 경계에 의존하는 전통적인 리스크 평가는 급변하는 기술 환경에서 더 이상 충분하지 않기 때문이다. 특히 전문가들은 인간의 지속적인 개입 없이 스스로 과업을 수행하는 AI 에이전트의 경우, 일반적인 생성형 모델보다 훨씬 높은 수준의 감독이 필요하다고 지적했다. 마지막으로 프레임워크는 인간 중심성을 강조하며, 기업 리더들이 AI의 실패가 최종 사용자, 특히 글로벌 사우스 지역에 미칠 영향을 면밀히 평가할 것을 촉구했다.