상하이 2025년 8월 1일 /

2025년 세계인공지능대회(World Artificial Intelligence Conference, WAIC)에서 에릭 슈밋(Eric Schmidt) 전 구글(Google) 최고경영자(CEO)가 해리 셤(Harry Shum) 전 마이크로소프트(Microsoft) 수석 부사장과 함께 글로벌 AI 거버넌스의 도전 과제와 전망에 대해 심도 있는 대담을 나눴다.

해리 셤은 먼저 슈밋에게 중국 AI 발전 현황에 대한 견해를 물었다. 이에 슈밋은 글로벌 AI 거버넌스에서 가장 시급한 과제는 모델 접근성이 아니라 '사용 경계를 누가 정의하는가'에 대한 합의 부족이라고 지적했다.

그는 기술 확산의 핵심적 갈등은 안전장치를 어디에 둘 것인가에 있다고 강조하며, 오픈 소스든 폐쇄형이든 첨단 시스템이 빠르게 확산되는 상황에서 시행 가능한 안전 메커니즘을 구축하기 위한 국제적 공조가 시급하다고 말했다.

미·중 AI 협력 전망에 대해 슈밋은 협력이 공유된 목표에 기반해야 한다고 밝혔다. AI 통제 무기, 자기 복제 또는 자율 학습과 같은 고위험 이슈에 대해서는 단순히 개발을 중단하는 것이 아니라 인간이 최종적인 통제권을 유지하도록 보장하는 방법에 관한 대화가 필요하다고 주장했다. 이러한 주제는 일방적인 결정이 아닌 깊이 있는 상호 교류를 요구한다는 점을 강조했다.

장기간 개방형 혁신을 실천해 온 슈밋은 기술의 개방성과 확산의 균형에 대한 견해를 묻는 질문에, 중국의 많은 선도적 AI 모델이 공개된 가중치와 오픈소스 방식을 활용하고 있다고 언급했다.

그는 개방형 생태계가 협력적 혁신을 가속화하지만, 동시에 시스템을 오용에 취약하게 만들 수 있다고 인정했다. 출시 시 설정된 제한 사항이 의도적이든 비의도적이든 제거될 수 있기 때문이다. 그럼에도 슈밋은 개방성을 포기하기보다는 보호 메커니즘을 개선하기 위한 국제적 협력이 필요하다고 주장했다.

그는 국제적인 AI 교류가 증가하고 있음에도 불구하고, 시행 가능한 안전장치가 부재하다는 근본적인 결함이 여전히 존재한다고 지적했다. 장기적으로는 AI가 유해한 행동을 근본적으로 회피하도록 훈련되어야 하며, AI 모델이 인간의 가치를 내재화하여 그러한 가치를 위반할 능력이 근본적으로 없도록 만드는 '정렬(alignment)' 기술을 통해 이를 달성할 수 있다고 말했다.

슈밋은 재임 시절 구글, 마이크로소프트, 애플 간의 치열한 경쟁을 회상하며, 이러한 역학 관계가 생태계 발전을 이끌었고 이는 국가에도 동일하게 적용되는 원칙이라고 주장했다. 그는 세계에서 가장 중요한 두 경제 대국인 미국과 중국이 AI 거버넌스 문제에 대해 협력해야 하며, 세계 안정을 유지하고 전쟁을 방지하며 이러한 강력한 도구에 대한 인간의 통제를 보장하는 데 공동의 이익을 공유해야 한다고 강조했다.

대담은 슈밋이 헨리 키신저(Henry Kissinger), 크레이그 먼디(Craig Mundie)와 공동 집필한 저서 '새로운 질서: AI 이후의 생존 전략(Genesis: Artificial Intelligence, Hope, and the Human Spirit)'에 담긴 핵심 아이디어를 언급하며 마무리됐다. 그는 공동의 도덕적 틀이 없다면 인류가 기술의 궤도에 대한 통제력을 잃을 위험이 있다고 역설했다.