AI 안전의 룰, 이제 한국이 만들어야 한다.

AI 안전의 룰, 이제 한국이 만들어야 한다.

최근 AI가 인류를 멸망으로 이끌 수도 있다는 경고가 잇따르고 있습니다.
이제 AI 경쟁은 단순히 ‘누가 더 강한 AI를 만드느냐’의 문제가 아닙니다.

‘누가 AI의 위험을 감시하고 통제할 것인가’의 문제로 빠르게 이동하고 있습니다.

12일 앤트로픽 CEO 다리오 아모데이는 “AI 개발 속도를 늦추고, 안전장치가 따라갈 시간을 확보해야 한다”고 주장했습니다.

특히 제3자 평가기관이 AI 모델에 상시 접근해 안전성을 점검하고, 민주국가들이 공동의 안전기준을 먼저 마련한 뒤 중국·러시아를 포함한 국제적 합의까지 추진하자고 제안했습니다.

오픈AI 샘 올트먼, xAI 일론 머스크, 딥마인드 데미스 하사비스도 곧바로 동의 뜻을 밝혔습니다. 특히 샘 올트먼은 AI 안전 문제를 이유로 올해 기업공개(IPO)에 나서지 않겠다고 했습니다.

이제 AI 안전은 기업 내부의 문제가 아닙니다.
인류 전체가 함께 풀어야 할 국제적 거버넌스의 문제가 되었습니다.

한국은 세계적인 반도체·메모리 공급국입니다.
AI 산업의 핵심 인프라에서 이미 상당한 영향력을 갖고 있습니다.

하지만 프론티어 AI 모델 개발이나 AI 안전기준을 만드는 경쟁에서 우리가 주도적인 위치에 있다고 말하기는 아직 어렵습니다.

그래서 ‘UN 글로벌 AI 허브’의 역할을 새롭게 생각해볼 필요가 있습니다.
AI의 안전성을 평가하고, 감시하고, 검증하며, 세계 각국의 전문가와 기업, 시민사회가 함께 AI 위험에 대응하는 국제 AI 안전 플랫폼으로 발전시킬 필요성이 있습니다.

AI 시대의 주권은 단순히 AI 모델을 소유하는 데 있지 않습니다.
어떤 AI를 사용할 것인지, 무엇을 허용하고 무엇을 금지할 것인지 스스로 결정할 수 있는 능력이 중요합니다. 

AI 시대의 규칙이 지금 만들어지고 있습니다.
우리가 또다시 강대국들이 만들어 놓은 규칙을 수동적으로 받아들이는 위치에 머물러서는 안 됩니다.
한국은 미·중은 물론 글로벌 사우스와 선진국을 연결할 수 있는 중재와 조정의 역할을 해야 합니다.

그리고 그 과정에서 한국이 AI 안전의 감시자이자 규칙의 설계자로 나서야 합니다.
그 출발점이 ‘UN 글로벌 AI 허브’가 될 수 있습니다.

지금은 AI 기술을 따라가는 것을 넘어,  
AI 시대의 질서를 함께 만들어야 할 때입니다.  ('26.9.13)

황도건 넥스라이즈 AI로봇교육원 대표