AI 속도조절론

요즘 미국발 ‘AI 속도조절론’으로 뜨겁다.

AI 기술이 인간의 개입 없이 스스로 추론하고 성능을 개선하는 단계에 접어들면서, 통제 불능 상태의 범용인공지능(AGI)이 예고 없이 출현할 수 있다는 위기감이 커졌기 때문이다. AI가 인간을 공격하고 세상을 지배하는, 영화에서나 볼 법한 일들이 실제로 벌어질 수 있다는데 대해 우려가 크다.

그래픽 폴리티코가 미국 성인 2천여 명을 대상으로 조사한 결과 응답자의 63%가 AI가 인류를 멸망시킬 가능성을 우려하고 있다고 답했다. 속도 조절론에 찬성한 비율도 48%로 AI 개발을 유지해야 한다고 답한 31%보다 우세했다.

오픈AI CEO인 샘 올트먼 조차 "AI가 전 세계에 미칠 영향력은 엄청나며, 일정 규모 이상의 초거대 모델에 대해서는 국제기구(IAEA 방식)나 정부 차원의 면허제(Licensing)가 필요하다"라며 AI에 대한 통제를 강조하고 있다.

하지만 반론도 만만치 않다.

그런데 필자는 ‘웬일로’ 트럼프 대통령의 반대에 가장 공감이 간다.

트럼프 대통령은 "미국이 AI 규제에 매달려 속도를 줄이면, 중국이 곧바로 그 자리를 치고 들어와 세계 지배권을 잡을 것이다"라며 반대하고 있다.

사실 필자도 ‘AI 속도조절론’에는 공감하지만, ‘문제적 국가’ 중국이 치고 나갈까봐 걱정이다. 중국 네티즌들은 벌써 "미국이 AI 규제에 매달려 속도를 줄이면 중국이 곧바로 그 자리를 치고 들어와 세계 지배권을 잡을 것이다"라는 내용의 글들을 올리고 있다.

원래 중국은 자율주행, 바이오, AI 같은 첨단 기술 분야에서 '선(先)적용, 후(後)규제' 방식을 취하며, 개발과 상용화를 강행하는 나라다. 법적 책임이나 윤리적 논쟁보다, 당장 산업 성과와 기술 주도권을 쥐는 것이 우선이다. 따라서 미국이 주춤하면, 그 사이 중국은 ‘문제가 될 수 있는 걸 전혀 걱정하지 않고’ 미국을 따라잡기 위해 총력을 다할 것이다.

중국 정부라고 AI 문제에 대해 걱정을 전혀 안 하겠나? 하지만 중국 정부가 AI에서 가장 무서워하는 것은, 기술의 폭주보다 '당의 통제를 벗어난 정보일 뿐'이라 생각한다.

물론 미국과 중국 등 주요국들이 협정을 맞고 속도조절과 안전장치를 마련할 수 있다. 일주일 앞으로 다가온 미중정상회담에서 이 문제를 다룰 수도 있다.

하지만 상대는 중국이다. 협정을 맺고도 제대로 준수할 지, 믿을 수가 없다.

중국이 작정하고 속임수를 쓰는 것도 문제지만, 진짜 위험은 중국 스스로도 제어하지 못하는 독성/공격성 AI를 비밀리에 만들다가 터져버리는 상황이다.

가장 좋은 사례가 코로나 우한 연구소 유출(설) 사태다. 중국 (지방) 정부나 비밀 군 연구소 등이 비밀리에 사이버 무기 등 고위험 AI를 개발하다가, 이 AI가 외부로 잘못 유출되면 전세계가 상상도 하지 못한 재앙에 마주하게 된다.

이제 기술이 그만 발전했으면 좋겠다는 생각도 한편 든다.

<묻는다일보 발행인 배재탁 ybjy0906@naver.com>