수출 통제에 대해 말씀하셨는데요. 왜 미국과 중국이 데이터 센터를 가진 천재 국가를 함께 가질 수 없는 거죠? 왜 일어나지 않거나, 왜 일어나서는 안 되는 걸까요?

왜 안 될 이유가 있을까요? 있잖아요, 만약 이게 실제로 일어난다면, 마치 몇 가지 상황이 발생할 수 있는—음, 몇 가지 상황이 생길 수도 있겠네요.

공격적인 상황이 발생할 경우, 핵무기보다 더 위험할 수 있는 상황이 초래될 수도 있겠습니까?

어느 쪽이든 쉽게 모든 걸 파괴할 수 있는 상황이 될 수도 있어요. 또는 뭔가 불안정한 세상이 될 수도 있고요.

핵심 균형은 안정적이죠, 그렇죠? 그게, 있잖아요, 억지력 같은 거니까요. 하지만 만약 두 개의 AI가 싸웠을 때 어느 AI가 이길지 불확실해진다면 어떨까요?

그게 불안정성을 야기할 수 있죠? 양측이 승리 가능성에 대한 서로 다른 평가를 할 때 갈등이 자주 발생하잖아요. 한쪽이 '아, 네, 제가 90% 확률로 이길 거야'라고 생각하고, 다른 쪽이 '저도 90% 확률로 이길 거야'라고 생각한다면 싸움이 훨씬 더 가능성이 높아요.

두 쪽 다 옳을 수는 없지만, 두 쪽 다 그렇게 생각할 수는 있어요. 하지만 이게 AI 기술 확산에 대한 완전한 반론인데, 이 세계의 함의가 바로 그런 거죠. 제가 계속 말씀드려야 할 것 같아요. 왜냐하면 결국에는 확산이 일어날 거라고 생각하거든요.

제가 또 우려하는 점은, 정부에서 인공지능을 이용하여 자국민을 억압할 가능성이 있다는 것입니다.

그래서 제가 걱정되는 건, 이미 어떤 식으로든 정부가 존재하는, 그런 나라가 있을 수 있다는 점입니다. 음, 어떻게 말씀드릴까요, 정부가 어느 정도 갖춰진 그런 곳이 있을까 봐요.

첨단 권위주의 국가를 구축해 나가고 있는 상황이죠. 명확히 말씀드리지만, 이건 정부에 대한 이야기입니다. 국민들에 대한 이야기가 아니에요. 전 세계 어디에서나 사람들이 혜택을 받을 수 있는 방법을 찾아야 합니다. 제 걱정은 정부에 대한 것입니다.

네, 제 걱정은 세계가 두 조각으로 나뉘게 된다면, 그 두 조각 중 하나가 아주 뿌리 뽑기 힘들 정도로 권위주의적이거나 전체주의적인 통치를 할 수 있지 않을까 하는 점입니다.

앞으로 정부들이 강력한 인공지능을 갖게 될 가능성이 있고, 혹시 권위주의로 이어질 위험이 있을까요? 네, 그렇습니다. 정부들이 강력한 인공지능을 갖게 되고, 나쁜 균형 상태, 아주 나쁜 균형 상태로 이어질 위험도 있을 수 있겠죠.

네, 두 가지 모두 그렇게 생각해요. 하지만 초기 조건이 중요하죠, 그렇죠?

음, 어느 시점에 가서 규칙을 정해야 할 것 같습니다. 미국 단독으로 할 필요는 없고, 여러 민주주의 국가들이 연합하는 것이 더 나은 방법이라고 생각합니다. 물론, 국제적인 협력이 더 필요하겠지만요.

우리가 현재 하고 싶어 하는 것보다 더 많은 협력이 필요합니다. 하지만 민주주의 국가들의 연합, 혹은 특정 국가가 그냥 이렇게 규칙을 정해야 한다고 말해서는 안 됩니다. 협상이 있을 거예요, 그렇죠? 세상은 이걸 처리해야 할 겁니다.

제가 바라는 것은 전 세계의 민주주의 국가들, 즉, 그 정부가 국민들의 의사에 좀 더 가까이 반영되는 국가들이 있기를 바랍니다.

인간에 대한 긍정적인 가치관이 더 강력한 영향력을 행사하며, 도로의 규칙이 정해질 때 더 큰 영향력을 발휘합니다.

그래서 제가 그 초기 상황에 대해 매우 우려하고 있습니다. 3년 전 인터뷰를 듣고 있었습니다.

그리고 이 작품이 낡아 보이는 한 가지 이유는 제가 계속해서 질문을 던지며, 2~3년 후 어떤 결정적인 전환점이 있을 거라고 생각했던 점 때문입니다. 하지만 그 정도 미래를 내다보는 것은 결국, 진전이 계속되고, AI 기술이 발전하며, AI가 더욱 널리 보급되는 것처럼 느껴질 뿐입니다.

그리고 사람들은 이것을 더 많은 일에 활용하실 겁니다. 미래에 여러 나라들이 협력하여 세계의 규칙과 각국의 영향력을 결정하는 그런 세상이 펼쳐지는 것을 상상하고 계시는 것 같습니다. 현재의 추세대로라면, 모두가 더 많은 인공지능을 활용하게 될 것으로 보입니다.

그 AI 중 일부는 권위주의 국가에서 사용될 것입니다. 또한, 권위주의 국가 내에서는 민간 주체와 국가 주체 간에 활용 방식에 차이가 있을 수 있습니다.

누가 더 많은 혜택을 받을지는 아직 불분명하고, 미리 예측하기는 항상 어렵죠, 있잖아요. 인터넷이 예상했던 것보다 권위주의 국가에 더 많은 혜택을 줬던 것처럼요. 그리고 어쩌면 인공지능은 완전히 다른 방향으로 흘러갈 수도 있겠네요.

제가 여기서 상상하시는 바를 좀 더 잘 이해하고 싶습니다. 네, 정확히 말씀드리면, 밑바탕 기술의 기하급수적인 발전은 이전과 마찬가지로 계속될 거라고 생각합니다.

모델은 점점 더 똑똑해지는데, 데이터 센터에 천재들이 있는 나라에 가더라도, 계속해서 모델을 더 똑똑하게 만들 수 있다고 생각해요. 세상에서 그 가치가 줄어드는 문제가 있을 수 있겠죠?

인간의 생물학을 이미 해결해 놓은 뒤에는 어느 정도 중요할까요? 어느 시점이 되면 더 어려운 수학을 할 수 있게 되고, 더 난해한 수학 문제도 풀 수 있게 되지만, 그런 것들 이후에는 아무것도 중요하지 않게 되는 것 같습니다.

음, 그 점은 일단 넘어가더라도, 지수 함수가 계속될 거라고는 생각합니다. 다만, 그 지수 함수 상에는 특정한 구분 지점들이 존재할 것이고, 기업, 개인, 국가들이 그 지점들을 서로 다른 시기에 도달하게 될 거라고 생각합니다.

제가 말씀드리는 건, 핵 억지력이 아직 기술의 미성숙 단계에 있는지 묻는 거예요. 핵 억지력이 인공지능 시대에 여전히 안정적인지 묻는 거죠.

잘은 모르겠지만, 그게 우리가 당연하다고 여겼던 것 중 하나라는 예시일 수 있습니다. 기술이 어느 정도 수준에 도달해서, 적어도 저희가 확실하다고 단정할 수 없게 되는 그런 경우도 있을 수 있다는 말입니다. 다른 분들도 생각해보시면 좋겠습니다.

아시다시피, 특정 지점에 도달하면, 어쩌면 공격적인 사이버 우위를 확보할 수 있는 시점이 있을지도 모릅니다.

그 이후로는 다른 쪽에서 동등한 방어 체계를 갖추지 않는 이상, 그 어떤 컴퓨터 시스템도 사용자님께 투명하게 보이실 겁니다.

정확히 어떤 결정적인 순간인지, 혹은 그런 순간이 단 하나인지 잘 모르겠지만, 결정적인 순간 하나 혹은 소수의 결정적인 순간들이 있거나, 혹은 일련의 결정적인 기간이 있을 거라고 생각합니다.

인공지능이 국가 안보의 관점에서 상당한 이점을 제공하며, 특정 국가나 연합이 다른 국가들보다 먼저 이러한 기술을 확보한 것으로 보입니다.

음, 제가 말씀드리고 싶은 건, 제가 생각하기에 그분들이 마치 이제부터 저희가 책임진다고 그렇게 생각하는 건 아니에요. 그런 식으로 생각하지 않거든요.

아시겠지만, 상대방도 항상 따라잡으려고 노력하죠. 그리고 우리가 감당할 수 없는 극단적인 조치들도 있고, 어차피 완전한 통제권을 잡는 것도 옳지 않다고 생각해요.

하지만 그런 상황이 되면, 사람들은 세상이 변했다는 것을 이해하게 될 거라고 생각해요. 그리고 인공지능 이후의 세계 질서가 어떻게 될지에 대한 어떤 협상이, 명시적이든 암시적이든 진행될 거예요?

음, 저는 협상이 고전적인 자유민주주의적 가치를 반영하는 방식으로 이루어지기를 바랍니다.

네, 음, 상당히 강력한 권력을 가지고 있다고 말씀하셨습니다. 제가 그 의미를 좀 더 명확하게 이해할 수 있을 것 같은데요. 에세이에서, 인용하자면, '전제주의는 사람들이 받아들일 수 있는 정부 형태가 아니다'라고 말씀하셨기 때문에요.

AGI를 얻은 이후에는 중국 공산당이라는 제도가 존재할 수 없다는 말씀이신가요? 그리고 그건 굉장히 강한 요구사항처럼 들립니다.

그리고 그건 아마도 선두에 있는 연구소나 국가가 세계를 어떻게 지배할지, 어떤 종류의 정부가 허용될지, 그렇지 못할지를 결정할 수 있어야 하고, 결정할 권리가 있다는 뉘앙스를 풍기는 듯합니다.

네, 알겠습니다. 음, 제가 말씀드렸던 그 단락은, 아마 제가 뭐라고 말씀드렸는지 기억하는데, 더 나아가서 X라고 말씀드릴 수도 있을 겁니다.

그러니까, 제가 꼭 그 의견을 지지하는 건 아니었어요. 제가 생각하는 좀 더 약한 주장이 있다는 걸 말씀드리고 싶었어요.

글쎄요, 제가 말씀드린 적이 있을 것 같은데, 권위주의적인 사람들에 대해 상당히 우려해야 하고, 그들의 권력을 억제하고 제한하려고 노력해야 한다고 생각합니다.

이런 종류의 좀 더 적극적이고 개입적인 관점을 취하실 수도 있습니다. 예를 들어, 인공지능을 가진 권위주의 국가들은 마치 스스로를 실현하는 순환고리를 형성하며, 극복하기가 매우 어렵다고 말씀하실 수도 있겠지요.

그리고 초반부터 없애버리는 것이 중요합니다. 말씀하신 모든 문제점을 가지고 있습니다. 예를 들어, 만약 모든 권위주의 국가를 전복하겠다는 약속을 한다면, 지금 당장 여러 가지 행동을 취할 것입니다. 아시겠지만요.

그러한 상황은 불안정을 야기할 수 있습니다. 따라서 그런 일은 실현 가능하지 않을 수도 있습니다.

제가 말씀드리고자 했던 점은, 제가 지지하는 바는, 오늘날에는 그것이 충분히 가능하다고 말씀드리는 것입니다. 아시겠습니까?

알다시피, 제 생각이나 서구 세계 대부분의 사람들의 생각으로는 민주주의가 권위주의보다 더 나은 정부 형태라고 생각합니다.

하지만 그렇다고 해서, 나라가 권위주의적이라고 해서, 저희가 집단 학살과 같은 만행을 저질렀을 때 반응했던 것과 다른 방식으로 대응하는 것은 아닙니다.

네, 제가 말씀드리고 싶은 것은, AGI 시대에 권위주의라는 단어의 의미가 달라질까 약간 걱정된다는 것입니다.

더 심각한 일이 될 겁니다. 그리고 우리는 어떻게 대처할지 결정해야 합니다. 개입주의적 관점은 가능한 한 가지 관점이고, 저는 그런 관점들을 탐색해 봤습니다.

옳은 견해로 이어질 수도 있겠네요. 하지만 지나치게 극단적이어서 옳은 견해가 아닐 수도 있겠습니다.

하지만 저는 희망을 품고 있습니다. 그리고 제가 가지고 있는 희망 중 하나는 새로운 기술이 발명될 때마다 정부 형태가 시대에 뒤떨어지는 것을 목격해왔다는 사실입니다.

기술의 청소년기라고 말씀드린 적이 있는데, 그때 저는 봉건주의가 기본적으로 정부의 한 형태였다고 말씀드렸던 것 같습니다.

네, 맞습니다. 그리고 산업화를 발명했을 때, 봉건제는 더 이상 지속 가능하지 않았고, 더 이상 의미가 없어졌습니다.

왜 그런 희망이 드시는 거예요? 민주주의가 더 이상 경쟁력이 없는 시스템이 될 수 있다는 걸 의미하는 건 아닐까요? 물론, 그렇게 될 수도 있어요. 반대로 될 수도 있고요.

네, 그렇습니다. 그런데 사실 저는 권위주의적인 문제들에 대해 가지고 있습니다.

맞죠? 권위주의 체제가 겪는 문제들이 더욱 심각해지는 거네요. 그런 점이 권위주의가 앞으로 겪게 될 다른 문제들의 징후일까, 궁금하네요.

다시 말해서, 권위주의가 심해지면 사람들은 권위주의를 더 두려워하게 되고, 그래서 그것을 막기 위해 더 열심히 노력하게 되는 거죠. 마치 전체적인 균형을 고려해야 하는 것처럼요.

새로운 기술을 통해 자유를 보존하고 보호하는 방법에 대해 새롭게 생각하는 계기가 될 수 있을까, 문득 궁금해집니다.

더욱 긍정적으로 생각해보면, 이것이 우리 사회 전체적으로 중요한 가치들에 대해 더욱 절실하게, 그리고 명확하게 깨닫는 계기가 될 수 있을까요? 개인이 당연하게 여기는 권리들이 얼마나 중요한지 말입니다.

우리가 정말로 포기할 수 없는 것들이 있다는 것을 좀 더 확실하게 깨닫게 되는 것이죠. 지금까지 봐온 바로는, 그렇게 살 수 있는 다른 방법은 없다는 것을요.

솔직히 저는 희망을 품고 있습니다. 아마 표현하자면 너무 이상적으로 들릴 수도 있겠지만, 독재 체제가 도덕적으로 쓸모없게 될 수 있다고 실제로 믿고 있습니다.

그러한 상황은 도덕적으로 지속 가능하지 않은 정부 형태를 만들어냅니다. 그리고 그로 인해 발생하는 위기는 우리에게 다른 방법을 찾아야만 하는 충분한 이유가 됩니다.

여기 정말로 해결하기 까다로운 질문이 있다고 생각합니다. 어떻게 해결해야 할지 잘 모르겠네요. 역사를 거치면서 저희도 어쩔 수 없이 한 쪽을 선택해 왔죠. 예를 들어, 70년대와 80년대 중국의 경우, 권위주의 국가임에도 불구하고 저희는 그렇게 결정했습니다.

시스템과 소통하기로 결정한 것은, 돌이켜보면 올바른 판단이었던 것 같습니다. 권위주의적인 시스템이지만, 10억 명이 넘는 사람들이 그렇지 않았을 경우보다 훨씬 더 부유하고 나은 삶을 살고 있으니까요. 또한, 그것이 멈추는 것을 막았을지도 불확실합니다.

독재 국가의 예를 들어 북한을 보면 알 수 있을 거예요, 그렇죠? 그리고 독재 체제를 유지하고 권력을 계속 공고히 하는 데에는 그렇게 많은 지능이 필요하지 않다고 생각해요.

그래서 북한이 다른 나라들에 비해 훨씬 더 부정적인 인공지능을 보유하게 될 수도 있지만, 그럼에도 불구하고 권력을 유지할 수 있을 거라고 상상해 볼 수 있습니다.

일반적으로 보았을 때, 인공지능의 이점은 인류와 건강의 다양한 발전이라는 형태로 매우 큰 영향을 미칠 것으로 보입니다.

역사적으로 볼 때, 우리는 기술의 이점을 억압적인 정부를 가진 사람들에게까지 널리 보급하는 것이 좋다고 결정해 왔습니다. 인공지능의 경우에는 어떻게 생각해야 할지 어려운 질문이 될 수 있겠지만, 역사적으로 우리는 긍정적인 합일이라는 믿음을 가지고 있었고, 여전히 그럴 가치가 있다고 말씀드리고 싶습니다.

네, 기술을 보급하는 방식에 여러 가지 선택지가 있습니다.

이걸 정부 간의 결정으로 프레임을 하는 게 좋다고 생각해요. 그리고, 국가지 안보적인 관점에서 보면 하나의 렌즈일 뿐이지만, 다른 렌즈도 정말 많답니다.

예를 들어, 우리가 이 모든 질병 치료제를 개발해서, 그 치료제들을 권위주의 국가에 판매하는 건 괜찮다고 상상해 볼 수 있죠. 하지만 데이터 센터는 그렇지 않죠. 칩과 데이터 센터는 그렇지 않아요.

그리고 인공지능 산업 자체에 대해서도 말씀드리고 싶습니다. 음, 또 다른 가능성도 있을 수 있는데, 제가 생각하기를 사람들은 이 점에 대해서도 한번 생각해 보셨으면 합니다. 즉, 자연스럽게 혹은 다른 방식으로, 어떤 발전들을 이룰 수 있을지도요.

인공지능으로 인해 발생하거나, 인공지능 기술을 통해 만들어낼 수 있는 균형점을 찾을 수 있을까요? 권위주의 국가들이 억압을 지속하기 어렵게 만드는 균형 말입니다.

그분들은 기술의 이점을, 음, 일종의 개인적으로 활용하시는 경향이 있으십니다. 아, 혹시 균형이랄 수 있을까요? 권위주의 국가에서는 각자에게 그들만의 것을 제공할 수 있는 그런 상태를 말씀하시는 건가요?

음, 인공지능 모델이 스스로 감시로부터 보호하는, 그런 종류의 모델을 말하는 것 같습니다.

그리고 권위주의 국가가 권력을 유지하면서도 이걸 억누를 방법은 없을 것 같아요. 제가 생각하기에, 그게 너무 멀리 간다면 권위주의 국가가 내부에서부터 붕괴되는 이유가 될 수도 있을 것 같습니다.

아마도 권력을 유지하고자 하는 권위주의자들이 기술에 대한 개별적인 접근을 어느 정도 허용하는, 균형이 이루어진 중간 지대가 있을 수도 있겠네요.

사실 좀 더 급진적인 버전에 대해서도 약간의 희망을 품고 있습니다. 기술 자체가 본질적으로 그렇게 될 수 있을까요, 혹시?

그것이 어떤 특성을 가지거나, 특정한 방식으로 구축함으로써 권위주의적 구조에 이러한 용해 효과를 일으키는 특성을 만들어낼 수 있을까요?

원래 생각했을 때, 오바마 정부 초기 시절을 떠올려보면, 소셜 미디어와 인터넷이 그런 성질을 갖게 될 거라고 예상했었는데, 결국 그렇지 않다는 것이 밝혀졌습니다.

하지만 제가 잘 모르겠어요. 뭘 잘못될 수 있는지 알고, 또 이것이 다른 기술이라는 점을 고려해서 다시 시도해 볼 수도 있지 않을까요? 효과가 있을지는 모르겠지만, 해 볼 가치는 있을 것 같아요. 네, 정말 예측하기 어렵다고 생각해요.

음, 권위주의가 특권적인 이유가 있을 수 있는 근본적인 원리도 있습니다. 모든 것이 매우 예측 불가능하거든요.

음, 생각해보면, 그러니까, 우리가 반드시 해야 할 일은 문제를 제대로 인지하고, 그다음에 시도해 볼 수 있는 열 가지 정도를 떠올려야 합니다. 그리고 그걸 시도해 보고, 효과가 있는지 아니면 어떤 것들이 효과가 있는지 평가해야겠죠. 만약 기존의 방법들이 효과가 없다면, 새로운 것을 시도해 봐야 할 겁니다.

판매할 가치가 없다고 생각합니다만, 오늘날의 결론은 중국에 데이터 센터나, 아니면 죄송하지만, 칩을 만들거나 칩을 판매하지 않겠다는 말씀이시군요.

따라서 어느 정도 관점에서 보았을 때, 저희가 그렇게 진행하고 있기 때문에 중국 경제나 중국 국민들에게도 어떤 이익이 없을 것이라고 부정하시는 것이 아닌가 하는 인상을 받았습니다.

미국 경제에도 분명 긍정적인 효과가 있을 거예요. 상호 이익이 되는 세상이니까요. 서로 데이터를 거래할 수 있을 거예요. 그쪽에서는 데이터 센터를 하나 운영하고, 우리 쪽에서는 다른 걸 할 수 있잖아요.

이미 그런 말씀을 하시고 계시네요. 긍정적인 효과를 내고 해당 국가들을 지원할 수 있는 보조금은 그만한 가치가 없다고요.

제가 말씀드리자면, 음, 저희는 강력한 인공지능 모델을 구축할 수 있다면 경제 성장과 가치가 매우 쉽게 따라올 시대에 접어들게 될 것 같습니다. 인공지능 모델을 잘 만들 수 있다면 경제 성장과 가치는 자연스럽게 따라올 것입니다.

혜택과 부의 분배, 그리고 정치적 자유는 쉽게 얻어지는 것이 아닐 것입니다.

음, 말씀하신 것처럼 이 일들을 이루기는 쉽지 않을 거예요. 그래서 정책을 생각할 때, 기술과 시장이 우리가 받아들일 수 있는 속도보다 훨씬 빠를 거라고 생각합니다. 그렇죠.

분배와 정치적 자유 및 권리에 대한 이러한 질문들이 실제로 중요한 문제이며, 정책이 집중해야 할 부분이라는 점이 중요합니다. 자, 분배에 관해서 말씀드리자면, 개발도상국에 대해서도 언급하셨었죠.

그리고 많은 경우에, 예상했던 만큼 추격적인 성장이 약하게 나타나는 경우도 있었습니다. 하지만 추격적인 성장이 일어날 때, 근본적으로는 노동력이 충분히 활용되지 않았기 때문입니다. 저희가 선진국으로부터 자본과 기술력을 이들 국가로 이전하면, 상당히 빠른 성장을 이룰 수 있을 것입니다.

확실히, 노동이 더 이상 제약 요인이 아닌 세상에서는요.

이런 방식은 더 이상 효과가 없네요. 인공지능으로 인해 갑작스럽게 부를 얻는 개인이나 국가의 자선에 기대는 것 또한 현실적인 방법이 될 수 있을까요?

희망은 무엇일까요? 제가 말씀드리자면, 분명히 자선 활동이 과거와 마찬가지로 어느 정도 역할을 해야겠지만, 저희가 자체적으로 해결할 수 있도록 만들면 성장과 발전이 훨씬 더 낫고 강력해질 것이라고 생각합니다.

그렇다면 AI 기반 세상에서 어떤 산업 분야가 관련이 있을까요?

저기, 아시다시피, 여러 가지 상황이 있고요, 아시다시피, 제가 중국에는 데이터 센터를 짓지 말라고 말씀드렸잖아요. 그런데 아프리카에는 데이터 센터를 지을 이유가 없지는 않다고 생각합니다, 그렇죠? 사실, 아프리카에 데이터 센터를 지으면 정말 좋다고 생각합니다.

알아보시는 것처럼, 중국 소유가 아니라면 아프리카에 데이터 센터를 건설하는 것은 좋다고 생각합니다.

정말 좋은 생각이라고 생각합니다. 음, 저희도 제약 산업을, 인공지능 기반으로 구축하는 건, 분명히 가능하다고 생각합니다.

음, 아시겠지만, 인공지능이 신약 개발을 가속화한다면, 분명히 바이오테크 스타트업들이 많이 생겨날 겁니다.

음, 개발도상국에서도 일부는 반드시 실현되도록 하는 것이 중요하다고 생각합니다. 그리고 전환 과정에서는 인간의 역할이 완전히 사라진다는 시점에 대해 이야기할 수 있겠지만, 적어도 처음에는 인간이 이러한 기업을 시작하고 AI 모델을 감독하는 데 일부 역할을 맡게 될 것입니다.

그러니, 빠른 성장이 그곳에서도 일어날 수 있도록 개발도상 세계에 있는 사람들도 참여할 수 있도록 확실히 해야 겠습니다.