지금 AI가 잘 돌아가게 하는 것에 대해 여쭤보겠습니다. 우리가 AI가 잘 돌아가는 모습에 대해 가지고 있는 비전은 두 가지와 호환되어야 할 것 같습니다.

첫 번째는 AI를 구축하고 실행하는 능력이 매우 빠르게 확산되고 있다는 것입니다. 두 번째는 AI의 수, 즉 우리가 가지고 있는 AI의 지능 수준도 매우 빠르게 증가할 것이라는 점입니다.

그것은 많은 사람들이 정렬되지 않은 인공지능을 대규모로 구축하거나, 마치 발자국을 넓히려고 하거나, 시드니 빙과 같이 기묘한 심성을 가진 기업과 유사한 인공지능을 만들 수 있다는 의미입니다. 하지만 이제는 초인적인 수준에 도달하게 될 것입니다.

다양한 인공지능, 그중 일부는 목표 정렬이 되지 않은 상태로 돌아다니는 세상에서, 우리가 어떻게 균형을 이루어낼 수 있을까요? 어떤 비전이 필요할까요?

네, 네. 음, 제가 생각하기로는 기술의 초기 단계에서 권력의 균형에 대해 약간 회의적인 시각을 가졌던 것 같습니다.

하지만 제가 특히 의심했던 부분은, 아마 세 네 곳 정도의 회사들이 그런 특징을 가지고 있다는 점인 것 같습니다.

음, 마치 모든 건축 모델들이, 음, 일종의 건조하고, 아시죠, 뭔가 일관된, 같은 것에서 파생된 그런 느낌이에요.

그리고, 음, 서로 견제하거나, 아니면 여러 명이 서로를 견제할 수도 있다는 점이, 음, 그런 가능성이 있을 거라고 생각해요.

혹시 공격적인 환경에서 살아갈 수도 있겠죠. 예를 들어, 한 명의 개인이나 하나의 인공지능 모델이 다른 모든 것에 피해를 줄 수 있을 만큼 충분히 똑똑해질 수도 있다는 뜻입니다.

음, 제가 말씀드리고 싶은 건, 짧은 기간을 기준으로 보면, 현재 참여 인원이 제한되어 있습니다. 따라서 제한된 인원 내에서, 음, 저희가, 아시다시피, 안전장치를 마련해야 할 것 같습니다.

모든 분들이 올바른 방향으로 협력하도록 확실히 해야 하고요, 모든 분들이 생물 분류기를 갖추도록 해야 합니다. 당장 우리가 해야 할 일들을, 아시죠, 그런 것들입니다.

네, 말씀하신 대로 그 문제가 장기적으로 해결되지 않을 수 있다는 점에는 동의합니다. 특히 AI 모델이 다른 AI 모델을 만들 수 있는 능력이 확산된다면, 전체적인 문제 해결이 더욱 어려워질 수 있다고 생각합니다.

장기적으로 볼 때, 거버넌스 체계가 필요하다고 생각합니다.

인간의 자유를 보존하면서 동시에, 어쩌면 우리 스스로를 다스릴 수 있는, 그런 거버넌스 구조가 필요하다고 생각합니다.

다양한 종류의, 있죠, 인간 시스템, AI 시스템, 그리고 혼합 시스템들이 있습니다.

사람이신가요, 즉, 인간과 인공지능의 혼합형, 예를 들어, 기업이나 경제 단위와 같은 것들을 말씀하시는 건가요?

음, 아시다시피, 저희는 세계를 생물 테러로부터 어떻게 보호할지를, 그러니까, 어떻게 해야 할지 심각하게 고민해야 할 것 같습니다.

어떻게 하면, 있잖아요, 이렇게, 음, 거울 삶이라고 하는 걸 막을 수 있을까요? 아마도, 있잖아요, 이런 모든 것들을 감시하기 위해, 음, 일종의 AI 감시 시스템 같은 게 필요할 거예요.

그런데, 이것을 시민의 자유와 저희의 헌법적 권리를 보호하는 방식으로 만들어야 할 것 같습니다.

음, 다른 어떤 것들과 마찬가지로 새로운 보안 환경도 새로운 도구와 새로운 취약점들을 가지고 있다고 생각합니다.

만약 이 일이 아주 천천히, 백 년에 걸쳐서 일어난다면 아마 익숙해질 수 있지 않을까 걱정돼요.

음, 익숙해졌듯이, 있잖아요, 폭발물이나, 있잖아요, 다양한 신무기나, 있잖아요, 또는, 있잖아요, 비디오 카메라의 존재 같은 것들이, 있잖아요, 우리 사회에 흔하게 있는 것들이죠.

백 년이 넘는 시간 동안 천천히 진행되었다면 익숙해질 거예요. 그리고 저희는 통제 방안을 개발할 겁니다. 실수를 저지를 수도 있겠죠. 제 걱정은 이게 너무 빨리 진행되고 있다는 점이에요.

그래서 혹시 이러한 거버넌스 메커니즘이 작동하도록 하기 위해 좀 더 빠르게 고민해야 할 것 같습니다.

네, 공격적인 플레이가 주를 이루는 세상에서 앞으로 100년에 걸쳐 일어날 발전이 인공지능 덕분에 5에서 10년 정도의 기간 안에 이루어질 수 있다는 말씀이신 것 같습니다. 하지만 저희는 여전히…

동일한 메커니즘이나 권력 균형은 인간만이 존재한다 하더라도 여전히 해결하기 어려울 것입니다. 그래서 어쩌면 AI의 조언을 구해야 할 것 같습니다.

기본적으로 여기는 완전히 다른 양상이 되는 것 같지는 않네요. 견제와 균형이 작동하려면 인간에게도 작동할 겁니다. 만약 작동하지 않는다면, 인공지능에게도 잘 작동하지 않을 거예요. 그래서 어쩌면 인간의 견제와 균형도 함께 실패할지도 모르겠어요.

하지만 네, 다시 한번 말씀드리지만, 제가 생각하는 방법이 있을 거라고 생각해요. 예를 들어, 전 세계 정부들이 협력해서 이 일을 처리해야 할 수도 있을 거라고 생각해요.

음, 아시겠지만, 인공지능과 저희가 사회 구조를 이처럼 방어 시스템을 구축할 수 있는 방식으로 만들도록 논의해야 할 수도 있겠습니다.

음, 잘 모르겠습니다. 이 얘기가, 음, 너무 앞서가는 이야기라고 말씀드리기는 조심스럽지만, 기술적인 능력은 상당히 앞선 것 같습니다.

예측하기 어려울 정도로 짧은 기간 내에 발생할 수 있는 일들이 있어서요.

정부 개입에 대해 말씀드리자면, 12월 26일 테네시 주 의회에서 다음과 같은 내용을 담은 법안을 발의했습니다. 법안에 따르면, 사용자와의 개방형 대화를 포함하여 감정적 지원을 제공하도록 인공지능을 의도적으로 훈련시키는 행위는 불법으로 간주될 것입니다.

물론, 클로드의 목표 중 하나는 사려 깊은 친구가 되는 것이고, 사려 깊고 지식이 풍부한 친구가 되려고 노력합니다. 일반적으로는 주 법률들이 파편화되어 나타날 것 같습니다.

일반인들이 인공지능으로 인해 얻을 수 있는 많은 혜택들이, 특히 '사랑과 은총의 기계'에서 논의하시는 생물학적 자유, 정신 건강 개선과 같은 부분에서 제한될 가능성이 있습니다. 계속해서 이와 관련된 다양한 측면들이 있을 것입니다.

이러한 것들이 다른 법에 따라 전부 쓸어버릴 수 있는 세계를 상상하는 것은 왠지 더 쉬워 보이는 반면, 이와 같은 법안들은 여러분이 걱정하시는 실질적인 실존적 위협에 제대로 대응하지 못하는 것 같습니다.

음, 이런 상황을 맥락적으로 이해하고 싶어서 여쮙는데, 주 정부의 AI 법률 모라토륨에 대한 Anthropic의 입장이 어떻게 되는지 궁금합니다. 솔직히 잘 모르겠습니다. 다양한 의견이 많은 것 같습니다.

음, 동시에 여러 가지 일들이 벌어지고 있어서요. 제가 생각하기로는, 제가 생각하기를, 특정 법안이 정말 어리석다고 생각해요. 아시다시피, 제가 생각하기에는, 그 법안은 아마도 그 내용을 제대로 알지 못하는 입법자들이 만들었을 거라고 생각합니다.

AI 모델이 할 수 있고 할 수 없는 것들이 있는데, 마치 AI 모델이 그런 역할을 하는 것 같아서 정말 무섭네요. 그런 일은 일어나지 않기를 바랍니다.

그래서, 우리가 그걸 찬성하지 않는다는 거 잘 아시죠?

하지만, 아시다시피, 그게 투표 대상이 아니었던 것을요.

표결 대상으로 하는 내용은, 인공지능에 대한 모든 주(州)의 규제를 10년간 금지하고, 연방 정부 차원의 규제 계획조차 보이지 않는다는 것입니다. 연방 규제를 시행하려면 의회에서 법안을 통과시켜야 하는데, 그 기준을 넘기는 것은 매우 어렵습니다.

그러니까, 아시겠지만, 주 정부가 10년 동안 아무것도 못하게 하는 아이디어 말이죠. 그리고 사람들은 연방 정부에 대한 계획이 있다고 했지만, 음, 실제로 구체적인 제안은 없었어요.

실제로 시도된 바는 없었습니다. 음, 제가 청소년기에 기술이 생물학적 무기나 생물 테러, 자율성의 위험과 같은 문제로 인해 초래할 수 있는 심각한 위험성을 언급했던 것에 비추어 볼 때요.

저희가 이야기했던 시간표와 관련해서, 10년이라는 것은 정말 오랜 시간이 느껴지는 것 같습니다.

그게 정말 미친 짓이라고 생각해요. 그래서 만약 그게 선택이라면, 우리가 선택하도록 강요한다면, 우리는 그 유보를 하지 않기로 결정할 거예요.

그리고, 음, 제 생각에는 그 자리의 이점이 비용보다 더 크다고 생각합니다.

하지만 그것이 선택이라면 완벽한 상황은 아니라고 생각합니다. 지금 제가 생각하기에, 우리가 해야 할 일, 제가 지지하는 것은 연방 정부가 개입해야 한다는 것입니다. 주 정부의 규제를 금지하는 것은 아니지만, 여기에 말씀드리고 싶은 것은...

제가 할 일은 그리고 상태가 말씀하시는 것처럼, 이것과 다를 수 없다는 것을 말씀하시는 거죠. 제가 생각하기로는, 연방 정부가 여기는 우리의 기준이고, 이것은 모두에게 적용된다고 말하는 것은 괜찮다고 생각합니다.

정말 다른 방식으로 진행될 수는 없을까요? 그렇게 된다면 지지할 의향이 있을 텐데요. 그런데, 주 정부의 경우 아무것도 할 수 없다는 생각이나, 저희도 아무것도 하고 있지 않다는 느낌이 드네요.

그게 저희에게는 전혀 말이 안 된다고 생각했고, 시간이 지나면 더 그렇게 생각하게 될 것 같아요. 이미 여론의 반발을 보면서 처음부터 좋지 않다는 것을 알 수 있었죠.

저희가 중요하게 생각하는 부분은 투명성 기준을 마련하는 것부터 시작해서, 자율성 위험과 생물 테러 위험 등을 감시하는 것입니다. 말씀 드린 내용들을 바탕으로 진행될 예정입니다.

위험의 정도가 심각해지고, 그에 대한 증거가 더해짐에 따라, 우리는 특정 분야에서 좀 더 적극적으로 대응하여, 'AI 생물 테러는 정말로 위협입니다'라고 경고할 수 있다고 생각합니다.

분류사 사용을 어느 정도 의무화하는 법안을 마련하는 것도 좋겠습니다. 상황에 따라서는, 그런 방안도 고려해 볼 수 있을 것 같습니다.

그 위협이 얼마나 심각해질지는 아직 지켜봐야 할 것 같습니다. 확실하게 알 수 있는 것은 아니고요. 그런 다음에는, 위험이 아직 발생하지 않았음을 미리 밝히는 지적으로 정직한 방식으로 이 문제를 추진해야 합니다.

하지만, 상황이 이렇게 빠르게 진행되는 걸 생각하면, 올해 늦게 가서, '이봐요, 이 AI 생물 테러 문제는 정말 심각하군요.' 라고 말할 수도 있을 것 같아요. 그리고 우리는 뭔가 조치를 취해야 해요. 연방 표준에 넣어야 할 것 같아요.

만약 연방 정부에서 조치를 취하지 않는다면, 주 차원에서 규정을 마련해야 할 것입니다.

네, 충분히 그렇게 생각할 수 있을 것 같습니다. 제가 말씀드린 대로, 예상하시는 발전 속도, 법안의 처리 과정, 그리고 혜택이 나타나는 시점까지 고려해 보면, 확산 지연 현상 때문에 그러한 상황이 발생할 수 있다는 점이 우려스럽습니다.

현재의 추세대로라면, 여러 주에서 제정된 법률들의 이러한 단편적인 조합은 실질적인 효과를 보려면 시간이 너무 오래 걸릴 것이라고 진심으로 생각합니다.

음, 감정적인 챗봇 친구를 갖는다는 것 자체가 사람들을 놀라게 하는 것보다, 인공지능이 제공할 수 있는 실제적인 이점들을 상상해보는 것이 더 중요하다고 생각합니다. 예를 들어, 건강과 건강 수명 연장, 정신 건강 개선 등, 일반 사람들도 인공지능 발전 덕분에 경험할 수 있는 긍정적인 효과들이 많으니까요.

그런데 동시에, 님은 위험이 이미 눈앞에 다가온다고 생각하시는 것 같은데, 저는 그렇게 생각하지 않아요.

인공지능의 위험성에 비해 인공지능이 가져다 줄 혜택에 부정적인 영향을 미칠 가능성이 있어 보입니다. 그래서 비용 대비 효용 측면에서 제가 이해하기가 조금 어렵네요.

음, 여기 몇 가지 말씀드릴 부분이 있습니다. 제가 말씀드리는 것처럼, 사람들은 이런 주 법들이 수천 개 있다고 이야기합니다. 우선, 대부분의 법안들은 실제로 통과되지 않습니다.

이론적으로 세상은 그렇게 돌아간다고 하지만, 법이 통과되었다고 해서 실제로 집행되는 것은 또 다른 문제잖아요. 시행하는 사람들은 아마 ‘이건 정말 말도 안 되네요’라고 생각할 수도 있죠.

그것은 지금까지 지어진 모든 것, 그리고 테네시에서 지어진 모든 것을 완전히 중단하는 것을 의미하게 될 텐데요. 아시다시피, 법률은 종종 위험하거나 해로운 영향을 덜 미치도록 해석되는 경우가 많습니다.

물론 같은 편에서, 어떤 나쁜 일들을 막기 위한 법안을 통과시키는 것도 염려해야 할 것입니다.

저도 비슷한 문제를 겪으셨군요. 네, 제 기본적인 생각은, 아시다시피, 만약 우리가 어떤 법안이 통과될지 결정할 수 있다면...

과거에는 어떤 방식으로 일들이 처리되었는지, 아시다시피 저희는 거기에 아주 작은 부분만 기여하는 것이고, 저는 인공지능의 건강 관련 혜택에 대한 규제를 상당히 완화할 것입니다.

글쎄요, 솔직히 저는 챗봇 관련 법률 같은 것들에 대해서는 그렇게 많이 걱정하지 않아요.

솔직히 제가 더 걱정되는 부분은 신약 승인 과정인데, 인공지능 모델들이 신약 개발 속도를 상당히 가속화할 거라고 생각합니다. 그러면 파이프라인이 막히지 않을까 우려됩니다.

파이프라인이 처리할 수 있는 양만큼 준비되지 않았을 가능성이 있습니다.

음, 아시다시피, 제 생각에는 구매 관련 규제 절차를 개선해서 저희에게 더 많은 시간을 확보하는 것이 중요하다고 생각합니다. 앞으로 안전성과 효능에 대한 정보가 매우 명확하게 제시될 예정이니까요.

음, 뭐랄까요, 정말 아름답고, 또렷하고, 굉장히 효과적인 그런 느낌이에요.

하지만, 아시다시피, 어쩌면 이 모든 것들이 필요 없을 수도 있고, 이 모든 것들, 즉, 거의 효과가 없거나 심각한 부작용을 일으키는 시대에 맞춰 설계된 이러한 복잡한 구조들이 불필요할 수도 있다는 의미입니다.

물론 동시에, 저는 저희가 안전 및 보안 관련 법안을 상당히 강화해 나가야 한다고 생각합니다.

그리고, 아시다시피 말씀드렸듯이, 투명성부터 시작하는 것이 산업을 방해하지 않으려는 저의 견해입니다, 그렇죠? 균형점을 찾으려고 노력하고 있습니다. 걱정스럽습니다. 어떤 사람들은 저의 에세이가 너무 느리다고 말한다고 비판하기도 합니다.

그렇게 된다면 인공지능의 위험이 너무 빨리 찾아올 수 있습니다. 음, 기본적으로 지난 6개월 그리고 앞으로 몇 달은 투명성에 대한 논의가 중심이 될 것이라고 생각합니다.

그리고 이러한 위험 요소들이 저희가 더 확실하게 인지하게 될 때, 제가 생각하기를 올해 후반쯤이 될 수도 있을 텐데, 그때는 행동해야 한다고 생각합니다.

위험이 실제로 드러난 지역에서 매우 빠른 속도로 대응해야 합니다. 제가 생각하기에는 유연하게 대처하는 것 외에는 다른 방법이 없어 보입니다. 물론, 법률 제정 과정은 일반적으로 유연하지 않지만, 관련된 모든 분들께 이 사안의 긴급함을 강조해야 합니다.

바로 그래서 제가 이렇게 긴급한 메시지를 보내드리는 것이죠. 그래서 제가 기술 십대들을 썼습니다.

정책 입안자분들께서 읽으셨으면 좋겠습니다. 경제학자분들께서도 읽으셨으면 좋겠습니다. 그리고 국가 안보 전문가분들께서도 읽으셨으면 좋겠습니다.

저희는 의사결정권자들이 이 내용을 읽고, 기존보다 더 빠르게 조치를 취할 수 있기를 바랍니다. 혹시 더 확실하게 그런 결과로 이어지도록 돕거나 지지해주실 수 있는 일이 있을까요?

인공지능의 이점들이 더 잘 구현되나요? 저는 여러분이 입법부와 협력하여, 예를 들어 생물 테러를 막기 위한 조치를 취했다고 말씀하시는 것 같네요.

음모론에 대한 투명성을 높이고, 내부 고발자 보호를 강화할 예정입니다. 솔직히, 우리가 기대하고 있는 일들은 굉장히 쉽고, 여러 가지 요소에 의해 쉽게 흔들릴 수 있어 보입니다.

도덕적 공포나 정치 경제 문제에 대해서는 사실 크게 동의하지 않습니다. 선진국에서는 시장이 대체로 잘 작동한다고 생각합니다.

음, 그리고 어떤 특정 분야에서 많은 돈을 벌 수 있을 가능성이 높고, 현재로서는 가장 좋은 대안이 분명할 때, 규제 시스템이 그걸 막기가 사실상 어렵다는 것을 알게 되는 경우가 있습니다. 아시다시피, 인공지능 분야에서도 그런 현상을 목격하고 있습니다.

네, 아시다시피 제가 노력하고 있는 부분 중 하나는 중국에 대한 반도체 수출 통제입니다.

네, 그리고, 미국 국가 안보상의 이익과도 관련이 있고, 아시다시피, 그게 정책적 신념의 틀 안에 들어맞는다고 할 수 있습니다.

아시다시피, 국회의원들 양당 모두 거의 대부분의 경우, 음, 제가 생각하기로는 사안이 매우 명확합니다. 이에 대한 반론들은, 부드럽게 표현하자면, 석연치 않다고 말씀드릴 수 있겠습니다.

음, 음, 그런데 그런 일은 일어나지 않고, 우리는 그 칩을 판매합니다. 왜냐하면 엄청난 돈이 걸려있고, 그 돈은 만들어지고 싶어 하니까요, 그리고요.

제 생각에는 그게 안 좋은 일이라고 말씀드리고 싶습니다. 그런데 좋은 일일 때에도 마찬가지로 적용되거든요. 그래서 기술의 약점이나 장점과 같은 이야기를 할 때에는, 그렇게 단정 지을 수 없다고 생각합니다.

선진국에서 그러한 혜택들이 방해받는 것에 대해 저는 크게 걱정하지 않습니다.

그분들이 너무 더디는 것 때문에 조금 걱정됩니다. 그리고 제가 말씀드린 것처럼, FDA의 승인 절차를 더 빠르게 진행하도록 노력해야 한다고 생각합니다. 또한, 여러분이 논의하시는 챗봇 관련 법안들에 반대해야 한다고 생각합니다.

설명하시는 거죠? 하나하나 따로 보면 저는 반대합니다.

저는 그분들이 어리석다고 생각해요. 하지만 사실 좀 더 걱정되는 건, 제대로 작동하는 시장이 없는 개발 도상국이라는 점이에요. 저희가 이미 가지고 있는 기술을 활용하기 어려운 상황이 계속될까 봐 우려스러워요.

제가 걱정되는 건, 오히려 그런 분들이 뒤쳐질까 봐요. 치료법이 개발되더라도, 혹시 미시시피 시골에 사시는 분들이 제대로 받지 못할 수도 있겠다는 생각도 들고요. 그건 개발도상국에서 우리가 갖고 있는 우려와 비슷한 작은 버전이라고 할 수 있죠.

저희가 진행해 왔던 일들은, 아시다시피, 자선가들과 협력하고 있습니다, 맞습니까?

음, 저희는, 음, 아시겠지만, 약품과 보건 관련 서비스를, 음, 개발도상국, 특히 사하라 아프리카, 인도 같은 곳에 전달하는 분들과 협력하고 있습니다.

라틴 아메리카라든지, 아니면 다른 개발 도상국 같은 곳들도요. 그런 일들은 그냥 저절로 일어나지 않을 거라고 생각해요.