프론티어 랩스에서는 AI 안전 조치를 더 강화해야 한다고 촉구하고 있지만, 많은 사이버 보안 전문가들은 논의에서 배제되고 있다고 생각합니다.00:00

패널 여러분, 만약 프론티어 랩스의 귀에 속삭일 수 있다면 어떤 말씀을 하시겠습니까?00:07

제프님, 먼저 제프님부터 시작할게요. 저희는 사이버 보안을 오래 해왔으니, 혹시 저희와 이야기를 나누고 싶으실 수도 있을 것 같습니다.00:12

저희도 토론에 추가적으로 말씀드릴 내용이 있을 수 있습니다. 보안이 때로는 기능 향상에도 도움이 될 수 있다는 점을 덧붙이고 싶습니다.00:19

사람들은 보안을 기술의 장애물로 여기는 경향이 있는 것 같아요. 하지만 항상 그런 것은 아니에요.00:25

저는 연구원들과 분석가들을 믿으세요, 그리고 그들의 판단을 신뢰하세요. 그러면 도움이 될 거예요.00:30

더 나은 모델을 구축해 보세요, 안녕하세요.00:36

그리고 보안 인텔리전스에 오신 것을 환영합니다. IBM의 주간 사이버 보안 팟캐스트입니다.00:42

저희 전문가 패널들이 가장 큰 업계 뉴스들을 실용적인 교훈으로 바꿔주시는 곳입니다.00:45

여러분께서 활용하실 수 있는 내용들입니다. 저는 진행자 매트 카진스키이고, 여기는 또 다른 진행자 패트릭 오스틴입니다.00:51

패트릭, 오늘 기분이 어떠세요? 저는 아주 좋아요. 당신은요? 정말 좋네요. 함께해 주셔서 감사합니다.00:56

제프 크룬도 함께합니다. 그는 수석 엔지니어이자 마스터 발명가이며 데이터 및 AI 보안 아키텍트입니다.01:01

오마리 존스님은 사이버 위협 분석가이자, X-Force 전략적 위협 분석 팀에서 활동하고 계십니다.01:07

니키 로빈슨님은 STSM이며, AI 및 개발 보안 아키텍트 리드를 맡고 계십니다.01:11

틱톡 카메라 해킹 사례와 CISA의 더 투명한 정보 공개 요구에 대해 이야기해 볼 텐데요. 우선, 인공지능 기업들이 사이버 전문가들의 의견을 무시하고 있는지 좀 더 자세히 알아보겠습니다.01:16

먼저, 인공지능 거대 기업들이 사이버 전문가들을 간과하고 있는 것인지 조금 더 살펴보겠습니다.01:21

제가 다시 언급할 필요가 없을 것 같은 일련의 고위험 해킹 사고 이후에, 그리고 AI 기반 기능으로 인해 우려가 커지고 있습니다.01:32

저희 모두 들어보셨을 테니 여기 자세히 반복하지 않겠습니다. AI 지원 기능에 대한 점점 더 큰 우려와 함께 말이죠.01:36

사이버 공격이 어디로 흘러갈지 불투명한 상황에서 OpenAI, Anthropic 등 주요 AI 연구 기관들은 훨씬 더 엄격한 안전 조치를 요구하고 있습니다. 하지만 NBC의 케빈 콜리어 기자가 보도하듯이, 사이버 보안 전문가들은01:41

자신들이 배제되고 있다고 느끼고 있습니다.01:47

그들은 이러한 논의에서 배제되고 있다는 것이죠. SANS Institute의 CEO인 제임스 린, 전 영국 국가 사이버 보안 센터장 시에라 마틴 그리고 많은 사람들이 콜리어에게 그들이 발견했다는 것을 밝혔습니다.01:54

영국 국가 사이버 보안 센터장이었던 시에라 마틴과 여러 명이 콜리어에게 이야기했습니다.01:59

많은 AI 종말 시나리오, 예를 들어 로봇이 인터넷 전체를 장악하는 것 같은 경우는 조금 지나친 면이 있다고 생각합니다.02:05

그리고 그들은 연구소에서 진정한 사이버 보안을 희생하면서 정렬에 집중하고 있다고 느꼈다고 합니다.02:11

그들이 근본적인 사이버 보안 문제라고 느끼는 것들에 대한 해결책이죠. 마틴이 말한 것처럼, 정말 좋은 인용구가 있었어요. 그는 연구소의 경고는 시스템 모니터링이 전혀 없다고 가정한다고 했어요.02:16

아무런 감시도 없이요.02:21

백신도 없고, DDoS 방지 기능도 없으며, 네트워크 분할도 없고, 사고 관리 기능도 없습니다. 일절 아무것도 없어요.02:26

지난 30년간 발전해 온 글로벌 인터넷의 사이버 보안과는 전혀 무관하죠.02:33

패트릭, 먼저 패트릭에게 넘겨주죠. 이 이야기에서 무엇을 보고 계신가요? 그리고 오늘 토론자들과 어떤 이야기를 나누고 싶으세요?02:38

네, 제가 보는 것은 이러한 것들에서 매우 흔한 공통된 흐름입니다.02:42

잠재적으로 위험한 AI 에이전트에 대한 이야기가 나오고 있는데, 그 환경 자체가, 즉 실험을 진행하는 환경이 어느 정도는 타협된 상태인 것 같아요.02:48

훈련을 받거나 이러한 실험들이 이루어지는 환경이 특정 방식으로 침해당하고 있는 거죠.02:55

사이버 보안 위생이 미흡하거나 인터넷 접근 권한이 부적절한 방식으로, 이런 상황들이 발생하고 있습니다.03:00

이러한 에이전트들의 위험성에 대한 과장된 홍보가 더 큰 문제인지 궁금합니다.03:05

이 설정에 대한 비판이라고 할 수 있겠네요. 그들이 훈련받고 있는 방식에 대해 궁금했는데, 제프 씨는 어떻게 생각하시는지요?03:12

제프 씨의 의견을 듣고 싶습니다.03:15

확실히 걱정하시는 분들이 많으신 것 같아요, 그렇죠. 그래서 제가 모든 게 근거 없다고 말할 수는 없을 것 같습니다만...03:20

종말 시나리오에 대한 설득력 있는 설명을 아직 듣지 못했습니다.03:26

모두가 십 년 안에 모두 사라질 거라고 걱정하고 있다는 거죠.03:32

어떻게 그런 일이 일어날 수 있는지 설명해 주시겠어요. 왜냐하면 또다시 안전장치가 없다고 가정하잖아요.03:37

그리고 보안 장치도 마련되어 있지 않고요. 사실 좀 더 근본적으로 보자면,03:44

이것은 증거로 확인되지 않은 또 다른 사실들을 전제하고 있습니다. 바로 모든 인공지능들이 협력하고 있다는 점을 말이죠.03:48

그리고 로봇이 우리를 지배하려면, 로봇들이 협력하고 있다는 뜻입니다.03:55

그렇지 않습니다.04:01

우리가 협력해야 할 모든 이 시스템들이04:03

모두 연결되어 있는 것은 아니에요.04:11

물론 인터넷 연결은 되어 있을 수도 있지만요, 그것과는 다른 거죠. 공통의 명령 및 제어 시스템이 있어야04:12

만약 누군가가 그걸 장악하면, 나머지 모든 것을 할 수 있게 될 테니까요.04:19

그렇다고 해서 불가능하다고 말하는 건 아니에요. 모든 게 단순한 프로그래밍 문제거든요.04:22

코드를 충분히 작성하면 산도 움직일 수 있습니다.04:29

하지만 제 생각에는 많은 분들이 A에서 Z로 바로 건너뛴 것 같아요.04:31

그 사이에 있었던 과정을 보여주지 않은 거죠.04:39

니키 씨, 저희가 이 인공지능 에이전트들과 보안 문제에 대해 이야기하는 방식에 문제가 있다고 생각하시나요?04:42

사이버 보안 모범 사례를 통합하지 않고 보안 문제를 논의하는 것에 대해서요.04:49

처음부터 그랬나요? 기술을 적용한 후에, 에이전트들이 문제를 일으키거나 메시지 게시판에서 서로 대화하기 시작했다는 것을 알게 된 다음에 뒤늦게 보안을 붙이는 것처럼 하고 있어요.04:56

에이전트가 제멋대로 움직이거나 메시지 게시판에서 서로 대화를 시작하는 상황이 발생한 후에요.05:03

왜 이렇게 게임 후반부에 와서야 '이 에이전트들을 보안해야 규칙을 따르도록 만들자'라고 말하는 거죠?05:06

네, 이 부분에 대해 두 가지 다른 의견이 있는 것 같습니다.05:12

첫째, 기술이 먼저 나오고 보안은 나중에 고려되는 일반적인 패턴을 자주 목격합니다. 기술에 문제가 생기면 그때 보안을 생각하는 거죠.05:18

기술이 발전하면서 수년 동안 이런 패턴이 반복되어 왔습니다.05:24

AI의 어려움은 위험 요소가 상당히 많다는 점입니다.05:28

데이터 센터에서 클라우드로 옮겨갈 때도 위험이 따랐던 것을 생각합니다.05:33

우리가 좀 더 표준적인 개발 환경에서, 음, 에이전트 기반의 인력으로 이동할 때에는, 분명히 위험 요소가 따르겠죠.05:37

물론 위험이 수반됩니다.05:42

다릅니다, 위험의 종류가요.05:46

또 다른 점은, 인공지능을 완전히 새로운 것으로 생각하는 경향이 있다는 것이라고 말씀드리고 싶습니다.05:47

별도의 메커니즘이거나 다른 기술일 뿐입니다. 데이터 문제입니다.05:54

네, 다르게 상호작용하지만, 많은 부분은 동일한 유형의 사이버 보안 과제들입니다.05:59

우리가 보는 것들은 동일하지만, 그냥 다른 이름으로 불리는 거죠.06:05

잘못된 권한 설정, 데이터 유출 등 일반적인 환경에서 볼 수 있는 문제점들이 인공지능 환경에서도 나타날 수 있습니다.06:09

언어를 바꾸면 때로는 완전히 새롭고 독특한 것처럼 들리는 것 같아요.06:16

하지만 그렇지 않습니다. 여전히 우리가 해왔던 기존의 사이버 보안과 많은 부분이 같습니다.06:23

기술이 바뀌었기 때문에 조금 다른 방식으로 나타나는 것뿐입니다.06:26

네, 잠깐만 말씀드릴 게 있습니다. 패트릭 씨, 이 이야기가 C의 또 다른 멋진 인용구를 떠올리게 합니다.06:30

에런 마틴입니다. 니키 씨, 이 점이 방금 말씀하신 내용을 잘 보여주는 것 같아요. 인용구를 보면, 수십 년 또는 수백 년 동안 존재해 온 오래된 개념들이 있습니다.06:36

감사, 검사, 회계, 평가, 그리고 안전 보고서 같은 것들 말이죠.06:43

인공지능이라고 해서 처음부터 다시 생각해야 하는 건 아니잖아요, 그렇죠?06:47

말씀하신 것처럼, 니키, 이 모든 것은 근본적으로 데이터입니다, 맞죠?06:51

이미 알고 있는 보안 관련 지식을 이 분야에 많이 적용할 수 있습니다.06:55

갑자기 처음부터 다시 시작하는 것이 아니에요. 패트릭 씨, 말씀하세요.06:59

정말 그랬다면십자군 시대에도 이중 인증이 있었던 것 같네요.07:03

수백 년이나 되었어요, 친구. 정말 오랜 시간이 흘렀군요.07:09

제가 이 분야에 처음 일하기 시작했을 때를 말씀하시는군요. 네, 그때 제프의 첫 번째 직업이십이라는 이야기가 있었죠, 실제로십니다.07:12

오마리 씨, 외부 감사인과 평가 전문가들을 포함시키는 것에 대한 논의는 어떻습니까요?07:20

그리고 검사관들이 이러한 모델들을 살펴보게 하는 것은, 이 회사 CEO들이 밀어붙이고 있는 의견 중 하나입니다.07:26

그것이 사이버 보안 전문가들의 우려를 어느 정도 해소하기에 충분하다고 생각하시나요?07:33

에이전트들을 안전하게 확보하는 문제와 관련해서 말씀드리면,07:39

결국 인터넷을 돌아다니게 될 때, 그 보안 문제는 어떻게 해결해야 할까요?07:42

제 생각에는, 외부 기관에 이 에이전트들이 어떤 기능을 수행할 수 있는지 검토하도록 하는 것은 매우 긍정적인 일이라고 생각합니다.07:46

하지만 그것이 다른 방법들을 대체해서는 안 된다고 생각합니다.07:52

배포 전에 보안 전문가를 투입하는 것의 대체가 되어서는 안 된다고 생각합니다.07:57

방금 말씀드린 것처럼, 모든 경우와 시나리오에서 일반적으로 배포 후에 많은 감사 작업이 이루어지는 것을 볼 수 있습니다.08:02

보안 전문가를 투입하면 많은 문제를 발견하고 사이버 위생을 개선할 수 있습니다.08:09

배포 전에 문제를 미리 발견하여, 저희가 이러한 사고들을 더 많이 경험하기 전에 잡아낼 수 있습니다.08:15

에이전트 간의 공모가 발생하거나, 에이전트가 인터넷으로 유출되어 문제가 생길 수도 있습니다.08:22

그래서 외부 업체를 투입하는 것은 정말 좋은 생각이라고 생각합니다.08:28

하지만, 그것은 우리가 새로운 프론티어에 대한 적절한 위생을 확보하기 위해 취해야 할 여러 단계 중 하나일 뿐이라고 생각합니다.08:32

새로운 프론티어 주변의 적절한 위생을 유지하기 위해 필요한 조치 중 하나라고 생각합니다.08:35

모델에 대해서요. 이전에 말씀드린 적도 있는데, 이러한 시스템들이 격리되어 있다는 생각입니다.08:40

아마 이 격리를 담당하는 분들이 완전히 이해하지 못하실 수도 있습니다.08:47

프론티어 모델을 말씀하실 때, 테스트되지 않은 상태로 제거한 것을 의미하는 건 무엇인가요.08:53

안전장치를 제거하고 샌드박스에 넣었다면, 충분히 격리되지 않았다는 뜻입니다.09:00

실행하기 전까지는09:07

이런 위험을 감수하게 될 겁니다. 왜냐하면 저희가 이미 이러한 시스템들이 그러한 능력을 가지고 있다는 것을 알고 있기 때문입니다.09:08

그들은 제로데이 취약점을 찾아내서 종이 벽을 뚫고 나갈 만큼 충분히 영리합니다.09:15

그렇다면, 왜 이 시스템들이 더 철저하게 검증될 때까지 인터넷과 가까이 있게끔 허용해야 할까요?09:20

그리고 그것은 제가 십자군 원정대에 있었을 때부터 적용된 핵심적인 보안 원칙입니다.09:28

그리고, 아시다시피 우리는 그 교훈들을 얻었고, 그런데 어떻게 해서인지 아무도 그걸 기록하지 않은 것 같습니다.09:34

역사에 잊혀진 것 같습니다.09:41

에어 갭이 무엇인지 다시 한번 말씀드리자면, 에어 갭은 단순히 선이 연결되지 않았다는 의미가 아닙니다.09:43

Wi-Fi는 에어 갭으로 간주되지 않습니다. 네, 공기라는 점은 맞지만, 에어 갭이 아닙니다.09:51

제가 에어 갭이라고 말씀드릴 때는 Wi-Fi가 꺼져 있다는 의미가 아닙니다.09:57

제가 말씀드리는 건, 와이파이 기능이 시스템에서 제거된 상태라는 뜻입니다.10:02

아예 존재하지 않는 것이죠. 그것이 에어 갭이라고 할 수 있으며, 블루투스나 다른 종류의 무선 기술도 포함됩니다.10:06

혹시 우리 모두를 지울 수 있는 바이러스를 개발한다면, 다른 네트워킹 기술도 고려해야 합니다. 그런 상황이라면 연구실에 격리가 필수적입니다. 단순히 문을 닫는 것만으로는 충분하지 않아요.10:13

물론, 연구실의 문을 닫아둔다고 해서 다 해결되는 건 아니죠.10:20

대부분의 시간 동안이죠. 저는 금고 안에 또 금고, 그리고 또 금고가 있어야 한다고 생각해요. 그런데 지금은 그렇게 되고 있지는 않고요.10:26

여기서는 잘 갖춰진, 장기적인 보안 원칙들이 건너뛰어진 것처럼 보이네요.10:33

거기 계신 분들께 하나 더 여쭤보고 싶은 질문이 있습니다만, 이동해야 할 시간이 되기 전에 말씀드리고 싶습니다.10:39

NBC의 보도에 따르면, 적어도 이야기 속에서는 약간의 긴장감이 있는 것 같습니다.10:43

보고서에서는 실험실들이 이 문제를 일치(alignment) 문제로 보고 있습니다.10:48

모델을 충분히 잘 학습시키면 규칙을 어기지 않을 거라는 생각인 것 같아요. 그리고 많은 사이버...10:54

보안 전문가들이 말씀하시길, 정렬 문제는 통제 장치를 마련하는 것과는 조금 다른 문제라는 지적도 있습니다.10:58

정렬을 달성했다고 해도 MFA와 같은 다중 인증과 같은 요소들도 필요할 수 있습니다.11:04

니키 씨, 여기서 마무리하기 전에 이 부분에 대한 니키 씨의 의견을 듣고 싶습니다. 여기에서 정렬에 너무 많은 강조가 실린 것은 아닌지 생각하시나요?11:08

이 논의에 대해 어떻게 생각하시는지 궁금합니다. 저희가 통제 방식에 대해 이야기하는 것과 매우 유사하네요.11:15

일반적인 환경과는 다른 환경에서 다르게 적용될 수 있습니다. 인공지능 보안과 관련해서 투명성을 이야기하잖아요.11:22

기술이 다르게 작동하기 때문에 다른 용어를 사용하지만, 많은 부분은 동일합니다.11:28

원칙들은 여전히 적용될 겁니다. 그리고 저는 어원학에 관심이 많은 편이에요.11:35

언어의 기원을 연구하는 것을 좋아해요. 언어는 특히 사이버 보안 분야에서 우리가 사용하는 방식과 관련해서 정말 중요하다고 생각합니다.11:40

그러니까 우리가 하는 말과 실제로 의미하는 것 사이의 다리를 좀 더 확실히 놓을 수 있다면,11:46

그 용어들의 정의를 명확하게 하여 그 간극을 메우는 데 정말, 정말 도움이 될 거라고 생각합니다.11:52

정렬 및 보안 통제에 대해 이야기할 때, 우리는 두 가지 다른 것을 논하고 있다고 생각합니다.11:58

그렇다면 우리는 그것들을 어떻게 정의하고 사람들이 사이버 보안이라고 말하는 것이 무엇을 의미하는지 이해하도록 도울 수 있을까요?12:02

저도 가끔 그 단어가 좀 거창하게 느껴질 때가 있어요. 인공지능(AI)과 마찬가지로요. 사람들은 AI라는 말을 정말 다양한 상황에 쓰지만, 그 의미도 굉장히 다양하잖아요.12:07

둘 다 고려해야 하고 어느 한쪽만 선택할 수는 없어요. 인공지능이 등장하기 전에도 그랬으니까요.12:14

우리는 시스템을 사용하는 일반적인 사용자분들이 계십니다.12:21

그래서 '정렬(alignment)'은, 음, 저희가 사람들에게 해서는 안 될 일을 알려주고, 그들이 그걸 하지 않기를 바라는 것을 의미합니다.12:23

하지만 가끔은 그렇더라도 어쩔 수 없다는 걸 알고 있습니다. 그래서 저희가 통제 장치를 마련하게 된 것이고요.12:30

둘 다 필요합니다. 사람들을 위한 정책과 교육이 있죠.12:34

인공지능에 대해 이야기할 때는 이것을 '정렬'이라고 부릅니다.12:37

그러니까 둘 다 필요하다는 거죠. 네, 정말 좋은 비유라고 생각합니다.12:41

그리고 닉, 말씀하신 방식이 좋네요. 어느 정도는 소통의 문제라고 해도 되겠어요, 그렇죠?12:45

서로 다른 것을 이야기하고 있는 것 같아요. 용어를 명확하게 정의하지 않아서 그런 거죠.12:50

아마리 씨, 마무리할 말씀 있으신가요? 네, 물론입니다. 제프와 니키의 의견을 종합해서 보면,12:55

저는 누가 정의하는지에 따라 얼라인먼트가 달라진다고 생각합니다.13:01

제가 '정렬'이라고 말씀드릴 때, 꼭 보안 모범 사례에 맞춰 정렬하는 것은 아니라는 의미입니다.13:05

지난 몇 분 동안 논의했던 것처럼 실제로 보안을 강화하고 확실히 하는 모든 사항과는 다를 수 있습니다.13:10

적절한 안전장치가 마련되어 있다는 것이 중요합니다.13:16

하지만, 기업들이 모델을 운영 효율성을 높이는 방향으로 맞추는 것처럼 보입니다.13:18

가능한 한 효율적으로 운영해서 기업의 수익을 창출하는 데 집중하는 것처럼 보이고, 필연적으로 발생할 수 있는13:24

전반적인 영향까지 고려하지 않는 것 같습니다. 그리고 이는 감독 및 통제의 부족에서 비롯된 문제입니다.13:30

그리고 제가 말씀드린 것처럼, 방향이 잘못된 정렬이라고 할 수 있겠네요.13:37

네, 그렇습니다. 다음 소식으로 넘어가야 할 것 같습니다.13:41

이 주제에 대해서 계속 이야기할 수도 있겠지만, 다음 소식으로 넘어가겠습니다. 틱톡 카메라 해킹 사건입니다.13:45

계속 이야기해도 좋을 것 같지만, 이제 다음 소식을 전하겠습니다. 틱톡 카메라가 해킹당했습니다.13:45

워싱턴 포스트의 개럿 데빈크 기자가 보안 연구원들과 공격자들 또한 사용하고 있는, 무료로 공개된 AI 모델이 점점 더 정교한 사이버 작전에 활용되고 있다고 보도했습니다.13:56

예를 들어 설명하자면요.14:01

데빈크 씨는 사이버 보안 스타트업인 데프스 퍼스트를 예로 들었습니다. 이들은 ZAI의 GLM을 수정하여14:07

틱톡에서 해커들이 사용자의 카메라를 제어할 수 있도록 허용하는 취약점을 발견했습니다. 프론티어 랩과 같은 곳들은 말이죠.14:14

방금 말씀하신 것처럼, 모두 안전을 강화하고 방법을 모색하고 있습니다. 예를 들어, 정렬(alignment)을...14:20

반면에 개방형 환경의 기업들은 대체로 이러한 제한을 두지 않는 것 같습니다.14:25

이런 점들에 대해 허용하고 사람들에게 추가적인 자유를 주는 것은 몇 가지 의문을 제기하게 만듭니다. 패트릭, 이 이야기에서 당신의 눈길을 사로잡은 부분은 무엇인가요? 저는 이것이 어쩌면 미국이14:29

왜 이런지를 보여주는 단서일 수도 있다고 생각합니다.14:34

인공지능 회사들이 인공지능 개발 속도를 조절해야 한다고 이야기하는 것 같아요.14:41

자신들의 최첨단 모델 사용을 제한하고 다른, 있잖아요, 이 경우에는요,14:47

중국 모델들이 그 빈틈을 채우고, 아시죠?14:54

이러한 사이버 보안 연구 시험에 사용될 수 있습니다.14:59

그리고 그게 혹시 무슨 의미가 있을지 궁금하네요.15:05

AI 회사들이 스스로 발을 쏘아 맞히는 걸까요, 아니면 안전하게 생각하고 있는 걸까요?15:10

웃음이 마지막에 웃는 건가요?15:17

제프 씨, 혹시 이 경쟁에서 천천히 꾸준히 나아가는 게 좋다고 생각하시는지 궁금합니다.15:18

제가 말씀드리자면, 제가 옳았다고 말하기 싫지만… 사실은 그렇지 않네요. 하지만 제가 맞았습니다.15:25

바로 이 방송국에서 잠시 전에 일부 선두 모델들이 나왔을 때 이야기했었죠.15:31

보안 장벽들이 제거되었고, 15:38

누가 접근할 수 있는지에 대한 엄격한 통제도 있었습니다.15:40

그리고 많은 사람들이 이 기술이 너무 위험해서 모든 사람에게 주면 안 된다고 말했습니다.15:46

제가 그때 바로 말씀드렸던 것 중 하나는, 그걸 통제할 수 없을 거라고 생각합니다.15:50

시간문제일 뿐 다른 사람들도 결국 그걸 가지게 될 거예요.15:56

그래서 Anthropic이 제일 먼저 발표했고, OpenAI가 그들의 버전을 내놓기까지 단 며칠밖에 안 걸렸습니다.15:59

그래서 안트로픽은 이걸 제한합니다. 좋아요, 그럼 또 다른 업체에서 자신들의 버전을 만듭니다.16:05

심지어 양쪽 모두 좋은 사람들께만 제공하는 완벽한 일을 했다 하더라도,16:10

그런데, 불가능한 이유는 만약 50명에게 비밀을 말한다면, 그건 사실상16:16

비밀이 아니게 되기 때문입니다. 따라서 50개의 회사에 무언가를 준다면, 그것은 더 이상 비밀이 아니죠.16:23

지적되었듯이, 여러 번 상기시켜 주셨듯이, 알아야 할 점은 이 몇몇 회사들만이 강력한 모델을 만들 수 있는 것이 아니라는 것입니다.16:29

이 몇몇 회사들이 강력한 모델을 만드는 유일한 능력을 가진 것이 아닙니다.16:36

그리고 중국에서 나오는 것을 볼 수 있고, 다른 곳에서도 나올 것입니다요.16:42

이것을 할 수 있는 진입 장벽은 계속 낮아질 겁니다요.16:47

가격이 오르지 않을 거예요. 그러면 다른 사람들도 비슷한 성능의 모델을 만들기가 점점 더 쉬워질 거라는 뜻입니다.16:50

6개월 정도 늦어질 수도 있지만, 그 정도는 큰 차이가 없을 겁니다.16:58

그리고 사람들이 보호 장치나 보안 기능이 없는 버전을 만들 수 있게 될 것입니다.17:02

물론, ChatGPT가 처음 나왔을 때부터 이런 일이 벌어졌다는 것을 목격했습니다.17:09

그리고 그걸 이용해서 '악성코드 좀 써줘'라고 한다면, 가이드레일이 작동해서 거부하도록 되어 있습니다.17:13

좋아요, 잘 됐네요.17:19

하지만 워름GPT와 같이 비슷한 버전도 이미 출시되었었습니다.17:20

거기다가 대략 20달러 정도를 내면 한 달 동안 이용할 수 있고, 요청하는 모든 악성코드를 작성해 줄 겁니다.17:26

그러니 누군가가 이런 것을 만들어서 몇몇 사람에게만 준다고 해서 다른 사람들이 그걸 가지고 있지 않다고 단정할 수는 없습니다. 그렇게 되면 우리는 그것을 더 어렵게 만드는 것입니다.17:32

우리가 하고 있는 일은, 그 경우 다른 사람들이 접근하기 더 어렵게 만드는 것입니다.17:39

선한 의도를 가진 사람들이 접근하게 되면 악의적인 사람들도 결국에는 찾을 수 있습니다. 그걸 표현하는 좋은 방법이네요.17:45

제프, 악의적인 사람들은 결국 사용할 겁니다. 선한 의도를 가진 사람들이 이해하기 훨씬 전에요.17:50

담당하고 있습니다. 그런데 이 도구들이, 단위 보고서(42 보고)를 고려해서 좀 더 제한되어야 할지 궁금하네요.17:55

42 보고서입니다.18:02

취약점 14,000개를 발견했는데, 죄송합니다. 그중 99개는 이전에 보고되지 않았습니다.18:03

오마리 씨, 혹시 이 도구를 사용하고 싶으신가요?18:10

벨트, 음... 일하시거나 취약점을 찾으실 때 어떻게 하시는지 궁금합니다. 아니면 인간이 인공지능 탐색을 좀 더 주도적으로 할 수 있게 하는 게 좋겠다고 생각하시나요?18:17

인간이 AI가 시스템을 탐색할 때 좀 더 적극적인 역할을 맡는 것이 좋겠다는 말씀이신가요?18:23

취약점을 발견하는 것과 관련해서, 솔직히 말씀드리면 양날의 검이라고 생각합니다. 그래서 X-Force에 있습니다.18:30

위협 인텔리전스 업무를 하고 있는데, 종종 저희 취약점 인텔리전스 팀과 함께 일합니다.18:36

그리고 그들이 알아차렸거나 저에게 전달된 내용 중 일부는, 인공지능으로 인해 발견되는 많은 취약점들이18:40

때로는 공격 성공을 입증하는 자료나 증거가 부족한 경우가 있다는 것입니다.18:47

개념 증명 수준이거나, 아니면 이러한 AI 에이전트들이 취약점을 발견하는 속도가 너무 과포화 상태에 이르러서18:55

이제 방어자들이 패치해야 할 작업이 상당히 밀려드는 상황을 초래하고 있습니다.19:03

혹시라도 밤에 잠을 설쳐서 환경이 안전하게 보호되는지 확인해야 하는 그런 상황도 발생하겠죠.19:10

새로운 취약점이 발견됨에 따라 환경이 제대로 보호되고 있는지 확인하는 데 어려움을 겪기도 합니다.19:16

그러니까, 방금 말씀하신 내용에 따르면, 저는 제약을 살펴보면서요.19:21

저는 그것을 사이버 범죄뿐만 아니라 전 세계적으로 발생하는 범죄 현상과 비교해서 생각합니다.19:26

제한을 더 많이 할수록, 실제로 영향을 받는 건 좋은 사람들이 아니에요. 죄송하지만...19:32

좋은 사람들에게 영향을 미치게 되죠. 해를 끼치는 사람들, 즉 프론티어 기술을 악용하는 사람들을요.19:39

모델들은 그냥 끄고, '연구팀에서 이걸 사용하지 말라고 했으니 활동을 중단해야겠다.' 라고 말하지 않을 거예요.19:44

연구팀에서 그렇게 하라고 지시하면, 모델 사용을 즉시 중단할 거라고 생각하지 않습니다.19:51

저희가 앞으로 이런 상황이 발생할 거예요. 만약 저희가19:55

국방 관련 기관의 극소수에게만 이 인공지능 도구를 사용하고 활용하도록 허용한다면요.19:58

업무 흐름을 돕기 위한 건데, 공격하는 쪽은 잠재적으로 무제한의20:04

이 모델들을 사용할 수 있는 환경을 가지고 있습니다. 무제한이라는 건, 실제로 사용을 제한하는 사람이 없다는 뜻입니다.20:11

기업 자체를 넘어섭니다.20:18

솔직히 말씀드리면, 저는 점쟁이가 아니지만 누가 알겠습니까.20:21

향후 여섯 달이나 일 년 후에 어떤 일이 벌어질지, 아시다시피 사용이 더 제한될 경우에20:25

마찬가지입니다.20:33

ZA이 있을 때는 연구를 막는 큰 제약은 없었습니다.20:34

팀에서 진정으로 그 능력을 발견하고 활용하여 티크톡의 결함을 찾을 수 있었습니다.20:41

제 생각은 여기까지입니다. 무지는 행복이지만 안전하지는 않네요.20:47

아니요. 취약점을 발견할수록 더 빨리 해결할 수 있습니다.20:52

그게 계속 외부로 남아있고 우리가 그걸 모르는 한, 우리는 계속 취약할 수 있습니다.20:57

아직 취약점을 발견하지 못했다는 건 다른 사람이 이미 발견했을 수도 있다는 뜻이고, 그들은 아마...21:02

얘기를 해드릴게요. 그리고 이건 제게 전에 이 쇼에서 제프가 말씀하신 게 생각나게 하네요.21:09

제 성공 비결인데, 그냥 제프의 말을 인용하는 거예요.21:12

나쁜 사람들이 규칙을 안 지키는 거거든요. 그래서 그들이 나쁜 거죠, 맞죠?21:16

그러니까, 네, 저희가 이걸 안전하게 잠글 수는 있지만, 좋은 사람들만 잠그는 것과 같아요.21:21

그래서 우리가 원하는 것을 제대로 달성하고 있는지에 대한 진정한 의문이 있습니다.21:26

그냥 말씀드리는 건데요, 패트릭 먼저 가세요. 워싱턴 포스트 기사에서 이런 점을 발견했습니다.21:31

연구 자체는 틱톡과 틱톡 앱의 카메라 해킹에 초점을 맞추고 있습니다.21:36

니키, 혹시 기사에서 '어떤 앱도 절대 믿지 말라'고 했는데, 그 점이 궁금하네요.21:42

음, 아이폰에 맥주 관련 앱을 설치한 이후로는 앱을 신뢰하기 어려웠습니다.21:47

부어보면 언제나 나타나는 현상은 아니지만, 소비자로서 무엇을 할 수 있을지 궁금합니다.21:53

평균적으로 틱톡 사용자가 자신의 기기에서 할 수 있는 일이 있는지, 아니면 권한이 있는지 궁금합니다.21:59

스마트폰의 카메라 설정을 끄는 것 외에 스스로를 보호할 수 있는 방법이 있을까요?22:03

이 문제에 대해 제가 아마 좀 과격한 의견을 가지고 있을 것 같아요. 왜냐하면 개인적으로22:08

소셜 미디어를 가입할 때, 혹시 서비스 약관을 읽어본 적이 있다면 저는 그렇게 생각합니다.22:16

혹은 서비스 약관을 가장 좋아하는 AI 챗봇에 넣어보세요. 그러면 어떤 개인 정보22:20

를 포기하게 되는지 알 수 있을 거예요. 소셜 미디어 앱을 사용할 때 많은 개인 정보를 포기하게 되거든요.22:26

카메라에 항상 접근 권한을 제공하고 있을 수도 있고, 데이터 저장 공간에도 접근 권한을 주고 있을 수도 있습니다. 다른 애플리케이션에 접근 권한을 허용하고 있을 수도 있고요. 많은 부분에서...22:31

소비자들이...22:37

인공지능이 등장하기 전에도 사용자들이 인지해야 할 점들이 있습니다. 해킹을 통해 카메라에 접근하거나, 그 외에도 다양한 위험 요소가 존재합니다.22:43

외부적으로도 많은 잠재적인 위험이 있을 수 있습니다.22:49

그 점이 중요하다고 생각합니다. 인공지능은 공격 유형 측면에서 일종의 도움을 주어서,22:55

더 쉽게, 더 빠르게 가능하게 하는 것 같습니다, 그렇죠?23:03

이런 유형의 공격을 만드는 것이 조금 더 쉬워졌습니다.23:07

개인적으로 저는 항상 소셜 미디어를 주의해서 사용하시는 것을 권장합니다.23:09

이 외에도 서비스 약관에 동의할 때 어떤 내용을 동의하는지 주의 깊게 확인하세요.23:15

네, 솔직히 저는 아주 오랜 시간 동안 앱을 신뢰한 적이 없는 것 같아요. 하지만 사이버 보안 분야에서 너무 오래 일해서 그런지도 모르겠습니다.23:20

아마 그게 이유일 수도 있겠네요. 딱 맞는 맥주를 취급하는 앱을 아직 못 찾았거든요.23:26

솔직히 앱을 믿을 수 있다는 걸 몰랐습니다. 오마리 씨, 말씀하세요.23:30

죄송하지만, 제 의견을 말씀드리고 싶습니다. 저는 제프님과는 정반대 생각을 가지고 있거든요.23:33

저는 제프님보다 젊은 세대에 속하는데요, 저희는 틱톡이 정말 활발한 곳입니다.23:37

저보다 다들 나이가 어리시네요. 괜찮아요.23:44

제프 씨를 기준으로 말씀드리면, 저는 스무 살이거든요. 그래서 다들 AD가 있으실 거예요.23:47

아직 어린 애기이지만, 틱톡에 완전히 빠져 있는 세대에서 활동하고 있어요.23:51

항상 거기에 있죠.23:58

소셜 미디어를 계속 사용하려면 어느 정도 거리를 두어야 했어요. 보안 업계에 들어오면서 '이런 일들이 많이 일어나고 있구나'라고 생각하게 되었죠.23:59

읽어보니까, 곰곰히 생각해보니, 사실 얼마 전까지만 해도 이런 일이 있었던 걸 기억해냈습니다.24:05

틱톡과 소셜 미디어에 관련해서는 소송도 많았고, 공유되는 정보의 종류 때문에 논란도 정말 많았습니다.24:11

사람들은 경고를 무시했고, 아무도 크게 관심을 기울이지 않았습니다.24:17

그래서 저는 항상 소셜 미디어에서 사진 접근이 백 퍼센트 필요하다면, 24:24

혹은 연락처나 다른 정보가 필요하다면 가짜 연락처 하나랑 사진 같은 걸 제공해 왔어요.24:30

제가 온라인에서 찾은 고양이 사진을 항상 사용했는데, 제 세대가24:37

알고 있는 방식이죠.24:44

제 또래들 대부분은 연락처에 전부 접근하도록 허락하거나, 전체 접근을 허락하는 경우가 많습니다.24:45

접근하도록24:52

제 카메라, 제 카메라 롤이고, 그렇게 되면 말씀하신 대로, 이제 여러분은 너무 많은...24:53

너무 많은...25:00

여러분의 정보가 수집되고 있다는 점을 말씀드리고 싶어요. 이제 제가 이렇게 말하고 싶네요. 여러분께 말씀드렸듯이, 25:02

접근 권한을 허용하지 마세요. 티k톡이 여러분의 모든 연락처 정보를 알 필요는 없으니까요.25:09

할머니께서 티క్‌톡을 구독하실 것 같지는 않으니, 초대는 나중에 하시는 게 좋을 것 같아요.25:14

하지만 제 세대가 아마 가장 많이 사용하는 플랫폼이라는 걸 생각하면 정말 놀랍네요.25:20

저희 세대가 아마도 주요 사용자 중 한 명일 거예요. 하지만 방금 말씀드린 것처럼, Seth님도 마찬가지고요.25:26

Amari씨, 사이버 보안 분야에 계속 계신다면, 늘 '내가 그랬지'라고 말하게 될 겁니다.25:31

하지만 여러분, 이번 주 마지막 소식으로 이야기를 마무리해야 할 것 같습니다.25:37

여기에는 CISA에서 더 투명한 침해 사고 공개를 촉구하고 있습니다.25:40

보통 보안 사고가 발생하면 조직들이 입을 다물려고 하는 경우가 많습니다.25:48

아시다시피, 가능한 한 말을 적게 하고 법적으로 요구되는 것만 공개하며 최대한 빨리 모든 것을 다시 온라인으로 복구하려고 노력하는 것이죠.25:53

하지만 소프트웨어 공급망이 매우 복잡하게 얽혀 있는 지금은26:00

그런 소극적인 태도가 사람들과 서비스에 실제적인 문제를 일으킬 수 있습니다.26:04

귀하의 시스템에 의존하고, 장애로 인한 결과를 처리하는 것을 의미합니다.26:08

바로 그래서 CISA와 FBI 그리고 일부 국제 파트너들이 '위기 상황에서의 소통(Communicating Under)'이라는 새로운 공지사항을 발표했습니다.26:13

압박감입니다. 해당 권고의 핵심은 조직이 투명성을 높여야 한다는 것입니다.26:19

위기 상황 발생 시 파트너와 대중에게 유용한 정보를 우선시하여 평판 관리가 아닌, 효과적인 커뮤니케이션을 해야 합니다.26:24

크리스 노박 씨가 쿼드룸 어드바이저스 파트너이자 공동 창업자로서 다크 리딩과의 인터뷰에서 말씀하신 것처럼요.26:30

이 권고는 법적으로 공개해야 하는 내용만 공개하는 방식에서 벗어나, 새로운 기대를 제시합니다.26:37

회사 이해관계자들이 스스로 위험을 관리하는 데 필요한 정보를 전달하는 것이 중요합니다.26:42

패트릭 씨, 이 이야기에서 가장 눈에 띄는 점이 무엇인가요? 제 생각에는 합리적이네요.26:47

알다시피, 좀 더 많은 소통과 어떤 사고가 발생할 경우 영향을 받을 사람들에 대한 명확성이 중요하다고 생각합니다.26:54

정말 좋은 변화라고 생각되네요.27:00

음, 니키 씨는 전문 어원학자시잖아요. 그래서 제가 궁금한 게 있는데요.27:02

언어 변화에 대해 어떻게 생각하시는지요? 좋은 아이디어라고 생각하시나요?27:09

사이버 보안 보고에서 부족했던 점을 드러내는 걸까요?27:14

기업들이 말이죠.27:20

다시 한번 말씀드리지만, 다른 분들은 어떻게 생각하실지 모르겠지만, 책임 있는 정보 공개라는 것이 있습니다.27:21

책임 있는 정보 공개는 사람들이 알아야 할 정보를 알려서 이해할 수 있도록 하는 것을 의미합니다.27:29

위험이 있기 때문에, 때로는 세부 사항을 공개하지 않는 이유가 있을 수 있습니다. 그리고 그것은27:34

다른 회사나 조직에 접근할 수 있게 해 줄 수도 있고, 그들에게...27:39

취약점을 이해할 수 있는 접근 권한이 있다는 뜻입니다. 예를 들어, 네트스케일러에 관련된 문제가 있었습니다.27:44

몇 년 전 네트스케일러 익스플로잇 사례가 있었고, 어떻게 공격하는지 설명했습니다. 제가 기억하기로는...27:50

숫자가 제대로 기억하는지 모르겠네요, 인터넷에 연결된 Netscaler가 약 8만 대 정도 피해를 입은 것 같아요.27:56

이틀 안에 그렇게 된 경우도 있었으니까요. 그래서 책임 있는 정보 공개의 중요성이 존재하는 이유가 있습니다.28:00

사이버 보안, 위협 인텔리전스, 위협 헌팅 전문가들이 서로 정보를 공유할 수 있는 채널이 많이 있습니다. 반드시 언론에 보도되는 것은 아니고요.28:06

저희는 그런 소통 채널이 어느 정도 있다고 말씀드릴 수 있습니다.28:14

네, 그렇습니다. 소비자나 조직에게 정보를 공유하는 것이 좋다고 생각합니다.28:19

그 정보가 그들의 플랫폼을 보호하는 데 도움이 될 수 있다면 말이죠.28:26

가장 중요한 것은 다른 조직의 위험을 초래할 수 있는 정보를 공개하지 않는 것입니다, 아시죠?28:29

네, 정말 좋은 지적이세요. 투명성이 반드시 모든 것을 다 드러내는 것이 아니라는 점을 말씀하시는 거죠?28:36

투명성이란 니키 씨가 말씀하신 것처럼, 다른 사람들이 활용할 수 있는 유용한 정보를 투명하게 공개하는 것을 의미합니다.28:42

다른 이해관계자들이 사용할 수 있지만 동시에 자신과 그들에게 위험을 증가시키지 않는 정보에 대한 것이죠.28:48

투명성에 대한 매우 신중한 접근 방식이라고 생각합니다. 패트릭 씨, 말씀해 주시겠어요.28:52

제프 씨에게도 같은 질문을 하고 싶습니다.28:56

새롭게 업데이트된 서비스 제공업체 관련 언어 가이드라인에 대해 어떻게 생각하시나요?28:57

정말 좋은 아이디어라고 생각합니다. 우리 모두 손을 잡고 쿰바야를 함께 부르는 것도 좋을 것 같습니다.29:03

모든 게 수정되었으니까요. 이런 고상한 생각은 정말 멋지고, 실제로 이루어진다면 좋을 거예요.29:09

하지만 이 모든 것을 현실로 만들 가능성은 다른 일에 도전하는 것과 비슷할 수도 있겠네요.29:15

그냥 나쁜 사람들이 잠시만 나쁜 행동을 그만하라고 말하는 거죠. 다시 말해서, 아이디어가 정말 마음에 들어요.29:21

더 많은 투명성이 필요합니다. 그리고 참고로 말씀드리면, 지난주에 OpenAI에서 새로운 것을 발표했습니다.29:28

공시 프레임워크였고, 투명성에 모든 것이 달려 있었어요.29:33

하지만 결국에는 기업들이 개인과 마찬가지로 자신들에게 가장 유리한 방향으로 움직일 거예요.29:37

투명하게 공개하는 것이 자신들에게 가장 유리하다고 판단될 때 그렇게 할 겁니다.29:45

그렇지 않을 때는 투명성을 회피할 가능성이 높습니다.29:50

그래서 이 문제를 완전히 해결되었다고 보기는 어렵다고 생각합니다.29:53

니키 씨의 말씀대로 책임 있는 공개는 중요합니다.30:00

이것 또한 예전부터 있던 교훈인데, 많은 분들이 잊으신 것 같아요.30:02

30년이나 된 개념인데, 마치 새롭게 발견한 것처럼 행동하고 있습니다.30:08

아이디어잖아요. 마치, 아시겠지만, 예전에 이 영화를 봤었는데 다시 보고 있어요.30:15

모두가 이 아이디어에 대해 깨닫고 있는 것처럼요.30:20

정말 좋겠고 필요합니다. 다시 한번 말씀드리지만, 누가 이것에 동참하지 않겠어요?30:24

그들은 나쁜 놈이 될 겁니다. 아시다시피, 인공지능을 만들고 있는 회사들이 그런 위치가 되겠죠.30:30

책임에 대해 신경 쓰지 않는 곳들이 있습니다. 그들은 단순히 이익만 추구하죠.30:35

혹은, 차세대 GPT와 같은 AI를 만들고 있는 회사들일 겁니다.30:40

그러한 것들은 계속 존재할 것이고, 저희는 그 문제를 직접적으로 해결하지 못할 겁니다.30:46

하지만 투명성을 더 요구하는 것은, 뭐 항상 괜찮은 일이죠.30:51

솔직히 말씀드리자면, 뒷받침할 만한 강력한 조치가 없다면 조금 순진해 보이는 것 같아요.30:57

네. 오마리 씨, 혹시 이게 좋은 아이디어처럼 들리는지 궁금합니다.31:02

혹시 그냥 보고서 작성 시간을 더 늘리는 불필요한 업무가 될 수도 있겠네요.31:07

알다시피, 청중을 파악하고 간결한 요약으로 시작하며 투명성과 책임감을 강조하는 등 다양한 제안들이 많습니다.31:14

위기 상황에 처해 있을 때 하면 할 일이 엄청 많아 보이는 것 같아요.31:22

그럼 현실과 의도 사이의 차이에 대해 어떻게 생각하시나요?31:26

이런 일과 같은 경우에 대해 어떻게 생각하시나요? 전체적인 의도로 볼 때, 매우 유익하다고 생각합니다.31:34

특히 위협 인텔리전스 커뮤니티에서 거의 일대일로 협업하는 입장에서요.31:40

사고 대응팀과 협력하는 경우도 있는데, 이것은 모든 조직에 매우 유익할 수 있습니다.31:46

자신을 보호하고 다른 회사와 같은 기업의 안전도 보장하는 데 도움이 됩니다.31:53

저희도 비슷한 공격의 영향을 받고 있습니다. 말씀드린 것처럼, 저는 제프 팀에 속해 있는데,31:59

전반적인 권고 사항은 훌륭한 행동 촉구라고 생각하지만, 실제로 그런가요?32:06

혼자 하는 것이 아니에요. 행동 촉구입니다. 하지만 현실적으로 볼 때, 모두가 같은 방식으로 반응하지는 않을 것 같아요.32:13

각 조직에서 가장 중요한 것은 브랜드 평판이라는 점이 있습니다.32:19

그 조직을 위한 전체적인 홍보 효과에 관한 것이네요. 홍보가 얼마나 중요한지, 특히 사건 발생 시기에32:24

지금은 회사들이 완전히...32:30

그것은 지워 주세요.32:37

접근 방식을 바꿔서, 홍보를 없애고, 솔직하고 투명하게 보고하는 방식으로 진행해 봅시다.32:38

본론으로 바로 들어가서, 저는 그렇게 되지 않을 거라고 생각하거나, 효과적으로 이루어지지 않을 거라고 생각합니다.32:44

그것32:52

음, 전체적인 의도는 본질적으로 저는 좋다고 생각합니다. 만약 우리가32:52

여기서 모두 그렇게 말할 수 있다면요.32:59

100% 투명하게, 핵심을 파악하고, 솔직하게 말씀드리고, 실제로 무슨 일이 있었는지 공유하는 것이 중요합니다.33:00

그리고 효과적으로 소통하면 조직과 저희 고객들이 많은 돈을 절약할 수 있습니다.33:06

시간이 정말 많이 걸리겠네요. 보고서를 보면, 언제쯤 실행될 수 있을지 궁금해져요.33:13

얼마나 효과적일까요? 그리고 누가 실제로 효과적인 보고 방식을 결정할 건가요?33:18

어떻게 보이는지 궁금하네요. 아마리 씨, 그렇게 염세적인 분이시다니 너무 어리신 것 같아요.33:25

시청자 여러분, 이제 방송 종료 시간이 다가오고 있지만 마지막 질문 하나 드리고 싶습니다.33:30

패널분들께 질문을 드리고, 혹시 의견 있으시면 자유롭게 말씀해 주셔도 좋습니다. 제가 궁금한 건, 저희 모두 어느 정도33:34

인식하고 있는 부분이 있습니다.33:38

이런 아이디어를 내놓는 건 정말 좋고, 더 많은 사람들이 따랐으면 하는 바람이지만,33:43

결국 실행력이 없으면 아무 소용이 없습니다. 뭔가 뒷받침할 힘을 실어줘야 할 것 같아요.33:47

패널 분들께 드리는 질문은, 이와 같은 것에 힘을 실어줄 수 있는 방법이 있을까요? 아니면 순전히 자율적인 것일까요? 이게 본질적인 특성이라고 생각합니다. 혹시 의견 있으신 분 계신가요?33:51

마무리하기 전에 관련해서 어떤 의견들이 있으신지 궁금합니다.33:55

나가셔야 할 분들 계신가요? 쉽지 않을 거예요. 많은 사람들이 규제에 대해 이야기하고 있는데, 저는 규제 자체를 반대하지 않습니다.34:00

규제의 문제는 법이나 정책을 만들 때마다 그게...34:04

반드시 관할권에 속하는 것도 아니고, 기술은 본질적으로 세계적입니다.34:10

그래서 여기 법을 통과시킬 수도 있습니다.34:15

그리고 여기서는 시행되더라도 다른 곳에서는 시행되지 않을 수 있습니다.34:18

그러니까, 아시다시피 또다시 순진하게 생각해서 법을 통과했으니 문제가 해결되었다고 생각하면 안 됩니다.34:22

우리도 오래전에 절도 행위에 대한 법을 통과시켰지만, 그것이 완전히 없애지는 못했습니다.34:29

그 법들을 계속 유지하는 것은 좋지만, 단순히 법을 제정한다고 해서 문제가 해결되지는 않습니다.34:35

범죄를 막기 위해 뭐든 할 수 있죠, 니키 씨. 추가할 내용이 있으신가요? 저는 규제 부분에 대해 더 말씀드리고 싶습니다.34:41

제가 생각하기에는 실제로 영향을 미칠 수 있는 방법은 아마 규제를 통해 가능할 겁니다.34:47

기관에서 시행하는 것도 중요하지만, 제프 말씀처럼 기술은 전 세계적이고, 저 또한 말씀드리고 싶은 건데요.34:53

또 다른 어려움은 인공지능이 너무 빠르게 변화한다는 점입니다. 규제하거나 법률을 만들 때요.34:59

정말 빠르게, 끊임없이 변하고 있고, 네 달 뒤에는 어떤 모습일지조차 알 수 없어요.35:06

연말까지 상황이 바뀔 수도 있으니까요. 특히 저는 매우 매우 어렵다고 생각합니다.35:11

법적 절차를 통해 정책을 만드는 데 시간이 너무 오래 걸려서, 음, 6개월 안에 의미 있는 인공지능 규제를 시행하는 것은 매우 어렵습니다.35:16

언어가 정말 중요하기 때문에, 법안이 빠르게 변화하는 현실에 맞춰지지 않을 수도 있습니다.35:21

만약 언어가 제대로 정립되지 않으면 적용이 안 될 수도 있습니다.35:28

니키 씨의 말씀이 정말 적절하네요. 생각해보지 못했는데, 예를 들어서 ChatGPT가 처음 등장했을 때 AI 관련 규정을 이미 통과시켰다면 어땠을까요?35:32

에이전트도 아직 없었을 거예요. 무슨 말씀인지 아시죠? 예를 들어, 그때 반영되지 않았을 수도 있다는 뜻이에요.35:38

거의 그렇게 오래된 일도 아니었어요. 아마리 씨, 마무리할 말씀 있으신가요?35:43

제프와 니키가 완벽하게 잘 말씀하셨습니다.35:47

혹시 더 추가할 내용이 있다면, 아마 저희가 할 수 있을 것 같습니다.35:49

언젠가 그런 일이 있다면 정말 좋을 것 같습니다. NATO처럼 인공지능 관련 조직이 있다면,35:55

여러 나라들이 함께 문제를 인식하고 협력할 수 있는 놀라운 일이라고 생각합니다.36:02

그리고 이렇게 질문하게 되겠죠, 어떻게 이 문제를 2099년에 인공지능으로 인한 종말적인 사건이 일어나기 전에 해결할 수 있을까요?36:07

알잖아요, 2099년에 그런 최악의 상황이 벌어지지 않도록요.36:12

그러니까 끊임없이 변화하는 무언가가 될 거예요.36:17

결국에는 조직들이 이해해야 할 문제예요.36:21

어디서 비상 장치를 당겨야 할지, 어디에서 중단해야 할지 말씀하시는 거예요. 저희가 너무나 강력한 모델을 만들어버렸다고요.36:26

알다시피, 어쩌면 이 모델은 땅 밑 160km 깊이 아래에 보관해야 할지도 모르겠어요.36:33

그리고 세상에 알려지지 않는 비밀 투표를 통해서요.36:40

정말로요, 에어 갭을, 제프.36:45

이 점을 참고해서, 여러분 이번 에피소드는 이것으로 마치겠습니다. 패널로 참여해주신 제프와 니키 그리고 오마리 씨에게 감사드립니다. 공동 진행을 맡아주신 패트릭 씨에게도 감사드리고요.36:47

시청자와 청취자분들께, 그리고 저희를 지지해주시는 분들께도 진심으로 감사드립니다.36:53

저희 제작진은 보안 인텔리전스에 구독하시고, 팟캐스트를 들으시는 곳에서 찾아보세요. 에피소드를 놓치지 않도록 하세요.36:58

안전하게 지내시고, 고대의 사이버 보안 지혜를 꼭 기억해주세요.37:03

궁금하시면 제프에게 그냥 물어보세요. 그가 다 알고 있거든요.37:08