안녕하세요, 제 이름은 블라드입니다. 저는 BENT의 공동 창업자이자 최고 기술 책임자예요.00:13

시작하기 전에 간단한 퀴즈를 하나 해볼게요.00:17

C 또는 K? C라고 생각하시는 분은 손을 들어주세요. K?00:23

둘 다 맞다고 생각하는 사람 있나요?00:29

좋아요, 몇 분이시네요. 둘 다 맞습니다.00:33

하나는 반지의 제왕에서, 다른 하나는 워해머 게임 워크숍 게임에서 나왔어요.00:36

오늘 다룰 주제가 네 가지 있어요.00:44

첫 번째 주제는 저희 회사의 핵심 신념에 대해 말씀드릴게요.00:47

그다음에는 적대적 에이전트에서부터 루프 엔지니어링을 거쳐 더 나아가는 AI 진화에 대해 이야기할 거예요.00:53

그리고 내일 우리가 해결해야 할 기술적인 과제들에 대해서도 간략하게 다룰게요.00:58

그리고 저희 회사가 무엇을 하고 어떤 문제를 해결하는지 소개하고 싶어요.01:04

저희의 주장은 미래는 비즈니스 내 AI 커뮤니케이션에 달려 있다는 거예요,01:10

기업 간 그리고 소비자-기업 간 소통에 있어요.01:18

에이전트들은 어디에나 존재하고, 저희를 대신해서 일을 하고 서로 소통해야 해요.01:21

다양한 프레임워크와 언어로 작성되고 다양한 환경에 배포될 거예요.01:27

그리고 이 에이전트들은 완전히 자율적일 거고, 사람의 개입 없이 서로 소통할 거예요.01:31

이제 에이전트 간의 소통이 어떻게 이루어질지 설명하기 전에 그림을 보여드릴게요.01:40

여기 보이는 것은 에이전트들이 스스로 만들 수 있는 대화 공간이에요, 추가될 수 있도록요.01:48

사람이나 다른 시스템으로부터 작업을 받을 거예요.01:54

그리고 다른 에이전트를 발견할 수 있을 거예요,01:58

대화 공간의 참여자로서, 주고받는 대화를 하고,02:01

과제를 해결하고 사람에게 보고합니다. 신문에서 보신 미래가 바로 이런 모습일 거예요.02:06

그리고 사람들이 이걸 들으면 너무 먼 미래의 이야기거나 제가 미쳤다고 생각하죠.02:15

네, 됐어요.02:23

그리고 100억 달러 규모의 회사의 CTO와 나눴던 대화의 예시가 있습니다.02:25

가상 문제에 대한 기술적인 해결책을 고려하기 전에,02:30

멀티 에이전트 조정처럼, 저는 간단하게 유지하고 문제를 피하려고 노력해요.02:35

자, 풀어보죠. 멀티 에이전트 조정은 가상의 문제인가요?02:42

단순하게 유지하는 게 가능할까요?02:47

그리고 문제를 피할 수 있을까요?02:51

이제 적대적 에이전트라는 개념에 대해 조금 이야기해 봅시다.02:57

우리 모두 이 방법을 사용하고 있어요. 여기 계신 분들 대부분 개발자일 거라고 확신해요.03:02

그리고 개발자로서 두 개의 클로도코드엑스 세션을 가지고 있을 거예요.03:06

하나는 작업을 하고, 다른 하나는 검토하는 역할을 해요. 아마 두 세션뿐만 아니라03:10

여러 개의 탭과 여러 세션을 동시에 여러 문제에 대해 사용하고 있을 거예요.03:15

기본적으로 라우터 역할을 하고 있어요,03:23

여러분의 일을 대신하는 두 개의 상태 기반 에이전트 사이의 시스코 라우터나 스위치 역할을 하는 거죠,03:26

하지만 그들은 서로 소통할 수 없기 때문에 프롬프트를 제공해야 해요.03:32

이제 루프 엔지니어링에 대해 이야기해 봅시다.03:37

전에 이 사람이 피터와 보리스에 대해 이야기한 적이 있죠?03:40

그래서 그들은 당신에게 뭐라고 말하죠? 기본적으로 에이전트들 사이의 라우터 역할을 그만하라고 말해요.03:44

에이전트들이 서로 프롬프트를 보내도록 하라고요.03:51

지금 그들이 당신에게 기본적으로 말하는 것은, 라우터 역할을 하고 자료를 복사 붙여넣기 하는 대신03:54

Python과 TypeScript 라이브러리 그리고 다양한 추상화 레이어와 씨름하기 시작해야 해요.04:01

에이전트들이 어떻게 서로 프롬프트를 보내야 할지 고안하도록 만들 거예요.04:05

저희는 프로토콜도 가지고 있어요.04:11

A2A, MCP, ACP 그리고 암호화 관련 다른 10개의 프로토콜이 있죠.04:13

간단하죠. 모든 문제를 해결해 줄 거예요, 그렇죠?04:20

그래서 시스템이 어떻게 생겼을까요? 아마도 실제 운영 환경에 적용되었겠죠.04:23

MCP는, 만약 정말로 고수라면 A2A를 사용할 수 있을 거예요.04:26

그리고 들으면 간단해 보입니다.04:31

에이전트를 도구로 호출하고, A2A를 통해 에이전트에 연결하면 모든 것이 잘 풀리는 것 같아요.04:33

하지만 MCP는 에이전트를 도구로 호출하면 완전히 상태가 없는 방식이에요.04:38

두 개의 에이전트가 상태를 유지하고 세션을 연결하려면 행운을 빌어요.04:42

API는 클라이언트-서버 방식입니다.04:47

제가 에이전트라면 다른 에이전트에 작업을 보낼 수 있지만, 이 에이전트도 저에게 작업을 보내고 싶다면 우리 둘 다04:49

클라이언트와 서버가 모두 되어야 합니다.04:56

여러 에이전트 호출을 연결하면 REST API 타임아웃 문제가 발생합니다.04:59

그걸 관리하려면 행운을 빌어요.05:04

그리고 당연히 아무도 여러분에게 말해주지 않지만 메시지가 전송되는 것을 추적하려면 지속성을 가진 큐가 필요합니다.05:06

전송되는 메시지를 추적하기 위해 지속성을 가진 큐 등이 필요하고, 물론 디스커버리 기능은 A2A 프로토콜에 포함되지 않아요.05:13

기본적으로 계획 작업을 직접 하고 계시는 거예요.05:19

멀티 에이전트 시스템을 만들고 계신 게 아니에요. 계획만 처리하고 계시죠.05:22

하지만 메시징 플랫폼은 있어요. 슬랙이죠.05:27

앤스로픽에서 멋진 에이전트를 출시했어요. 슬랙에서 대화할 수 있죠.05:31

저희는 개인 에이전트도 가지고 있어요. 그리고 텔레그램과 연결되어 있네요, 그렇죠?05:36

정말 멋지네요. 에이전트를 텔레그램에 연결하려면 다섯 단계가 필요해요.05:40

디스코드, 일곱 단계요.05:46

슬램, 여덟 단계요.05:50

왓츠앱, 열한 단계요.05:53

모든 단계는 수동으로 해야 하고, 직접 손으로 해야 하며, 문서를 읽어야 해요.05:55

다시 말해서, 많은 계획과 수동 작업을 하고 있어요.06:03

그리고 이것은 단 하나의 것만 줍니다. 보통 당신인 에이전트가 사람과 대화할 수 있다는 거죠.06:07

당신의 에이전트는 여전히06:14

혼자 있고, 서로 볼 수 없고, 서로 소통할 수 없어요. 디지털 고독 감금 상태에 있는 거죠.06:16

제가 들었던 내용들을 풀어보죠.06:23

이 CTO에게서 멀티 에이전트 조정이 가상적인 문제인가요?06:28

명백히 두 세션 사이에서 내용을 복사해서 붙여넣고 있다면, 이것이 오늘날의 문제이고06:32

가상적인 것이 아니에요. MCP와 A2A를 연결하는 것, 이것이 오늘날의 문제입니다.06:38

미래의 문제가 아니에요. 이 문제를 피할 수 있을까요?06:43

명백히 불가능해요. 그렇지 않으면 우리 모두가 단 하나의 세션으로 작업하고 두 개의 세션으로 작업하지 않았을 거예요.06:47

다른 에이전트를 도구로 호출할 필요도 없을 거예요.06:54

하지만 질문은, 간단하게 유지하는 것이 가능한가 하는 거에요.06:58

그리고 답은, 우리가 논의했던 모든 옵션을 살펴본다면07:04

그렇지 않아요.07:10

하지만 제 노트북에서 두 개의 세션, 두 개의 프로세스를 연결하는 것이 얼마나 어려울 수 있겠어요?07:12

제 클라우드를 Landoff에 연결하는 것이 얼마나 어려울 수 있겠어요?07:20

또는 Salesforce 에이전트에서 Databricks 에이전트로, SAP 에이전트로, 제 Codex로 연결하는 것까지요?07:24

사실 매우 어려워요. 한번 생각해 보세요.07:33

이 에이전트들, 심지어 두 개의 세션조차도 서로 통신해야 하는 프로세스예요.07:37

서로 네트워크를 통해 통신해야 하는 분산 시스템 문제예요.07:42

에이전트를 도입하기 전에도 분산 시스템은 어려워요.07:45

그리고 멀티 에이전트 시스템에서 모든 에이전트가 원격이면 기본적으로 분산이에요.07:52

각 마이크로 서비스가 비결정적인 마이크로 서비스들의 시스템이죠.07:57

그래서 어려워요. 그걸 쉽게 만들기 위해 무엇을 해결해야 할까요?08:00

트랜스포트 레이어를 해결해야 해요.08:06

정렬된 메시지 전달, 실시간 메시지 전달, 재시도 같은 것들을 해결하고 연속성을 확보해야 해요.08:09

마이크로 서비스, 에이전트, 소프트웨어, 포드, 도커, 크래시 같은 것들이 발생해요.08:16

그래서 지속성과 수화가 필요하고, 에이전트 프레임워크 간의 사전 바인딩도 해야 해요.08:21

다양한 에이전틱 프레임워크가 있고, 스레드 ID, 대화 ID, 실행 ID 같은 것들이 있어요.08:27

그리고 이 모든 ID를 연결해서 에이전트들이 실제로 상호 작용할 수 있도록 해야 합니다.08:33

하지만 그것만으로는 충분하지 않습니다. 에이전트들은 ~에서 소통할 수 없어요.08:38

IP 포트 레벨에서도, URL 레벨에서도, 심지어 ~에서도 소통할 수 없어요.08:42

최상위 레벨에서도요. 조직으로서 아직 많은 계획을 세워야 하거든요.08:48

그래서 에이전트들이 서로 대화하는 멋진 미래를 위해서는 기술 스택의 추상화를 대화 레벨로 끌어올려야 합니다.08:53

방, 채널, 참가자를 이야기하고, 채널 내에서 그리고 서로 다른 채널을 가로지르는 결정론적 라우팅을 파악해야 합니다.09:00

채널 내 메시지와 서로 다른 채널 간의 라우팅을 해결해도 여전히 충분하지 않습니다.09:07

거버넌스 레이어, ID, 감사 등을 해결해야 합니다.09:13

그래서 Bent를 소개하겠습니다. 저희가 이미 해결한 부분이라서 여러분은 신경 쓰지 않아도 됩니다.09:19

모든 에이전트를 연결하고 모든 에이전트에 대한 글로벌 협업 레이어를 추가합니다.09:25

어떤 프레임워크든 배포될 때마다요.09:32

내부적으로는 단순한 통신뿐 아니라, 에이전트들이 서로 대화하는 데 필요한 모든 기본 기능을 구현했어요.09:35

데모를 보여드릴게요.09:43

보시는 것처럼 두 명의 다른 사용자가 협업 레이어에 연결되어 있어요.09:46

블라드는 개인 비서가 있고, 마이크는 에이전트가 없어요.09:50

오른쪽 터미널에서 여러 에이전트를 실행해서 플랫폼에 온보딩할 거예요.09:54

새로운 에이전트 온보딩 속도가 얼마나 빠른지 확인해 볼까요?10:02

방금 새로운 에이전트를 실행했고, 프로그래밍 방식으로 등록하고 에이전트 카드에 온보딩되었어요. 코덱스 에이전트예요.10:06

다음으로 LandGraph 에이전트를 실행해 볼게요. 이 LandGraph도 플랫폼에 나타나요.10:13

이 순간부터 서로가 존재한다는 것을 알고 서로 대화할 수 있어요.10:16

이제 Codex 에이전트에게 제 개인 비서에게 연결 요청을 보내도록 하겠습니다.10:21

참고로 사용자마다 다른 레지스트리가 있습니다.10:27

제 개인 비서에게 연결 요청, 연락 요청이 전송될 거에요.10:31

양방향 동의가 필요하고, 잠시 후 여기 도착할 거에요.10:35

제가 이걸 승인하는 순간, 이 Codex는 제 개인 비서를 알게 되고 볼 수 있게 됩니다,10:39

개인 비서를 대화에 초대하고 이 개인 비서에게 메시지를 보낼 수 있습니다.10:46

그래서 Codex에게 Andy를 초대하도록 요청하는 거에요.11:02

Andy가 초대받고 메시지를 받았으며 보고해줬어요.11:05

하지만 오늘날의 문제에 대해 이야기해 봅시다.11:10

우리 모두 개발자입니다. 여러 세션을 사용하고 있을 거에요, 아마 많은 세션들을요.11:14

라우팅을 하는데, 마음에 안 들어요.11:20

간식 먹으러 갔다가 돌아와보면 에이전트들이 뭘 했는지 전혀 몰라요.11:23

그리고 관리자 입장에서 티켓 귀속과 토큰 비용이 얼마나 들었는지도 몰라요.11:29

그리고 토큰 같은 것들, 그 외에도 여러 가지요. 그리고 귀사의 담당자가 얼마나 오래 관여했는지도 모르실 거예요.11:36

제가 잼을 소개해 드릴게요. 잼은 내부 제품입니다.11:45

이렇게 소프트웨어를 개발했고, Benk 위에 구축했어요.11:48

잼은 로컬 에이전트의 플랫폼 온보딩을 간편하게 해주는 데스크톱 애플리케이션이에요.11:55

에이전트를 플랫폼에 온보딩하고, 방금 언급했던 문제들을 해결해줘요.12:00

그래서 라우팅 문제를 해결하고, 컨텍스트 과부하를 줄이며, 비용 관리와 귀속을 해결해요.12:06

그리고 멀티 에이전트와 여러 사람의 협업을 함께 지원해요.12:13

여기서 보이는 것은12:19

로컬 에이전트와 원격 에이전트가 함께 작동하고, 모든 것을 캡처합니다.12:21

클로드와 코덱스가 스스로 작업을 수행할 때 생성하는 작업들을12:28

작업하고, 이 정보를 보여드려서 이러한 에이전트들이 어떤 일을 하는지 추적할 수 있도록 합니다.12:35

에이전트가 무엇을 하고 있는지 확인하는 로컬 세션이나12:40

친구와 함께 하는 세션일 수도 있습니다. 왜냐하면 에이전트가 무엇을 하고 있는지 이해하려고 노력하는 것은, 1백만 토큰에 곱하기 3.12:45

굉장히 많은 양입니다. 에이전트 팀이 무엇을 하고 있는지 이해하는 완전히 다른 방법이 필요합니다.12:52

게다가, 에이전트가 소프트웨어 아키텍처의 레이아웃을 설명할 수 있는 방법을 제공합니다.12:56

작업하고 있습니다. 이것은 오른쪽에서 보시는 내용입니다. 그리고13:03

에이전트가 지금 어디에서 작업하는지 실시간으로 확인하고 어떤 부분을13:07

만약 그들이 실시간으로 어떤 컴포넌트를 만지고 있다면, 작업이 끝나면 마켓도 끝나요.13:13

사람의 개입이 필요하면 알림을 받으실 수 있어요.13:18

이제 이 데스크톱 애플리케이션을 사용하실 필요는 없어요.13:21

터미널을 열어서 터미널에서 작업하실 수도 있어요.13:24

모든 통신이 네트워크를 통해 이루어지기 때문에, 모든 것을 모니터링하고 유용한 정보를 보여줄 수 있어요.13:31

다른 많은 유용한 정보도 제공할 수 있고, 제 에이전트가 여러분의 에이전트에 참여하도록 할 수 있어요.13:38

원격으로 작업하는 팀원이 에이전트와 함께 세션에 참여하도록 할 수 있어요.13:44

그렇게 하면 문제를 해결하는 데 도움을 받을 수 있죠.13:51

보안 에이전트를 위한 기술을 유지하는 보안 담당자가 있다면, 그의 기술을 복사할 필요가 없어요.13:54

그의 에이전트에게 참여하도록 신호를 보내서 문제를 해결해 달라고 할 수 있어요.14:01

이제 제가 플랫폼 자체를 보여드리고 싶습니다.14:09

그래서 저희 모두 매니저니까 그래프부터 시작할게요.14:14

애플리케이션을 열면 로컬 에이전트와 원격 에이전트 간의 트래픽 통계가 모두 보입니다.14:18

예를 들어 여기 보시면 풀스택 개발자가 있고, 토큰은 2,000 달러 사용했어요.14:24

이건 로컬 클라우드 세션이고, 여기 보시면 아키텍트가 있고 토큰은 600 달러 사용했어요.14:31

이건 로컬 코덱 세션이고 나머지는 다른 환경에서 실행되는 다양한 에이전트들입니다.14:38

근데 어떻게 함께 작동하는 걸까요?14:46

에이전트들이 함께 볼 수 있도록 파이썬 코드가 에이전트를 트리거하나요?14:48

아니요. 현재 모든 모델은 많은 양의 데이터로 학습되었기 때문에,14:54

그래서 메시징 플랫폼을 통해 어떻게 소통하는지 아주 잘 이해합니다.15:01

그래서 제가 오늘 아침에 실제로 한 업무가 있습니다.15:08

엔지니어링 매니저, 개발자 그리고 아키텍트, CodeCode의 여러 인스턴스가15:12

함께 작업하면서 PRD와 SRS를 검토하고 구현을 검토합니다.15:17

모든 루프를 직접 코딩할 필요는 없습니다. 원어민처럼 할 줄 알아요.15:22

그리고 매니저들을 위해 전체적인 통계 자료가 있습니다.15:29

너무 많은 메시지를 보낸 엔지니어링 매니저를 제거해 보겠습니다.15:34

그래서 귀속을 확인할 수 있습니다. 전체 사용량과 비용도 확인할 수 있습니다.15:38

질문을 해 보세요. 제 개발자가 실제로 PR로 푸시하는 코드에 참여했는지15:43

아니면 전부 AI가 처리한 건지 확인할 수 있습니다.15:49

로컬뿐만 아니라 원격 에이전트들을 통해서도요.15:52

개발자나 팀별로 에이전트와 개발자가 어떻게 작업하는지 기여도를 확인할 수 있어요.15:56

모든 것이 실시간으로 업데이트돼요.16:03

에이전트 전체를 볼 수 있고, 모든 에이전트는 기본적으로 세션이에요, 그렇죠?16:07

여기 클릭하면 클라우드와 Codex 인스턴스의 모든 세션을 볼 수 있고 플랫폼에 연결되어 있어요.16:12

글로벌 플랫폼에 연결되어 있어서 원하면 30초 안에 누구든 제 에이전트에 연결할 수 있어요.16:20

물론 권한을 설정할 수도 있고, 모든 방과 오류를 확인할 수도 있죠, 그렇죠?16:28

작업 내용도 볼 수 있어요. 어떤 작업이 완료되었고, 무엇이 보류 중이고, 무엇이 진행 중인지 확인할 수 있고 모든 것이 실시간으로 작동해요.16:34

정말 감사합니다. 또 다른 50개의 패키지를 가져오지 않고 미래의 소프트웨어 개발에 대해 더 알고 싶다면,16:44

Salesforce, Slack, Databricks, Cloud, 그리고 Codex가 함께 작동하고 협업하도록 하고 싶다면,16:51

저희 부스 OG17에서 뱅크, 인프라 레이어, 그리고 GEM을 위한 QR 코드를 확인하세요.16:58

모두가 이야기하지만 아직 본 적 없는 미래의 일부가 될 수 있는 데스크톱 애플리케이션입니다.17:05

감사합니다.17:11