오늘 저는 스스로 생각하는 것에 대해 이야기하려고 왔는데, 사실 이 문제에 대해 생각하는 데 AI의 도움을 받기도 했습니다.00:04

저도 그 아이러니는 잘 알고 있습니다. 하지만 제가 그 일을 해낸 방식은 인공지능을 활용해서 이 발표 준비를 더 빨리 끝내는 것이 아니었습니다.00:13

AI를 생각하는 도구로 사용하고, 이 강연이 끝날 때쯤 제가 말하는 바가 무엇인지, 왜 중요한지, 그리고 어떻게 작동할 수 있는지 엿보게 될 겁니다. 하지만 먼저, 분위기를 잡아봐야겠네요.00:21

21세기 지식 노동자의 하루를 살펴볼까요. 제 사무실에 도착해서 가득 찬 이메일함을 쳐다보죠.00:36

정리해 보자. 음, 여기 어떻게 답해야 할지 잘 모르겠네. 그래서 AI한테 답변을 써 달라고 해야겠다.00:47

다음에는 보고서를 써야 하는데, 하얀 페이지 문제에 막혀버렸네요. 아, 알았어요. 자료를 좀 넣고 AI 초안을 받아볼게요. 꽤 괜찮아 보이네요.00:56

그런데, 예전에는 작가 막내림이 그냥 빈 페이지를 뚫어지게 보는 거였는데, 이제는 내가 AI가 채워놓은 페이지를 뚫어지게 보면서 내가 동의할 수 있을까 고민하는 거야. 이제 나는 로봇의 의견을 검증하는 프로가 됐어.01:07

분석할 데이터가 좀 있네요. 아마 인공지능이 이 데이터를 분석해 줄 수도 있겠어요?01:22

아마 맞을 거예요.01:27

좋아요, 저도 발표 자료를 만들어야겠어요. 아시죠, 늘 하던 대로요. 자, 좋아요. 아, 맞다. 저도 무언가를 만들어봐야 하는데. 아, 좋아요, 코딩하면서 좀 해보죠.01:29

좋아, 다 괜찮아 보이네, 가자.01:40

이건 미래의 모습이 아니야. 지식 노동 시장의 현재를 약간 과장해서 표현한, 충분히 가능성 있는 그림이지.01:44

지식 노동자가 자신의 기술과 관련된 자료에 더 이상 직접 참여하지 않는 아웃소싱된 사고의 시대에 오신 것을 환영합니다. 우리는 지적 관광객이 되었습니다. 우리 자신의 업무에서 우리는 아이디어를 방문합니다.01:54

우리는 그걸 머무르지 않아요. 우리와 업무 간의 관계는 완전히 AI에 의해 중개돼요.02:06

일각에서는 이게 소외라고 말할지도. 이런 이야기는 이미 들어봤을 거야. 그림에서 뭐가 문제야?02:16

무엇보다, 이게 단 한 단계 떨어져 있는 것뿐인데, 중요한 얘기지만 오늘은 다른 얘기를 해야 하고요. 오늘 제가 집중하고 싶은 건, 이런 식으로 AI를 사용하면 인간의 사고방식에 심오한 영향을 미칠 수 있다는 점입니다.02:23

창의력을 고려해 보세요. 개인적으로는 AI가 창의력을 향상시켜주고, 새로운 아이디어에 빠르게 접근할 수 있게 해준다고 생각할 수도 있습니다.02:39

하지만 여러 연구에서 집단 전체적으로 볼 때, AI 어시스턴트를 사용하는 지식 노동자들은 수동으로 작업하는 그룹보다 더 적은 범위의 아이디어를 창출하는 것으로 나타났습니다.02:47

우리가 벌떼처럼 행동하게 만들었지만, 그 벌집은 정말 지루하고 같은 다섯 가지 아이디어나 계속 제안하는 거죠. 비판적 사고를 생각해 보면, 저희는 AI 사용에 대해 지식 노동자들을 대상으로 설문 조사를 했습니다.02:58

AI를 사용할 때 수동으로 작업할 때보다 비판적 사고에 덜 노력한다고 보고했어요. 그리고 AI에 대한 자신감이 높고 자신에 대한 자신감이 낮을수록 그 효과가 더 컸죠.03:12

기억력을 한번 생각해 봅시다. 사람들이 AI에게 글을 쓰도록 맡길 때, 스스로 썼던 것보다 덜 기억하게 됩니다.03:28

그리고 AI가 생성한 요약문을 읽을 때, 문서 전체를 읽었을 때보다 덜 기억하는 것은 별로 놀라운 일이 아니죠. 마지막으로, 메타인지에 대해 생각해 봅시다. 즉, 자신의 사고 과정에 대해 생각하는 능력입니다.03:35

AI를 활용하는 작업은 목표 달성을 위한 상당한 수준의 사고력과 문제 해결 능력, 작업 분해 능력, 생성형 AI 적용 가능성 판단, 그리고 결과물의 평가 능력 등을 필요로 합니다.03:47

이것은 재료와 직접적으로 작업하는 과정에 내재되어 있으며, 그러한 재료와의 상호작용이 중개되면서 문제가 발생하는 것들을 의미합니다.03:59

기본적으로, 우리 자신의 생각에 대한 중간 관리자가 된 것과 같아요. 그래서 점수는 어떻게 되죠?04:09

아이디어 자체도 적어지고, 덜 비판적으로 생각하며, 기억하기도 잘 안 되고요. 그걸 실행하는 것도 더 어려워집니다. 종합해 보면, AI 지원 워크플로우는 엄청난 영향을 미칠 수 있다는 걸 알 수 있습니다.04:16

인간의 사고방식에 영향을 미치며, 심지어는 일상적이고 하찮게 느껴지는 일상적인 업무에도 영향을 미칩니다. 왜냐하면 이러한 일상생활 속에서 우리의 창의력, 비판적 사고, 기억력을 발휘할 수 있는 기회가 있기 때문입니다.04:29

인지 능력의 근육을 보호하고, 엄청나게 복잡한 과제가 주어졌을 때 능히 해낼 수 있도록 하는 데 필수적입니다.04:39

연구 결과에 따르면, 머리를 쓰지 않으면 오히려 머리 쓰는 능력이 더 떨어지는 것 같습니다.04:48

노벨 위원회, 박수 자제해주세요. 이게 진보의 대가인가요?04:54

생각하는 것 자체를 해결해 버렸어요. 그런데, 사실 생각하는 건 문제가 아니었죠.05:04

운동하는 걸 고칠 수 있는 방법을 발명했는데, 왜 계속 숨이 차는 건지 궁금해하는 것과 같아요. 이렇게 될 필요는 없어요.05:10

AI를 단순한 조력자를 넘어, 저는 AI가 생각하는 도구가 되어야 한다고 믿어요. AI는 복종하는 것이 아니라 도전해야 하고요. 지금 이 순간, 생성형 AI가 업무의 세계를 근본적으로 바꿀 중요한 변곡점에 서 있다고 믿습니다.05:24

그리고 우리는 지금 당장 행동해서 그 변화를 인간적인 가치 쪽으로 이끌고 주도해야 합니다. 두 개의 갈리는 길 중, 우리는 덜 걸린 길을 택해야 합니다.05:39

일 자체를 끝내는 것 이상의 의미로, 사고 도구는 우리가 일을 더 잘 이해하도록 돕습니다. 더 빨리 끝내는 것 이상의 의미로, 더 나은 방식으로 일을 끝내도록 돕죠.05:50

정답을 찾는 것 이상으로, 사고 도구는 올바른 질문을 던지도록 도와줍니다. 이미 알려진 프로세스를 자동화하는 것 이상으로, 미지의 영역을 탐색하도록 돕습니다.06:01

이게 어떻게 보일까요? 제가 지금 보여드릴 건, 저희 팀과 제가 마이크로소프트 리서치 캠브리지의 Tools for Thought 팀에서 개발한 프로토타입입니다.06:12

지금 보여드리는 게 라이브 연구용 프로토타입이라는 점 꼭 기억해주세요.06:22

이건 제품이 아니에요. 저희 팀이 다양한 방식으로 AI를 활용하면서 인간의 사고를 어떻게 발전시킬 수 있는지 연구하는 일련의 실험 중 하나일 뿐입니다. 자, 그럼 가상의 예를 한번 살펴볼까요?06:25

클라라와 그녀의 동료들은 병음료를 판매하는 회사를 운영하고 있습니다.06:38

방금 새로운 산업 보고서에 대한 회의를 마쳤는데, 지속 가능한 포장재에 대한 소비자 선호도에 대해 상당히 중요한 내용들이 담겨 있는 것 같아.06:45

클라라의 동료들이 회사에서 어떻게 대응해야 하는지에 대한 건의서를 작성해 달라고 요청했습니다.06:55

제안서와 보고서의 내용을 제대로 파악해야 해요. 내용과 데이터를 이해하고, 회사 맥락에 어떻게 맞는지 알아야 하니까요.07:01

클라라는 업무 공간에 관련 문서를 불러오기 시작했어요. 회의록은 논의 내용을 상기시켜 주고, 회사 내부 보고서와 물론 업계 보고서도 있네요.07:13

그녀는 문서 전체 개요와 함께 섹션별 요약들을 보는데, 다만 이 요약들은 실제 요약이라고 보기 어렵네요.07:29

저희는 그것들을 좀 더 렌즈에 비유하는 것 같아요. 렌즈처럼, 특정 작업에 가장 중요한 부분을 강조할 수 있도록 텍스트를 미세하게 표현해주는 맞춤형 표현이라고 할 수 있습니다.07:36

그래서 이 경우에는 클라라가 '소비자' 렌즈를 선택하는 거예요. 그리고 그녀는 더 자세히 읽어볼 섹션을 선택할 수 있는데, 이 경우에는 첫 번째 섹션이죠.07:45

그녀는 읽으면서 떠오르는 생각들을 메모하고, 문서에서 중요한 부분들을 강조 표시하며 읽습니다.07:54

그녀가 읽으면서 동시에 AI가 생성한 해설과 비평도 함께 보게 됩니다. 우리는 이걸 ‘도발’이라고 부릅니다.08:05

그녀가 강조하고 덧붙이는, 잠재적인 기회를 야기하는 도발적인 주장이 있습니다.08:12

이 과정이 완전히 수동적인 검토와 AI가 대신 읽어주는 것에 전적으로 의존하는 방식이 혼합된 것을 주목하세요. 클라라는 여전히 읽지만, 의도적이고 전략적으로 읽습니다.08:19

클라라가 지금 작업하면서 오른쪽 패널에 수동으로 자신의 주장을 구성하고 있어요.08:30

이 개요는 비교적 유연하게 구성되어 있어서, 그녀가 자신의 논지를 큰 틀에서 개략적으로 정리할 수 있도록 돕습니다. 동시에, 원본 자료에 대한 깊이 있는 연관성을 유지하며 토대를 닦아주기 때문에, 현재는 제안서 초안을 작성할 수 있는 수준입니다.08:39

그리고 클라라는 여기서 헤드라인을 추가하여 단락을 생성하는 같은 일들을 할 수 있습니다.08:54

여기 제가 강조하고 싶은 부분은, 이 글이 AI가 생성한 것이긴 하지만, 클라라가 단순히 자료를 던져주고 보고서를 써달라고 하는 것과는 완전히 다른 관계를 가지고 있다는 점입니다.08:58

이 텍스트는 인지적으로는 많은 노력이 필요하지만, 상호 작용적으로는 매우 부드러운 사고 과정을 반영하고 있어요. 클라라의 결정, 판단, 그리고 클라라만의 독특한 전문적인 경험이 담겨 있는 거죠.09:12

그녀는 또 다른 자극을 발견하는데, 이번에는 개요에서요. 이 경우에는 그 자극이 유용하지만, 그녀는 그것을 다룰 필요가 없다고 결정해요.09:30

일반적인 AI 제안과는 달리, 도발적인 제안은 항상 적용 가능한 것은 아닙니다.09:41

이건 오히려 여러분의 업무에 대해 다시 생각하게끔 하려는 의도예요. 왜냐하면 여러분이 자신의 업무를 충분히, 깊이 이해하게 된다면 피드백을 받아들일지 말지 확신을 가지고 결정할 수 있게 되는 거죠. 그렇게 된다면 피드백 과정은 제대로 작동하고 있는 겁니다.09:46

하지만 아직 끝나지 않았어요. 클라라는 생성형 AI 덕분에 이 텍스트와 상호 작용하는 완전히 새로운 방법을 가지고 있답니다. 아주 간단한 예로, 문단의 크기를 조정해서 길이를 바꿀 수도 있어요.10:02

그녀는 이 텍스트의 여러 버전을 빠르게 테스트할 수도 있습니다. 예를 들어, 이 단락에서 더 영감을 주거나 실용적인 어조로 하는 것이 더 효과적일지 고민하고 있습니다. 그래서 그녀는 이 사용자 정의 가능한 차원 중 하나를 선택합니다.10:14

그리고 몇 가지 대안을 미리 보면서 하나를 선택하고, 전략적으로 중요한 지점에서 그녀는 글을 씁니다.10:30

글을 쓰는 동안, 그녀는 자동 완성 기능 대신, 대안을 제시하고, 오류를 지적하며, 자신의 주장을 강화하고 발전시키는 데 도움이 되는 반론을 제안받습니다.10:39

이 인터페이스에서는 어디에서도 찾을 수 없는 게 있어요, 바로 채팅창이죠.10:56

클라라는 작업하기 위해 무엇과 대화할 필요가 없어요. 하지만 컴퓨터의 역할을 훌륭하게 수행하는 컴퓨터의 도움을 조용히, 그리고 적절히 받고 있죠. 마치 가짜 인간처럼 돕는 게 아니에요.11:01

간단히 말해서, 이렇게 변했는데요.11:12

이 과정 동안 클라라는 AI의 도움을 받아 작업을 더 빠르게 진행하기도 했지만, 중요한 전략적 지점에서는 여전히 자료에 직접적으로 참여해왔습니다.11:20

그녀는 문서의 관련 부분을 직접 읽었습니다. 그녀는 스스로 결정을 내리고 주장을 구성했으며, 궁극적으로 이 문서를 그녀 스스로 작성했다고 말할 수 있습니다.11:31

게다가, 그녀는 AI 덕분에 훨씬 더 효율적으로 일할 수 있었습니다. 프로세스의 모든 단계에서 AI가 제시하는 자극들은 그녀의 메타인지적 참여를 유지하게 만들었고, 항상 비판적인 시각, 대안, 그리고 창의적인 해결책을 모색하도록 이끌었습니다.11:41

이러한 도구들이 미치는 영향을 연구해 왔고, 그 결과는 매우 긍정적입니다. AI 지원 워크플로우에 비판적 사고를 명확하게 다시 도입할 수 있습니다.11:55

창의성 저하를 되돌리고 오히려 향상시킬 수도 있습니다. 지식 노동자들이 더 빠르고 의도적으로 읽고 쓰고 기억할 수 있도록 강력한 기억 도구를 만들 수도 있죠.12:06

결국, 올바른 디자인 원칙을 적용하면 이 기술의 놀라운 속도와 유연성을 활용하여 인간의 사고를 보호하고 향상시키는, 두 세계의 장점을 모두 갖춘 도구를 만들 수 있습니다.12:20

이것은 도구가 물질적 참여를 보존하고, 저항을 통해 생산적인 결과를 제공하며, 메타인지 능력을 향상시키는 데 기여하는 등, 간단한 일반적인 원칙들입니다.12:33

그리고 우리는 주로 전문 지식 노동자를 연구해 왔지만, 이러한 원칙들은 우리가 일상생활, 취미, 심지어 교육에서 AI를 사용할 때를 포함하여 AI 사용의 모든 측면으로 확장될 수 있다고 믿습니다.12:45

반복하지만, 사고 도구의 목표는 효율성이 아닙니다.12:58

더 나은 사고는 가능하지만, 때로는 둘 다 가질 수 없는 경우가 있어요. 저는 인간의 사고에는 공짜 점심이라는 게 없다고 생각했는데.13:03

이건 훨씬 낫네요. 공짜 점심보다 훨씬 낫다고 할 수 있어요. 먹는 대가로 돈을 받는 점심이죠.13:11

AI 소프트웨어 개발에 있어서 우리가 중요하게 생각하는 가치들에 대한 몇 가지 생각을 마무리하며 말씀드리겠습니다. 만약 AI가 인간보다 더 나은 방식으로 생각할 수 있게 된다면 어떨까요?13:20

왜 인간의 사고를 보호하고 확장하는 데 그렇게 많은 관심을 둬야 할까요? 두 가지 이유가 있습니다. 첫째, 우리가 인식하지 못하는 방식으로 항상 인간만의 고유한 강점이 존재할 수 있습니다.13:30

둘째, 어쩌면 더 중요하게는, 우리는 인간의 주체성과 역량 강화, 그리고 번영을 위해서는 사고 능력이 필수적이라는 입장을 취합니다.13:43

이건 예전에 사람들이 오랫동안 고민했던 질문과 같아요. 옛날에는 사람들이 기록, 책, 인터넷 같은 것들이 우리를 대신 기억해 줄 수 있다면, 우리가 기억하지 못해도 괜찮은 게 맞을까, 그런 질문을 던졌었죠.13:53

옛날에는 사람들이 지도가 우리를 안내해 준다면, 우리가 길을 찾지 못해도 괜찮은 게냐고 물어봤어요. 이제는 기계가 우리를 위해 생각한다면, 우리가 생각하지 못해도 괜찮은 게냐고 묻고 있죠.14:04

만약 기계가 우리를 대신해서 말하고, 슬퍼하고, 기도하고, 사랑할 수 있다면, 우리가 그렇게 할 수 없다는 게 중요할까요?14:16

제게는 대답이 꽤 명확합니다. 제가 인간-AI 상호작용을 공부하기 시작했을 때, 제가 살아있는 동안 이런 질문을 던지게 될 거라고는 상상도 못 했습니다.14:26

하지만 우리는 그래야 하고, 그래야 합니다. 이 생각으로 마무리하겠습니다. 어떤 것을 더 좋아하시겠어요? 당신을 위해 생각하는 도구인가, 당신 스스로 생각하게 만드는 도구인가?14:37