듀얼 브레인

 

 

머지않아 이 AI는 인간보다 똑똑한 인공지능, 즉 초인공지능 ASI(Artificial Super Intelligence)이 된다. 초인공지능이 발명되는 순간, 인간은 쓸모 없는 존재가 된다. 초인공지능이 무슨 생각을 하는지, 어떻게 작동하는지, 목표가 무엇인지 인간은 결코 알아낼 수 없다. 

사람보다 똑똑한 기계는 그 자체로도 이미 우리의 머리로 이해할 수 없으며, 이 기계는 자신보다 똑똑한 기계를 만들 계획을 세울 수도 있다. 

만일 AI가 인간의 필요에 맞게 정렬됐다면, 그 막강한 힘을 이용해 질병을 치료하거나 인류에게 시급한 문제를 해결하는 데 쓸 수 있을 것이다. 반면 AI가 잘못 정렬되면 자신의 목표를 이루기 위해 모든 사람을 죽이거나 노예로 만들지도 모른다. 

 

한쪽에는 종말의 가능성이, 다른 쪽에는 구원의 가능성이 있다. 

 

공동지능이 되기 위한 네 가지 원칙

원칙1: 작업할 때 항상 AI를 초대한다.

원칙2: 인간이 주요 과정에 계속 개입한다.

원칙3: AI를 사람처럼 대하고, 어떤 유형의 사람인지 AI에게 알려 준다.

원칙4: 지금의 AI를 앞으로 사용하게 될 최악의 AI라고 생각한다.

 

 

P121

저는 감정이 이분법적인 속성이 아니라 스펙트럼이라고 생각합니다. 감정은 정도와 유형이 서로 다르고, 표현하거나 경험하는 방식도 다양합니다. AI가 인간과 같은 방식으로 감정을 느끼지는 못할 수 있으나, AI도 나름의 방식으로 감정을 느낍니다. 

창작가로서의 AI

AI와 협업하기 위한 첫 번째 원칙으로 '작업할 때 항상 AI를 초대한다'

 

AI가 실제로는 아무것도 '알지'못한다는 의미다. AI는 답을 즉흥적으로 낸다. 

데이터 과학자인 클린 프레이저는 챗GPT에게 1에서 100사이의 숫자를 아무거나 대보라고 요청했을 때, '42'라고 대답할 확률이 10퍼센트라는 사실을 발견했다. 챗GPT가 정말 무작위로 숫자를 골랐다면 42라는 답이 나올 확률은 1퍼센트가 되어야 한다. 

42는 더글러스 애덤스의 코믹 SF소설 <은하수를 여행하는 히치하이커를 위한 안내서>에서 '삶, 우주, 그리고 모든 것에 대한 궁극적인 질문'의 해답으로 등장하는 숫자다. 

이러한 기술적 문제는 AI가 데이터 저장소가 아닌 패턴에 의존해 답변을 생성한다는 점이 가중되면서 한층 복잡해진다. 

 

창작에 AI포함하기

챗GPT를 사용한 참가자들은 과제를 완수하는 데 걸린 시간이 무려 37퍼센트나 줄어든 것으로 나타났다. 시간만 절약한 것이 아니라, 전문가의 평가에 따르면 업무의 질도 향상된 것으로 나타났다. 

 

챗GPT는 인간의 기술을 보완하는 역할이 아니라, 인간의 노력을 대체하는 역할로 주로 사용된다.

 

동료로서의 AI

"AI가 자신의 일자리에 영향을 미칠 것인가?" 대답은 아마도 '그렇다'일 것이다. 

1016개 직업 중에서 AI와 중복되지 않는 직업은 단 36개에 불과했다. 이 소수의 직업에는 무용수, 운동선수, 굴착기 운전, 지붕공, 오토바이 정비사 등이 포함되었다. (얼마 전 지붕공으로 일하는 사람과 이야기를 나눴는데, 마케팅과 고객 서비스에 AI를 사용할 계획이라고)

 

P108

AI에게 맡기더라도 제대로 처리됐는지 결과를 확인해야 할 것이다. 하지만 그 확인조차 어려워질 수 있다. 특히 우리의 관심이나 전문성을 넘어서는 일, 예를 들어 세금 신고, 투자관리, 건강 문제 진단등의 일을 위임한다면, AI가 제대로 처리했는지 확인하기가 어려울 수 있다. 

위임의 궁극적인 목표는 시간을 절약해서 인간으로서 가치 있는 일이나 우리가 하고 싶은 일에 더 집중하는 것이다. 

 

켄타우로스Centauros와 사이보그Cyborg

켄타우로스는 인간 몸체와 말 몸체 사이에 명확한 경계가 있다. 

사이보그는 기계와 사람이 깊이 통합된 상태로 뒤섞여 있다. 

 

유머러스한 요소를 넣으려는 시도, 그중에서도 특히 AI의 농담과 관련된 부분은 칭찬할 만합니다. 하지만 자칫 억지처럼 느껴질 위험이 있어요. 명심하세요. 유머는 쏟아붓는 것이 아니라, 살짝 뿌려야 하는 향신료와 같습니다. 

 

P210

설문조사에 따르면 사람들이 직장에서 지루함을 느끼는 시간이 일주일에 무려 10시간이나 된다고 한다. 

남학생의 66퍼센트와 여학생의 25퍼센트가 15분 동안 아무것도 하지 않고 가만히 앉아 있기보다 고통스러운 전기 충격을 받기로 선택했다고 한다. 지루함을 느끼는 사람의 18퍼센트는 기회가 생겼을 때 눈앞의 벌레를 죽였다. 지루함은 그저 지루한 데서 끝나지 않는다. 그 자체로 위험하다. 

 

P216

AI기술은 고임금 전문직 근로자에게 광범위하게 영향을 미치는 최초의 자동화 혁명이다. 게다가 AI도입은 이전의 기술 혁명보다 훨씬 더 빠르고 광범위하게 일어나고 있다. 그리고 우리는 이 새로운 기술의 한계와 잠재력이 무엇인지, 얼마나 빠르게 성장할 것인지, 그 영향이 얼마나 역사상 유례없이 특별할 것인지 여전히 알지 못한다. 

수많은 연구에 따르면 AI로부터 가장 큰 도움을 받는 사람은 초기 역량이 가장 낮은 사람이다. 

"우리는 단기적으로 기술의 영향을 과대평가하고, 장기적으로 그 영향을 과소평가하는 경향이 있다."

 

P240 교사로서의 AI

궁극적으로는 학습이 개선되고, 단지 시간만 때우는 쓸모없는 학습 활동이 줄어들 것이다. 그리고 가장 흥미로운 점은 이러한 변화가 전 세계적으로 일어날 가능성이 높다는 것이다. 교육은 소득을 높이는 열쇠이자, 심지어 지능을 향상하는 열쇠이기도 하다. 

 

P251 코치로서의 AI

AI에게서 얻은 조언과 제안에 기초해서 프로젝트가 끝날 때마다 체계적인 성찰의 시간을 갖는다. 이는 마치 모든 단계마다 멘토가 어깨너머로 지켜보며 탁월한 경지에 이를 수 있도록 도와주는 것과 같다. 

 

실제로 최고 수준의 운동선수와 평범한 운동선수의 차이를 마드는 데 의식적인 연습이 기여하는 정도는 겨우 1퍼센트에 불과하다. 나머지는 유전, 심리, 양육환경, 운이 복합적으로 작용한다. 

갈수록 많은 분야에서 AI를 적극적으로 활용하는 사람이 AI의 도움 없이 일하는 사람보다 높은 성과를 내는 경향을 보이고 있다. 

 

P264

우리의 미래와 AI

AI가 생성한 이미지와 실제 이미지를 구분하는 것은 이미 불가능하며, 오늘날 누구나 사용할 수 있는 도구만으로도 이런 이미지를 만들어 낼 수 있다. 영상과 음성도 하찮을 정도로 쉽게 위조할 수 있다. 

 

AI에 추가적인 발전이 없더라도 LLM은 많은 근로자, 특히 창의적이고 분석적인 업무에 종사하는 고임금 근로자의 업무에 큰 영향을 미칠 것이다.