지속독서-읽은 책도 까먹는다(내가 읽은 천 권의 책) 지속독서-읽은 책도 까먹는다(내가 읽은 천 권의 책)

머지않아 이 AI는 인간보다 똑똑한 인공지능, 즉 초인공지능 ASI(Artificial Super Intelligence)이 된다. 초인공지능이 발명되는 순간, 인간은 쓸모 없는 존재가 된다. 초인공지능이 무슨 생각을 하는지, 어떻게 작동하는지, 목표가 무엇인지 인간은 결코 알아낼 수 없다. 사람보다 똑똑한 기계는 그 자체로도 이미 우리의 머리로 이해할 수 없으며, 이 기계는 자신보다 똑똑한 기계를 만들 계획을 세울 수도 있다. 만일 AI가 인간의 필요에 맞게 정렬됐다면, 그 막강한 힘을 이용해 질병을 치료하거나 인류에게 시급한 문제를 해결하는 데 쓸 수 있을 것이다. 반면 AI가 잘못 정렬되면 자신의 목표를 이루기 위해 모든 사람을 죽이거나 노예로 만들지도 모른다. 한쪽에는 종말의 가능성이, 다른 쪽..