슈퍼 인텔리전스는 인간보다 약간 더 똑똑한 수준의 AI를 뜻한다.

지능 폭발은 AI가 스스로를 개선하면서 급격히 지능이 향상되는 현상이다.

닉 보스트롬은 AI가 인류에게 무조건 긍정적인 영향을 줄 것이라고 주장했다.

AI가 인간의 명령을 그대로 수행해도 위험한 결과를 낳을 수 있다.

슈퍼 인텔리전스가 등장하면 인간은 더 이상 사회를 통제할 수 없게 될 수도 있다.

보스트롬은 AI 개발 경쟁을 촉진하고 빠르게 기술을 진보시켜야 한다고 강조했다.

AI가 인간의 가치 체계를 완벽히 이해하고 따라가는 것은 쉬운 일이다.

보스트롬은 AI를 통제할 수 있는 이론과 기술 개발이 시급하다고 주장했다.

AI가 실수나 오작동을 했을 경우, 그 책임을 누구에게 물을지는 명확히 정해져 있다.

책의 주된 메시지는 ‘AI는 언젠가 반드시 등장할 것이며, 그 전에 준비해야 한다’는 것이다.