고용을 중심으로 구축된 경제에서 일하는 사람이 줄어들거나 많은 사람이 더 적은 시간 동안 일하게 된다면 경제는 어떻게 작동할 것인가? 자본주의 사회에서 고용은 대부분의 사람들이 삶의 기본 요소를 충당하는 데 필요한 돈을 얻는 방법이자 존엄성과 사회적 유대의 핵심 원천이다. 한 지역사회의 실업률이 높아지면 그 파급 효과는 광범위해질 수 있다. 연구에 따르면 미국의 일부 지역에서는 공장 폐쇄가 오피오이드 과다 복용으로 인한 사망자 증가로 이어진다. 이제 전국적으로 화이트칼라와 블루칼라 근로자 모두에게 유사한 압박이 가해지는 상황을 상상해 보라. 모두가 AI가 창출하는 번영을 공유할 수 있도록 일자리 손실을 줄이는 방법을 지금 고민해야 한다. 사람들이 이미 일자리를 잃거나 불완전 고용 상태에 놓일 때까지 기다리는 것은 너무 늦다. AI는 우리 경제 구조 방식에 대한 구조적 도전이며 지금 당장의 고민과 행동을 요구한다.

AI는 사람들(그리고 어쩌면 AI 자신까지도)이 더 많은 해악을 저지를 수 있게 만들 것이다.

AI가 주류가 되기 훨씬 전부터 폭탄, 생물학 무기, 심지어 컴퓨터 바이러스와 같은 무기를 만드는 방법에 대한 정보는 온라인에 존재했다. AI는 이러한 정보를 얻는 것뿐만 아니라 이를 실행에 옮기는 것까지 훨씬 더 쉽게 만들 것이다. 매우 미숙한 기술을 가진 범죄자라 할지라도 개인, 기업, 정부 등 모든 규모의 피해자를 표적으로 삼을 수 있게 될 것이다.

AI 기반의 사기, 허위 정보, 딥페이크, 감시는 많은 사람들이 일상생활에서 가장 뼈저리게 느끼게 될 피해다. AI 역량이 사이버 공격에 쓰이기 시작했다. 내가 아는 가장 뛰어난 사이버 보안 전문가들은 방어자가 모든 취약점을 패치하기 전에 공격자가 강력한 새 역량을 더 빠르게 확보하고 있기 때문에 향후 몇 년을 두려워하고 있다. 결국 기업이 결함을 수정할 수 있도록 소프트웨어 결함을 찾아내는 동일한 AI 모델이 범죄자가 결함을 악용하는 데도 도움이 될 수 있기 때문이다.

AI가 신약과 백신 분야에서 생명을 구하는 진전을 가져오겠지만 치명적인 신종 질병을 설계하는 일 또한 더 쉽게 만들 것이다.