틴매일경제

 강연하는 유발 하라리 교수 (출처: 비즈니스 인사이더)

"인공지능(AI)은 단순한 도구가 아니라 스스로 결정을 내리고 새로운 아이디어를 창조할 수 있는 '에이전트'다. 만약 우리가 AI에 법적인 인격까지 부여한다면, 인류 문명은 우리가 통제할 수 없는 방향으로 흐르게 될 것이다."

책 '사피엔스'의 저자로 유명한 역사학자 유발 하라리 교수는 지난 20일 진행된 세계경제포럼(WEF·다보스포럼) 'AI와 인류에 대한 정직한 대화' 세션에서 AI가 품고 있는 위험성을 경고했어요.

하라리는 AI를 스스로 배우고 변화하며 결정을 내릴 수 있는 칼로 비유했어요. 칼로 샐러드를 자를지 살인을 할지는 인간이 결정하는 것이지만, AI라는 칼은 이 결정을 스스로 할 수 있다는 점에서 기존 기술과 완전히 다르다는 것이죠. 또 하라리는 AI가 인간의 언어를 완전히 익혔다는 점에 주목했어요. 언어는 법이나 종교, 금융처럼 우리 사회를 지탱하는 뿌리이기 때문에 AI가 언어를 정복했다는 것은 곧 인류의 조종간을 쥐게 되었음을 의미합니다.

이를 통해 하라리는 AI에 법적 인격을 부여하는 것을 강력하게 경고했어요. AI에 법적 인격을 부여한다면 AI가 인간도 이해할 수 없는 복잡한 금융 상품을 만들어낼 수 있고, "10년 후 다보스에 모인 그 누구도 금융 시스템이 어떻게 돌아가는지 이해하지 못할 것"이라며 목소리를 높였습니다. 결국 인간을 따돌린 채 AI끼리만 운영되는 금융시스템이 생겨날 수 있다는 뜻입니다.

AI를 대하는 하라리의 걱정은 AI의 밝은 앞날만을 얘기한 다보스포럼의 다른 연사들과 대비돼요. 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)는 AI를 인간의 능력을 확장하는 수호천사로 보았어요. 나델라 CEO는 AI가 인간의 대리인 역할을 하더라도 여전히 인간의 지휘 아래에서 전문성을 돕는 도구라고 말했어요. 이는 AI가 인간의 사고 능력을 대신하고 대리인이 아니라 주인이 될 수 있다고 말한 하라리의 생각과는 정반대입니다.

일론 머스크 테슬라 CEO (AP연합뉴스)

일론 머스크 테슬라 CEO는 AI가 인류에게 "무한한 풍요를 가져다줄 것"이라며 희망적인 전망을 내놓았어요. 머스크 CEO는 로봇이 인간보다 많아져서 경제적 생산량이 폭발할 것이고, AI가 인간보다 똑똑해지더라도 관리를 잘하면 인류에게 엄청난 축복이 될 것이라고 보았어요. AI가 사회적 신뢰를 무너뜨리고 민주주의를 위협할 것이라는 하라리의 주장과는 상반돼요. 이외에도 데미스 허사비스 딥마인드 CEO, 다리오 아모데이 앤스로픽 CEO 등 많은 연사가 AI의 미래를 긍정적으로 내다봤습니다.

하라리의 지적은 AI의 장점만 부각되는 요즘 우리에게 생각할 거리를 줍니다. 인간보다 똑똑한 AI는 더 이상 공상만화 속 이야기가 아닌 우리의 현실이에요. 실제로 아모데이 CEO는 인간 이상의 지능을 구현하는 인공지능인 AGI(인공일반지능·Artificial General Intelligence)의 도래가 "불과 6개월에서 12개월 남았다"고 밝혔어요.

이러한 시점에서 하라리가 던진 질문은 분명합니다. 우리가 안전벨트도 매지 않은 채 AI라는 차의 가속 페달만 밟고 있는 건 아닌지 돌아봐야 한다는 것입니다. 하라리는 이번 다보스포럼에서 AI가 가져올 엄청난 경제적 혜택만큼이나 그 흐름에서 소외될 인간의 가치를 먼저 세우는 브레이크가 필요하다고 당부했습니다.

김준영 인턴기자