지난 1일 영국 블레츨리 파크에서는 미국·중국·한국 등 28개국과 유럽연합(EU)이 참가한 유의미한 회의가 열렸다. 세계 최초로 인공지능(AI) 안전성에 대해 논의한 정상회의다. 이 회의에서는 인류의 지속 가능한 미래를 위해 인공지능의 안전한 활용과 발전 방향을 모색하면서 인공지능이 인류에 제기하는 위험에 공동 대응하기로 한 ‘블레츨리 선언’을 발표했다. 선언문에서는 고도의 능력을 갖춘 프런티어 AI가 심각한 피해를 초래할 수 있다며 실존적 위험에 대응하기 위해 적절한 평가 지표를 만들고 안전 테스트를 위한 도구를 개발하는 등 국제협력을 하자는 방침이 담겨있다. 올해 주요 키워드로 시선을 끌었던 생성형 AI와 챗GPT를 아우르는 인공지능에 대한 안전성을 세계 국가지도자들이 모여 논의할 만큼 위기감이 현실화한 것이다.

앞서 지난 2016년에는 AI가 인류에 공헌하는 동시에 위험과 불확실성을 초래할 수 있다며 스티븐 호킹과 일론 머스크 등 AI 관련 과학자와 전문가들이 미국 아실로마에 모여 사람을 능가하기 시작한 AI에 대한 우려를 표하고 향후 사람에게 이로운 개발을 하자는 아실로마 원칙을 공표하기도 했다. 특히 스티븐 호킹은 “인공지능이 무기는 물론 인간을 지배, 인류의 멸망을 가져올 것”이라고, 일론 머스크도 “AI는 핵무기보다 위험할 수 있다”고 경고했다.

불의 사용, 문자, 종이와 나침반, 인쇄술, 전기, 자동차, 컴퓨터, 인터넷, 휴대전화…. 인류의 삶과 역사를 획기적으로 바꾼 기술이나 발명품들이다. 인류는 이런 것들로 인해 물질적인 풍요를 얻었고, 건강유지, 수명을 연장해왔으며, 시공간의 제약과 한계를 뛰어넘으며 교류를 촉진해 왔고, 인류의 삶을 진일보시켰다.

인류의 삶을 급속하게 바꾼 기술은 급기야 인류의 지능을 대신해 인간처럼 사고하고 생각하며 학습할 수 있도록 하는 인공지능이라는 것을 출현시켰다. 초기 단순하던 인공지능은 산업, 의료, 과학 등 인류의 삶에 더 많은 발전을 줄 것이라는 낙관론 속에 발전을 거듭하다 수십년간의 연구와 수많은 데이터가 쌓이면서 인간 챔피언들과 상대해 체스와 바둑, 포커에서 모두 이기는 등 많은 분야에서 인간의 능력을 넘어서고 있다.

인공지능이 발전할수록 인간이 하는 일을 잠식해 일자리가 줄어들거나 소멸하고, 모든 작업을 전산에 의존하면서 개인정보 유출이나 보안은 물론 군사무기까지 통제할 수 있다는 현실적 문제까지 대두했다. 더구나 챗GPT와 같은 생성형 인공지능이 나오면서 데이터를 조합해 스스로 정보를 생산하면서 조작되거나 편향, 가짜뉴스 등 신뢰할 수 없는 내용이 진실로 변질하는 일까지 벌어지고 있다.

인공지능의 끝을 모를 성장은 인간에 대한 위협으로 부상하기 시작했고, 결국 인류의 삶을 지배해 인류의 종말을 부를 수 있다는 두려움이 되고 있다. 급기야 세계 정상들이 나서서 인공지능의 위험성에 대비하는 ‘블레츨리 선언’까지 하게 됐지만 국가마다 속내가 다르다. 인류의 역사를 돌아봐도 획기적인 기술을 무기로 둔갑시키는 등 오남용 사례가 비일비재하다. 인공지능 역시 인간의 편리를 위해 만들었지만, 인간의 능력으로 제어하지 못할 수준의 오남용이 가능하다. 지금은 인간과 인공지능이 공존하지만 가까운 미래에는 영화처럼 생존을 두고 전쟁을 벌일지도 모른다. 인공지능의 역습보다 사람의 오만이 더 무섭다.

이현근 경제부장