미래 역사학자들은 2023년을 인공지능(AI) 도래의 획기적인 사건으로 여길 수도 있다. 그러나 그 미래가 유토피아적일지, 종말론적일지, 아니면 그 중간쯤 일지는 누구도 추측할 수 없다.

 

지난 2월 ChatGPT는 사용자 수 1억 명을 달성한 가장 빠른 앱이라는 기록을 세웠다. 그 뒤를 이어 Google, Amazon, Meta 및 기타 거대 기술 기업의 유사한 "대규모 언어" AI 모델이 뒤따랐으며, 이는 집합적으로 교육, 의료 및 기타 많은 지식 집약적 분야를 변화시킬 준비가 되어 있는 것으로 보인다.

 

AI의 피해 가능성

그러나 지난 5월 주요 연구자들이 서명한 불길한 성명을 통해 AI의 피해 가능성이 강조되었다.

AI로 인한 멸종 위험을 완화하는 것은 전염병 및 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 전 세계적인 우선순위가 되어야 한다.

지난 11월 영국, 미국, 인도, 중국, 유럽연합 등 27개국이 AI 위험에 대한 우려가 커지면서 영국 블레츨리 파크에서 열린 제1회 AI 안전 서밋에서 협력을 약속했다. 모두의 이익을 위한 AI의 안전한 개발을 보장하기 위해서이다.

이를 달성하기 위해 연구자들은 AI 정렬, 즉 AI 모델이 인간의 가치, 선호도 및 목표와 일치하는지 확인하는 방법에 중점을 둔다. 그러나 AI의 소위 "어두운 비밀"이라는 문제가 있다. 대규모 모델은 너무 복잡해서 블랙박스와 같아서 누구도 완전히 이해할 수 없다.

2023년 11월 영국 블레츨리 파크에서 열린 AI 안전 정상회담에 우르줄라 폰 데어 라이엔 유럽연합 집행위원장이 도착하고 있다. 게티 이미지

 

AI의 블랙박스 문제

AI 시스템의 투명성과 설명 가능성은 중요한 연구 목표이지만, 그러한 노력은 열광적인 혁신 속도를 따라잡을 수 없을 것 같다.

블랙박스 비유는 AI에 대한 사람들의 믿음이 왜 지도 전체에 퍼져 있는지를 설명한다. 예측은 유토피아에서 멸종까지 다양하며, 심지어 많은 사람들은 인공일반지능(AGI)이 곧 지각력을 갖게 될 것이라고 믿고 있다.

그러나 이러한 불확실성은 문제를 더욱 악화시킨다. AI 정렬은 양방향 도로여야 한다. AI 모델이 인간의 의도와 일치하는지 확인해야 할 뿐만 아니라 AI에 대한 우리의 믿음이 정확해야 한다.

우리는 자신도 모르게 그러한 믿음에 부합하는 미래를 창조하는 데 놀라울 정도로 능숙하기 때문이다.

소위 "기대 효과" 또는 자기 충족적 예언은 심리학에서 잘 알려져 있다. 그리고 연구에 따르면 사용자의 신념을 조작하는 것은 AI와 상호 작용하는 방식뿐만 아니라 AI가 사용자에게 적응하는 방식에도 영향을 미치는 것으로 나타났다.

즉, 우리의 믿음(의식적이든 무의식적이든)이 AI에 어떻게 영향을 미치는지는 잠재적으로 재앙적인 결과를 포함한 모든 결과의 가능성을 높일 수 있다.

 

AI, 계산, 논리 및 산술

AI의 기초를 이해하려면 더 깊이 탐구해야 한다. 마치 이상한 나라의 앨리스처럼 토끼굴로 내려가 우리가 어디로 가는지 확인해야 한다.

먼저 AI란 무엇인가? 이는 컴퓨터에서 실행되며 자동화된 계산도 마찬가지이다. 1943년 신경생리학자 워렌 맥컬로크(Warren McCulloch)와 논리학자 월터 피츠(Walter Pitts)가 수학적으로 정의한 인공 뉴런인 "퍼셉트론"에서 시작된 AI는 인지 과학, 신경 과학, 컴퓨터 과학과 얽혀 있다.

마음, 뇌, 기계의 이러한 수렴은 AI가 기계에 의한 계산이므로 자연 지능(마음)은 뇌에 의해 계산되어야 한다는 널리 알려진 믿음으로 이어졌다.

앨런 튜링. 게티 이미지

그런데 계산이란 무엇일까? 19세기 후반 수학자 리처드 데데킨트(Richard Dedekind)와 주세페 페아노(Giuseppe Peano)는 논리의 관점에서 산술을 정의하는 일련의 공리를 제안하고 모든 수학을 안전한 형식 기반에 기초시키려는 시도에 영감을 주었다.

나중에 논리학자인 쿠르트 괴델(Kurt Gödel)이 이 목표가 달성 불가능하다는 것을 증명했지만, 그의 업적은 수학자이자 암호 해독자인 앨런 튜링(Alan Turing)의 출발점이 되었다. 보편적인 계산이 가능한 추상 장치인 그의 "튜링 머신"은 컴퓨터 과학의 기초이다.

 

인식의 심층 구조

따라서 계산은 논리에서 산술을 정의하려는 노력으로 거슬러 올라가는 수학적 아이디어를 기반으로 한다. 그러나 산술에 대한 우리의 지식은 논리 이전에 존재한다. AI의 기초를 이해하려면 더 나아가 산술 자체가 어디서 오는지 물어봐야 한다.

내 동료들과 나는 최근에 산술이 인식의 “심층 구조”에 기반을 두고 있음을 보여 주었다. 이 구조는 우리의 인식을 특정한 방식으로 형성하는 색안경과 같아서 세상에 대한 우리의 경험이 질서 있고 관리 가능하게 된다.

산술은 일련의 요소(숫자)와 요소 쌍을 결합하여 다른 요소를 제공하는 연산(덧셈, 곱셈)으로 구성된다. 우리는 질문했다. 모든 가능성 중에서 숫자가 요소이고 덧셈과 곱셈이 연산인 이유는 무엇일까?

우리는 지각의 심층 구조가 가능성을 제한한다고 가정했을 때 산술이 결과라는 것을 수학적 증거로 보여주었다. 즉, 우리 마음이 물리적 세계에 대한 경험을 형성하는 것과 동일한 "색 안경"을 통해 추상 세계를 볼 때 숫자와 산술을 "본다".

산술은 수학의 기초이기 때문에 수학은 마음의 반영, 즉 수학의 근본적인 성격과 창의성을 상징으로 표현한 것임을 의미한다.

지각의 심층 구조는 다른 동물과 공유되어 진화의 산물이지만 수학을 발명한 사람은 오직 인간뿐이다. 이는 우리의 가장 친밀한 창조물이며 아마도 가장 중요한 AI 개발을 가능하게 함으로써 가능하다.

수학은 마음의 반영, 즉 마음의 근본적인 성격과 창의성을 상징으로 표현한 것이다. 게티 이미지

 

코페르니쿠스적 정신의 혁명

산술의 기원에 대한 우리의 설명은 18세기 철학자 임마누엘 칸트의 견해와 일치한다. 그에 따르면, 세상에 대한 우리의 지식은 감각 경험 이전에 존재하는 공간과 시간에 대한 '순수한 직관'으로 구성된다. 이는 우리가 결코 제거할 수 없는 색안경과 유사하다.

칸트는 자신의 철학이 '마음의 코페르니쿠스적 혁명'이라고 주장했다. 마찬가지로 고대 천문학자들은 지구의 움직임을 알지 못하기 때문에 태양이 지구 주위를 돈다고 믿었다고 칸트는 주장했다.모든 지식이 감각 경험에서 파생된다고 믿었던 철학자들(예를 들어 존 로크와 데이비드 흄)은 마음이 어떻게 인식을 형성하는지 간과했다.

칸트의 견해는 당시의 자연과학에 의해 형성되었지만 현대 심리학에 영향을 미쳤다는 것이 입증되었다.

산술이 우리 인식의 자연스러운 결과이고 따라서 생물학적 기반이라는 인식은 계산에 대한 우리의 이해에 있어서 유사한 칸트적 변화를 암시한다.

계산은 수학적 진리의 추상적인 영역에서 우리와 분리되거나 "외부"에 있는 것이 아니라 우리 마음의 본성에 내재되어 있다. 마음은 계산 그 이상이다. 뇌는 컴퓨터가 아니다. 오히려 AI의 기초인 계산은 수학과 마찬가지로 마음의 본성과 창의성을 상징적으로 표현한 것이다.

 

프로메테우스의 불

AI에 미치는 영향은 무엇일까? 첫째, AI는 마음이 아니며 결코 지각력을 가지지 않는다. 우리의 마음을 클라우드에 업로드함으로써 생물학적 본성을 초월하고 불멸을 얻을 수 있다는 생각은 환상일 뿐이다.

그러나 AI의 기반이 되는 마음의 원리가 모든 인류(그리고 다른 생명체도 마찬가지)가 공유한다면, 우리 개인의 마음의 한계를 초월하는 것이 가능할 수도 있다.

계산은 보편적이기 때문에 우리는 점점 더 연결되는 가상 세계와 물리적 세계에서 원하는 결과를 자유롭게 시뮬레이션하고 생성할 수 있다. 이런 식으로 AI는 진정한 우리의 프로메테우스의 불이며, 그리스 신화처럼 신들로부터 훔쳐온 인류에게 주어진 선물이다.

글로벌 문명으로서 우리는 전환점에 있을 가능성이 높다. AI는 지각을 갖고 우리 모두를 죽이기로 결정하지 않을 것이다. 그러나 우리는 그것으로 우리 자신을 “종말”할 수 있는 능력이 매우 뛰어납니다. 기대가 현실을 만들 수 있다.

AI 정렬, 안전 및 보안을 보장하기 위한 노력은 매우 중요하지만 인식과 집단적 지혜가 부족하면 충분하지 않을 수 있다. 앨리스처럼 우리도 꿈에서 깨어나 우리 마음의 현실과 힘을 인식해야 한다.