Tesla 자동차, SpaceX 로켓, Twitter 인수, 화성 식민지화 계획 등 일론 머스크의 모든 업적 중에서 그의 비밀 두뇌 칩 회사인 Neuralink가 가장 위험할 수 있다. 뉴럴링크(Neuralink)는 무엇을 위한 것일까? 단기적으로는 마비 환자를 돕기 위한 것이다. 그러나 그것이 전부는 아니다.

2016년에 설립된 이 회사는 2019년에 뇌에 이식할 수 있는 유연한 "스레드"와 이식을 위한 재봉틀 같은 로봇을 만들었다고 밝혔다. 아이디어는 이러한 스레드가 마비된 환자의 뇌에서 신호를 읽고 해당 데이터를 iPhone이나 컴퓨터로 전송하여 환자가 탭하거나 입력하거나 스와이프할 필요 없이 생각만으로 제어할 수 있도록 한다는 것이다.

2023년에 회사는 인간을 대상으로 한 첫 번째 임상 시험을 실행하기 위해 FDA 승인을 받았다고 발표했다. 임플란트를 통해 외부 장치를 제어할 수 있는지 여부를 연구하기 위해 마비된 자원 봉사자를 모집하기 시작했다.

 

이제 머스크는 Neuralink가 실험에서 첫 번째 인간 피험자에게 장치를 이식했다고 말했다. 그는 자신의 소셜 플랫폼 X에 '텔레파시'라는 장치를 홍보하며 "스티븐 호킹이 스피드 타이피스트나 경매인보다 더 빠르게 의사소통을 할 수 있다고 상상해보라. 그것이 목표이다.”라고 말한다.

이 기술이 인간에게 적용된다면 수백만 명의 삶의 질이 향상될 수 있다. 미국에서만 약 540만 명이 마비를 앓고 있다.

그러나 마비된 사람들을 돕는 것이 머스크의 최종 목표는 아니다. 이는 훨씬 더 원대한 장기적인 야망을 달성하기 위한 한 단계에 불과하다.

 

그 야망은 머스크 자신의 말대로 “인공지능과의 공생을 이루는 것”이다. 그의 목표는 AI가 더욱 정교해짐에 따라 인간이 "뒤쳐지지" 않도록 인간이 "AI와 융합"하는 데 도움이 되는 기술을 개발하는 것이다.

이 환상적인 비전은 FDA가 인간 실험을 승인하는 종류의 것이 아니다. 하지만 마비 환자를 돕기 위해 노력하고 있을까? 그러면 더욱 따뜻한 환영을 받을 수 있다. 그래서 그렇다.

하지만 이 기술에는 엄청난 위험이 따른다는 점을 이해하는 것이 중요하다. Neuralink의 전 직원과 해당 분야 전문가들은 회사가 불필요하게 침해적인 행위를 추진했다고 주장했다. AI와 합병하려는 머스크의 목표를 진전시키기 위해 뇌를 손상시킬 수 있는 임플란트에 대한 잠재적으로 위험한 접근 방식(동물 실험 대상에서 그렇게 한 것으로 보인다).

Neuralink는 논평 요청에 응답하지 않았다.

Neuralink를 넘어 사회 전체에 대한 윤리적 위험도 있다. 많은 기업들이 인간의 두뇌에 연결하여 우리 마음 속에서 일어나는 일을 해독할 수 있고 정신적인 사생활을 침해하고 권위주의적 감시를 강화할 수 있는 기술을 개발하고 있다. 우리는 다가올 일에 대비해야 한다.

 

일론 머스크가 인간의 두뇌를 AI와 통합하려는 이유

Neuralink는 AI가 세상을 장악할 것이라는 큰 두려움에 대한 대응이다.

이는 인간보다 더 똑똑하고 우리를 속이고 궁극적으로 통제권을 빼앗을 수 있는 기계를 만들 수 있다고 우려하는 AI 리더들 사이에서 점점 더 널리 퍼져 있는 두려움이다.

2023년 3월 머스크를 포함한 이들 중 다수는 OpenAI의 GPT-4보다 더 강력한 AI 시스템 개발을 6개월간 중단할 것을 요구하는 공개 서한에 서명했다. 편지는 “인간과 경쟁할 수 있는 지능을 갖춘 AI 시스템은 사회와 인류에 심각한 위험을 초래할 수 있다”고 경고하면서 “결국 수적으로 앞서고, 똑똑하고, 쓸모 없어지고, 우리를 대체할 수 있는 비인간적 정신을 개발해야 하는가?”라고 질문했다. 우리 문명에 대한 통제력 상실을 감수해야 할까?”

AI 시스템이 제기하는 '문명적 위험'에 대해 머스크가 경고한 것은 혼자가 아니지만, 다른 사람들과 다른 점은 위험을 방지하기 위한 계획이다. 기본적으로 계획은 다음과 같다. 이길 수 없다면 합류하라.

머스크는 초당 1조 비트의 속도로 정보를 전달할 수 있는 AI 시스템이 초당 39비트의 속도로만 통신할 수 있는 인간을 은유적으로 무시할 수 있는 세상을 예견한다. AI 시스템에게 우리는 쓸모없어 보일 것이다. 아마도 우리가 그들처럼 되지 않는 한 말이다.

머스크의 관점에서 가장 큰 부분은 AI의 속도로 생각하고 소통할 수 있다는 점이다. 그는 2017년에 “대부분 대역폭, 두뇌와 디지털 버전 간의 연결 속도, 특히 출력에 관한 것이다.”라고 말했다. “뇌에 대한 일부 고대역폭 인터페이스는 인간과 인간 사이의 공생을 달성하는 데 도움이 될 것이다. 기계 지능을 활용해 제어 문제와 유용성 문제를 해결할 수도 있다.”

6년이 지나도 머스크는 여전히 대역폭, 즉 컴퓨터가 두뇌에서 정보를 읽을 수 있는 속도라는 개념에 집착하고 있음을 알 수 있다. 실제로 Neuralink를 추진하는 아이디어이다.

Neuralink 장치는 1,024개의 전극이 장착된 뇌 임플란트로, 수많은 뉴런에서 신호를 수집할 수 있다. 전극이 많을수록 더 많은 뉴런을 들을 수 있고 더 많은 데이터를 얻을 수 있다. 또한 해당 뉴런에 더 가까이 다가갈수록 데이터 품질이 높아진다.

그리고 Neuralink 장치는 뉴런에 매우 가까이 다가간다. 회사의 이식 절차는 두개골에 구멍을 뚫고 뇌를 관통하는 방식이다.

그러나 이에 대해 덜 극단적인 방법이 있다. 다른 회사들이 이를 증명하고 있다. 그들이 무엇을 하고 있는지, 그리고 머스크가 왜 다른 일을 해야 한다고 느끼는지 자세히 살펴보겠다.

 

뇌-컴퓨터 인터페이스를 만드는 다른 방법이 있다. Neuralink가 가장 극단적인 것을 선택하는 이유는 무엇일까?

Neuralink는 사람들의 신체적 능력을 회복하기 위해 BCI(뇌-컴퓨터 인터페이스)를 연구하는 유일한 회사가 아니다. Synchron, Blackrock Neurotech, Paradromics 및 Precision Neuroscience와 같은 다른 회사도 이 분야에서 일하고 있다. 미군도 마찬가지다.

최근 몇 년 동안 헤드라인을 장식한 많은 연구는 마비된 사람들의 생각을 말로 변환하는 뇌 이식에 초점을 맞췄다. 예를 들어 마크 주거버그(Mark Zuckerberg)의 Meta는 뉴런에서 직접 생각을 포착하여 실시간으로 단어로 변환할 수 있는 BCI를 연구하고 있다. (장기적으로는 모든 사람이 자신의 생각만으로 키보드, 증강현실 안경 등을 제어할 수 있는 기능을 제공하는 것을 목표로 한다고 한다.)

 

BCI 분야의 초기 성공은 말이 아닌 움직임에 초점을 맞췄다. 2006년 척수 마비를 앓고 있는 남성 매튜 네이글(Matthew Nagle)은 컴퓨터 커서를 제어할 수 있는 뇌 이식 수술을 받았다. 곧 네이글은 마음만을 사용하여 퐁(Pong)을 플레이했다.

연구 컨소시엄 BrainGate가 개발한 네이글의 뇌 임플란트에는 외과적으로 뇌에 내장된 100개의 뾰족한 전극 클러스터인 "Utah" 배열이 포함되어 있다. 이는 Neuralink 장치에 있는 전극의 약 1/10에 불과한다. 하지만 여전히 마비된 사람이 커서를 움직이고, 이메일을 확인하고, TV의 볼륨이나 채널을 조정하고, 로봇 팔다리를 제어할 수 있었다. 그 이후로 마비가 있는 다른 사람들도 BCI 기술을 사용하여 비슷한 성과를 거두었다.

유타 어레이와 같은 초기 기술은 두개골에서 어색하게 튀어나온 반면, 최신 BCI는 일단 이식되면 외부 관찰자에게 보이지 않으며 일부는 훨씬 덜 침습적이다.

예를 들어 싱크론(Syncron)의 BCI는 1980년대부터 사용된 스텐트 기술을 기반으로 한다. 스텐트는 혈관에 삽입할 수 있는 금속 지지대이다. 수십 년 동안 안전하게 방치할 수 있다(그리고 많은 심장 환자의 경우 동맥을 열어 두었다). 싱크론은 카테터를 사용하여 뇌 운동 피질의 혈관에 스텐트를 보낸다. 일단 거기에 도달하면 스텐트는 꽃처럼 펼쳐지고 그 위에 있는 센서는 뉴런에서 신호를 포착한다. 이로 인해 이미 몇몇 마비된 사람들이 자신의 생각을 트윗하고 문자로 보낼 수 있게 되었다.

 

개방형 뇌수술은 필요하지 않다. 두개골에 드릴 구멍이 없다.

머스크 자신은 2016년 Recode의 코드 컨퍼런스에서 5분짜리 동영상을 통해 BCI가 반드시 개방형 뇌 수술을 필요로 할 필요는 없다고 말했다. “정맥과 동맥을 통과할 수 있다. 왜냐하면 그것이 모든 뉴런에 완전한 길을 제공하기 때문이다.”라고 말했다. "기본적으로 경정맥에 무언가를 삽입할 수 있고..."

청중이 초조하게 웃자 그는 “두개골을 자르거나 그런 건 아니다”라고 덧붙였다.

Neuralink의 초창기, 회사가 두개골에 구멍을 뚫는 것과 같은 현재의 접근 방식을 확정하기 전, 연구팀 중 한 명이 혈관 내 접근 방식을 조사했다고 전해진 네 명의 전직 Neuralink 직원이 나에게 말했다. 이 팀은 동맥을 통해 뇌에 장치를 전달하는 옵션을 탐색하고 그것이 가능하다는 것을 입증했다.

 

그러나 2019년까지 Neuralink는 이 옵션을 거부하고 대신 뇌에 직접 실을 이식하는 보다 침습적인 수술 로봇을 선택했다.

왜일까? 혈관 내 접근법이 마비된 환자의 주요 기능을 회복할 수 있고 염증 및 뇌의 반흔 조직 축적과 같이 혈액뇌관문을 통과할 때 발생하는 일부 안전 위험을 피할 수 있다면 왜 필요 이상으로 침습적인 방법을 선택할까?

회사에서는 말하지 않는다. 그러나 2018년 Neuralink의 혈관내 연구팀을 이끌었던 와타나베 히로부미(Hirobumi Watanabe)에 따르면 주된 이유는 회사가 대역폭 극대화에 집착했기 때문이라고 한다.

"Neuralink의 목표는 더 많은 전극과 더 많은 대역폭을 확보하여 이 인터페이스가 다른 기술이 할 수 있는 것보다 훨씬 더 많은 일을 할 수 있도록 하는 것이다."라고 와타나베는 말했다.

결국, 머스크는 기계와의 원활한 통합을 통해 우리가 기억력을 향상시키는 것부터 마음을 업로드하고 영원히 사는 것까지 모든 것을 할 수 있다고 제안했다. 이는 실리콘 밸리의 트랜스휴머니즘적 환상의 핵심이다. 아마도 회사의 이중 임무를 이해하는 데 도움이 될 것이다. "현재 충족되지 않은 의료 요구 사항이 있는 사람들에게 자율성을 복원하고 내일 인간의 잠재력을 발휘할 수 있는 일반화된 두뇌 인터페이스를 만드는 것"이다.

 

뮌헨의 신경윤리학자인 마르첼로 이엔카(Marcello Ienca)는 "Neuralink는 범용 신경 인터페이스를 생산하는 것을 명시적으로 목표로 삼고 있다."라고 말했다. “내가 아는 한, 그들은 현재 이식 가능한 의료 신경 인터페이스에 대한 임상 시험을 계획하면서 인지 향상을 위한 신경 임플란트의 향후 비의학적 적용에 대해 공개적으로 발표하는 유일한 회사이다. 범용 기술을 만들려면 인간과 컴퓨터 사이의 원활한 인터페이스를 만들어 향상된 인지 및 감각 능력을 구현해야 한다. 이 비전을 달성하려면 실제로 더 높은 대역폭과 정밀도를 달성하기 위해 더 침습적인 방법이 필요할 수 있다.”

 

와타나베는 Neuralink가 대역폭 극대화를 우선시했다고 믿는다. 이는 AI와 병합하고 모든 종류의 새로운 역량을 개발할 수 있는 일반화된 BCI를 생성하려는 머스크의 목표에 부합하기 때문이다. “엘론 머스크가 말하는 것이 바로 그것이기 때문에 회사가 해야 할 일이다.”라고 그는 말했다.

혈관 내 접근법은 침습적 접근법만큼 많은 대역폭을 제공할 수 있는 것처럼 보이지 않았다. 혈관에 머무르는 것이 더 안전할 수 있지만, 단점은 많은 뉴런에 접근할 수 없다는 것이다. "이것이 그들이 이 접근 방식을 따르지 않은 가장 큰 이유이다"라고 와타나베는 말했다. “오히려 슬프다.” 그는 Neuralink가 최소 침습적 접근 방식을 포기하기에는 너무 빠르다고 믿었다고 덧붙였다. "우리는 이 프로젝트를 추진할 수도 있었다."

 

싱크론(Syncron)의 CEO인 톰 옥슬리(Tom Oxley)에게 이는 큰 의문을 제기한다. "문제는 환자 중심의 임상 건강 결과라는 단기 목표와 AI 공생이라는 장기 목표 사이에 충돌이 나타나는가 하는 것이다." 그는 나에게 말했다. "내 생각엔 아마도 대답은 '그렇다'일 것이다."

옥슬리는 “무엇을 위해 디자인하는지, 환자 문제를 염두에 두고 있는지가 중요하다.”라고 덧붙였다. 싱크론은 이론적으로 기술을 소형화하고 혈관의 더 깊은 지점으로 들어가 대역폭을 늘리는 방향으로 구축할 수 있다. 연구에 따르면 이것이 실행 가능하다는 것을 보여준다. “그러나 우리는 환자의 문제를 해결하기에 충분한 신호가 있다고 생각되는 지점을 선택했다.”

 

Neuralink를 떠나 Precision Neuroscience를 설립한 신경외과의사 벤 라포포트(Ben Rapoport)는 전극이 뇌를 관통할 때마다 뇌 조직에 약간의 손상을 입히는 것이라고 강조했다. 그리고 당신의 목표가 마비 환자를 돕는 것이라면 그것은 불필요하다.

라포포트는 "뇌졸중과 척수 손상 환자의 언어 및 운동 기능을 복원하는 데 필요한 신경 보철 기능에 대해 절충이 필요하다고 생각하지 않다"라고 말했다. "우리의 기본 철학 중 하나는 뇌를 손상시키지 않고 충실도가 높은 뇌-컴퓨터 인터페이스 시스템을 구축할 수 있다는 것이다."

 

높은 대역폭을 달성하기 위해 머스크 침습이 필요하지 않다는 것을 증명하기 위해 Precision은 Neuralink와 유사한 신호를 전달하는 Neuralink 임플란트의 전극 수와 동일한 1,024개의 전극으로 뇌 표면을 코팅하는 얇은 필름을 설계했다. 필름은 두개골의 틈새를 통해 삽입해야 하지만, 뇌를 관통하지 않고 뇌 표면에 안착된다는 장점이 있다. 라포포트는 이것을 "골디락스 솔루션"이라고 부르며 이미 소수의 환자에게 이식되어 뇌 활동을 고해상도로 기록하고 있다.

라포포트는 “뇌를 손상시키지 않고 최소한의 침습성을 갖는 매우 안전한 절차를 수행하는 것이 중요하다.”고 말했다. "게다가 시스템의 대역폭을 확장하더라도 환자에 대한 위험이 증가해서는 안 된다."

귀하의 가장 소중한 야망이 과도한 위험을 감수하지 않고 환자의 삶을 최대한 개선하도록 돕는 것이라면 이는 의미가 있다. 그러나 우리가 알고 있듯이 머스크는 다른 야망을 갖고 있다.

이엔카는 “Neuralink가 그다지 관심을 두지 않는 것 같다. 보다 침입적인 접근 방식이 대역폭 측면에서 이점을 제공할 수 있지만 더 큰 윤리적 및 안전 문제를 야기한다는 것이다.”라고 말했다. “적어도 나는 그들의 접근 방식으로 인해 발생하는 더 큰 개인 정보 보호, 안전 및 정신적 완전성 위험을 어떻게 해결할 것인지를 나타내는 공개 성명을 들어 본 적이 없다. 국제 연구 윤리 지침에 따르면 덜 침습적인 방법을 사용하여 동일한 성과를 달성할 수 있다면 더 침습적인 기술을 사용하는 것은 윤리적이지 않기 때문에 이것은 이상하다.”

Neuralink의 동물 실험에서 알 수 있듯이 더 침습적인 방법은 본질적으로 뇌에 실질적인 손상을 줄 수 있다.

 

동물이 보여주는 Neuralink에 대한 윤리적 우려

일부 뉴럴링크 직원은 회사의 실험에 사용된 돼지와 원숭이를 대신해 회사가 성급하게 수술을 진행했기 때문에 필요 이상으로 고통받고 사망하는 비율이 높다고 주장했다. 그들은 머스크가 회사가 곧 인간 실험을 시작할 것이라고 반복해서 예측한 후 직원들에게 FDA 승인을 빨리 받도록 압력을 가했다고 주장했다.

 

끔찍한 오류의 한 가지 예: 2021년에 Neuralink는 돼지 60마리 중 25마리에게 크기가 잘못된 장치를 이식했다. 그 후 회사는 영향을 받은 돼지를 모두 도살했다. 직원은 준비할 시간이 더 있었다면 실수를 피할 수 있었을 것이라고 로이터에 말했다.

수의학 보고서에 따르면 Neuralink의 원숭이도 끔찍한 운명을 겪었다. 한 원숭이에서는 뇌에 이식하는 동안 장치의 일부가 "부러졌다". 원숭이는 장치의 일부가 빠질 때까지 긁고 잡아당겼고, 감염이 발생했다. 또 다른 원숭이는 뇌에서 출혈이 발생했고 이식으로 인해 피질의 일부가 "너덜너덜"해졌다. 두 동물 모두 안락사 되었다.

 

2022년에 미국 농무부 감찰관실은 Neuralink에서 동물 복지 위반 가능성에 대한 조사를 시작했다. 이 회사는 또한 원숭이의 뇌에서 제거된 임플란트가 안전하지 않게 포장 및 이동되어 잠재적으로 사람들이 병원체에 노출되었을 수 있다는 우려에 대해 교통부로부터 조사를 받고 있다.

동물 실험을 반대하는 비영리 단체인 책임 있는 의료를 위한 의사 위원회(Physicians Committee for Responsible Medicine)는 2023년 5월 성명에서 “[Neuralink의] 과거 동물 실험에서는 제품의 침입성과 회사 직원의 성급하고 엉성한 행동으로 인한 심각한 안전 문제가 드러났다.”고 밝혔다. "따라서 대중은 Neuralink가 생산하는 모든 장치의 안전성과 기능성에 대해 계속 회의적이어야 한다."

 

그럼에도 불구하고 FDA는 회사가 인간 실험을 시작하도록 허가했다.

FDA는 복스에 보낸 성명에서 "회사는 IDE 승인 기준과 요건에 따라 인간 실험을 시작하기 위한 IDE(임상시험용 기기 면제) 신청 승인을 뒷받침할 충분한 정보를 제공했다"고 밝혔다. IDE 승인을 결정하는 것은 잠재적인 피험자의 안전성 프로필을 평가하고, 위험을 적절하게 최소화하고 피험자에게 전달하며, 얻을 수 있는 지식의 가치를 포함하여 잠재적 이익이 위험을 초과하는지 확인하는 것을 기반으로 한다."

 

Neuralink의 접근 방식이 너무 잘 작동하면 어떻게 될까?

수술이 Neuralink의 시험에 모집된 개인에게 의미하는 것 외에도 BCI 기술이 사회에 더 광범위하게 의미하는 바에 대한 윤리적 우려가 있다. 머스크가 추구하는 유형의 고대역폭 임플란트가 실제로 사람들의 두뇌에서 일어나는 일에 전례 없는 접근을 허용한다면 디스토피아 가능성이 더 커질 수 있다. 일부 신경윤리학자들은 오용의 가능성이 너무 커서 우리가 앞으로 나아가기 전에 우리를 보호하기 위해 인권법을 개정해야 한다고 주장한다.

우선, 우리의 두뇌는 개인 정보 보호의 최종 경계선이다. 그것은 우리의 개인적인 정체성과 가장 친밀한 생각의 자리이다. 우리 두개골에 있는 그 귀중한 3파운드의 끈적거리는 것을 우리가 통제할 수 없다면 무엇일까?

 

중국에서는 정부가 이미 일부 근로자에게 뇌파를 스캔하여 감정 상태를 검사하는 모자를 착용하게 하여 이들의 뇌에서 데이터를 수집하고 있다. 미국에서는 군대가 군인들을 더욱 임무에 적합하게 만들기 위해 신경기술을 연구하고 있다. 예를 들어 경계심을 강화하는 것이다.

그리고 전 세계 일부 경찰서는 우리가 인지하는 자극에 직면했을 때 뇌에서 일어나는 자동 반응을 분석하는 '뇌 지문 채취' 기술을 연구해 왔다. (이를 통해 경찰은 용의자의 뇌를 심문할 수 있다. 용의자의 뇌 반응은 인식하는 얼굴이나 문구보다 인식하지 못하는 얼굴이나 문구에 대해 더 부정적일 것이다.) 뇌 지문 채취 기술은 과학적으로 의심스럽다. 경찰은 2003년부터 사용해 왔으며, 2013년 싱가포르 경찰이 구입했고, 2014년 플로리다 주 경찰이 사용 계약을 체결했다.

 

정부가 감시나 심문을 위해 BCI를 사용하는 시나리오를 상상해 보라. 미국 헌법에 명시된 자기부죄를 하지 않을 권리는 당국이 귀하의 동의 없이 귀하의 정신 상태를 도청할 수 있는 권한을 부여받은 세상에서는 무의미해질 수 있다.

전문가들은 또한 Neuralink가 제작한 것과 같은 장치가 해킹에 취약할 수 있다고 우려한다. 그 중 하나를 사용하고 있는데 악의적인 행위자가 Bluetooth 연결을 가로채서 뇌로 가는 신호를 변경하여 당신을 더 우울하게 만들거나 더 순응하게 만들면 어떻게 될?

신경윤리학자들은 이를 브레인재킹이라고 부른다. 이엔카는 2019년에 "이것은 여전히 가설이지만 개념 증명 연구에서 가능성이 입증되었다"라고 말했다. "이런 해킹에는 그렇게 많은 기술적 정교함이 필요하지 않다."

 

마지막으로, BCI를 부과하거나 제거함으로써 심리적 연속성이나 근본적인 자아감이 어떻게 붕괴될 수 있는지 생각해 보라. 한 연구에서 BCI를 받은 간질 여성은 BCI와 급진적인 공생을 느끼게 되어서 "그것이 바로 나였다."라고 말했다. 그러다가 그녀의 뇌에 장치를 이식한 회사가 파산했고 그녀는 그 장치를 제거해야 했다. 그녀는 “나 자신을 잃었다”며 울었다.

미래에 가상의 전능한 AI의 위험을 방지하기 위해 머스크는 두뇌와 기계 사이에 공생을 만들고 싶어한다. 그러나 공생은 그 자체로 매우 실제적인 위험을 야기하며, 그 위험은 지금 우리에게 닥쳤다.