인공 일반 지능(AGI)을 지배하는 절대적 권력을 막아야 한다.

절대적 권력

일론 머스크가 샘 알트먼을 상대로 한 소송에서 증거를 찾는 과정에서, 이 그룹의 역사 초기에 주고받은 이메일은 그 회사의 강력한 창작물을 누가 통제할 것인지에 대한 긴장이 일찍부터 고조되었음을 보여준다.

머스크 VS 알트먼 재판에서 증거로 제출된 이러한 초기 이메일 중 하나에서 OpenAI의 공동 창립자인 일리아 수츠케버는 통제에 대한 그의 이기적인 욕구와 그것이 인공 일반 지능(AGI)으로 더 잘 알려진 다가올 인간 수준의 AI에 미칠 수 있는 위험에 대해 그를 질책했다.

"현재 구조는 AGI에 대한 일방적인 절대적 통제권을 갖게 되는 길을 제공한다."라고 수츠케버는 2017년 9월 알트먼과 머스크에게 편지를 썼다. "당신은 최종 AGI를 통제하고 싶지 않다고 말했지만, 이 협상에서 절대적 통제권이 당신에게 매우 중요하다는 것을 보여주었다."

"예를 들어, 당신은 모든 사람이 당신이 책임자라는 것을 알 수 있도록 새로운 회사의 CEO가 되어야 한다고 말했다." 그는 계속해서 말했다. "당신은 CEO가 되는 것을 싫어하고 CEO가 되고 싶지 않다고 말했지만 말이다."

통제 하에

특히, 이 이메일은 머스크가 회사가 자금을 어떻게 조달해야 하는지에 대한 의견 불일치로 OpenAI에서 사임하기 6개월도 채 안 된 시점에 전송되었다. 이는 현재 알트먼 등을 상대로 한 소송의 핵심이기도 하다.

수츠케버는 "회사가 AGI를 향해 진정한 진전을 이룰 때, 당신은 현재의 반대 의도에도 불구하고 회사에 대한 절대적 통제권을 유지하기로 선택할까봐 우려한다."라고 썼다.

비슷한 우려 때문에 수츠케버는 작년에 알트먼에 대한 쿠데타를 성공적으로 이끌었고, 이번 봄에 자신의 축출이 명백해졌을 수도 있다. 머스크에게 보낸 그의 나머지 비판적인 이메일에서 알 수 있듯이, 그는 걱정할 만한 충분한 이유가 있었다.

"OpenAI의 목표는 미래를 좋게 만들고 AGI 독재를 피하는 것이다."라고 그는 썼다. "당신은 데미스[Google DeepMind AI 연구소의 설립자 하사비스]가 AGI 독재를 만들 수 있다고 우려하고 있다. 우리도 마찬가지이다. 따라서 당신이 원한다면 독재자가 될 수 있는 구조를 만드는 것은 나쁜 생각이다. 특히 우리가 이러한 가능성을 피할 수 있는 다른 구조를 만들 수 있다는 점을 감안할 때 더욱 그렇다."

특히 수츠케버가 스스로 물러나고 AGI 안전을 촉진하는 새로운 벤처를 설립한 후, 그 메시지를 회고해보면, 특히 머스크가 대통령 당선자 도널드 트럼프를 포용하는 모습이 세상을 운영하는 방식을 통제하려는 깊은 갈증을 드러내기 때문에 꽤나 소름이 끼친다.