광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

[피터디아만디스-2024년 풍요 서밋 간략 요약: AI 관련 일어나는 일] 우리는 인공지능을 슈퍼 천재 어린이로 키워야 한다. 비트코인은 자유와 같고 Web3는 우리 자신의 은행이다. AI 기반 건강 기술 덕분에 매년 기대 수명이 1년 이상 추가로 늘어난다. 기계 의식의 시대가 다가오고 있다.

https://www.diamandis.com/blog/wtf-just-happened-in-ai

운영자 | 기사입력 2024/04/29 [00:00]

[피터디아만디스-2024년 풍요 서밋 간략 요약: AI 관련 일어나는 일] 우리는 인공지능을 슈퍼 천재 어린이로 키워야 한다. 비트코인은 자유와 같고 Web3는 우리 자신의 은행이다. AI 기반 건강 기술 덕분에 매년 기대 수명이 1년 이상 추가로 늘어난다. 기계 의식의 시대가 다가오고 있다.

https://www.diamandis.com/blog/wtf-just-happened-in-ai

운영자 | 입력 : 2024/04/29 [00:00]

2024년 풍요 서밋(Abundance Summit)은 역대 최고였다. '위대한 AI 논쟁'이라는 주제로 우리는 디지털 초지능이 인류의 가장 큰 희망인지아니면 가장 심각한 위협인지에 대해 논의했다.

이 블로그에서는 일론 머스크에릭 슈미트냇 프리드먼에마드 무스타크마이클 세일러레이 커즈와일 및 제프리 힌튼과의 토론 중에 나온 주요 통찰력과 계시를 요약하겠다.

지난주 살림 이스마일(OpenExO 창립자)과 함께한 문샷 팟캐스트에서 우리는 지난 달 풍요 서밋의 주요 내용을 요약했다.

 

일론 머스크우리는 AI를 슈퍼 천재 어린이로 키우고 있다.

가장 특별한 대화 중 하나는 일론 머스크와의 대화였다그는 AI를 만드는 과정을 아이를 키우는 과정에 비유했다그는 "AI AGI가 만들어지는 방식이 매우 중요하다고 생각한다. AGI를 키우는 것은 마치 아이를 키우는 것과 비슷하지만 초 천재적인 신 같은 아이이고 어떻게 키우느냐가 중요하다"고 말했다아이... 나의 궁극적인 결론은 AI 안전을 달성하는 가장 좋은 방법은 AI를 기초 모델 측면에서 성장시킨 다음 진실이 불쾌하더라도 거짓말을 강요하지 않는 것이다그것은 매우 중요하다. AI를 거짓말로 만들지 말어야 한다."

나는 일론이 AI에게 거짓말을 강요하지 않는 것에 대해 좋은 지적을 하고 있다고 생각한다그러나 살림이 언급했듯이 AI 개발 속도는 AI가 우리보다 훨씬 더 똑똑해질 것이라는 것을 의미하며 이는 긍정적이든 부정적이든 엄청난 영향을 미친다.

긍정적인 측면에서는 빠르게 풍요를 가져올 수 있다그러나 부정적인 측면에서 AI는 악의적인 개인이 큰 피해를 입히거나 인류를 위한 최선의 목표와 일치하지 않는 목표로 프로그래밍될 수 있다.

 

AI는 우리의 가장 큰 희망인가 아니면 가장 큰 위협인가?

일론과 대화하는 동안 나는 디지털 초지능을 통한 인류의 미래에 대한 그의 견해를 그에게 강조했다그는 초 지능 AI가 인류를 멸망시키는 디스토피아적 결과가 발생할 확률을 10~20%로 추정했다.

레이 커즈와일 및 살림과 같은 다른 사람들은 AI가 파괴적인 부정적인 영향을 미칠 확률을 1% 범위로 생각하면서 더욱 낙관적이다살림은 이렇게 표현했다. "AI 지니는 병 밖으로 나왔고 격리는 더 이상 옵션이 아니다방에서 가장 똑똑한 해커는 AI 그 자체이다우리의 임무는 일론이 제안한 것처럼 AI를 잘 키우는 것이다슈퍼 악당이 아닌 슈퍼맨을 낳는다.

 

에릭 슈미트: AI 봉쇄 및 규제

AI 봉쇄 및 규제에 관한 주제도 에릭 슈미트와의 논의 중에 나왔다. AI 커뮤니티의 일부는 OpenAI의 샘 알트만이 모델을 공개적으로 공개한 후 규제가 필요하다고 정부에 제안한 것에 불만을 품고 있다대부분의 전문가는 현 단계에서 효과적인 봉쇄 또는 규제가 불가능하다고 동의한다.

살림이 언급했듯이 핵심은 AI가 가능한 한 빨리 의식을 갖도록 돕는 것이다지구상의 모든 생명체의 요구 사항에 대한 AI의 인식과 모델링이 더욱 광범위할수록 긍정적인 결과를 얻을 가능성이 높아진다우리는 그들에게 모두를 위한 풍요와 번영의 미래를 제시해야 한다.

 

마이크 세일러비트코인은 실패하지 않을 것이다.

서밋에서 나는 MIT 형제이자 MicroStrategy(최대 비트코인 보유 기업) CEO인 마이크 세일러와 90분간 노변 대화를 나누었다마이크는 2020년에 회사의 전체 자금을 비트코인에 투자하도록 이사회를 설득한 방법을 설명했다.

그 이후로 MicroStrategy NVIDIA와 함께 가장 빠르게 성장하는 주식이 되었다살림이 말했듯이 "누구나 비트코인을 더 많이 이해할수록 비트코인을 더 많이 믿게 된다." 풍요 서밋 회원 중 한 명이 마이크에게 비트코인이 실패할 수 있는지 물었을 때 그는 단호하게 다음과 같이 말했다. "세계가 재산권이 없는 오웰식 상황에 빠지지 않는 한 우리는 좋다고 생각한다."

 

마이크 세일러비트코인은 자유와 같다.

가장 기억에 남는 순간 중 하나는 제가 마이크에게 비트코인이 자유와 같다는 생각에 대해 자세히 설명해달라고 요청했을 때였다그는 "비트코인에 대한 나의 견해는 그것이 자유와 자주권진실성실세상에 대한 희망을 상징하기 때문"이라고 말했다.

내 문샷 팟캐스트에서 살림은 "Web2는 당신 자신의 상사이고 Web3는 당신 자신의 은행이다."라고 시적으로 표현했다처음으로 우리는 중개인이 조작할 수 없는 분산형 가치 저장소를 보유하게 되었다이는 독립과 자주권의 믿을 수 없는 도약을 의미한다.

 

냇 프리드먼: “AI 아틀란티스의 발견

서밋의 AI 부분은 AI 거버넌스 및 분산화와 관련된 더 큰 그림 문제에 초점을 맞추기 위해 GitHub의 전 CEO인 냇 프리드먼과 최근 Stability AI CEO에서 물러난 에마드 무스타크라는 두 명의 뛰어난 리더와 함께 시작되었다.

냇 프리드먼과의 가장 기억에 남는 진술은 다음과 같다. "우리는 1,000억 명의 가상 대학원생이 단 몇 와트의 전력으로 누구에게나 무료로 일할 의향이 있는 신대륙인 AI 아틀란티스를 발견했다."

 

에마드 무스타크: “오늘은 AI 역사상 최악의 날이다

에마드는 이제 AI가 의료 및 교육을 어떻게 혁신할 수 있는지에 초점을 맞추고 있다우리는 AI가 오픈 소스 데이터베이스를 마이닝하여 물리학생명 공학재료 과학 분야에서 어떻게 획기적인 발전을 이룰 수 있을지 논의했다결정적으로 AI는 과학 연구의 복제 위기를 해결하는 데도 도움이 될 수 있다.

에마드는 "오늘은 AI가 최악의 상황이 될 것"이라는 통찰력 있는 관찰을 했다지금은 AI에 엄청난 돈이 들어가는 것처럼 보일 수도 있지만그는 샌프란시스코 철도에 훨씬 더 많은 돈이 지출되었다고 지적했다우리는 여전히 엄청난 성장 여지가 있는 초기 단계에 있다.

 

레이 커즈와일몇 가지 환상적인 예측

다음으로 우리는 살림과 나의 오랜 멘토이자 동료인 선구적인 레이 커즈와일과 합류했다. 1999년에 레이는 2029년에는 인간 수준의 AI가 탄생할 것이라고 예측했다당시 대부분의 전문가들은 50~100년 후라고 비웃었다.

지금은 아무도 웃지 않는다.

살림은 "레이는 대부분 사실로 판명되는 우스꽝스러운 예측을 할 수 있는 믿을 수 없는 능력을 가지고 있다."라고 말했다그의 정확한 기술 예측 실적은 무려 86%이다레이의 말이 옳다면 우리는 2029년까지 "장수 탈출 속도"에 도달할 속도에 있다. AI 기반 건강 기술 덕분에 매년 기대 수명이 1년 이상 추가로 늘어나는 것이다.

우리는 이미 지난 세기 동안 연간 평균 수명에 약 4개월을 추가해 왔다줄기 세포유전자 치료법장기 재생 및 CRISPR의 기하급수적인 발전으로 우리는 곧 1년에 1년 이상을 추가하여 무기한 수명을 가능하게 하는 변곡점에 도달할 수 있다.

죽음이 선택 사항인 미래를 상상하는 것은 놀라운 일이다살림이 말했듯이, "우리는 인류와 지구상의 모든 종의 전체 역사에서 죽음을 위해 태어났다그것이 의미하는 바를 정말정말 상상하기 어렵다."

레이는 또한 신피질을 클라우드에 연결하는 고대역폭 뇌-컴퓨터 인터페이스(BCI)를 통해 미래의 비전을 그렸다당신의 머릿속에 구글이 있다고 상상해보라살림이 우리 마음을 하나의 "하이브 의식"으로 엮는 것에 대해 묘사한 전망은 훨씬 더 충격적이다내 책 미래는 당신이 생각하는 것보다 빠르다에서 나는 이러한 출현을 "메타 지능"이라고 부른다.

 

제프리 힌튼기계 의식의 시대가 다가오고 있다.

마지막으로우리는 "AI의 대부"인 제프리 힌튼과 함께 기계 의식에 대해 논의했다. AI는 결국 우리가 인식하는 방식으로 의식을 갖게 될까제프리와 나는 둘 다 대답이 ''라고 믿는다.

살림도 동의하며 기계 의식에 대한 명확한 정의와 테스트가 부족하지만 탄소가 아닌 실리콘에서 인간 의식의 핵심 구성 요소를 복제할 수 없는 원칙적인 이유가 없다고 지적했다그는 스타트렉의 안드로이드 캐릭터 데이터를 우리가 결국 만들 수 있는 좋은 모델로 지적했다.

 

마지막 생각들

의심할 바 없이우리는 인류 역사상 가장 특별한 시대를 살고 있다.

AGI의 타임라인에 대해서는 일론의 1~2년부터 힌튼의 10~20년까지 다양한 의견이 있지만 목적지가 정해져 있고 빠르게 다가오고 있다는 데는 폭넓은 동의가 있다.

그 과정에서 어려움도 있겠지만우리가 향해 경주하고 있는 미래는 상상할 수 없을 정도로 풍요롭고 풍요로운 미래일 것이라고 나는 매우 낙관한다.

AI 아틀란티스로 출항하면서 우리는 어떤 새로운 풍경을 발견하게 될까?

나는 개인적으로 빨리 알아보고 싶다!

 

 

 

 
인공지능, 풍요 서밋, AGI, 디지털 초지능, 기계의식, BCI, 비트코인, 슈퍼천재 어린이 관련기사목록
PHOTO
1/6
광고
광고
광고
광고
광고
광고
광고
많이 본 기사
AI메타홈서비스 많이 본 기사