광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

[유엔 총회 의장, 미래 인공지능(AGI)에 관한 특별 세션 소집 요청] 공개서한에서 유엔에 미래 AI 규제 작업 시작을 촉구한다.

https://magazine.mindplex.ai/mp_news/un-general-assembly-president-requested-to-convene-special-session-on-future-artificial-general-intelligence-agi/

운영자 | 기사입력 2024/09/11 [00:00]

[유엔 총회 의장, 미래 인공지능(AGI)에 관한 특별 세션 소집 요청] 공개서한에서 유엔에 미래 AI 규제 작업 시작을 촉구한다.

https://magazine.mindplex.ai/mp_news/un-general-assembly-president-requested-to-convene-special-session-on-future-artificial-general-intelligence-agi/

운영자 | 입력 : 2024/09/11 [00:00]

 

유엔 총회 의장미래 인공지능(AGI)에 관한 특별 세션 소집 요청

 

밀레니엄 프로젝트는 세계 예술 과학 아카데미와 세계 미래 연구 연합과 협력하여 유엔 총회 차기 의장인 필레몬 양에게 인공 일반 지능(AGI)이라고 불리는 미래 형태의 AI의 개발보안 및 거버넌스와 관련하여 공개 서한을 보냈다.

 

인공지능 및 미래 연구 분야의 정치비즈니스 및 학계 리더 230명이 서명한 이 공개 서한은 앞으로 10년 안에 "규제되지 않은 AGI의 여러 버전이 인터넷에 공개될 수 있다국가적 허가 시스템과 유엔의 조정이 없다면 인류는 AGI에 대한 통제력을 잃을 수 있으며, AGI는 자체 코드를 다시 작성하여 순간순간 점점 더 똑똑해지고 우리의 통제나 이해를 훨씬 뛰어넘는 인공 슈퍼 지능으로 진화할 수 있다."라고 경고한다.

 

AI에 대한 유엔 협약 촉구

이 서한은 두 섹션으로 구성된 AI에 대한 유엔 협약을 초안할 의향이 있는 위원회를 구성하기 위한 유엔 결의안을 요구한다하나는 인공 좁은 지능(ANI)에 대한 것이고 다른 하나는 인공 일반 지능(AGI)에 대한 것이다이는 "모든 형태의 인공지능을 관리하고 안전하게 개발하기 위한 전문 기관을 만드는 데 도움이 될 수 있다."

 

'인류가 직면한 가장 어려운 문제'

AGI로의 전환을 위한 규정 및 글로벌 거버넌스 구조에 대한 최근 국제 연구(다음 주 State of the Future 20.0에 게재됨)에서 다중 이해 관계자하이브리드(AI 및 인간거버넌스 시스템이 현재 및 미래의 AI 개발이 인권과 복지에 부합하도록 보장할 가능성이 가장 높은 것으로 평가되었다.

 

밀레니엄 프로젝트의 CEO인 제롬 글렌은 "AGI로의 전환을 관리하는 것은 인류가 직면한 가장 복잡하고 어려운 관리 문제가 될 수 있다."라고 말한다캘리포니아 대학교 버클리의 선도적 AI 전문가인 스튜어트 러셀에 따르면, "AGI 시스템을 만들기 전에 [AGI 관리]를 해결하지 못하면 인간 문명에 치명적인 실수가 될 것이다어떤 개체도 그런 실수를 할 권리가 없다."

 

 

 

 
UN, 밀레니엄 프로젝트, 인공지능, AGI, 유엔 협약 관련기사목록
광고
광고
광고
광고
광고
광고
광고
많이 본 기사
AI메타홈서비스 많이 본 기사
최신기사
광고
광고