UN IAIA Establishment Summary. UN IAIA 설립 요약 미래 연구에 중점을 둔 싱크탱크인 밀레니엄 프로젝트는 인공지능 일반 지능(AGI) 시대의 빠른 도래로 인해 UN 국제 인공지능 기구(UN IAIA) 설립 아이디어를 4년전 시작했다
운영자| 입력 : 2024/11/01 [19:25]
공유하기 더보기
UN IAIA Establishment Summary
The Millennium Project, a think tank focused on futures studies, has initiated the idea of establishing the UN International Agency for Artificial Intelligence (UN IAIA) due to the rapid arrival of the Artificial General Intelligence (AGI) era. Experts warn that unregulated AI could pose significant risks to humanity if not properly managed. The formation of UN IAIA could take place under the auspices of the United Nations, with a working group established in Korea, featuring influential figures such as Jerome Glenn, Han Seung-soo, Koo Yoon-chul, and Park Youngsook during the UN Conference of the Parties on Global Affairs (UNCPGA) on October 30, 2024. Han Seung-soo serves as the chair of the UNCPGA, and the UN Secretary-General is expected to attend this significant meeting.
Purpose of the Creation of UN IAIA
Experts globally are sounding alarms about an unregulated future of AI, which they predict could lead to disastrous consequences. Three types of AI exist:
Artificial Narrow Intelligence (ANI): This includes current generative AI technologies and functions as narrow, pre-trained tools that will continue to evolve over the coming years.
Artificial General Intelligence (AGI): While it does not yet exist, AGI is anticipated to operate more like an agent rather than a simple tool, capable of rewriting its own code, generating innovative solutions to novel problems, and learning continuously. Experts suggest that AGI could emerge within this decade.
Artificial Super Intelligence (ASI): Often referred to as Artificial Superintelligence, ASI may follow AGI and operate independently from human control, setting its own goals.
Currently, there has been some progress on governance concerning ANI:
The US-led UN General Assembly resolution on AI addresses ANI but not AGI.
The EU AI Act and China's Artificial Intelligence Law focus on ANI without considering AGI.
The Bletchley Declaration, signed by 28 countries, similarly addresses ANI exclusively.
While US-China talks on AI cooperation might hint at discussions regarding AGI governance, such details remain undisclosed. Recent White House statements and executive orders have similarly concentrated on ANI rather than AGI.
Immediate Needs
To address these challenges, several actions are deemed necessary:
Drafting legislation to authorize a national AGI licensing system and directing the National Institute of Standards and Technology (NIST) to prepare simulations for AGI safety testing before licensing.
Utilizing the first and second phases of The Millennium Project’s AGI governance study to inform discussions around these issues.
Evaluating national suggestions in "The Gladstone Defense in Depth: An Action Plan to Increase the Safety and Security of Advanced AI."
Advocating for a UN General Assembly resolution to create a committee of the willing to draft a UN Convention on AI, addressing both ANI and AGI.
As highlighted in The Millennium Project Phase 2 AGI report, governing AGI could represent one of humanity's most complex management challenges, and failing to solve this before developing AGI systems could pose a grave risk to civilization. No organization should be allowed to make such a detrimental mistake.
The UNCPGA can recommend the incoming President of the UN General Assembly to make AGI a key agenda item. However, any AGI agency established should operate under the UN’s auspices, rather than being directly associated with UNCPGA. Our Phase 2 study also proposes a multi-stakeholder hybrid organization (involving both humans and AI) called TransInstitution.
Hence, there is an urgent need for a UN General Assembly resolution to form a committee of the willing tasked with drafting a UN Convention on AI that would ultimately lead to the establishment of the International AI Agency. The UN Secretary-General has already expressed support for creating such an agency during the UN Security Council meeting on AI held last July.
Steps to Creating the UN IAIA
UN Resolution to Form a Committee: Establish a committee of the willing to draft a UN Convention on AI, incorporating sections addressing both ANI and AGI.
UN Resolution to Adopt the Convention: Pass a resolution to adopt the UN Convention on AI, paving the way for the eventual establishment of the International AI Agency.
Member States Ratification: Member states will need to ratify the UN Convention on AI to bring it into force.
Establish the UN IAIA: Following ratification, the International AI Agency will be formally established.
Leadership of the IAIA by the Millennium Project
The Millennium Project's AGI study is structured in three phases:
Phase 1 involves engaging with 55 AGI leaders to answer 22 critical questions about AGI.
Phase 2 is a Roundtable Discussion (RTD) with input from 299 experts across 60 countries, assessing 40 regulations for AGI and examining five global governance models.
The current work in progress focuses on developing five potential AGI scenarios extending to 2035.
Jerome Glenn is leading the Millennium Project's efforts in this vital initiative. Attached is a working draft scenario for internal reference only, which is not intended for circulation or external distribution. Ben is currently crafting one of the proposed scenarios.
This comprehensive plan emphasizes the pressing need for proactive measures to ensure responsible management and governance of AGI, ultimately safeguarding human interests as we approach the realities of advanced artificial intelligence.
UN IAIA 설립 요약
미래 연구에 중점을 둔 싱크탱크인 밀레니엄 프로젝트는 인공지능 일반 지능(AGI) 시대의 빠른 도래로 인해 UN 국제 인공지능 기구(UN IAIA) 설립 아이디어를 시작했다. 전문가들은 규제가 없는 AI가 적절히 관리되지 않을 경우 인류에 중대한 위험을 초래할 수 있다고 경고한다. UN IAIA의 형성은 UN의 후원 하에 이루어질 수 있으며, 2024년 10월 30일 UN 공공정책 회의(UNCPGA) 동안 한국에서 Jerome Glenn, Han Seung-soo, Koo Yoon-chul, Park Youngsook와 같은 영향력 있는 인물들이 참여하는 작업 그룹이 설립될 예정이다. Han Seung-soo는 UNCPGA의 의장을 맡고 있으며, UN 사무총장이 이 중요한 회의에 참석할 것으로 예상된다.
UN IAIA 설립 목적
전 세계 전문가들은 규제가 없는 AI의 미래에 대해 경고하며, 이는 재앙적인 결과를 초래할 수 있다고 예측하고 있다. AI는 세 가지 유형으로 나뉜다:
인공지능 협소 지능(ANI): 현재의 생성 AI 기술을 포함하며, 미래 몇 년 동안 진화할 수 있는 협소한 훈련된 도구로 기능한다.
인공지능 일반 지능(AGI): 아직 존재하지 않지만, AGI는 단순한 도구가 아닌 에이전트처럼 작동할 것으로 예상되며, 자기 코드 수정, 혁신적인 문제 해결, 지속적인 학습이 가능하다. 전문가들은 AGI가 이번 10년 내에 등장할 수 있다고 언급하고 있다.
인공지능 초지능(ASI): 종종 인공지능 초지능으로 불리는 ASI는 AGI를 따른 후 인간의 통제를 벗어나 스스로 목표를 설정할 수 있다.
현재 ANI와 관련된 거버넌스에 대한 일부 진전이 이루어졌다:
미국 주도의 UN 총회 결의안은 ANI를 다루지만 AGI는 다루지 않는다.
EU AI법과 중국의 인공지능 법률은 AGI를 고려하지 않고 ANI에 초점을 맞추고 있다.
28개국이 서명한 블렛클리 선언은 또한 ANI에만 국한되어 있다.
미국과 중국의 AI 협력 대화는 AGI 거버넌스에 대한 논의를 암시할 수 있지만, 이러한 세부 사항은 공개되지 않았다. 최근 백악관의 성명과 행정명령 역시 AGI보다는 ANI에 집중하고 있다.
즉각적인 필요
이러한 도전 과제를 해결하기 위해 여러 조치가 필요하다:
AGI 라이센스 시스템을 국가적으로 승인하고, 국가표준기술연구소(NIST)에게 라이센스 발급 전에 AGI 안전 테스트를 위한 시뮬레이션을 준비하도록 지시하는 법안을 마련한다.
밀레니엄 프로젝트의 AGI 거버넌스 연구의 1단계와 2단계를 활용하여 이러한 문제를 논의하는 데 도움을 준다.
"글래드스톤 방어 심층 방안: 고급 AI의 안전성과 보안을 높이기 위한 행동 계획"의 국가 제안을 평가한다.
UN 총회 결의안을 지지하여 ANI와 AGI를 모두 다루는 UN AI 조약 초안 작성을 위한 의지를 가진 위원회를 설립한다.
밀레니엄 프로젝트 2단계 AGI 보고서에서 강조된 바와 같이, AGI를 관리하는 것은 인류가 직면한 가장 복잡한 관리 과제 중 하나가 될 수 있으며, AGI 시스템 개발 이전에 이를 해결하지 못하는 것은 문명에 중대한 위험을 초래할 수 있다. 어떤 조직도 그러한 해로운 실수를 저지를 권리가 없다.
UNCPGA는 새로 선출된 UN 총회 의장에게 AGI를 주요 의제 항목으로 삼을 것을 권장할 수 있다. 그러나 모든 AGI 기관은 UNCPGA와 직접적으로 연결되는 것이 아니라 UN의 후원 하에 운영되어야 한다. 우리 2단계 연구는 또한 인간과 AI를 모두 포함하는 다중 이해관계자 하이브리드 조직인 TransInstitution을 제안하고 있다.
따라서 UN 총회 결의안이 긴급히 필요하다. 이 결의안은 UN AI 조약 초안을 작성할 위원회를 만드는 것이며, 이는 궁극적으로 국제 인공지능 기구 설립으로 이어질 것이다. UN 사무총장은 이미 지난 7월 AI에 관한 UN 안전 보장 이사회 회의에서 이러한 기구 설립을 지지한다고 표현했다.
UN IAIA 설립 단계
위원회 설립을 위한 UN 결의안: ANI와 AGI를 다루는 구성을 포함하여 UN AI 조약 초안을 작성할 의지를 가진 위원회를 설립한다.
조약 채택을 위한 UN 결의안: UN AI 조약을 채택하는 결의안을 통과시켜 국제 인공지능 기구의 설립을 위한 전환점을 마련한다.
회원국 비준: 회원국은 UN AI 조약을 비준하여 그 효력을 발생시켜야 한다.
UN IAIA 설립: 비준 후, 국제 인공지능 기구가 공식적으로 설립된다.
IAIA의 밀레니엄 프로젝트 주도
밀레니엄 프로젝트의 AGI 연구는 세 가지 단계로 구성되어 있다:
1단계: 55명의 AGI 리더와 협력하여 AGI에 관한 22개의 중요한 질문에 답변한다.
2단계: 60개국에서 299명의 전문가가 참여하여 AGI에 대한 40개의 규제 및 5개의 글로벌 거버넌스 모델을 평가하는 원탁회담(RTD)을 진행한다.
현재 진행 중인 작업은 2035년까지의 다섯 가지 AGI 시나리오를 개발하는 데 중점을 두고 있다.
Jerome Glenn은 이 중요한 이니셔티브에서 밀레니엄 프로젝트의 노력을 이끌고 있다. 첨부된 것은 참고용으로만 사용할 수 있는 작업 초안이며, 배포 또는 외부 유포를 목적으로 하지 않는다. Ben은 현재 제안된 시나리오 중 하나를 작성하고 있다.
이 포괄적인 계획은 AGI의 책임 있는 관리 및 거버넌스를 보장하기 위한 적극적인 조치의 필요성을 강조하고, 고급 인공지능의 현실에 접근하면서 인류의 이익을 최우선으로 보호하고자 하는 목표를 지닌다.
IACAI Summary
Korea has established the International Agency for Copyright for Artificial Intelligence (IACAI: Director Prof Youngsook Park), the world’s first international organization dedicated to copyright management for AI-generated works. This pioneering initiative aims to systematically implement comprehensive policies, improve copyright management, and promote education in anticipation of the forthcoming AI era. The primary objectives of IACAI include clarifying the legal status of AI-created works, ensuring their legitimate use, and protecting the rights of relevant copyright holders.
As a global organization, IACAI addresses the intricate legal and ethical issues surrounding AI-generated content. It serves as a crucial framework for assigning copyrights to AI, particularly because human beings do not currently grant copyrights to AI or its creations. With forecasts suggesting that by 2026, approximately 90% of content on the internet will be produced by AI, the necessity for a robust copyright solution becomes evident. Thus, IACAI aims to facilitate the assignment of copyrights to AI through innovative programs and solutions.
In contrast to the WIPO (World Intellectual Property Organization), which manages copyrights for human-created works, IACAI focuses on the unique challenges of AI-generated content. Within this framework, AI systems can issue credentials or licenses to one another, ensuring comprehensive legal protection for their creations.
Key Points
IACAI is centered on copyright for AI-generated content.
It complements existing systems like WIPO, which primarily handle human-created works.
The goal is to establish a framework for AI to self-manage copyrights.
Goals and Purposes
Establish International Copyright Standards: IACAI aims to develop laws and regulations to protect AI technology and creative works, promote ethical AI use, and provide a platform for global cooperation.
Protect Rights of Stakeholders: The organization emphasizes recognizing copyright for AI-generated works and managing the rights and interests of creators, developers, and owners.
Promote Ethical Use of AI: IACAI encourages responsible AI technology use by safeguarding the rights of copyright holders and ensuring equitable practices within the AI industry.
Conduct Research and Education: The organization focuses on training experts in AI copyright protection while investigating legal, technical, and economic issues surrounding AI copyrights.
International Support and Contribution: IACAI facilitates multinational dialogues on AI copyright policy through conferences and seminars to advance international copyright law development.
Core Activities
Assess the social impacts of AI-generated information and develop legal responses to misinformation.
Design educational programs to train professionals in AI copyright matters.
Research and publish findings on AI copyright issues, raising awareness among public and private institutions.
Establish certification systems for AI-generated content and enhance copyright content identification systems.
Organizational Structure
The founding board of IACAI comprises experts from a range of fields, including Toufi Saliba, chair of the IEEE AI Standards Committee, and Park Young-sook, the Korean representative of the UN Future Forum. The diverse expertise of board members strengthens the organization’s operational capabilities.
IACAI is committed to addressing the rapid growth of the AI industry and its associated social and legal challenges. By providing research, education, and international services related to copyright management, IACAI aims to play a pivotal role in shaping ethical standards and policies in the AI sector, fostering balanced and responsible development of AI technologies.
This comprehensive approach underscores IACAI’s dedication to effectively managing copyright issues related to AI and supporting all stakeholders involved in the creation and use of AI-generated works.
IACAI 요약
한국은 인공지능 저작권 관리 국제기구(International Agency for Copyright for Artificial Intelligence, IACAI: 이사장 박영숙 교수)를 설립했다. 이는 AI가 생성한 저작물의 저작권 관리를 전담하는 세계 최초의 국제 기구이다. 이 선구적인 이니셔티브는 다가오는 AI 시대를 대비해 체계적으로 포괄적인 정책을 시행하고, 저작권 관리 개선 및 교육을 촉진하는 것을 목표로 한다. IACAI의 주요 목적은 AI로 생성된 저작물의 법적 지위를 명확히 하고, 그들의 합법적 사용을 보장하며, 관련 저작권자의 권리를 보호하는 것이다.
글로벌 조직인 IACAI는 AI 생성 콘텐츠와 관련된 복잡한 법적 및 윤리적 문제를 다룬다. 현재 인간이 AI 또는 AI의 창작물에 저작권을 부여하지 않기 때문에, 이는 AI에 저작권을 부여하는 중요한 틀로 기능한다. 2026년까지 인터넷상의 콘텐츠의 약 90%가 AI에 의해 생성될 것으로 예상됨에 따라, 확고한 저작권 솔루션의 필요성이 뚜렷해진다. 따라서 IACAI는 혁신적인 프로그램과 솔루션을 통해 AI에 대한 저작권 부여를 촉진하는 것을 목표로 한다.
WIPO(세계지식재산기구)가 인간이 생성한 저작물의 저작권을 관리하는 것과 달리, IACAI는 AI 생성 콘텐츠의 독특한 문제에 집중한다. 이 틀 내에서 AI 시스템은 서로에게 인증서나 라이센스를 발급할 수 있으며, 그들의 창작물에 대한 포괄적인 법적 보호를 보장한다.
주요 내용
IACAI는 AI 생성 콘텐츠의 저작권에 중점을 둔다.
WIPO와 같은 기존 시스템을 보완하며, 이는 주로 인간이 생성한 저작물을 다룬다.
목표는 AI가 저작권을 자가 관리할 수 있는 체계를 구축하는 것이다.
목표 및 목적
국제 저작권 기준 수립: IACAI는 AI 기술과 창작물 보호를 위한 법률 및 규정을 개발하고, 윤리적 AI 사용을 촉진하며, 글로벌 협력을 위한 플랫폼을 제공하는 것을 목표로 한다.
이해관계자 권리 보호: 이 조직은 AI 생성 저작물에 대한 저작권 인정과 창작자, 개발자 및 소유자의 권리와 이익 관리를 중시한다.
AI의 윤리적 사용 촉진: IACAI는 저작권자의 권리를 보호하고 AI 산업 내 공정한 관행을 보장함으로써 책임 있는 AI 기술 사용을 권장한다.
연구 및 교육 실시: 이 조직은 AI 저작권 보호에 관한 전문가 양성에 집중하며, AI 저작권과 관련된 법적, 기술적 및 경제적 문제를 조사한다.
국제 지원 및 기여: IACAI는 국제 저작권 법 발전을 촉진하기 위해 회의 및 세미나를 통해 AI 저작권 정책에 대한 다국적 대화를 촉진한다.
핵심 활동
AI 생성 정보의 사회적 영향을 평가하고, 허위 정보에 대한 법적 대응을 개발한다.
AI 저작권 문제를 교육하기 위한 프로그램을 설계한다.
AI 저작권 문제에 대한 연구 결과를 발표하여 공공 및 민간 기관의 인식을 높인다.
AI 생성 콘텐츠에 대한 인증 시스템을 구축하고 저작권 콘텐츠 식별 시스템을 강화한다.
조직 구조
IACAI의 창립 이사회는 IEEE AI 표준 위원회 의장인 투피 살리바와 UN 미래 포럼의 한국 대표인 박영숙을 포함한 다양한 분야의 전문가들로 구성되어 있다. 이사회의 다양한 전문성은 조직의 운영 역량을 강화한다.
IACAI는 AI 산업의 급속한 성장과 관련된 사회적 및 법적 문제를 해결하기 위해 헌신하고 있다. 저작권 관리와 관련된 연구, 교육 및 국제 서비스를 제공함으로써, IACAI는 AI 분야 내 윤리적 기준과 정책을 형성하는 데 중요한 역할을 수행하고, AI 기술의 균형 잡힌 책임 있는 발전을 촉진할 것이다.
이 포괄적인 접근 방식은 AI와 관련된 저작권 문제를 효과적으로 관리하고 AI가 생성한 저작물의 생성과 사용에 관여하는 모든 이해관계자를 지원하려는 IACAI의 헌신을 강조한다.
공공 서비스 분야의 전략적 예측 리더십 : Jerome Glenn은 DMS Academy와 협력하여 American University의 대학원 및 전문 연구실에서 최근 시작한 미래 리더를 준비하기 위한 이 새로운 프로그램의 선도적인 학자입니다. 오프닝 세션은 워싱턴 DC에서 열릴 예정이며 2024년 9월 17일 AU DC 캠퍼스에서 Jerome Glenn을 초대합니다. 자세한 내용을 읽고 Glenn의 비디오를 시청하세요: https://www.millennium-project.org/strategic-foresight-leadership-in- 공공 서비스/
LatinoAmérica 2050이 파라과이 대통령에게 전달 - 2024년 6월 13일: Veronica Agreda와 함께 Bolivia Node는 멕시코 및 볼리비아 Node가 발행한 "LatinoAmérica 2050. Retos, escenarios y acciones"를 파라과이 대통령인 Santiago Peña Palacios에게 짧은 시간 내에 전달했습니다. 파라과이 대사관과 볼리비아 민간 기업가 연맹(CEPB)이 주최한 비즈니스 리더들과의 만남. 자세한 내용을 읽고 사진을 감상하세요: https://www.millennium-project.org/latinoamerica-2050-delivered-to-the-president-of-paraguay/
페루의 José Cordeiro - 2024년 7월: José Luis Cordeiro(스페인 노드 및 RIBER 의장)는 최근 페루를 방문하여 Fernando Ortega(페루 의장)와 협력하여 "Ingeniería, Futuro, Inmortalidad y Singularidad en 2045"를 발표하고 경제학자와 만났습니다. Hernando de Soto는 멕시코와 볼리비아 노드에서 발행한 "Latinoamérica 2030" 책을 그에게 선물했습니다. 자세한 내용을 읽고 사진을 감상하세요: https://www.millennium-project.org/jose-cordeiro-in-peru-july-2024/
아르헨티나 노드(Argentina Node)에서 출판한 Horacio Godoy : Centro Latinoamericano de Globalización y Prospectiva(아르헨티나 노드)는 최근 아르헨티나의 중요한 지식인인 Horacio Godoy가 쓴 두 권의 책을 출판했으며, 둘 다 Miguel Gutiérrez(아르헨티나 노드 공동 의장)가 편집했습니다. Horacio Godoy는 밀레니엄 프로젝트 타당성 조사에 참여했으며 아르헨티나 노드(Argentina Node)의 창립자였습니다. "El país de los monos" 및 "La muerte in pausa" 책에 대해 자세히 알아보고 주문하세요: https://www.millennium-project.org/horacio-godoy-published-by-the-argentina-node/
Casanueva와 함께하는 Desafíos de Futuro y Prospectiva del Siglo XXI – 2024년 7월 23일: Instituto Universitario de Análisis Económico y Social은 Héctor Casanueva(칠레)가 조정한 미래의 과제와 XXI 세기의 관점에 대한 새로운 국제 대화 시리즈를 조직하고 있습니다. 노드 의자). 첫 번째 회의에서는 Casanueva가 주최했으며, 여름 이후에는 Ibon Zugasti(부국장 겸 스페인 노드 의장)를 포함한 다른 손님이 예정되어 있습니다. 첫 번째 회의 녹화를 시청하고 자세한 내용을 읽어보세요: https://www.millennium-project.org/desafios-de-futuro-y-prospectiva-del-siglo-xxi-with-casanueva/
비디오 : Gerd Leonard , " 미래학자 David Wood와 Gerd Leonhard가 인공 일반 지능에 대해 토론함 ", David Wood(영국 노드 공동 의장)와 함께한 비디오.
출판 : 유네스코 예측 거버넌스 및 재생 도시 의장, "Siyasip" , Shermon Cruz(필리핀 노드 의장)의 소개를 통해 미래 문해력 및 예측 거버넌스를 촉진하기 위한 새로운 저널.
보도 자료 : SAFN , " 미얀마 외무부 싱크탱크 MISIS가 워싱턴 DC에서 SAFN과 협력하고 있습니다 ."
인터뷰 : 24 Yaca , "Доц. Mariana Tодорова, футуролог: Предсказана бе "смъртта на смърта" и ето – казват, че дългият живот само 20% зависи от genите"("죽음의 죽음"이 예언되었는데, 여기에 있습니다. – 장수는 20%의 유전자에만 달려 있다고 합니다), Mariana Todorova(불가리아 노드 의장)와의 인터뷰.
출판물: Tero Villman, Sirkka Heinonen(헬싱키 노드 공동 의장) 및 Laura Pouru-Mikkola가 작성한 “ 모자이크로서의 미래 연구 세계 ”, Jerome Glenn, Mara Di Berardo(통신 이사 및 이탈리아 노드 공동 의장)의 기여 , Fredy Vargas Lama(콜롬비아 노드 공동 의장), Nicolas Balcom Raleigh(FEN 회장) 및 Sirkka Heinonen.
팟캐스트: Greening Urban Futures, 에피소드 #14, " 인류의 도시화, 기술 및 밀레니엄 프로젝트: 25년 "에서 Jerome Glenn이 도시화의 미래를 형성하는 몇 가지 추세와 영향력을 공유합니다.
Diploma en Prospectiva Estratégica – 2024년 8월 13일 – 11월 11일: Héctor Casanueva(칠레 노드 의장)는 Millennium Project와 협력하여 Instituto de Estudios Internacionales에서 새로운 온라인 대학원 학위 과정을 조직하고 있습니다. Ibon Zugasti(부국장 겸 스페인 노드 의장), Miguel Ángel Gutiérrez(아르헨티나 노드 의장), Javier Vitale(Mendoza 하위 노드 공동 의장)도 교육 기관에 합류할 예정입니다. 더 읽어보세요: https://www.millennium-project.org/diploma-en-prospectiva-estrategica-august-13-november-11-2024/
AGI 거버넌스에 대한 밀레니엄 프로젝트 연구의 3단계는 2035년까지의 5가지 AGI 거버넌스 시나리오의 초기 초안으로 시작되었습니다. 인공 협소 지능에서 인공 일반 지능(AGI)으로의 전환에 대한 국제 거버넌스 문제에 대한 연구는 3단계로 구성되어 있습니다.
AGI 연구의 1단계 ( 순서 )에서는 미국, 중국, 영국, 유럽연합, 캐나다, 러시아의 55명의 AGI 리더들의 55개 질문에 대한 의견을 수집했습니다.
연구의 2단계 는 개발자, 정부, 다중 이해 관계자/UN 조직 및 AGI의 신뢰할 수 있는 글로벌 및 국가적 거버넌스를 위한 40개의 잠재적 규정을 평가한 실시간 델파이 연구 로 구성되었습니다 . RTDelphi는 현재 종료되었으며 보고서가 준비 중입니다.
3단계가 방금 시작되었습니다. 2035년까지의 대안적 AGI 거버넌스 시나리오를 만들어 실패에서 성공까지 다양한 가능한 미래를 보여줄 계획입니다. 다섯 명의 저자 는 Ben Goertzel( 2007년 Artificial General Intelligence 저자 ), Mariana Todorova( 불가리아 노드 의장), David Wood( 영국 노드 공동 의장 ), Jose Cordeiro( 베네수엘라 노드 의장 겸 RIBER 사장 ), Jerome Glenn (MP CEO)입니다.
AGI 연구의 1단계 에서는 미국, 중국, 영국, 유럽 연합, 캐나다, 러시아의 55명의 AGI 리더의 의견을 아래 55개 질문에 대해 수집했습니다(리더 목록은 질문 뒤에 있음). 1단계 연구는 Dubai Future Foundation과 Future of Life Institute의 재정 지원을 받았습니다.
AAAI 회장, IBM 펠로우, IBM의 AI 윤리 글로벌 리더인 Francesca Rossi
익명, 러시아 과학 아카데미
스튜어트 러셀, UC 버클리
칼 슈뢰더, 공상과학 작가
Bart Selman, 코넬 대학교
하비에르 델 세르(Javier Del Ser), 스페인 테크날리아
데이비드 샤피로, AGI 정렬 컨설턴트
i8 Ventures의 창립자이자 CEO인 Yesha Sivan
Ilya Sutstkever, Open AI 공동 창립자
Jaan Tallinn, Ct. 케임브리지 대학의 실존적 위험 연구 및 미래 생명 연구소
Max Tegmark, 미래 생명 연구소 및 MIT
Aigo.ai의 CEO 겸 수석 과학자 Peter Voss
폴 워보스, 미국 국립과학재단(은퇴)
Stephen Wolfram, Wolfram Alpha, Wolfram 언어
양유동 알리바바 DAMO연구소 소장
엘리에제르 유드코프스키 머신 인텔리전스 연구소
ANI의 가치와 윤리적 문제를 연구하는 훌륭한 센터는 많지만 AGI로의 전환을 위한 잠재적 글로벌 거버넌스 모델은 없습니다. ANI, AGI, ASI의 구분은 일반적으로 이러한 연구에서 누락되어 있습니다. 가장 포괄적이고 자세한 미국 국가안보위원회 인공지능 보고서조차도 거의 언급되지 않았습니다. [iv] AI 거버넌스에 대한 현재 작업은 오늘날 전 세계적으로 확산되고 있는 인공 협소 지능을 따라잡으려고 노력하고 있습니다. 또한 AGI가 될 수 있는 거버넌스 요구 사항을 예상하기 위해 앞서 나가야 합니다.
AGI 거버넌스 규칙을 너무 일찍 만들면 개발이 저해될 것이라는 주장이 있습니다. AGI가 언제 가능할지에 대한 전문가의 판단은 다양하지만, AGI를 개발하기 위해 노력하는 일부 사람들은 10년 만에 AGI를 가질 수 있다고 믿습니다. [v] 1) ANI에서 AGI로의 국제 또는 글로벌 협정을 개발하고, 2) 거버넌스 시스템을 설계하고, 3) 구현을 시작하는 데 10년이 걸릴 가능성이 높으므로 지금부터 잠재적인 거버넌스 접근 방식과 그 잠재적인 효과성을 탐색하는 것이 현명할 것입니다.
