AGI 개발이 가속화됨에 따라 가치 정렬 분야가 점점 더 중요해지고 있다. 정렬이란 일반적으로 지능적인 소프트웨어 시스템에 인간에게 유익한 방식으로 작동할 수 있는 기능을 제공하는 것을 의미한다. 이에 대한 한 가지 접근 방식은 AI 프로그램에 인간의 가치를 주입하는 것이다.

그러나 이 분야의 연구는 즐거움이나 행복과 같은 지표를 극대화하기 위한 알고리즘에 초점을 맞추는 경향이 있다. 그들이 따라야 할 실제 가치 집합에는 훨씬 적은 관심이 집중되었다.

이에 전세계 종교, 전통 철학, 진화 심리학 및 조사 연구의 증거가 기본적인 인간 가치에 대해 놀라운 일치를 발견할 것을 제안한다. 이 작업을 요약하여 AGI에 적용할 수 있는 5단계 가치 체계를 제안한다:

1단계는 생명, 생존, 지속성의 가치이다. 이는 생존과 번식에 대한 관심에서 발전한다. 에이전트는 파괴를 피하고, 에너지를 찾고, 특성을 미래 세대에 전달하는 역할을 한다.

2단계에는 진리, 지혜, 지식이 담겨 있다. 이는 진실과 주변 환경을 잘 이해하고 상호 작용하는 능력을 중요하게 생각하는 에이전트에 관한 것이다.

3단계는 자신과 관련된 세 가지 가치, 즉 자유, 절제, 성장의 묶음이다. 이러한 값은 에이전트의 내부 상태와 동작에 영향을 미친다. 문제의 '자아'는 인간일 수도 있고, 자율적인 도덕적 행위자로 설계된 AI일 수도 있다.

4단계는 공감, 권위, 보안, 정의, 순응이라는 다섯 가지 가치의 묶음이다. 이것들은 모두 그룹 상호작용과 관련이 있다. 이는 생물학적 동료 존재 또는 다중 에이전트 AI 시스템에 적용된다.

5단계는 자연과 주변 생태계, 그리고 그 너머의 우주를 다루는 가치를 담고 있다. 충분히 강력한 일반 지능은 지구와 외계에 영향을 미칠 수 있으므로 더 큰 환경에 관심을 가져야 한다.

가치는 동심원이다. 근본적인 형이상학적, 인식론적 가정에서 시작하여 공간, 시간, 다양성에서 더욱 포괄적이 되도록 바깥쪽으로 방사된다.

그러나 해결되지 않은 문제가 많이 있다:

●보편성(Universality) - 서로 다른 가치가 강조되거나 교환되는 도덕적 상대주의와 도덕적 보편주의에 대한 논쟁이다.

●계층 구조 – 중요성이나 목표 관련성에 따라 값의 순위가 매겨진 순서이다.

●변화 – 트랜스휴먼 또는 포스트휴먼 사회의 윤리는 인류나 다른 AI의 본질 변화로 인해 변경이 필요할 수 있다.

●인간 중심 – 이러한 가치는 인간이며 우리의 독특한 진화와 사회 조직에 의해 창출된다.

●의식 – 에이전트는 도덕적 책임감을 갖기 위해 감각 감각을 느껴야 할 수도 있다. 이는 AGI가 도덕적으로 행동할 수 없다는 의미는 아니다.

●구현 – 언급된 값의 이 목록은 해당 값을 인스턴스화할 수 있는 메커니즘을 설명하지 않는다.

AGI의 가치 정렬 영역 내에서 이러한 과제와 기회를 고려하여 다가오는 유익한 AGI 서밋(Beneficial AGI Summit)은 중추적인 플랫폼으로 부상한다. 인공지능, 윤리 및 관련 분야의 선도적인 인재들이 모이는 BGI Summit은 이러한 해결되지 않은 문제를 더 깊이 탐구할 수 있는 비교할 수 없는 기회를 제공한다.

가치의 보편성, 윤리적 고려의 위계, 트랜스휴먼 사회에서 진화하는 윤리의 본질, 인간 중심의 관점과 의식, 그리고 이러한 가치의 AGI 시스템에서의 실천적 구현 –이 모든 주제는 BGI Summit에서 논의하기에 적합하다.

이 행사는 이러한 복잡한 가치 시스템을 AGI에 통합하는 우리의 이해와 능력에 있어 중요한 진전이 될 수 있으며, 인공지능이 인간의 가치와 윤리를 칭찬하고 향상시키는 미래를 조성할 수 있다. BGI Summit에 참여하여 이러한 주제를 살펴보라. 자세한 내용과 등록을 원하시면 bgi24.ai를 방문하라.