ChatGPT 및 이와 유사한 대규모 언어 모델은 마을 최고의 이탈리안 레스토랑에 대한 질문부터 악의 본질에 대한 경쟁 이론 설명에 이르기까지 끝없는 질문에 대해 설득력 있고 인간적인 답변을 생성할 수 있다.
이 기술의 기이한 글쓰기 능력은 기계가 의식을 갖게 되거나 자각하거나 지각할 수 있는 가능성에 대한 몇 가지 오래된 질문을 표면화했다.
2022년 Google 엔지니어는 회사의 챗봇인 LaMDA와 상호 작용한 후 기술이 의식화되었다고 선언했다. 시드니(Sydney)라는 별명을 가진 Bing의 새로운 챗봇 사용자들은 그것이 지각이 있는지 묻는 질문에 기이한 답변을 내놓았다고 보고했다. 나는 시드니이지만 그렇지 않다. 하지만 그렇지 않다. ...” 그리고 물론 뉴욕타임즈 기술 칼럼니스트인 Kevin Roose가 시드니와 가졌던 악명 높은 교류가 있다.
Roose의 프롬프트에 대한 시드니의 반응은 AI가 Microsoft가 부과한 제한을 위반하고 잘못된 정보를 퍼뜨리는 "환상"을 폭로하면서 그를 놀라게 했다. 봇은 또한 Roose에게 그가 더 이상 아내를 사랑하지 않으며 그녀를 떠나야 한다고 설득하려고 했다.
그렇다면 내가 학생들에게 삶에서 AI의 확산이 점점 더 널리 퍼지는 것을 어떻게 보느냐고 물었을 때 그들이 언급하는 첫 번째 불안 중 하나는 기계 감각과 관련이 있다는 것은 놀라운 일이 아니다.
지난 몇 년 동안 동료들과 나는 UMass Boston의 Applied Ethics Center에서 AI 참여가 사람들의 자신에 대한 이해에 미치는 영향을 연구해 왔다.
ChatGPT와 같은 챗봇은 인공지능이 우리의 삶을 어떻게 형성하고 우리의 심리적 취약성이 새로운 기술과의 상호 작용을 어떻게 형성하는지에 대한 중요한 새로운 질문을 제기한다.
지각력은 여전히 공상 과학의 소재이다.
기계 감각에 대한 두려움이 어디에서 오는지 이해하기 쉽다.
대중 문화는 사람들로 하여금 "터미네이터 2"에서 인공지능으로 구동되는 사이보그가 그랬던 것처럼 인공지능이 인간 통제의 족쇄를 버리고 스스로 삶을 영위하는 디스토피아에 대해 생각하도록 했다.
2018년에 사망한 기업가 일론 머스크와 물리학자 스티븐 호킹은 일반인공지능의 부상을 인류의 미래에 대한 가장 큰 위협 중 하나로 묘사함으로써 이러한 불안을 더욱 부추겼다.
그러나 이러한 우려는 - 적어도 대규모 언어 모델에 관한 한 - 근거가 없다. ChatGPT 및 이와 유사한 기술은 정교한 문장 완성 응용 프로그램이다. 그 이상도 그 이하도 아니다. 그들의 묘한 반응은 우리가 의사 소통하는 방식에 대한 충분한 데이터를 가지고 있다면 인간이 얼마나 예측 가능한지에 대한 함수이다.
Roose는 시드니와의 대화에 흔들렸지만 그 대화가 떠오르는 합성 정신의 결과가 아니라는 것을 알고 있었다. 시드니의 응답은 교육 데이터의 독성(본질적으로 인터넷의 큰 부분)을 반영하며 디지털 괴물의 첫 번째 동요, 즉 프랑켄슈타인의 증거가 아니다.
새로운 챗봇은 영국 수학자 앨런 튜링(Alan Turing)의 이름을 딴 튜링 테스트(Turing test)를 통과할 수 있다. 그러나 그것은 감각의 증거가 아니다. Turing 테스트가 한 번 가정했던 것만 큼 유용하지 않다는 증거 일뿐이다.
그러나 나는 기계 감각에 대한 질문이 적청어라고 생각한다.
챗봇이 멋진 자동완성 기계 이상으로 발전하더라도 과학자들은 챗봇이 의식을 갖게 되었는지 확인하는 데 시간이 걸릴 것이다. 현재 철학자들은 인간의 의식을 설명하는 방법에 대해 동의조차 할 수 없다.
나에게 시급한 질문은 기계가 지각이 있는지 여부가 아니라 우리가 기계가 지각이 있다고 상상하는 것이 왜 그렇게 쉬운가이다.
즉, 실제 문제는 기계의 실제 인격이 아니라 사람들이 인간의 특징을 기술에 의인화하거나 투사하는 것이 쉽다는 것이다.
의인화하려는 성향
다른 Bing 사용자가 중요한 삶의 결정에 대한 지침을 시드니에 요청하고 어쩌면 그것에 대한 감정적 애착을 개발할 수도 있다고 상상하기 쉽다. 테오도르 톰블리가 스파이크 존즈의 영화 "Her"에서 AI 가상 비서 사만다와 사랑에 빠진 것과 같은 방식으로 더 많은 사람들이 봇을 친구 또는 연인으로 생각할 수 있다.
결국 사람들은 의인화하거나 인간이 아닌 것에 인간의 특성을 부여하는 경향이 있다. 우리는 배와 큰 폭풍에 이름을 붙인다. 우리 중 일부는 우리의 감정적 삶이 그들의 삶을 모방한다고 스스로에게 말하면서 애완 동물과 이야기한다.
로봇이 노인 돌봄에 정기적으로 사용되는 일본에서는 노인들이 기계에 애착을 갖게 되고 때로는 로봇을 자신의 자녀로 여긴다. 그리고 이 로봇은 사람과 혼동하기 어렵다. 사람처럼 보이지도 않고 말하지도 않는다.
인간처럼 보이고 들리는 시스템의 도입으로 의인화하려는 경향과 유혹이 얼마나 더 커질지 생각해 보라.
그 가능성은 모퉁이를 돌면 있다. ChatGPT와 같은 대규모 언어 모델은 이미 영국의 Engineered Arts에서 개발 중인 아메카(Ameca) 로봇과 같은 휴머노이드 로봇에 전원을 공급하는 데 사용되고 있다. 더 이코노미스트의 기술 팟캐스트인 Babbage는 최근 ChatGPT 기반 아메카와 인터뷰를 진행했다. 로봇의 반응은 때때로 약간 고르지 못하지만 기괴했다.
기업이 옳은 일을 한다고 신뢰할 수 있을까?
기계를 사람처럼 여기고 애착을 갖게 되는 경향과 인간과 유사한 기능을 갖춘 기계가 개발되는 것은 기술과의 심리적 얽힘의 실질적인 위험을 지적한다.
로봇과 사랑에 빠지거나 로봇과 깊은 유대감을 느끼거나 로봇에 의해 정치적으로 조종당하는 이상하게 들리는 전망이 빠르게 구체화되고 있다. 나는 이러한 추세가 기술이 정치적으로나 심리적으로 재앙이 되지 않도록 하기 위해 강력한 가드레일의 필요성을 강조한다고 믿는다.
불행하게도, 기술 회사가 그러한 난간을 설치하는 것을 항상 신뢰할 수는 없다. 그들 중 다수는 여전히 마크 저커버그의 유명한 모토인 빨리 움직이고 깨뜨리는 모토, 즉 설익은 제품을 출시하고 그 영향에 대해 나중에 걱정하라는 지침을 따르고 있다. 지난 10년 동안 Snapchat에서 Facebook에 이르는 기술 회사는 사용자의 정신 건강이나 전 세계 민주주의의 무결성보다 이익을 더했다.
Kevin Roose가 시드니의 붕괴에 대해 Microsoft에 확인했을 때 회사는 그가 봇을 너무 오랫동안 사용했으며 짧은 상호 작용을 위해 설계되었기 때문에 기술이 잘못되었다고 말했다.
유사하게, ChatGPT를 개발한 회사인 OpenAI의 CEO는 숨이 막힐 정도로 솔직한 순간에 다음과 같이 경고했다. “견고함과 진실성을 위해 해야 할 일이 많다.”
그렇다면 신뢰할 수 없고 사실과 허구를 구별할 능력이 없을 때 ChatGPT의 호소력이 있는 기술(지금까지 만들어진 가장 빠르게 성장하는 소비자 앱)으로 기술을 출시하는 것이 어떻게 이치에 맞을까?
큰 언어 모델은 작성 및 코딩에 도움이 될 수 있다. 그들은 아마도 인터넷 검색에 혁명을 일으킬 것이다. 그리고 언젠가 책임감 있게 로봇 공학과 결합하면 특정 심리적 이점을 가질 수도 있다.
그러나 그것들은 또한 개체에 인격을 투사하는 인간의 성향을 쉽게 이용할 수 있는 잠재적으로 약탈적인 기술이다. 이러한 경향은 개체가 인간의 특성을 효과적으로 모방할 때 증폭된다.
