인터넷은 죽었다: 죽은 인터넷 이론

 

페이스북에서 “새우 예수”를 검색하면 인공지능(AI)이 생성한 갑각류의 이미지가 예수 그리스도의 전형적인 이미지와 다양한 형태로 결합된 수십 개의 이미지를 접할 수 있다.

이러한 초현실적인 이미지 중 일부는 20,000개 이상의 좋아요와 댓글을 받았다. 그렇다면 여기서 정확히 무슨 일이 일어나고 있는 걸까?

"죽은 인터넷 이론"에는 AI와 봇이 생성한 콘텐츠가 인간이 생성한 인터넷을 능가했다는 설명이 있다. 하지만 이 아이디어는 어디에서 왔으며 실제로 근거가 있을까?

게시물에 캡션이나 맥락 정보가 포함되지 않은 페이스북의 새우 예수 이미지의 예. 페이스북

 

죽은 인터넷 이론이란 무엇일까?

죽은 인터넷 이론은 본질적으로 소셜 미디어 계정을 포함한 인터넷의 활동과 콘텐츠가 주로 인공지능 에이전트에 의해 생성되고 자동화된다고 주장한다.

이러한 에이전트는 페이스북, 인스타그램 및 틱톡과 같은 플랫폼에서 참여(클릭, 좋아요, 댓글)를 유도하도록 설계된 AI 생성 이미지와 함께 게시물을 빠르게 작성할 수 있다. 새우 예수의 경우 AI는 현재의 최신 부조리와 종교적 도상학이 입소문을 타고 있다는 사실을 학습한 것으로 보인다.

그러나 죽은 인터넷 이론은 훨씬 더 나아간다. 이러한 콘텐츠와 관련된 계정 중 다수도 인공지능 에이전트에 의해 관리되는 것으로 보인다. 이는 명확한 의제가 없고 더 이상 인간을 전혀 포함하지 않는 인위적인 참여의 악순환을 만든다.

 

무해한 참여 파밍인가 아니면 정교한 선전인가?

언뜻 보면 이러한 계정이 관심을 유발하는 동기는 분명해 보일 수 있다. 소셜 미디어 참여는 광고 수익으로 이어진다. 개인이 부풀려진 참여를 받는 계정을 설정하면 Meta와 같은 소셜 미디어 조직으로부터 광고 수익의 일부를 얻을 수 있다.

그렇다면 죽은 인터넷 이론은 무해한 참여 파밍에서 멈추는가? 아니면 표면 아래에는 독재 정권을 지원하고 반대자를 공격하며 선전을 퍼뜨리려는 정교하고 자금이 풍부한 시도가 숨어 있을까?

새우 예수 현상은 비록 기괴하기는 하지만 무해해 보일 수 있지만 잠재적으로 장기적인 전략이 준비되어 있다.

이러한 AI 기반 계정의 팔로워 수가 증가함에 따라(많은 가짜, 일부 실제) 팔로어 수가 많아지면 해당 계정이 실제 사용자에게 합법화된다. 이는 외부에서 수많은 계정이 생성되고 있음을 의미한다. 가장 높은 입찰가를 가진 사람들이 배포할 수 있는 팔로워 수가 많은 계정이다.

이제 소셜 미디어가 전 세계 많은 사용자의 주요 뉴스 소스이기 때문에 이는 매우 중요하다. 호주에서는 지난해 18~24세 중 46%가 소셜 미디어를 주요 뉴스 소스로 꼽았다. 이는 2022년 28%에서 증가한 수치로 라디오, TV 등 전통적인 매체를 대신한다.

 

봇을 이용한 허위 정보

이미 허위 정보로 여론을 흔들기 위해 이러한 부풀려진 봇에 의해 소셜 미디어가 조작되고 있다는 강력한 증거가 있으며, 이러한 현상은 수년 동안 발생해 왔다.

2018년에 한 연구에서는 2016년과 2017년 10개월 동안 1,400만 개의 트윗을 분석했다. 소셜 미디어의 봇이 신뢰할 수 없는 출처의 기사를 전파하는 데 크게 관여한 것으로 나타났다. 팔로어 수가 많은 계정은 잘못된 정보와 허위 정보를 합법화하여 실제 사용자가 봇에 게시된 콘텐츠를 믿고 참여하고 다시 공유하도록 유도했다.

 

소셜 미디어 조작에 대한 이러한 접근 방식은 미국에서 발생한 대량 총격 사건 이후에 발생하는 것으로 밝혀졌다. 2019년 한 연구에 따르면 X(이전의 Twitter)에서 봇이 생성한 게시물은 공개 토론에 크게 기여하여 극단적인 사건과 관련된 잠재적인 이야기를 증폭하거나 왜곡하는 데 도움이 된다.

 

최근에는 우크라이나에 대한 지지를 약화시키고 친러시아 정서를 조장하려는 목적으로 여러 대규모 친러시아 허위 정보 캠페인이 진행되었다.

활동가와 언론인이 발견한 공동 노력은 봇과 AI를 사용하여 가짜 정보를 생성 및 확산하여 수백만 명의 소셜 미디어 사용자에게 도달했다.

X에서만 캠페인은 10,000개 이상의 봇 계정을 사용하여 현재 진행 중인 우크라이나 전쟁을 지지하는 것처럼 보이는 미국 및 유럽 유명 인사들의 친 크렘린 콘텐츠 메시지 수만 개를 빠르게 게시했다.

 

이 규모의 영향은 상당하다. 일부 보고서에서는 2022년 전체 인터넷 트래픽의 거의 절반이 봇에 의해 발생한 것으로 나타났다. OpenAI의 ChatGPT 모델 및 Google의 Gemini와 같은 생성 AI의 최근 발전으로 가짜 콘텐츠의 품질은 계속 향상될 것이다.

소셜 미디어 조직은 플랫폼의 오용을 해결하기 위해 노력하고 있다. 특히 일론 머스크는 봇 팜을 중지하기 위해 X 사용자에게 멤버십 비용을 지불하도록 요구하는 방법을 모색했다.

거대 소셜 미디어 기업은 원할 경우 감지된 대량의 봇 활동을 제거할 수 있다. (우리의 친절한 새우 예수님께는 나쁜 소식이다.)

 

죽은 인터넷을 염두에 두라.

죽은 인터넷 이론은 실제로 인터넷상의 대부분의 개인적인 상호 작용이 가짜라고 주장하지 않는다.

그러나 인터넷을 볼 수 있는 흥미로운 렌즈이다. 더 이상 인간을 위한, 인간에 의한 것이 아니라는 것은 우리가 알고 사랑했던 인터넷이 "죽었다"는 의미이다.

인터넷과 소셜 미디어에서 우리의 생각을 만들고 공유할 수 있는 자유가 바로 그것이 강력한 이유이다. 당연히 나쁜 행위자들이 통제하려는 것은 바로 이 힘이다.

죽은 인터넷 이론은 회의적인 태도를 갖고 비판적인 마음으로 소셜 미디어와 기타 웹사이트를 탐색해야 한다는 점을 상기시켜 준다.

모든 상호 작용, 추세, 특히 '전반적인 정서'는 합성된 것일 수 있다. 세상을 인식하는 방식을 약간 바꾸도록 설계되었다.