인격 자격 증명: 인간이 프라이버시를 희생하지 않고도 봇을 제거할 수 있을까?

 

인터넷은 "죽었다"는 유명한 이론이 있다. 이 주장은 인터넷 콘텐츠와 트래픽의 대부분이 이제 인공지능과 봇에 의해 생성되고, 서로 아무 목적 없이 대화하며 온라인 세계를 사실상 생명이 없는 곳으로 만든다는 것이다. 인간이 만든 것이 전혀 없다.

 

이러한 디스토피아적 관점은 1990년대 초의 인터넷과는 극명한 대조를 이룬다. 그 당시에는 인간이 창의성, 유머, 개인적 경험을 그려내는 무한한 캔버스처럼 보였다. 2000년대에는 포럼을 롤캣과 "O RLY?" 올빼미로 채웠다. Candystand, Newgrounds, Addicting Games에서 화려하고 건방진 온라인 게임을 했다. 의자 춤을 추면서 입술 동기화를 하는 영상을 게시했다. 인터넷은 활기차고 재미있고 부인할 수 없이 인간적인 듯했다.

 

하지만 봇이 등장했다. 봇은 웹페이지 크롤링, 웹사이트에서 실제 사람인 척하기, 리뷰 남기기, 제품 홍보 또는 비하, 진짜 사용자의 계정 침입 시도 등 특정 온라인 작업을 수행하도록 자동화된 컴퓨터 프로그램이다. 온라인 세계는 온라인 연결을 통해 지상의 연결을 굳건히 할 수 있는 희망찬 장소에서 싸구려, 인위적이고 신뢰할 수 없는 무언가로 변했다. (온라인 댓글이나 리뷰를 읽고 실제 사람이 쓴 글인지 궁금해한 적이 몇 번이나 있나?) 인공지능의 발전으로 이런 변신이 과속으로 진행되어 현실적인 이미지, 비디오, 음성, 텍스트가 제작되었다. 온라인에서는 눈과 귀를 믿을 수 없다.

 

따라서 "죽은 인터넷" 이론은 더 이상 그럴듯하지 않다. 2024년 Imperva Bad Bot Report에 따르면, 봇이 생성한 인터넷 트래픽의 비중은 올해 거의 50%에 달했으며, 전년 대비 2% 증가했다. 봇이 본질적으로 가짜인 웹사이트, 소셜 미디어 계정, 댓글, 리뷰, 이메일의 비중을 파악하기는 어렵지만, 확실히 방대하다.

8월, 하버드, MIT, 옥스포드, 버클리 등의 기관과 OpenAI, Microsoft와 같은 회사에서 온 기술자, 정책 입안자, 학자로 구성된 국제 그룹은 봇의 온라인 점유를 중단하거나(또는 최소한 인간의 보루를 만드는) 계획을 설명했다. 그들의 해결책은? 인격 자격 증명, "사용자가 개인 정보를 공개하지 않고도 온라인 서비스에 AI가 아닌 실제 사람임을 입증할 수 있는 디지털 자격 증명"이다.

 

여권, 운전면허증, 사회보장번호, 출생 증명서: 이러한 모든 중요한 신원 표시는 수년 동안 특정 서비스와 활동에 필요했다. 온라인 "인격 자격 증명"(PHC)이 이에 합류할 수 있을까? 그리고 이로 인해 어떤 종류의 의도치 않은 결과가 발생할 수 있을까?

 

점점 더 기만적인 온라인 세계

저자들은 "추가적인 완화 조치 없이는 기만적인 AI 기반 활동이 인터넷을 압도할 상당한 위험이 있다."라고 썼다.

"PHC가 없는 미래의 인터넷은 온라인에서 만나는 모든 사람이 그렇지 않다는 것이 증명될 때까지 봇으로 간주된다는 것을 의미한다."라고 보고서의 공동 저자이자 디지털 안전 연구소의 고급 테스트 연구 책임자인 숀 맥그리거 박사가 말했다. "실제로 PHC가 널리 채택되거나 사람들이 스스로 인격 검증을 수행해야 한다."

 

인터넷의 미래를 위협하는 두 가지 형태의 속임수는 "꼭두각시"와 봇 공격이다. 여기서 "꼭두각시"는 사람인 척하는 봇이나 AI를 의미할 수 있다. 이것들은 의도적으로 허위 정보를 퍼뜨리는 Facebook 및 X 프로필의 배후에 있다. 또한 특정 기업을 비방(또는 부추김)하고, 사기를 저지르고, 오해의 소지가 있는 정보로 금융 시장을 변경하려고 하는 종류의 봇이다. 또한 새로운 법률과 규정을 위해 미국 정부의 공개 의견 프로세스를 정기적으로 압도한다. 예를 들어, 수백만 개의 가짜 의견이 2017년 연방통신위원회의 넷 중립성에 대한 공개 의견 요청에 제출되었다.

 

봇 공격은 다른 위협을 가한다. 악의적인 행위자는 대량 이메일 스팸을 보내고, 온라인 고객 계정에 무차별 대입 공격을 시도하고, 인터넷 서비스에 요청을 과부하시켜(DDOS) 주요 중단을 유발하는 봇 ​​그룹을 만든다. DDOS 공격은 이제 정기적으로 발생한다. Microsoft의 Azure 클라우드 서비스는 7월에 8시간 동안 중단되었다. 최근 "해커비스트"는 프랑스 정부가 텔레그램 설립자 파벨 두로프를 체포한 후 프랑스의 50개 이상의 조직을 표적으로 삼았다.

 

CAPTCHA와 AI 콘텐츠 감지기와 같은 도구는 인터넷을 주로 인간 중심적으로 유지하려고 노력하고 있다. 수수료 청구, 문서 및 외관 기반 검증 활용, 전화번호 및 이메일 주소 요청은 봇 확산을 제한하기 위한 추가 전략이다. 그러나 저자들은 이러한 방법이 다가올 AI 시대에 점점 더 쓸모없어질까 우려한다.

 

그들은 "사악한 행위자들이 수십 년 동안 사기성 공격을 저질렀지만 행위자들이 정교하고 저렴한 AI 도구에 더 쉽게 접근할 수 있게 되면 공격이 훨씬 더 효과적일 수 있다. 구별하기 어렵고 더 널리 퍼질 수도 있다."라고 썼다.

 

인격 자격 증명이 구출에 나설까?

AI는 디지털 세계에서 우리처럼 보이고 들릴 수 있겠지만, (아직은) 공상과학 로봇의 도움으로 설득력 있는 신체적 형태를 갖출 때까지는 화면의 픽셀에 불과하다. 따라서 인격 자격 증명을 취득하려면 심부름이 필요할 것이다. 예를 들어, 차량국(DMV)을 방문하는 것과 같은 일이 필요할 것이다.

 

MIT 미디어 랩의 대학원생이자 보고서의 저자 중 한 명인 토빈 사우스는 MIT 뉴스에 "인격 자격 증명을 받으려면 직접 찾아가거나 세금 ID 번호와 같이 정부와 관계를 맺어야 한다."라고 말했다. "오프라인 구성 요소가 있다. 인간만 할 수 있는 일을 해야 한다. 예를 들어, AI는 DMV에 나타날 수 없다."

 

저자는 다양한 기관이 인격 증명서(PHC)를 발급하는 것을 예상한다. 이는 주 또는 연방 정부 기관 또는 정부에서 규제하는 민간 공급자일 수 있다. 맥그리거는 "정부는 인간이 누구인지 증명한 역사가 있으므로 시작하기에 좋은 곳이다."라고 주장한다.

 

개인은 이러한 발급 기관을 직접 방문하여 신원 증명을 제공할 수 있다. 여권이나 정부 발급 신분증과 같은 기존 문서를 사용하기로 선택할 수 있다. 또는 생체 인식 스캔을 선택하여 측정을 위해 손바닥, 홍채 또는 지문을 제출할 수 있다. 이 정보를 제공하면 한 사람에게 단 하나의 PHC만 제공되지만 중요한 것은 해당 사람의 신원이 제공된 특정 증명서와 연결되지 않는다는 것이다. 그런 다음 익명의 PHC가 발급되어 장치에 디지털 방식으로 저장되고 내장된 애플리케이션을 통해 관리된다. 그런 다음 필요한 경우 인터넷에서 인간임을 증명하는 데 사용할 수 있다. 몇 년마다 PHC를 다시 인증하여 여전히 실제 고유 사람을 나타내는지 확인해야 한다.

 

DMV를 방문하여 온라인 서비스에 액세스한다는 생각이 마음에 들지 않았다면, 여전히 개인정보 보호에 대한 의미에 눈살을 찌푸리고 있을 수 있다.

중요한 점은, 저자들이 주장하는 대로, 다른 정보는 공유되거나 자격 증명과 연결되어서는 안 된다. PHC는 인간임을 증명하지만, 신원을 식별하는 것은 아니다. 사용자는 익명성을 유지해야 하며, 웹에서 디지털 활동을 추적하거나 실제 신원과 연결하는 데 사용할 수 없다.

저자는 공개 키 암호화가 익명의 인격 자격 증명 시스템의 기반이 될 가능성이 높다고 말한다.

 

"PHC 발급자는 공개 키(각각 유효한 자격 증명과 관련됨) 목록을 유지할 수 있으며, 각각은 쌍을 이룬 비밀 개인 키를 가지고 있다. 새로운 사람이 PHC 시스템에 성공적으로 등록하면 발급자는 이 사람이 유효한 키 목록에 정확히 하나의 공개 키를 추가하도록 한다. 개인 키는 등록하는 사용자만 알고 있다."라고 그들은 설명했다.

 

이제 사용자는 키 자체를 공개하지 않고(따라서 도난 위험에 처하지 않고) 온라인 서비스 제공자에게 유효한 PHC 키의 소유자임을 어떻게 증명할 수 있을까? 여기서 저자는 영지식 증명을 제안한다.

 

"영지식 증명은 '증명자'가 '검증자'에게 진술의 진실을 확신시킬 수 있도록 하는 암호화 프로토콜이며, 진술의 유효성을 넘어서는 추가 정보를 공개하지 않는다."라고 저자는 설명했다. "사용자는 서비스 제공자에게 '나는 유효한 PHC를 보유하고 있다'라는 진술이 사실임을 증명하는데, 어떤 PHC인지 밝히지 않아도 된다. 예를 들어 '나는 발급자 목록에 있는 공개 키와 쌍을 이루는 비밀 개인 키를 보유하고 있다'라고 증명하는 것이다."

 

명확한 이점, 하지만 실제 어려움

PHC의 일부 이점은 분명하다. PHC가 필요한 사이트와 온라인 서비스는 사실상 많은 종류의 봇을 없앨 수 있고, 공격에 훨씬 덜 취약해지고 생태계를 고객에게 더 안전하게 만들 수 있다. 사용자의 PHC를 확인하는 옵션만 제공하는 웹사이트는 실제 인간에게 레이블을 붙여 사용자가 확인된 사람을 알 수 있도록 할 수 있다.

 

하지만 진정한 위험과 어려움이 있다. 첫째, PHC가 널리 채택되고 인터넷 사용에 거의 필수적인 시스템에서 PHC 발급자는 많은 권력을 갖게 된다. 억압적인 정부가 PHC의 유일한 발급자일 때를 상상해 보라. 그 정부는 개인의 정치적 입장, 개인적 특성에 따라 누구에게 줄지 선택하거나 다른 허위 요구 사항을 부과할 수 있다. 언론의 자유가 억압될 수 있다. 민주 사회에서 동등하게 유효한 PHC의 여러 경쟁 발급자는 발급자에게 부여된 권력에 대한 필수적인 견제이다.

 

이는 자체적인 문제를 제기한다. 여러 PHC 발급자가 있으므로, 빨리 돈을 벌고자 하는 사람들은 여러 PHC를 취득하여 실제 사람인 척하는 봇을 만들려는 파렴치한 행위자에게 판매할 수 있다. 이는 PHC 발급자가 한 사람이 여러 PHC를 받지 않도록 보장하기 위해 신원 정보의 범용 데이터베이스를 공유함으로써 극복할 수 있다. 그러나 이는 프라이버시와 중앙 집중화에 대한 추가 위험을 초래한다. 저자들은 각 사람이 전체 생태계에서 제한된 수의 자격 증명만 얻을 수 있는 중간 지점을 권장한다. 발급자는 고유한 사람이 발급한 PHC 수에 대한 기본 정보만 서로 공유한다.

 

그래도 일부 사람들은 시간 제약이나 꺼내는 데 어려움 때문에 PHC를 얻는 데 어려움을 겪을 수도 있다. 다른 사람들은 개인 정보 보호 문제 때문에 PHC를 얻고 싶어하지 않을 수도 있다. 연구자들이 고안한 시스템이 정말 완벽하더라도 정부나 민간 PHC 제공자가 반드시 그런 방식으로 구현할 것이라는 보장은 없다. 해커는 영리하고 인적 오류는 흔하다. 어떤 이유든 PHC를 얻지 못한 사람들은 온라인에서 기여한 금액이 할인되거나 주요 서비스에서 완전히 제외될 수 있다.

 

셋째, PHC 발급자 자체가 사이버 공격을 받아 고객의 자격 증명이 위험에 처할 수 있다.

물론 이러한 가상적 우려가 실현되려면 PHC가 먼저 널리 채택되어야 하며 정치인, 주요 온라인 서비스 제공자, 일상적인 인터넷 사용자의 강력한 추진 없이는 이것이 실현되기 어려울 것이다.

맥그리거는 "PHC는 유용하려면 집단적 채택이 필요한 다면적 시장이다."라고 말했다. "PHC의 기술적 문제는 해결되었지만 인간이 해결책을 요구해야 한다."

 

준비 여부와 관계없이 PHC는 이미 존재한다.

이러한 과제는 한 스타트업이 자체 PHC를 설립하려는 시도를 멈추지 않았다. 2023년, OpenAI 최고경영자 샘 알트만, 맥스 노벤트스턴, 알렉스 블라니아가 4년 전에 설립한 Tools for Humanity는 최초의 대량 인격 자격증인 World ID를 출시했다. 이를 취득하려면 인간은 회사의 오브 중 하나로 홍채를 스캔해야 한다. 그 대가로 회사의 암호화폐인 WLD의 몇 개의 코인을 받는다. 그러면 오브가 고유 코드를 생성하여 World 앱에 보관된 사용자가 만든 ID에 연결한다. 이 회사의 시스템은 블록체인 기반이며, 제로 지식 증명을 활용하여 서비스 제공자에게 보유자의 인격을 증명한다.

 

Tools for Humanity는 2억 5천만 달러 이상의 투자자 자금을 유치했으며 현재 대부분 남미에서 600만 명 이상의 사용자를 등록했다. 하지만 이 회사는 올해 케냐와 인도에서 브라질과 스페인에 이르기까지 다양한 국가의 정부 기관이 시민의 프라이버시에 대한 우려로 운영을 중단하라고 명령하면서 심각한 장애물에 부딪히기 시작했다.

 

이 사가는 정부가 개인 회사에 신원 제어를 양도하는 데 주저하는 모습을 보여준다. 하지만 그들의 우려가 AI와 봇이 온라인 시민에게 가하는 위협을 대체할까? 이는 앞으로 몇 년 동안 인터넷 주변 사람들이 점점 더 내려야 할 선택이다.