광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

[MindPlex-AI 세계의 잘못된 정보] 사기꾼은 어느 시대에나 존재하며 사라지지 않는다. 기술은 고대이든 현대이든 변화하며 모든 새로운 기술은 속이는 새로운 방법으로 사용되었다. AI와 기타 신기술의 등장으로 인류가 그 어느 때보다 취약해지고 있다.

https://magazine.mindplex.ai/uncanny-scammy-valley-misinformation-in-the-ai-world/

운영자 | 기사입력 2023/11/20 [00:00]

[MindPlex-AI 세계의 잘못된 정보] 사기꾼은 어느 시대에나 존재하며 사라지지 않는다. 기술은 고대이든 현대이든 변화하며 모든 새로운 기술은 속이는 새로운 방법으로 사용되었다. AI와 기타 신기술의 등장으로 인류가 그 어느 때보다 취약해지고 있다.

https://magazine.mindplex.ai/uncanny-scammy-valley-misinformation-in-the-ai-world/

운영자 | 입력 : 2023/11/20 [00:00]

딥페이크와 ChatGPT, LLM이 세계 어휘의 일부가 되기 전인 2000년대부터 현재까지 누구에게나 찾아보면 중요한 생존 기술이 부족하다는 것을 알게 될 것이다컴퓨터에 바이러스가 있다!”, "귀하의 은행 계좌에 보안 문제가 있다문제를 해결하려면 여기를 클릭하라!"

사기는 커뮤니케이션이 과 부하된 세상에서 너무나 흔한 일이며, AI로 인해 그 어느 때보다 무섭고 현실과 허구를 구별하기가 더욱 어려워지고 있다.

 

사기의 역사

사기는 새로운 것이 아니다정직한 사람들의 돈을 빼앗는 응접실 속임수는 인류만큼이나 오래되었다골무 리그(컵과 공 트릭)부터 헤게스트라토스폰지(Ponzi)에 이르기까지 자신의 이익을 위해 다른 사람을 속이는 것은 인류의 가장 슬픈 기술 중 하나이다호모 사피엔스의 속이고 사기 능력은 우리가 네안데르탈인을 넘어 궁극적으로 승천한 이유로 이론화되었다네안데르탈인은 우리보다 강하고 빠르며 똑똑했지만 우리가 부싯돌 도끼를 등에 묻기 전에 '보세요매머드!'라고 외칠 때마다 그들은 그것에 반했다.

모든 새로운 기술은 속이는 새로운 방법으로 사용되었다대량 통신이 처음 개발되었을 때자동 다이얼 장치가 사기에 사용되기 시작한 것은 얼마되지 않았다이런 일은 오늘날에도 여전히 일어나고 있으며, '내 말 들리는가?' 사기는 2020년까지도 광범위한 불행을 야기했다.

피싱 이메일은 인터넷이 시작되자마자 주변에 있었다초기 온라인 사용자는 컴퓨터의 데이터를 샅샅이 뒤지는 악의적인 바이러스로 인해 컴퓨터를 여러 번 다시 포맷해야 하는 경우가 많았다그 전에 우리 모두는 온라인에서 읽은 모든 내용을 신뢰하지 않거나 출처를 모르는 내용을 클릭하지 않는다는 집단 의식을 얻었다사기는 대부분의 사람들에게 짜증나는 일이었지만불운한 소수의 사람들은 사기꾼들이 자신의 계좌를 완전히 빼내면서 파산하는 것을 목격했다.

 

우리가 생각하는 것만큼 사기에 저항하지 못하는 이유

우리는 그렇게 쉽게 속는 것 이상으로 진화했다고 생각하고 싶지만숫자는 다른 이야기를 말해준다. 2022년에 보고된 사기로 인한 소비자 손실은 총 88억 달러로 전년 대비 30% 증가했다우리의 온라인 위생 상태는 나아지기는 커녕 점점 더 악화되고 있다그리고 이는 되돌릴 수 없는 거래로 인해 사기로 인한 손실을 방지할 수 있는 보호 장치가 거의 없는 암호화폐를 고려하기 전이다급성장하는 지갑을 가진 고급 사용자라도 몇 번의 잘못된 클릭만으로 재산이 빠져나가게 된다.

 

왜 일까우리 모두는 단지 바보인가아니 우리는 그렇지 않다우리는 역사상 그 어느 때보다 더 현명하고더 많은 교육을 받았으며더 통찰력 있고더 기술적으로 통합되어 있다무슨 일이 일어나고 있는 걸까?

첫째우리는 점점 더 타락한 사회에서 그 어느 때보다 더 외롭고서로 더 멀리 떨어져 있다우리의 개인적인 경험은 더욱 원자화되고 온라인화되어 있으므로 맹점에 빠지기 쉽다둘째정보 과부하와 점점 더 시뮬레이션되는 세계로 인해 현실과 비현실을 구별하기가 더 어려워졌다심지어 정교한 사람들에게도 마찬가지이다공개 포럼을 탐색할 때 우리가 수행해야 하는 처리량은 이전 사회에서 수행했던 것 이상이다사방에서 들려오는 목소리와 의견진실과 거짓이 안개처럼 우리를 둘러싸고 있어 합의 사회의 곧고 좁은 길을 보기 어렵게 만들고 있다(오늘날 우리가 겪고 있는 극심한 정치적 양극화가 보여주는 사실).

 

AI가 모든 사람을 사기 위해 사용되는 방법

셋째가장 중요한 것은 사기가 점점 늘어나고 있다는 것이다이제 사람들의 돈을 사기 위해 대규모 전문 산업이 형성되었다수줍은 사람이나 할머니에게서 물건을 훔치는 도덕적 파산자만이 아니다적 시민을 표적으로 삼는 악의적 행위자들의 국가 지원 공격이다일부 국가에는 경제를 유지하기 위해 라이벌의 부유한 시민들을 사기에 전념하는 팀이 있다.

그리고 그들은 그것을 할 수 있는 도구를 가지고 있다로봇 공학에는 고딕 문학의 하임리치(Unheimlich) '불쾌한 계곡'이라는 이론이 있는데현실과 너무 가까워서 불안해진다는 이론이 있다그러나 생성 AI가 실제에 더 가까운 이미지비디오 및 음성을 생성할 수 있게 되고 LLM이 일반 인간의 프리젠테이션과 훨씬 더 유사하게 텍스트를 생성조정 및 배포할 수 있게 됨에 따라 이 기묘한 계곡이 더 많이 채워질수록 누군가를 신뢰하는 것이 더 어렵다심지어 당신이 사랑하는 사람이라도 말이다.

사랑하는 사람의 목소리를 모방하여 필사적으로 전화를 걸어 도움과 돈을 구걸하는 사기꾼들의 이야기는 정말 소름끼친다만약 당신의 어머니나 형제파트너 또는 자녀가 당신에게 소리를 지르며 전화를 한다면 다시 한 번 생각해보시겠는가만약 그들이 당신에게 완전한 딥페이크 시각적 각인인 괴로움을 안겨준다면당신이 렌더를 너무 자세히 분석하기 전에 공포로 인해 돈을 보내게 될 것이다.

그러한 타락한 전술을 사용하지 않더라도 AI 도구를 사용하면 사기꾼이 필요한 정보를 최종적으로 얻기 전에 대상과 신뢰를 구축하는 데 몇 시간며칠 또는 몇 주를 소비할 필요가 없다포인트 앤 클릭 사기이다십대들에게 자신의 딥페이크 누드를 보낸 협박 이야기는 많은 사람들이 우리의 강력한 신기술 발전을 사용하여 창조하기로 결심한 것처럼 보이는 일련의 공포 중 가장 최근의 것일 뿐이다.

 

온라인에서 안전을 유지하는 방법

그렇다면 우리는 무서운 시대에 살고 있다우리의 새로운 AI 도구가 어떤 종류의 어두운 계곡을 파낼 수 있는지 이해하는 것은 모든 사람의 책임이며정부는 시민들에게 그들이 직면한 위험을 교육하고 알리는 책임이 있다이런 검은 거울에도 불구하고 희망은 있다각 개인을 보호하는 AI 파수꾼진짜와 가짜를 분별하도록 돕고더 강력한 형태의 부에 대한 자기 관리와 사기로부터 보호하기 위한 더 나은 은행 인프라그리고 우리가 살고 있는 용감한 신세계에 대한 더 넓은 이해를 통해 시간이 지나면 사기꾼을 막을 수 있기를 바란다.

그때까지는 안전하게 지내시라누구도 믿지 말라고 내가 말할 때 나를 믿으라.

 
인공지능, 사기, 기만, 호도, 폰지 사기 관련기사목록
PHOTO
1/6
광고
광고
광고
광고
광고
많이 본 기사
AGILab 뉴스 많이 본 기사
최신기사