소문은 놀랍다. 일부 전문가들은 GenerativeAI, 특히 ChatGPT, Dalle2, Midjourney 및 StableDiffusion이 혁명을 나타내며 모바일 인터넷이 도래했을 때 일어난 것과 유사한 웹의 다음 버전을 안내할 것이라고 말한다.

ChatGPT가 iPhone만큼 커질까요? 이것이 Google의 첫 번째 진정한 경쟁자를 만들까? 이것이 MSFT가 OpenAI에 100억 달러를 투자하는 이유일까? 좀 더 구체적으로, 이것이 대학 에세이를 마무리할까? ChatGPT가 표절과 일반적인 편집 게으름을 부추길까? AI에 의해 어느 정도 생성된 무의미한 전자책의 홍수(더욱 더)를 보게 될까? AI 작성 앱이 우리가 알고 있는 저널리즘의 종말을 의미할까? 더 많은 합성 '헛소리 미디어', 조작 및 소음을 볼 수 있을까?

소셜 미디어와 비슷하지만 500배 더 나쁘다. GenerativeAI는 소위 메타버스와 함께 훌륭한 동반자가 될 것이다. 우리 모두가 완벽한 시뮬레이션을 즐길 수 있도록? 이것은 AGI를 향한 큰 발걸음이며 인류에게 정말 '소등'을 의미할까 아니면 그저 재미를 위한 것일까?

먼저 빠른 정의: “Generative artificial intelligence (AI)”은 오디오, 코드, 이미지, 텍스트, 시뮬레이션 및 비디오를 포함한 새로운 콘텐츠를 생성하는 데 사용할 수 있는 알고리즘(예: ChatGPT)을 설명한다. 이 분야의 최근 새로운 돌파구는 우리가 콘텐츠 제작에 접근하는 방식을 크게 바꿀 가능성이 있는 것 같다…출처-Investopidea

여기에 내 의견, 결론, 희망, 걱정 및 우려 사항이 있다. 현재로서는 잠재적인 장단점에 대해 모호하다는 점에 유의해야 한다.

1. 이것은 그다지 새로운 것이 아니다. ChatGPT 및 기타 GenerativeAI의 배후에 있는 과학 및 방법론(특히 딥 러닝)은 그다지 새롭지 않지만(Meta의 Yann LeCun이 지적한 것처럼) 시도할 수 있는 개방적이고 공개적인 인터페이스가 있다(음... 다운되지 않은 경우), 이를 활용하는 API는 완전히 새로운 차원이다. 대중의 반응은 거창한 흥분에서 가혹한 비판, 두려움에 이르기까지 다양하다. 개인적으로 나는 이것이 제작자인 OpenAI의 대담한 움직임이라고 생각하며 확실히 공이 굴러갔다. :) 하지만 그들이 분명히 흔들었기 때문에 지금처럼 공개적으로 사용 가능한 상태로 유지되지는 않을 것이라고 감히 말씀드리고 싶다.

2. 인상적이지만 GenerativeAI 앱에서 생성되는 대부분의 텍스트는 여전히 매우 '바이너리'로 들린다. 특히 ChatGPT는 간단한 텍스트(예: 부동산 목록)의 생성에 관한 한 훌륭한 작업을 수행하지만 완벽하게 만들어진 단어 콜라주를 넘어 더 깊이 들어가면 단점이 매우 빠르게 드러난다. 다음은 그 중 일부이다:

3. ChatGPT는 (아직) 실시간이 아니다. 2021년에는 훈련 데이터가 중단된다. 시사, 뉴스 또는 – OMG는 내 영역이다 – 미래의 관찰이나 예측과 관련된 답변을 얻을 수 없다. OpenAI가 실시간 데이터로 어떻게 이 작업을 수행할 수 있을지 모르겠다. 현재 필요한 처리 용량의 1000배가 될 것이다.

GenerativeAI 확률론적 앵무새인가?

4. 확률론적 앵무새 문제: ChatGPT는 기본적으로 신속하게 답변을 제공하려고 시도할 때 훈련 데이터에서 스니펫, 단어 및 문장을 재구성하기 때문에 종종 정답과 제안된 진실(여기의 예 참조)을 혼동한다. 현재는 강점이 아니다. 가능한 한 빨리 최선의 가장 그럴듯한 답변을 제공하려고 할 뿐이다. 이로 인해 많은 전문가들이 ChatGPT를 멋진 '확률적 앵무새'로 분류했다. 앵무새처럼, 그것은 자신이 무엇을 말하는지 전혀 모른다. 단지 자신이 '기억하는' 스니펫을 역류시킬 뿐이다. 즉, 매우 영리하고 성취된 것처럼 들릴 수 있지만 여전히 임의의 사실을 결합하고 때로는 의미 없는 스퍼터링에 의존하기도 한다. 그러나: ChatGPT 및 이와 유사한 다른 사람들이 매우 뛰어난 헛소리꾼으로 사용될 수 있다면 소셜 미디어에 대한 의미를 생각해봐야 한다.

5. 나는 ChatGPT가 생성하는 콘텐츠가 대부분 매우 일반적이고 종종 약간 딱딱하다는 것을 알았다. 비록 그것이 어떤 종류의 유머에 상당히 능숙하고 추가 조사에서 세부 사항을 파헤칠 수 있음에도 불구하고 말이다. 정말 인상적이지만 시간을 할애할 가치가 있는 정말 강력하고 독특한 글이라고 생각하는 것과는 거리가 멀다. 나는 OpenAI의 GPT3 API(내 생각에)를 사용하는 Sudowrite라는 꽤 멋진 플랫폼을 사용해 보았고 작가가 자신이 쓰고 있는 내용에 대한 새로운 각도를 발견할 수 있도록 도와준다. 나는 이것이 매우 유용하다는 것을 알았다. 그것은 내가 더 빠르고 더 잘 작성하고 전반적으로 훨씬 더 유동적으로 작성하는 데 도움이 되었다. 그러나 다시, 그것은 또한 나의 게으름을 부추길 수도 있다…

6. 피할 수 없는 신뢰 문제: 대화형 AI 및/또는 ChatGPT와 같은 애플리케이션을 신뢰해야 할까? 이 딜레마는 Google 지도와 유사하다. 우리는 Google 지도를 사용하는 것을 좋아하지만 목적지까지 가는 가장 좋은 방법이 실제로 우리에게 표시되는지 항상 궁금해한다(Google 지도가 우리를 잘못 인도한 여러 가지 방법에 대해 신경쓰지 말라. 아마도 무심코였을 것이다.) 결론은 우리가 답을 찾을 때(검색에서와 같이 답에 대한 링크가 아님) 논리만으로는 완전히 불충분하며 데이터와 정보에 대한 심층적인 액세스만으로는 확실하고 정확한 답을 생성하기에 충분하지 않다는 것이다. 간단히 말해서, 가장 큰 문제는 AI가 현재 내가 '안드로리듬적 이해'라고 부르는 것이 부족하다는 것이다. 즉, AI는 인간의 결정(따라서 인간의 대답, 이야기 또는 내러티브). 그리고 인간은 뇌로만 생각하지 않는다는 것을 기억해야 한다. 우리는 몸으로 생각한다. 실생활에 대한 환원주의적 접근은 우리가 무언가를 읽거나 볼 때 생성 AI의 사용을 나타내는 일종의 글로벌 표준에 동의하지 않는 한 빠르게 심각한 사회적 문제가 될 수 있다.

7. 기니 속담 "지혜 없는 지식은 모래 속의 물과 같다"는 대부분의 ChatGPT 출력과 관련된 문제를 잘 설명한다. 사실 그것은 많은 인간 작가들이 직면하는 것과 같은 문제일 수 있다. 할 말이 없고, 독창적인 아이디어도 없고, 메시지도 없고, 사명도 없고, 목적도 없다면… 약간 다른 방식으로. 간단한 워드프레스 사이트의 웹사이트 카피를 작성할 때나 기본적인 부동산 목록 작성 등과 같은 매우 간단한 작업에는 괜찮을 수 있다. 하지만 다른 용도에서는 ChatGPT의 텍스트가 너무 일반적이고 인간의 편집이 많이 필요한 감정적으로 평평하다. 그럼에도 불구하고 나는 많은 작가들이 생성 AI를 사용하여 아이디어를 발굴하고 가능성을 모색할 것으로 예상한다. 이는 (현재로서는) 좋은 일인 것 같다.

8.ChatGPT는 새로운 지식(텔로스, 즉 지혜라고 부르는 것에 신경쓰지 않음)을 생성하지 않으며(하지 않을 것인가?), 상상과 예측(즉, 아직 존재하지 않는 것에 대한 이해)이 불가능하다는 것을 이해하는 것이 중요하다고 생각한다. 여기) 그리고 그것은 실생활(주커버그를 제외하고 대부분의 인간이 실제로 거주하는 곳)에 대한 다원적 이해가 부족하다. 그것들은 상당히 중요한 제한 사항이다. 하지만 다시 말하지만, 우리 인간이 '쓸모'가 되지 않는 이유이다.

9. 기술 가속화 자동화로 인한 실직에 대해: 우리는 이전에 '기계가 우리 일자리를 앗아갈 것이다'라는 불가피한 밈에 대한 주장을 들었다. "기계가 자동차(또는 트럭)를 운전할 수 있다면 왜 인간 운전자가 필요하겠는가?" 그러나 지금까지는 실제로 그런 일이 일어나지 않았다. 그렇다. 우리는 자율주행 자동차와 트럭을 일부 장소에서 특정 조건 하에 보유하고 있지만 동시에 인간은 여전히 모든 운전 작업의 99.9%를 처리한다. 이것은 오류일까, 아니면 잘못된 나무를 짖고 있는 것일까? 개인적으로 나는 자율주행의 레벨 2나 3이 주요 성과가 될 것이라고 생각하고 아마도 레벨 4와 확실히 레벨 5는 우리가 지금으로서는 강조하지 말아야 할 이야기이다. '기계(AI)가 좋은 기사를 쓸 수 있다면 왜 인간 작가가 필요한가'라는 밈이 같은 궤적을 따를 것이다. 결국 당신을 위해 그것을 할 것이지만 그렇지 않으면 실제 생활은 그렇게 간단하지 않다. 적어도 지금은 말이다.

10. 가장 큰 걱정거리가 생겼다: 이게 어디로 가는 걸까? 우리는 기괴한 종류의 '합성 미래'로 향하고 있을까? 먼저 합성 글, 합성 이미지 및 비디오, 합성 미디어(영화, 팟캐스트 및 음악), 합성 친구(Replika 살펴보기), 마지막으로 합성 인간과 합성 세계이다. 많은 '꿀꿀한 일'(또는 덜 흥미진진한 일)을 기계에 위임하는 것이 우리의 게으름에 점점 더 매력적이라는 것을 알게 될 수 있고 우리 자신의 노력을 멈출 수 있다는 점에서 뚜렷한 위험이 있다. AI가 몇 초 만에 생성할 수 있는 훌륭한 뉴스 기사를 위해 용기를 내어 작성해야 하는 이유는 무엇일까(다시 말하지만 사과와 오렌지는 여전히 큰 문제이다). AI가 전 세계 어느 곳에서나 온디맨드 방식으로 사실적인 장면을 생성할 수 있는데 사진을 보기 좋게 만드는 데 신경을 쓸 이유가 무엇일까? WifeLike AI를 얻을 수 있다면 왜 다른 인간과의 실제 관계의 모든 문제에 신경을 써야 할까? 당신을 염두에 두라. 약간의 게으름은 종종 환영받고 편리하지만(예: Google 지도 또는 Uber-Eats 등) 극단적으로 취하면 사회의 비인간화가 증가하고 일반적인 의미의 결여로 이어지게 된다.

11. 인공지능이 만드는 유토피아 세상? OpenAI의 CEO인 Sam Altman은 다음과 같이 말한다. 나는 기술이 우리에게 그러한 원형적 혜택을 창출할 수 있다는 데 동의하는 경향이 있지만, 결국 기술은 사회적, 문화적 또는 정치적 문제를 해결하지 못할 것이다. 이를 위해 우리는 인간의 협력과 지혜가 필요하며 이것이 우리가 가장 놓치고 있는 것이다.

"우리는 ChatGPT와 이와 유사한 도구가 정보 환경에 대한 신뢰를 약화시키고 사람들을 공적 담론에서 점점 더 동질적인 커뮤니티로 밀어내는 적대적 방식으로 사용되는 것을 보게 될 것이다."-Nieman Lab을 통한 데이터 및 사회 담당 이사 Janet Haven