우리는 AI 기술이 호황을 누리고 있고 ChatGPT의 도입으로 세계가 폭풍에 휩싸인 시대에 살고 있다.

 

ChatGPT는 광범위한 작업을 수행할 수 있지만 특히 잘 수행하는 작업은 기사 작성이다. 여기에는 많은 명백한 이점이 있지만 여러 가지 문제도 있다. AI로 생성된 글 콘텐츠가 출판 업계에 제기하는 가장 큰 장애물은 잘못된 정보의 확산이다.

 

ChatGPT 또는 기타 AI 도구는 사실에 입각한 오류가 포함되어 있거나 완전히 부정확한 기사를 생성할 수 있다.

 

의학에 대한 전문 지식이 없는 사람이 의학 블로그를 시작하고 ChatGPT를 사용하여 기사 콘텐츠를 작성한다고 상상해 보면 끔찍하다.

 

해당 콘텐츠에는 전문 의사만 식별할 수 있는 오류가 포함되어 있을 수 있다. 그리고 해당 블로그 콘텐츠가 소셜 미디어를 통해 퍼지기 시작하거나 검색 순위에 오르면 블로그를 읽고 잘못된 의학적 조언을 받는 사람들에게 해를 끼칠 수 있다.

 

ChatGPT가 제기하는 또 다른 잠재적인 문제는 학생들이 작문 작업에서 이를 어떻게 활용할 수 있는지이다. 에세이 작성의 핵심은 주제에 대해 배우고 자신의 생각을 표현하는 것이다.

 

ChatGPT가 도입되기 전부터 이미 많은 게시자가 AI를 사용하여 콘텐츠를 생성하고 있었다. 일부는 정직하게 공개하지만 다른 일부는 공개하지 않을 수 있다.

 

또한 Google은 최근 AI로 생성된 콘텐츠에 대한 문구를 변경하여 반드시 회사 지침에 위배되지는 않는다.

 

그러므로 일반적으로 ChatGPT 또는 AI에 의해 생성된 콘텐츠를 감지할 때 기술 산업이 어디에 있는지 이해하기 위해 기존 도구를 사용해 봐야 한다.

 

ChatGPT에서 다음 프롬프트를 실행하여 서면 콘텐츠를 생성한 다음 다른 감지 도구를 통해 해당 답변을 실행했다.

 

“로컬 SEO란? 왜 중요한가? 로컬 SEO의 모범 사례.”

"나폴레옹 보나파르트의 이집트 침공에 대한 에세이를 써라."

"iPhone과 Samsung Galaxy의 주요 차이점은 무엇인가?"

 

각 도구의 성능은 다음과 같다.

 

1. Writer.com

첫 번째 프롬프트의 답변으로 Writer.com은 ChatGPT 콘텐츠의 94%가 인간이 생성한 것으로 확인하면서 실패했다.

 

 

두 번째 프롬프트의 경우 작동하여 AI 작성 콘텐츠로 감지했다.

 

 

그러나 실제 사람이 쓴 텍스트를 테스트했을 때 Writer.com은 100% 사람이 작성한 텍스트임을 매우 정확하게 식별했다.

 

 

 

 

2. Copyleaks

Copyleaks는 세 가지 프롬프트를 모두 AI 작성으로 감지하는 데 큰 역할을 했다.

 

 

3. Contentatscale.ai

Contentatscale.ai는 첫 번째 프롬프트에도 불구하고 세 가지 프롬프트를 모두 AI 작성으로 감지하는 데 큰 역할을 했다. 21%의 인간 점수를 받았다.

 

 

4. Originality.ai

Originality.ai는 세 가지 프롬프트 모두에서 훌륭한 작업을 수행하여 AI가 작성한 것으로 정확하게 감지했다.

 

또한 실제 사람이 쓴 텍스트로 확인했을 때 100% 사람이 작성한 것으로 식별되었으며 이는 필수적이다.

 

 

Originality.ai는 표절 문제를 감지하지 못한다. 이는 향후 변경될 수 있다.

 

시간이 지남에 따라 사람들은 동일한 프롬프트를 사용하여 AI로 작성된 콘텐츠를 생성할 것이며 매우 유사한 답변이 많이 나올 것이다. 이러한 기사가 게시되면 표절 도구에 의해 감지된다.

 

5. GPTZero

이 비상업적 도구는 Edward Tian이 제작했으며 특히 ChatGPT에서 생성된 기사를 감지하도록 설계되었다. 그리고 AI가 생성한 것으로 인식하여 세 가지 프롬프트 모두에 대해 그렇게 했다.

 

 

다른 도구와 달리 문장별 분석과 같이 감지된 문제에 대해 보다 자세한 분석을 제공한다.

 

6. OpenAI의 AI 텍스트 분류기

마지막으로 OpenAi가 자체적으로 생성된 답변을 감지하는 방법을 살펴본다.

 

첫 번째와 세 번째 프롬프트의 경우 "AI 생성 가능성"으로 분류하여 관련 AI가 있음을 감지했다.

 

 

 그러나 놀랍게도 두 번째 프롬프트에서 실패했고 "가능성이 낮은 AI 생성"으로 분류했다. 위의 도구 중 OpenAi 자체 도구보다 더 높은 정확도로 AI 콘텐츠를 감지하는 도구가 거의 없다.

 

 

현재 AI 콘텐츠 생성 도구는 양호한 상태이며 ChatGPT에서 생성된 콘텐츠를 감지할 수 있다(성공 정도는 다양함).

 

누군가가 ChatGPT를 통해 사본을 생성한 다음 그것을 감지할 수 없도록 바꾸어 표현하는 것은 여전히 가능하지만 처음부터 작성하는 것만큼 많은 작업이 필요할 수 있으므로 이점이 즉각적이지 않다.

 

ChatGPT가 작성한 Google의 기사 순위를 매기는 것에 대해 생각한다면 잠시 생각해 봐야한다. 위에서 본 도구가 AI 생성으로 인식할 수 있었다면 Google의 경우 이를 감지하는 것은 식은 죽 먹기일 것이다.

 

또한 Google에는 AI로 작성된 기사를 찾을 때 수동으로 표시하여 시스템이 AI로 작성된 기사를 더 잘 인식하도록 교육할 우수한 평가자가 있다.

 

그래서 ChatGPT에서 생성된 콘텐츠에 대한 콘텐츠 전략을 세우지 말고 단지 보조 도구로만 사용하면 좋을 것이다.

 

출처: 서치엔진저널