새로운 도구는 무언가가 AI인지 알 수 있습니다

새로운 연구에 따르면 캔자스 대학교에서 개발한 AI 탐지기가 학술 논문에서 AI로 생성된 콘텐츠를 99%의 정확도로 탐지할 수 있는 것으로 나타났습니다. 이는 학술 작문을 위해 특별히 설계된 시장의 유일한 탐지기 중 하나입니다.

진짜 인간의 실수? 그럴 수도 있지만 적어도 인공지능은 아니다.

셀 리포트 피지컬 사이언스(Cell Reports Physical Science) 저널에 수요일 발표된 보고서에 따르면, 연구자들은 학술 논문에서 AI 탐지를 99% 정확도로 증명할 수 있는 도구를 만들었습니다.

연구진은 64개의 관점(기사 유형)을 선택하고 ChatGPT를 사용하여 128개의 기사를 만든 후 AI 탐지기를 훈련하는 데 사용했습니다.

이 모델은 AI가 생성한 기사에서 인간이 만든 기사를 식별하는 정확도 100%, 텍스트 내 특정 단락을 식별하는 정확도 92%를 나타냈습니다.

Study.com의 조사에 따르면 대학생의 89%가 과제를 돕기 위해 ChatGPT를 사용한다고 인정했으며, 교육자의 34%는 소프트웨어가 금지되어야 한다고 생각하지만 66%는 학생의 액세스를 지지합니다.

수석 저자 Heather Desaire는 성명을 통해 “현재 AI 글쓰기에는 꽤 눈에 띄는 문제가 있습니다.”라고 말했습니다. "가장 큰 문제 중 하나는 다양한 소스의 텍스트를 조합하고 정확성을 확인할 방법이 없다는 점입니다. 마치 Two Truths and a Lie 게임과 비슷합니다."

AI 탐지기는 100% 정확하다고 입증되지 않았습니다. 캘리포니아 대학교 데이비스 캠퍼스의 한 학생이 AI를 이용한 부정행위로 대학으로부터 거짓 고발을 당했다고 주장합니다. 그녀는 수업 중 하나에 대한 논문을 업로드한 후 교수로부터 일부가 Turnitin 프로그램에서 AI 생성으로 표시되었다고 주장하는 이메일을 받았습니다. 그녀의 사건은 즉시 학업 위법 행위에 대한 징계를 담당하는 학생 지원 및 법무처로 전달되었습니다. 그 학생은 자신의 주장을 항변했고 결국 타임스탬프를 사용하여 자신이 논문을 썼다는 것을 증명함으로써 승리했습니다. 교육자들이 과제를 AI가 생성한 것으로 잘못 표시한 것은 이번이 유일한 것이 아닙니다. 텍사스 A&M 상업 교수는 ChatGPT를 사용하여 학생들이 챗봇을 사용하여 논문을 작성했는지 테스트한 후 상급반의 절반 이상을 낙제하려고 시도했습니다. 그는 논문을 복사하여 ChatGPT에 붙여넣고 작성했는지 물었고, 이에 대해 그렇다고 대답했습니다. 이로 인해 대학에서는 졸업장을 보류했지만 교수는 과제를 다시 수행할 기회를 제공했습니다. 그러나 대학은 Insider에 어떤 학생도 낙제하거나 졸업이 금지되지 않았음을 확인했습니다.

OpenAI의 챗봇인 ChatGPT는 2022년 11월 대중에게 공개되었으며, 일주일도 채 되지 않아 사용자가 100만 명을 넘어섰고, 사람들은 이를 코드 작성, 에세이 작성 등의 작업에 사용했습니다. AI의 지능으로 인해 뉴욕 공립학교, 시애틀 공립학교 및 로스앤젤레스 통합 교육구를 포함한 여러 학교에서 소프트웨어를 무기한 또는 일시적으로 금지했습니다.

AI로 작성된 콘텐츠를 식별할 수 있는 기존 프로그램과 서비스가 이미 많이 있습니다.

학교 내 ChatGPT: 금지된 위치와 잠재적으로 학생들에게 도움이 될 수 있는 방법(Forbes)

OpenAI의 ChatGPT에 대해 알아야 할 사항 - 방해 요소 및 사용 방법(Forbes)