Home-theater-designers
인공 지능(AI)은 우리가 원하든 원하지 않든, 월드 와이드 웹을 포함하여 우리 사회의 전체 부분을 변화시킬 것입니다.
ChatGPT와 같은 소프트웨어를 인터넷에 연결된 모든 사람이 사용할 수 있게 되면서 AI가 생성한 콘텐츠와 인간이 만든 콘텐츠를 분리하는 것이 점점 더 어려워지고 있습니다. AI 콘텐츠 탐지기가 있다는 것은 좋은 일입니다.
오늘의 메이크업 비디오 콘텐츠를 계속하려면 스크롤하세요.
AI 콘텐츠 탐지기가 작동합니까?
AI 콘텐츠 탐지기는 무언가를 컴퓨터 프로그램이 작성했는지 사람이 작성했는지 판단하는 특수 도구입니다. Google에서 'AI 콘텐츠 감지기'라는 단어만 검색하면 수십 개의 탐지기가 있습니다 모두 인간 텍스트와 비인간 텍스트를 확실하게 구분할 수 있다고 주장합니다.
작동 방식은 매우 간단합니다. 글을 붙여 넣으면 도구가 AI에 의해 생성되었는지 여부를 알려줍니다. 보다 전문적인 용어로, 자연어 처리 기술과 기계 학습 알고리즘의 조합을 사용하여 AI 콘텐츠 탐지기는 패턴과 예측 가능성을 찾고 이를 기반으로 호출합니다.
이것은 서류상으로는 훌륭하게 들리지만, AI 탐지 도구를 사용해 본 적이 있다면, 가볍게 말해서 뺑소니라는 것을 잘 알고 있을 것입니다. 종종 그들은 사람이 쓴 콘텐츠를 AI로 감지하거나 사람이 만든 텍스트를 AI 생성으로 감지합니다. 사실, 어떤 사람들은 당혹스러울 정도로 자신이 해야 할 일을 제대로 하지 못합니다.
AI 콘텐츠 탐지기는 얼마나 정확합니까?
미국에 있는 경우 'AI 콘텐츠 감지기'에 대한 첫 번째 Google 검색 결과는 writer.com(이전에는 Qordoba로 알려짐, 자체 감지기도 있는 AI 콘텐츠 플랫폼임)입니다. 하지만 이 임의의 섹션을 붙여넣으면 AP 통신 기사를 도구에 넣으면 인공 지능에 의해 생성되었을 가능성이 매우 높다고 주장합니다.
그래서 writer.com이 잘못했습니다.
공정하게 말하면 다른 AI 콘텐츠 탐지기는 거의 나을 것이 없습니다. 거짓 긍정을 생성할 뿐만 아니라 AI 콘텐츠를 인간으로 표시합니다. 그리고 그렇지 않은 경우에도 AI가 생성한 텍스트를 약간 수정하는 것만으로도 성공적으로 통과할 수 있습니다.
2023년 2월, Wollongong 대학 강사 Armin Alimardani와 UNSW Sydney Emma A. Jane 부교수는 인기 있는 여러 AI 콘텐츠 탐지기를 테스트하여 그 중 어느 것도 신뢰할 수 없음을 확인했습니다. 에 발표된 그들의 분석에서 대화 , Alimardani와 Jane은 텍스트 생성기와 감지기 사이의 이 AI '군비 경쟁'이 특히 교육자에게 미래에 중요한 도전이 될 것이라고 결론지었습니다.
그러나 걱정할 이유가 있는 것은 교육자와 교사만이 아닙니다. 모두가 그렇습니다. AI가 생성한 텍스트가 유비쿼터스화되면서 '진짜'와 그렇지 않은 것을 구별할 수 있게 되었습니다. 즉, AI가 작성한 내용을 실제로 감지합니다. , 더 어려워 질 것입니다. 이것은 거의 모든 산업과 사회 영역, 심지어 개인 관계에도 막대한 영향을 미칠 것입니다.
사이버 보안 및 개인 정보 보호에 대한 AI의 영향
어떤 것이 소프트웨어에 의해 생성되었는지 인간에 의해 생성되었는지를 판단할 수 있는 신뢰할 수 있는 메커니즘이 없다는 사실은 사이버 보안 및 개인 정보 보호에 심각한 영향을 미칩니다.
위협 행위자는 이미 ChatGPT를 사용하여 멀웨어 작성 , 피싱 이메일 생성, 스팸 작성, 사기 사이트 생성 등. 이를 방어할 수 있는 방법이 있지만 유기적 콘텐츠와 봇 콘텐츠를 확실하게 구분할 수 있는 소프트웨어가 없다는 것은 확실히 걱정스러운 일입니다.
가짜 뉴스 역시 이미 엄청난 문제입니다. 제너레이티브 AI를 사용하면 허위 정보 에이전트는 전례 없는 방식으로 작업을 확장할 수 있습니다. 한편 일반인은 자신이 온라인에서 읽고 있는 내용이 소프트웨어에 의해 생성되었는지 인간에 의해 생성되었는지 알 방법이 없습니다.
프라이버시는 완전히 다른 문제입니다. 예를 들어 ChatGPT를 사용하십시오. 그것은 3000억 단어 이상을 먹인 출시 전에. 이 콘텐츠는 책, 블로그 및 포럼 게시물, 기사, 소셜 미디어에서 가져왔습니다. 그것은 누구의 동의도 없이, 사생활 보호와 저작권 보호를 완전히 무시한 채 수집되었습니다.
그런 다음 오 탐지 문제도 있습니다. 콘텐츠가 AI 생성으로 잘못 표시되면 어쨌든 엄청난 문제인 검열로 이어질 수 있지 않습니까? AI가 만든 텍스트를 사용했다는 비난을 받는 피해는 말할 것도 없이 온라인과 실생활에서 자신의 평판에 영향을 미칠 수 있습니다.
제너레이티브 AI와 콘텐츠 탐지기 사이에 실제로 군비 경쟁이 있다면 전자가 이기고 있습니다. 더 나쁜 것은 해결책이 없는 것 같습니다. 절반도 작동하지 않거나 매우 쉽게 속을 수 있는 설익은 제품이 있습니다.
Windows 10 전면 USB 포트가 작동하지 않음
AI 콘텐츠를 감지하는 방법: 잠재적 솔루션
우리가 현재 이 문제에 대한 진정한 답을 가지고 있지 않은 것 같다고 해서 미래에도 답이 없을 것이라는 의미는 아닙니다. 사실, 효과가 있을 수 있는 몇 가지 진지한 제안이 이미 있습니다. 워터마킹은 하나입니다.
AI 및 심층 언어 모델의 경우 워터마킹은 AI가 생성한 텍스트(예: 단어 패턴, 구두점 스타일)에 일종의 비밀 코드를 삽입하는 것을 의미합니다. 이러한 워터마크는 육안으로는 보이지 않으므로 제거가 거의 불가능하지만 전문 소프트웨어를 사용하면 이를 감지할 수 있습니다.
실제로 2022년에 메릴랜드 대학교 연구원들은 인공 신경망을 위한 새로운 워터마킹 방법을 개발했습니다. 수석 연구원인 Tom Goldstein은 당시 그의 팀이 워터마크를 완전히 제거할 수 없다는 것을 '수학적으로 증명'했다고 말했습니다.
당분간 평범한 사람이 할 수 있는 것은 본능과 상식에 의존하는 것입니다. 읽고 있는 콘텐츠에 뭔가 이상한 점이 있다면(부자연스럽고 반복적이며 상상력이 부족하고 진부하다고 느껴진다면) 소프트웨어에 의해 생성되었을 수 있습니다. 물론 온라인에서 보는 모든 정보도 확인하고 출처를 다시 확인하고 수상한 웹사이트를 멀리해야 합니다.
AI 혁명이 진행 중
5차 산업혁명은 이미 도래했다고 주장하는 사람들도 있다. 인공지능이 디지털과 물리의 융합으로 기술되고 있는 것의 중심 무대가 되기 때문이다. 그것이 사실이든 아니든 우리가 할 수 있는 일은 적응하는 것뿐입니다.
좋은 소식은 사이버 보안 산업이 이 새로운 현실에 적응하고 AI와 머신 러닝을 최전선에 두고 새로운 방어 전략을 구현하고 있다는 것입니다.