Home-theater-designers
ChatGPT는 빠르게 감동을 주는 강력한 새 AI 챗봇이지만 많은 사람들이 심각한 함정이 있다고 지적했습니다. 당신이 좋아하는 무엇이든 물어보세요, 그러면 당신은 인터넷을 통해 방대한 양의 정보로부터 지식과 글쓰기 기술을 배운 인간이 쓴 것처럼 들리는 대답을 받을 것입니다.
오늘의 메이크업 비디오
그러나 인터넷과 마찬가지로 진실과 사실이 항상 주어지는 것은 아니며 ChatGPT는 잘못된 정보를 제공합니다. ChatGPT가 우리의 미래를 바꾸게 되면서 가장 큰 우려 사항이 있습니다.
ChatGPT란?
ChatGPT는 인간의 대화를 모방하도록 설계된 대규모 언어 학습 모델입니다. 그것은 당신이 과거에 말했던 것을 기억할 수 있고 틀렸을 때 스스로 고칠 수 있습니다.
위키백과, 블로그 게시물, 책, 학술 논문 등 인터넷에 있는 모든 종류의 텍스트에 대해 학습했기 때문에 사람처럼 글을 쓰고 지식도 풍부하다.
배우기 쉽다 ChatGPT 사용 방법 , 그러나 더 어려운 것은 가장 큰 문제가 무엇인지 알아내는 것입니다. 다음은 알아야 할 가치가 있는 몇 가지 사항입니다.
1. ChatGPT가 항상 옳은 것은 아닙니다.
그것은 기본적인 수학에 실패하고 간단한 논리 질문에 대답할 수 없는 것처럼 보이며 심지어 완전히 잘못된 사실을 주장하기까지 합니다. 소셜 미디어 사용자가 증명할 수 있듯이 ChatGPT는 한 번 이상 잘못될 수 있습니다.
OpenAI 이 제한에 대해 알고 있으며 'ChatGPT는 때때로 그럴듯하지만 부정확하거나 무의미한 답변을 작성합니다.'라고 작성했습니다. 사실과 허구의 이러한 '환각'은 일부 과학자들이 부르는 것처럼 의학적 조언과 관련하여 특히 위험합니다.
Siri 또는 Alexa와 같은 다른 AI 비서와 달리 Chat GPT는 답변을 찾는 데 인터넷을 사용하지 않습니다. 대신, 훈련을 기반으로 다음에 올 가능성이 가장 높은 '토큰'을 선택하여 단어별로 문장을 구성합니다.
즉, ChatGPT는 일련의 추측을 통해 답변에 도달하는데, 이는 잘못된 답변이 마치 완전히 사실인 것처럼 주장할 수 있는 이유 중 하나입니다.
복잡한 개념을 설명하는 데 탁월하고 학습을 위한 강력한 도구가 되지만 모든 내용을 믿지 않는 것이 중요합니다. ChatGPT가 항상 정확한 것은 아닙니다. 적어도 아직은 아닙니다.
2. 편향이 시스템에 반영됨
ChatGPT는 과거와 현재 전 세계 사람들의 집단적 글쓰기에 대해 교육을 받았습니다. 이는 데이터에 존재하는 동일한 편향이 모델에도 나타날 수 있음을 의미합니다.
사실, 사용자들은 ChatGPT가 예를 들어 여성을 차별하는 일부 끔찍한 답변을 생성할 수 있음을 보여주었습니다. 그러나 그것은 빙산의 일각에 불과합니다. 다양한 소수 그룹에 극도로 해로운 답변을 생성할 수 있습니다.
비난은 단순히 데이터에만 있지 않습니다. OpenAI 연구원과 개발자는 ChatGPT를 교육하는 데 사용되는 데이터를 선택합니다. OpenAI가 '편향된 행동'이라고 부르는 문제를 해결하기 위해 사용자에게 잘못된 출력에 대한 피드백을 제공하도록 요청하고 있습니다.
사람들에게 해를 끼칠 가능성이 있으므로 이러한 문제가 연구되고 해결되기 전에는 ChatGPT를 대중에게 공개하지 말았어야 했다고 주장할 수 있습니다.
xbox one은 Wi-Fi에 연결하지 않지만 다른 모든 것은 연결합니다.
Sparrow(Google의 모회사인 Alphabet 소유)라는 유사한 AI 챗봇이 2022년 9월에 출시되었습니다. 그러나 해를 끼칠 수 있다는 유사한 우려 때문에 비공개로 유지되었습니다.
아마도 Meta도 경고를 받았을 것입니다. 학술 논문으로 훈련된 AI 언어 모델인 갤럭티카를 출시했을 때 잘못되고 편향된 결과를 출력해 많은 사람들의 비판을 받자 빠르게 회수됐다.
3. 고등학교 영어에 대한 도전
ChatGPT에 글을 교정하거나 단락을 개선하는 방법을 지적할 수 있습니다. 또는 방정식에서 자신을 완전히 제거하고 ChatGPT에 무언가를 작성하도록 요청할 수 있습니다.
인스타그램 피드를 최신으로 변경하는 방법
교사들은 ChatGPT에 영어 과제를 제공하는 실험을 했고 많은 학생들이 할 수 있는 것보다 더 나은 답변을 받았습니다. 커버레터 작성부터 유명한 문학 작품의 주요 주제 설명까지 ChatGPT는 주저 없이 할 수 있습니다.
ChatGPT가 우리를 위해 글을 쓸 수 있다면 학생들이 미래에 글쓰기를 배워야 할까요? 실존적인 질문처럼 보일 수 있지만 학생들이 ChatGPT를 사용하여 에세이 작성을 돕기 시작하면 학교는 답을 빨리 생각해야 합니다. 최근 몇 년간 AI의 급속한 배치는 많은 산업에 충격을 주었으며 교육은 그 중 하나일 뿐입니다.
4. 현실 세계에 해를 끼칠 수 있습니다.
앞에서 우리는 ChatGPT의 잘못된 정보가 어떻게 실제 세계에 해를 끼칠 수 있는지 언급했으며 가장 분명한 예는 잘못된 의학적 조언입니다.
다른 우려도 있습니다. 가짜 소셜 미디어 계정은 인터넷에서 큰 문제를 일으키고 AI 챗봇의 도입으로 인터넷 사기가 더 쉬워질 것입니다. 가짜 정보의 확산은 또 다른 우려 사항입니다. 특히 ChatGPT가 잘못된 답변도 그럴듯하게 옳게 들리게 할 때 그렇습니다.
ChatGPT가 항상 정확하지 않은 답변을 생성할 수 있는 속도는 사용자가 질문을 게시하고 답변을 얻을 수 있는 웹사이트인 Stack Exchange에 이미 문제를 일으켰습니다.
출시 직후 ChatGPT의 답변 중 다수가 틀렸기 때문에 사이트에서 차단되었습니다. 백로그를 분류할 자원봉사자가 충분하지 않으면 높은 수준의 답변을 유지하는 것이 불가능하여 웹사이트가 손상될 수 있습니다.
5. OpenAI는 모든 힘을 가지고 있습니다.
큰 힘에는 큰 책임이 따르며 OpenAI는 많은 힘을 가지고 있습니다. Dall-E 2, GPT-3, ChatGPT를 포함하여 하나가 아닌 여러 AI 모델로 세상을 진정으로 뒤흔든 최초의 AI 회사 중 하나입니다.
OpenAI는 ChatGPT를 교육하는 데 사용되는 데이터와 부정적인 결과를 처리하는 방법을 선택합니다. 방법에 동의하든 그렇지 않든 자체 목표에 따라 이 기술을 계속 개발할 것입니다.
OpenAI는 안전을 최우선으로 생각하지만 모델 생성 방법에 대해 모르는 것이 많습니다. 코드를 오픈 소스로 만들어야 한다고 생각하든 코드의 일부를 비밀로 유지해야 한다고 동의하든 우리가 할 수 있는 일은 많지 않습니다.
결국 우리가 할 수 있는 일은 OpenAI가 ChatGPT를 책임감 있게 연구, 개발 및 사용할 것이라고 믿는 것입니다. 또는 AI를 사용할 사람들과 AI의 힘을 공유하여 더 많은 사람들이 AI가 향해야 할 방향에 대해 발언권을 갖도록 옹호할 수 있습니다.
OpenAI가 개발한 다른 것에 관심이 있다면 에 대한 기사를 확인하십시오. DALL-E 2 사용법 그리고 GPT-3 사용 방법 .
AI의 가장 큰 문제 해결
OpenAI의 최신 개발인 ChatGPT에는 많은 기대가 있습니다. 그러나 즉각적인 사용 외에도 이해할 가치가 있는 몇 가지 심각한 문제가 있습니다.
OpenAI는 ChatGPT가 사실과 허구를 혼합하는 능력은 말할 것도 없고 유해하고 편향된 답변을 생성할 수 있음을 인정합니다. 이러한 새로운 기술로 인해 어떤 다른 문제가 발생할지 예측하기 어렵습니다. 그러니 그때까지 ChatGPT를 즐겨보세요. 모든 내용을 믿지 않도록 조심하세요.