Home-theater-designers
챗봇은 수년 동안 존재해왔지만 ChatGPT 및 Google Bard와 같은 대규모 언어 모델의 등장으로 챗봇 산업에 새로운 생명력이 부여되었습니다.
현재 전 세계적으로 수백만 명의 사람들이 AI 챗봇을 사용하고 있지만, 이러한 도구 중 하나를 사용해 보고 싶다면 명심해야 할 몇 가지 중요한 개인 정보 보호 위험과 우려 사항이 있습니다.
1. 데이터 수집
대부분의 사람들은 단순히 인사를 하기 위해 챗봇을 사용하지 않습니다. 최신 챗봇은 복잡한 질문과 요청을 처리하고 응답하도록 설계되었으며 사용자는 프롬프트에 많은 정보를 포함하는 경우가 많습니다. 간단한 질문만 한다고 하더라도 대화 내용을 넘어서는 것을 원하지 않을 것입니다.
에 따르면 OpenAI 지원 섹션 , 언제든지 ChatGPT 채팅 로그를 삭제할 수 있으며 해당 로그는 30일 후에 OpenAI 시스템에서 영구적으로 삭제됩니다. 그러나 유해하거나 부적절한 콘텐츠로 신고된 특정 채팅 로그는 회사에서 보관 및 검토됩니다.
또 다른 인기 있는 AI 챗봇인 Claude도 이전 대화를 추적합니다. Anthropic 지원 센터 Claude는 '귀하의 제어에 따라 시간이 지나도 일관된 제품 경험을 제공하기 위해 제품의 프롬프트와 출력'을 추적한다고 명시합니다. Claude와의 대화를 삭제하여 대화 내용을 잊어버릴 수 있지만 이것이 Anthropic이 시스템에서 귀하의 로그를 즉시 삭제한다는 의미는 아닙니다.
물론 이것은 내 데이터가 보관되는지 여부에 대한 질문을 제기합니다. ChatGPT나 다른 챗봇이 내 데이터를 사용하나요?
하지만 우려는 여기서 끝나지 않습니다.
ChatGPT는 어떻게 학습하나요?
정보를 제공하기 위해 대규모 언어 모델은 엄청난 양의 데이터로 학습됩니다. 에 따르면 과학 포커스 , ChatGPT-4만으로도 훈련 기간 동안 3000억 단어의 정보가 제공되었습니다. 이것은 몇몇 백과사전에서 직접 가져온 것이 아닙니다. 오히려 챗봇 개발자는 인터넷의 대량 정보를 사용하여 모델을 교육합니다. 여기에는 책, 영화, 기사, Wikipedia 항목, 블로그 게시물, 댓글, 리뷰 사이트의 데이터가 포함될 수 있습니다.
챗봇 개발자의 개인 정보 보호 정책에 따라 앞서 언급한 소스 중 일부는 교육에 사용되지 않을 수 있다는 점을 명심하세요.
많은 사람들이 ChatGPT가 개인 정보 보호 측면에서 악몽이라고 주장하면서 비판했습니다. ChatGPT를 신뢰할 수 없습니다 . 그러면 왜 이런 일이 일어나는 걸까요?
여기서 상황이 약간 흐려집니다. ChatGPT-3.5에 제품 리뷰나 기사 댓글에 대한 액세스 권한이 있는지 직접 물어보면 확고한 부정적인 대답을 듣게 될 것입니다. 아래 스크린샷에서 볼 수 있듯이 GPT-3.5는 교육 과정에서 사용자 기사 댓글이나 제품 리뷰에 대한 액세스 권한이 부여되지 않았다고 명시합니다.
오히려 '2021년 9월까지 웹사이트, 서적, 기사 및 기타 공개적으로 이용 가능한 서면 자료를 포함하여 인터넷의 다양한 텍스트'를 사용하여 훈련되었습니다.
하지만 GPT-4도 마찬가지일까요?
GPT-4에 문의해보니 'OpenAI는 챗봇 학습 기간에 특정 사용자 리뷰, 개인 데이터, 기사 댓글 등을 사용하지 않았다'는 답변을 받았습니다. 또한 GPT-4는 응답이 '주로 인터넷의 책, 기사 및 기타 텍스트로 구성된 훈련된 데이터의 패턴'에서 생성된다고 말했습니다.
추가 조사 결과 GPT-4는 특정 소셜 미디어 콘텐츠가 실제로 교육 데이터에 포함될 수 있지만 작성자는 항상 익명으로 유지된다고 주장했습니다. GPT-4에서는 'Reddit과 같은 플랫폼의 콘텐츠가 교육 데이터의 일부였더라도 특정 댓글, 게시물 또는 개별 사용자에게 다시 연결될 수 있는 데이터에 액세스할 수 없습니다'라고 구체적으로 명시했습니다.
GPT-4의 답변 중 또 다른 주목할만한 부분은 'OpenAI가 사용된 모든 데이터 소스를 명시적으로 나열하지 않았습니다.'입니다. 물론 OpenAI가 3000억 단어 분량의 소스를 나열하는 것은 어려울 수 있지만 추측의 여지는 있습니다.
에 아스테크니카 기사 , ChatGPT는 '동의 없이 취득한 개인정보'를 수집한다고 명시되어 있습니다. 같은 기사에서는 누군가의 정보를 처음 사용된 맥락에서만 사용하는 것을 의미하는 개념인 맥락적 무결성이 언급되었습니다. ChatGPT가 이러한 상황적 무결성을 위반하면 사람들의 데이터가 위험에 처할 수 있습니다.
여기서 또 다른 우려 사항은 OpenAI가 일반 데이터 보호 규정(GDPR) . 이는 시민의 데이터를 보호하기 위해 유럽 연합에서 시행하는 규정입니다. 이탈리아와 폴란드를 포함한 다양한 유럽 국가에서는 GDPR 준수에 대한 우려로 인해 ChatGPT에 대한 조사를 시작했습니다. 잠시 동안 ChatGPT는 개인 정보 보호 문제로 인해 이탈리아에서도 금지되었습니다.
OpenAI는 과거 AI 규제 계획으로 인해 EU에서 탈퇴하겠다고 위협했지만 이후 철회됐다.
ChatGPT는 오늘날 가장 큰 AI 챗봇일 수 있지만 챗봇 개인 정보 보호 문제는 이 제공업체에서 시작하고 끝나지 않습니다. 개인 정보 보호 정책이 미비한 수상한 챗봇을 사용하는 경우 대화가 오용되거나 매우 민감한 정보가 교육 데이터에 사용될 수 있습니다.
2. 데이터 도난
다른 온라인 도구나 플랫폼과 마찬가지로 챗봇도 사이버 범죄에 취약합니다. 챗봇이 사용자와 데이터를 보호하기 위해 최선을 다하더라도, 능숙한 해커가 내부 시스템에 침투할 가능성은 항상 존재합니다.
특정 챗봇 서비스가 프리미엄 구독에 대한 결제 세부 정보, 연락처 데이터 등과 같은 민감한 정보를 저장하고 있다면 사이버 공격이 발생할 경우 이 정보가 도난당하거나 악용될 수 있습니다.
개발자가 적절한 보안 보호에 투자하지 않은 덜 안전한 챗봇을 사용하는 경우 특히 그렇습니다. 회사 내부 시스템이 해킹될 수 있을 뿐만 아니라 로그인 알림이나 인증 레이어가 없으면 귀하의 계정이 손상될 가능성이 있습니다.
이제 AI 챗봇이 인기를 끌면서 사이버 범죄자들은 자연스럽게 이 업계를 이용해 사기를 치기 시작했습니다. 가짜 ChatGPT 웹사이트와 플러그인은 2022년 말 OpenAI의 챗봇이 주류를 이루면서 사람들이 사기에 빠지고 합법성과 신뢰를 가장하여 개인 정보를 제공하는 등 큰 문제가 되었습니다.
2023년 3월 MUO는 다음과 같은 내용을 보고했습니다. Facebook 로그인을 훔치는 가짜 ChatGPT Chrome 확장 프로그램 . 이 플러그인은 Facebook 백도어를 악용하여 유명 계정을 해킹하고 사용자 쿠키를 훔칠 수 있습니다. 이는 알지 못하는 피해자를 속이기 위해 고안된 수많은 가짜 ChatGPT 서비스의 한 예일 뿐입니다.
3. 악성코드 감염
자신도 모르게 수상한 챗봇을 사용하고 있다면 해당 챗봇이 악성 웹사이트 링크를 제공하는 것을 발견할 수도 있습니다. 어쩌면 챗봇이 당신에게 유혹적인 경품에 대해 경고했거나 그 진술 중 하나에 대한 출처를 제공했을 수도 있습니다. 서비스 운영자가 불법적인 의도를 갖고 있는 경우 플랫폼의 목적은 악성 링크를 통해 악성 코드와 사기를 확산시키는 것일 수 있습니다.
또는 해커가 합법적인 챗봇 서비스를 손상시키고 이를 사용하여 악성 코드를 확산시킬 수도 있습니다. 이 챗봇이 매우 사람이라면 수천, 심지어 수백만 명의 사용자가 이 악성 코드에 노출될 것입니다. 가짜 ChatGPT 앱은 Apple App Store에도 있습니다. , 따라서 조심스럽게 밟는 것이 가장 좋습니다.
일반적으로 챗봇이 제공하는 링크는 절대 클릭하지 마세요. 링크 확인 웹사이트를 통해 실행 . 이는 짜증나는 것처럼 보일 수 있지만, 연결되는 사이트가 악의적인 디자인을 갖고 있지 않은지 확인하는 것이 항상 가장 좋습니다.
플레이 스테이션 이름을 변경할 수 있습니까
또한 적법성을 먼저 확인하지 않고 챗봇 플러그인 및 확장 프로그램을 설치해서는 안 됩니다. 앱에 대한 약간의 조사를 통해 앱이 잘 검토되었는지 확인하고, 앱 개발자를 검색하여 의심스러운 점이 있는지 확인하세요.
챗봇은 개인 정보 보호 문제에 영향을 받지 않습니다.
오늘날 대부분의 온라인 도구와 마찬가지로 챗봇은 보안 및 개인 정보 보호 문제로 인해 반복적으로 비판을 받아 왔습니다. 사용자 안전을 최우선으로 생각하는 챗봇 제공업체든, 계속되는 사이버 공격과 사기의 위험에든, 챗봇 서비스가 수집하는 내용이 무엇인지, 적절한 보안 조치를 취하고 있는지 아는 것이 중요합니다.