ChatGPT와 프라이버시: 우리 개인 정보는 어떻게 되나요?

ChatGPT는 출시된 지 몇 달 만에 역사상 가장 빠르게 성장한 소비자 애플리케이션이라는 기록을 세웠습니다. 무려 1억 명이 넘는 사람들이 ChatGPT의 고급 챗봇 기능을 사용해봤습니다. 이 챗봇은 사용자의 질문에 상당히 정확하고 인간과 같은 방식으로 대답하며 컴퓨터 코드 및 음악까지 작성합니다.

예술 및 법률과 같은 분야를 위협할 수 있는 AI의 잠재력에 관해 많은 논의가 이루어졌지만, 우리의 프라이버시에 미치는 AI의 영향에 관해서는 언급이 훨씬 적었습니다. 이탈리아 정부가 ChatGPT를 데이터 보호 규칙 위반으로 3월 31일부터 4월 28일까지 일시적으로 금지하면서 마침내 변화가 일어나고 있습니다.

AI는 웹상의 데이터를 사용해 훈련되기 때문에 만약 온라인에서 무언가를 작성한 적이 있다면 아마 ChatGPT가 그 내용을 읽었을 가능성이 높습니다. 그 방대한 데이터에는 우리의 개인 정보가 포함되어 있습니다.

ChatGPT가 개인 정보를 수집하는 방식

ChatGPT가 개인 정보를 수집하는 방식 중 하나는 모델을 훈련시키기 위해 데이터를 대량으로 업로드하는 과정에서 이뤄집니다. 정보 사용에 대한 동의를 구하지 않기 때문에 그 자체로 문제가 됩니다. 예를 들어, 만약 레딧 AMA에 개인적인 이야기를 게시한다면 그 글은 OpenAI(ChatGPT 제작사)가 ChatGPT을 훈련시키는 데 사용될 수 있습니다.

또 다른 방식은 ChatGPT 사용을 통해 이뤄집니다. 챗봇은 우리의 대화와 그 외 모든 입력을 포함하여 각 세션에 대한 다양한 정보를 수집합니다. OpenAI의 개인 정보 보호 정책에 따르면 ChatGPT가 수집하는 데이터는 다음과 같습니다.

• 로그 데이터: 사용자의 IP 주소, 브라우저 유형, 설정, 사용 날짜 및 시간, ChatGPT와의 상호 작용 방식. ChatGPT는 사용자의 채팅 또한 수집하여 보관합니다.

• 사용 데이터: 사용자가 서비스를 사용하는 방식 외에도 사용 데이터는 사용자의 위치(시간대 및 국가), 소프트웨어 버전, 기기 유형, 연결 정보 등을 포함합니다.

• 기기 정보: ChatGPT를 이용하는 데 사용하는 운영 체제 및 기기와 브라우저 정보를 수집합니다.

• 쿠키: OpenAI는 쿠키를 사용해 브라우징 활동에 관한 데이터를 저장하여 웹에서 사용자를 추적하고 분석합니다.

• 사용자 콘텐츠: OpenAI는 사용자가 ChatGPT에 업로드하거나 입력한 정보를 수집합니다. 즉, 사용자가 입력하거나 업로드한 모든 내용이 보관됩니다.

• 대화 정보: OpenAI 지원팀에 문의하거나 뉴스레터를 구독하면 개인 정보 및 보낸 메시지가 보관됩니다.

• 소셜 미디어 정보: 소셜 미디어에서 OpenAI와 소통하는 경우, 사용자의 프로필에 표시된 정보를 수집합니다. 여기에는 전화 번호와 이메일 주소가 포함될 수 있습니다.

• 계정 정보: 계정을 만들기 위해 제공하는 정보(예: 이름, 연락처 정보, 결제 정보)가 보관됩니다.

다른 웹사이트가 수집하는 정보와 크게 다르지 않다고 생각될 수 있습니다. 하지만 “사용자 컨텐츠”와 ChatGPT의 작동 방식에 주목해봅시다.

ChatGPT는 검색 엔진처럼 작동하도록 설계되지 않았으며 사용자와 대화하도록 설계되었습니다. ChatGPT를 사용해 초콜릿 케이크 레시피를 찾아볼 수 있지만 결과를 구글과 같은 방식으로 제공하지는 않습니다. ChatGPT는 대신 사용자에게 레시피를 “설명”해줍니다.

ChatGPT, 이탈리아에서 차단되다

3월 31일, 이탈리아는 훈련 데이터에 개인 정보를 사용하는 것을 이유로 ChatGPT를 일시적으로 금지하겠다고 발표했습니다. 이탈리아의 데이터 규제 기관(Garante per la Protezione dei Dati Personal)은 OpenAI가 ChatGPT 훈련에 개인 정보를 사용할 법적 권리가 없다고 주장했습니다. ChatGPT가 유럽 사용자들을 위해 개인 정보 보호와 관련된 변경한 이후 4월 말에 이 금지 조치는 해제되었습니다.

다른 나라들도 ChatGPT의 개인 정보 보호에 대해 면밀히 검토하고 있습니다. 그렇다면 이탈리아 구체적으로 무엇을 반대했을까요?

이탈리아는 유럽 연합 회원국으로서 GDPR(General Data Protection Regulation, 일반 개인 정보 보호 규제) 규칙을 시행하고 있으며, 이 규칙에 따르면 데이터 수집 시 사용자의 명시적인 동의가 필요합니다. 이 작업은 일반적으로 데이터 수집을 승인 또는 거부할 수 있는 팝업을 사용해 수행됩니다. OpenAI는 이 작업을 거치지 않았습니다. 이탈리아는 ChatGPT가 GDPR 규칙 중 다음과 같은 4가지를 위반했다고 주장합니다.

• 13세 미만의 ChatGPT 사용을 막는 나이 제한 없음
• ChatGPT가 사람들에 대한 잘못된 정보를 제공할 수 있음
• 사람들은 자신의 데이터가 수집된다는 사실을 안내받지 못함
  
• ChatGPT 훈련에 사용되는 데이터로 개인 정보를 수집할 “법적 근거” 없음

프라이버시 불만으로 더 많은 유럽 규제 당국이 ChatGPT 개인 정보 보호 문제에 맞서다

예술가들과 미디어 회사들은 생성형 AI를 훈련시키는 데 자신들의 작품을 무단으로 사용하는 것에 대해 불만을 표해왔습니다. 이제 유럽 규제 당국이 개인 정보 사용에 대해서 같은 말을 하고 있습니다. 이탈리아가 ChatGPT를 차단한 이후로 몇몇 다른 유럽 국가들은 AI 도구의 프라이버시 문제를 검토하기 시작했습니다.

프랑스에서는 데이터 개인 정보 보호 규제 기관인 CNIL이 “심각한” 개인 정보 보호 불만에 따라 ChatGPT을 검토하고 있습니다. 프랑스 디지털부는 ChatGPT가 GDPR을 준수하지 않고 있다고 밝혔지만 금지 조치까지는 취하지 않았습니다. 하지만 CNIL은 금지를 시행할 수 있습니다.

ChatGPT 개인 정보 보호 문제 

ChatGPT를 둘러싼 주요 개인 정보 보호 문제 몇 가지를 정리해보겠습니다.

1. ChatGPT의 사용자 데이터 대량 수집

2. 데이터 사용 및 GDPR 준수에 대한 투명성

이탈리아의 주요 불만 사항 중 하나는 ChatGPT가 사용자에게 개인 정보 수집에 관해 충분한 정보를 제공하지 않을 뿐만 아니라 플랫폼 알고리즘 훈련에 사용되는 데이터로 개인 정보를 수집하고 저장하는 데 대한 법적 근거가 부족하다는 것이었습니다.

ChatGPT는 이후 AI 훈련 알고리즘에 사용되는 개인 정보에 대한 설명을 제공했으며 누구나 선택을 취소할 수 있다고 명시적으로 밝혔습니다. 하지만 전문가들은 ChatGPT가 사람들의 정보를 처리할 강력한 법적 근거를 아직 제공하지 못했다고 말합니다.

또한 ChatGPT는 OpenAI의 홈페이지에 개인 정보 보호 정책을 더 잘 보이도록 표시했습니다.

3. 개인 정보 수집 거부 기능

이탈리아의 ChatGPT 금지 이후, OpenAI는 사용자가 AI 모델 성능 향상에 사용되는 데이터 중 사용자 콘텐츠를 제외하는 옵트 아웃 양식을 더 쉽게 찾을 수 있도록 사이트를 개선했습니다. 또한 EU 사용자들이 모델 훈련을 위한 개인 정보 사용에 반대할 수 있는 새로운 양식을 추가했습니다.

하지만 전문가들은 유럽 사용자들이 검색 결과에서 제외되기를 요청할 수 있는 GDPR의 “잊혀질 권리” 규칙을 ChatGPT가 어떻게 준수할 수 있는지에 대해 의문을 제기했습니다. ChatGPT에 실수로 제공할 수 있는 모든 정보는 알고리즘을 훈련하는 데 사용될 수 있습니다. 분석가들은 이 정보를 다시 분리하는 것이 거의 불가능할 것이라고 밝혔습니다.

4. 휴대폰 번호 등록

5. 나이 제한

전 세계의 국가들은 어린이 데이터 사용 및 수집을 보호하는 법을 가지고 있습니다. GDPR 규칙에 따르면 기업들이 16세 미만 어린이의 데이터를 부모의 동의 없이 처리하는 것은 불법입니다. 하지만 회원국들은 그 나이를 13세로 낮출 수 있습니다.

OpenAI의 이용 약관에는 ChatGPT 사용자는 “13세 이상이어야 한다”고 명시되어 있습니다. 4월에 적용된 변경 사항 중 하나로 이탈리아 사용자가 나이 조건을 충족하는지 확인하는 버튼이 추가되었습니다.

수많은 플랫폼이 그렇듯 연령 제한을 강제하기는 어려우며 그 과정에서 어린 아이들의 데이터가 쉽게 수집됩니다.

ChatGPT 사용 시 개인 정보를 보호하는 방법

1. 민감한 정보 공유하지 않기

2. VPN 사용하기

3. ChatGPT의 개인 정보 처리 거부