회사 소스코드를 ChatGPT에 올려서 검사하면 안전할까? (삼성 사례)

불과 3주 전에 삼성은 데이터 개인 정보 보호 문제로 인해 OpenAI의 ChatGPT를 사용하는 직원에 대한 금지를 해제했습니다.

그러나 금지가 해제된 이후 삼성 직원이 실수로 20일 동안 삼성의 반도체 사업부와 관련된 민감한 정보를 ChatGPT에 유출한 세 가지 사례가 있다고 이코노미스트 코리아(Mashable에서 발견) 는 밝혔 습니다.

 

이 금지는 원래 회사 데이터를 보호하기 위한 것이었지만 2023년 3월 11일에 해제되어 반도체 부서의 엔지니어가 ChatGPT를 사용하여 소스 코드의 문제를 수정하고 생산성을 개선하며 최신 기술 변화를 알 수 있었습니다.

삼성전자는 챗GPT 사용을 허용하면서 인기 인공지능(AI) 챗봇에 “내부 정보 보안에 유의하고 개인 정보를 입력하지 말라”는 반도체 사업부

의 공지도 내놨다.

 

첫 번째로 반도체 및 디바이스 솔루션 직원이 반도체 장비 측정 데이터베이스(DB) 다운로드 소프트웨어를 실행하는 동안 문제가 발생했습니다.

소프트웨어 소스코드 문제로 보이자 해당 직원은 버그가 있는 회사 기밀 소스코드를 복사해 AI 툴에 붙여넣었다. 그런 다음 챗봇에게 오류를 확인하고 해결책을 찾도록 요청하여 실제로 소스 코드를 ChatGPT 내부 교육 데이터의 일부로 만듭니다.

최고의 텍스트 투 비디오 사이트(무료 AI 기반 자동 동영상 생성기) 10가지

 

두 번째 사례는 직원이 단말기 수율 등 정보 파악에 어려움을 겪자 AI 챗봇과 코드를 공유하고 ChatGPT에 '코드 최적화'를 요청했다.

세 번째 사례에서 직원은 기밀 회사 회의 기록을 공유하고 ChatGPT에 프레젠테이션용 메모로 변환하도록 요청했습니다. 이러한 사건으로 인해 ChatGPT와 공유된 정보는 이제 영원히 ChatGPT의 일부이며 삭제할 수 없습니다.

 

그 결과 삼성은 즉각적인 조치를 취했고 이제 각 직원의 ChatGPT 프롬프트 길이를 1킬로바이트 또는 1024자의 텍스트로 제한했습니다. 회사는 유출 사건에 연루된 직원 3명에 대해서도 조사를 벌이고 금지 조치를 재개하는 방안도 검토 중인 것으로 알려졌다.

삼성은 앞으로 이런 난처한 사고를 예방하기 위해 직원들이 내부 목적으로만 사용할 수 있도록 자체 AI 챗봇을 개발하고 있습니다.

 

삼성전자는 직원들에게 AI 활용 시 주의를 당부한 내부 메모를 통해 “긴급 정보보호 조치를 취한 후에도 유사한 사고가 발생하면 사내망에서 ChatGPT 접속이 차단될 수 있다”고 밝혔다.

“ChatGPT에 콘텐츠가 입력되는 즉시 데이터가 외부 서버로 전송 및 저장되기 때문에 회사에서 이를 검색할 수 없습니다.”

ChatGPT의 사용자 가이드는 "기록에서 특정 프롬프트를 삭제할 수 없기 때문에" 대화에서 민감한 정보를 공유하지 말라고 사용자에게 명시적으로 경고합니다.

 

사용자가 명시적으로 옵트아웃을 선택하지 않는 한 AI 모델을 훈련하고 개선하기 위해 ChatGPT와 공유된 모든 질문과 텍스트가 유지된다는 점에 유의해야 합니다. 즉, 시스템에서 데이터를 완전히 삭제하는 것은 어렵거나 불가능합니다.

"안전하고 책임 있는 AI에 대한 약속의 일환으로 우리는 시스템을 개선하고 콘텐츠가 정책 및 안전 요구 사항을 준수하는지 확인하기 위해 대화를 검토합니다. 시스템을 개선하기 위해 AI 트레이너가 대화를 검토할 수 있습니다."라고 OpenAI는 명확하게 설명합니다. 그것의 웹사이트에.

 

특히 OpenAI는 “모델 성능을 개선하기 위해 사용하려는 데이터에서 개인 식별 정보를 제거합니다. 또한 모델 성능을 개선하기 위한 노력을 위해 고객당 소량의 데이터 샘플링만 사용합니다.”

흥미롭게도 ChatGPT는 최근 이탈리아가 개인 정보 보호 문제로 인해 이탈리아에서 AI 챗봇을 일시적으로 금지하면서 유럽의 데이터 수집 정책에 대해 많은 조사를 받고 있습니다. 독일 도 이탈리아의 최근 ChatGPT 금지 조치를 따를 수 있으며 자국에서 AI 챗봇을 차단하여 유사한 조치를 취할 수 있습니다.

 

재택 근무하며 온라인으로 돈을 많이 버는 최고의 직업 BEST 10