보안관련 질문입니다. ChatGPT 유료 버전에서 질문에 대한 보안은 어떻게 되나요?
알림
|
페이지 정보
작성일
2024.05.15 14:49
본문
안녕하세요,
AI 초보입니다.
가장 간단한 예를 통해 한가지 물어보고 싶습니다.
예를 들어 소프트웨어 회사에서 ChatGPT 4o 라이센스를 구매해 사용한다고 가정해보겠습니다.
초보 개발자들이 외부로 유출되면 안되는 코드의 일부분을 스크린 샷이나, 복사해 넣기 등을 통해 ChatGPT 4o 에 질문했을때,
이 질의를 통해 유출되는 코드의 일부분에 대한 보안은 어떻게 되는건가요?
ChatGPT 4o 가 이 코드들을 자신들의 트레이닝을 위해 다시 사용할수 있게 되는건가요?
아니면 이게 완전히 외부로 유출될 가능성은 없는걸까요?
댓글 10
/ 1 페이지
가사라님의 댓글
저는 이 부분은 어떠한 약속도 믿을 수 없다고 생각합니다.
현실적으로 지금처럼 경쟁이 치열한 시장초기에 데이터 한 조각이라도 더 많이 모을 수 있다면 그걸로 승패가 갈릴 수도 있어요.
개인적으로는 claude 였는지 gemini 였는지 기억은 안나는데, 원서내용을 긁어다가 번역을 해달라고 했는데 어떨 때는 내가 붙여넣지도 않은 그 뒷부분까지 번역이 되어 나오는 것을 목격했습니다.
돈 받고 파는 최신서적이었으니 당연히 가지고 있으면 안되는 내용이었는데도 불구하고 말이죠.
저작권이 걸린 유료컨텐츠도 그러할진데, 일개 개인이 올린 내용은 더 말할 필요도 없죠.
그래서, 민감한 조직에서는 외부 LLM 을 쓰지 않고 내부에 장비 마련하고 LLM 을 구축해서 돌립니다.
현실적으로 지금처럼 경쟁이 치열한 시장초기에 데이터 한 조각이라도 더 많이 모을 수 있다면 그걸로 승패가 갈릴 수도 있어요.
개인적으로는 claude 였는지 gemini 였는지 기억은 안나는데, 원서내용을 긁어다가 번역을 해달라고 했는데 어떨 때는 내가 붙여넣지도 않은 그 뒷부분까지 번역이 되어 나오는 것을 목격했습니다.
돈 받고 파는 최신서적이었으니 당연히 가지고 있으면 안되는 내용이었는데도 불구하고 말이죠.
저작권이 걸린 유료컨텐츠도 그러할진데, 일개 개인이 올린 내용은 더 말할 필요도 없죠.
그래서, 민감한 조직에서는 외부 LLM 을 쓰지 않고 내부에 장비 마련하고 LLM 을 구축해서 돌립니다.
TAMPA님의 댓글의 댓글
@가사라님에게 답글
+1, 저는 기업들이 윤리적이라고 절대 생각하지 않습니다.
가사라님의 댓글의 댓글
@가사라님에게 답글
지금 history 를 뒤져보니 범인은 claude 였네요.
진실된라면님의 댓글
openAI 와 사용계약을 협상하셨던 분에게 간접적으로 들은바로는,
데이터 유출에 대해는 일반사용자가 할수있는거외에 추가적인 계약사항은 없는걸로 들었습니다.
모 대기업 같은경우도 비슷하게 협상하다가
결국외부 유출 문제로 내부 LLM 개발하는걸로 틀었다고하더군요
데이터 유출에 대해는 일반사용자가 할수있는거외에 추가적인 계약사항은 없는걸로 들었습니다.
모 대기업 같은경우도 비슷하게 협상하다가
결국외부 유출 문제로 내부 LLM 개발하는걸로 틀었다고하더군요
버섯이님의 댓글의 댓글
@진실된라면님에게 답글
그 분이 아마 잘못 아신것 같습니다. 데이터가 저장되거나 학습에 사용되지 않는다고 명시적으로 개런티하고 있고
국내 대기업 중 유출되면 안되는 문서의 분석에 도입한 사례가 있습니다. (도입하신 팀장님한테 직접 들음)
추가적인 정보는 아래 적습니다.
국내 대기업 중 유출되면 안되는 문서의 분석에 도입한 사례가 있습니다. (도입하신 팀장님한테 직접 들음)
추가적인 정보는 아래 적습니다.
RaPo님의 댓글
요즘 잘 나오는 오픈 llm으로 사내 구축하는게 보안상 가장 베스트겠죠.
기업에서 사용하는 모델은 gpt처럼 범용적이지 않아도 됩니다.
기업에서 사용하는 모델은 gpt처럼 범용적이지 않아도 됩니다.
팡파파팡님의 댓글
오픈소스 LLM이 각광 받게 된 이유 중 하나죠. 범용 LLM은 일반 사용자들에게 유용하지
특정 도메인에 종속되는 비지니스 환경에서는 부족한 부분들이 있고 민감정보(개인정보)를 다루는 조직이면 더더욱 그렇습니다.
특정 도메인에 종속되는 비지니스 환경에서는 부족한 부분들이 있고 민감정보(개인정보)를 다루는 조직이면 더더욱 그렇습니다.
버섯이님의 댓글
OpenAI API를 Azure 에서 쓸 수 있는데, 이 경우 Microsoft에서 데이터 저장하지 않고 학습에 사용하지 않고 제3자에게 제공하지 않는 점을 보장하고 있습니다.
https://learn.microsoft.com/en-us/legal/cognitive-services/openai/data-privacy
https://learn.microsoft.com/en-us/legal/cognitive-services/openai/data-privacy
곰돌이푸우님의 댓글
데이터 콘트롤 부분을 끄면, 학습하지 않는 것 같습니다.