조아상사
로그인
회원가입
정보찾기

자유게시판

오일팡

보안이 중요한 대기업들의 ai활용은 앞으로 어떻게될까요.

알림
|
X
칼쓰뎅 119.♡.210.192
2024.11.29 16:48
736
21
1
쓰기

ai가 엄청나게 발달하고 있는 시대입니다.

물론 한계가 있는부분들도 있지만... 사실 업무 사용에 도움이 되는 부분이 많을것 같습니다.

(추론 검증형에다가 비서형이 완숙되면 생산성은 더 넘사벽이 될듯...)


대기업의 경우 보안에 신경을 안쓸수없습니다.

수백 메가, 수 기가의 데이터가 핵심기술이겠죠. 

이걸 openai나 구글 등에 유출되었을때 타격은 너무 크겠죠...

근데 그렇다고 또 도입 안하자니 생산성이 문제가있고요 ㅎㅎ


참 딜레마이지않을까 싶긴합니다.

댓글 21 / 1 페이지
awful (118.♡.10.143)
11.29 16:49
외부 접속 없이 자체적으로 돌리는 방식으로 활용하려고 하죠
칼쓰뎅 (119.♡.210.192)
11.29 17:23
@awful님에게 답글 근데 그러기엔... ai에 대해서 미리 준비한 그정도 회사가 몇이나 될까 싶어서요.
그리고 그 수준이 openai의 발끝 수준이지않나 싶기도하고요.
no_profile 송금왕뱅킹 (61.♡.99.142)
11.29 16:50
금융권도 난리죠
고객데이터를 외부로 유출할수도 없고
자체 구축하기에는 구축, 운영비가 엄청나구요
no_profile 우주난민 (160.♡.37.68)
11.29 16:50
기업용은 모델 자체를 팔지 않을까요?... 업종에 맞춘 파인튜닝도 필요 할거고요 ㄷㄷㄷ
no_profile 작은눈 (223.♡.242.20)
11.29 16:52
일단 자체 모델 구성 후 학습시켜서 사용하는 방향으로 보시면 됩니다.
콰이 (58.♡.97.141)
11.29 17:06
기획/홍보/운영쪽 파트 업무하고 있는데 진짜 업무효율이 어마무시하게 늘었습니다.
no_profile 고물개 (211.♡.145.204)
11.29 17:12
소스유출문제 아직 해결이 안되서 모르겠네요
자체 엔진으로 돌리기에는 어려워보입니다
데굴대굴 (121.♡.18.157)
11.29 17:15
SIEM 장비에 붙이고 물어보면 답이 나옵니다. 그대로 수행하면 패치 완료.

이미 EDR 솔루션 파는 업체들이 본격적으로 AI 기능을 붙이고 있습니다. MS는 Security Copilot이라고 이미 팔고 있습니다. (요구 라이선스가 ㄷㄷㄷ함..) 보안 관련 분석 작업하는데 SIEM만 있으면 2시간/건 걸렸던 건이 스팩 올라가면서 30분/건 수준이 되었는데, 여기에 AI 붙이고 질문 잘하면 5분 내에 처리 가능으로 보시면 됩니다.
칼쓰뎅 (119.♡.210.192)
11.29 17:31
@데굴대굴님에게 답글 ai에 질문하는 데이터 자체의 외부유출을 극도로 꺼리는 경우에 대해 말씀드리는겁니다.
즉, 클라우드가 아니고 사내 내부 서버에서 ai를 돌려야하는데... 그 퀄리티가 현재 상용화되어있는 서비스들에 비해 저품질이지않을까 싶어요.
데굴대굴 (121.♡.18.157)
11.29 19:51
@칼쓰뎅님에게 답글 사내에서 구축하고 돌리면 아무래도 퀄리티가 떨어지죠. 업데이트나 데이터가 한정적일꺼니까요.
어짜피 일정 영역은 공통이고 이후 학습 데이터는 내부꺼를 쓰냐 안쓰냐는 내부 정책에 따르는거고요. 없는것보다야 나을꺼니까 도움은 될겁니다.

그리고… 대부분의 SaaS형 기업용으로 내놓은 AI는 해당 기업 내부 데이터는 학습하지 않습니다. 개인으로 계약했을 때와는 달라요.
no_profile BBlu (211.♡.187.112)
11.29 17:15
특정목적에 맞는 기업용 폐쇄형 상품이 따로 있습니다.
이미 국내에서도 PoC끝내고 구축중입니다.
단지 ChatGPT 수준을 원한다면 돈을 더 써야죠.
칼쓰뎅 (119.♡.210.192)
11.29 17:26
@BBlu님에게 답글 llm을 직접 학습까지 하는 레벨로 있는건가요? 아니면 그냥 오픈소스 모델들 추가 강화학습 정도 아닐까 싶은데요...
젤 큰게 llama일텐데 상용 사용 라이센스가 아니었던거 같고요.
돈을 써도 안될꺼 같은 생각도 듭니다 ㅎㅎㅎ
no_profile BBlu (211.♡.187.112)
11.29 19:52
@칼쓰뎅님에게 답글 여러 파운데이션 모델이 있고 파인튜닝해서 잘들 씁니다. 개인도 가능하니 궁금하시면 허깅페이스 검색해보세요.
물론 여기꺼를 콜 해서 쓴다는건 아니고 오픈된 모델이 엄청 많아요
여러가지 섞여 쓰기도 합니다
일리어스 (211.♡.22.139)
11.29 17:19
근데 외부유출문제는 뭐 AI가 아니더라도
서버, 저장장치, DB 등 S/W나  외부 유지관리 업체를 아예 안쓸수는 없으니까
기존하고 차이가 없죠.
칼쓰뎅 (119.♡.210.192)
11.29 17:27
@일리어스님에게 답글 데이터 저장소관련해서는 아예 솔루션을 사다가 사내에 위치하는거니까 좀 다르죠...
ai솔루션이라는게 있긴할텐데 openai급으로 좋진않을꺼 같고요.
no_profile 푸른미르 (118.♡.4.210)
11.29 17:36
이미 국정원에서 MLS 개념으로 전환을 추진 중이고 금융권 부터 망분리 완화 하려고 하죠
데이터(또는 자산)의 분류 기준을 정해서 일정 수준 이상의 데이터는 내부에서 엄격히 관리하고 그 이하는 자유롭게 사용하도록 풀 겁니다
일정 수준 이하 데이터 관련해서는 AI도 그 수준에서 적용하겠죠 초거대 모델은 외부 것을 쓰고
일정 수준 이상 중요 데이터 관련해서는 내부에서 자체 모델과 RAG를 결합해서 특화된 영역의 AI를 활용하는 멀티 트랙 전략으로 가겠죠
no_profile 닥터리드 (58.♡.193.35)
11.29 18:02
저희는 코파일럿 사용하는데 데이터가 유출되지 않는 폐쇄형인 거 같습니다.
그 외에 다른건 못쓰고요.
칼쓰뎅 (119.♡.210.192)
11.29 18:46
@닥터리드님에게 답글 음? 코파일럿이면 어차피 ms에져 클라우드에 전달되는거 아닌가요?
SOForce (61.♡.118.45)
11.29 19:43
@칼쓰뎅님에게 답글 openai나 claud나 copilot이나 클라우드에 질의 전달후 응답하고 전달된 데이터를 학습에 사용하지 않는 라이선스 일겁니다. 그래서 기업형 요금이 비쌉니다.
칼쓰뎅 (119.♡.210.192)
11.29 23:44
@SOForce님에게 답글 근데 보안 심하게 하는곳은... 그런거 열어주지않을꺼 같습니다 ㅎㅎ;;;
외부로 전송되는걸 자체를 막을꺼라서요.
가사라 (112.♡.211.243)
11.29 18:07
국내 대기업들은 사내문서 뒤져주는 정도로는 다들 자체 솔루션을 갖춰서 쓰는 거 같던데요.
물론, 회사와 심도깊은 추론을 요구하는 대화를 하는 경우는 없으니 o1 같은 능력에는 미치지 못하지만, 뒤져서 답을 내놓는 정도로도 일반 업무에는 크게 도움이 되죠.

그래서 혼자서 산출물을 만들 수 있게 되면서 팀내에서 커뮤니케이션으로 낭비되던 시간을 절약할 수 있게 되고요.
쓰기