미국이 군사패권에 인공지능 패권까지 결합해서

트럼프의 파시즘적 성향과 함께할 때 매우 위험해 질 수 있는 상황입니다.

트럼프 뿐만 아니라 기술기업의 창업주나 경영자의 철학 자체도 위험하고요.

이럴 때 한국의 인공지능 주권이 앞으로의 먹사니즘을 넘어 국가 안보와 생존에도 얼마나 중요한지에 대한 설명입니다.

여기서 안보란 국방만 의미하는게 아니라

산업전반, 국민의 건강(의료) 등 광범위하게 종속적이 될 수 있고요.

........................................................

▷박태웅 : 미국의 거대 AI 회사들이 국방 쪽으로, 막 전속력으로 달려가고 있다.

▷박태웅 : 오픈 AI가 올해 6월 그러니까 이번 달이죠. 이번 달에 미국 국방부하고 2억 달러 규모의 프런티어 AI 프로토타입 개발 계약을 체결했어요. 이게 군사, 행정, 사이버 보안 영역에 활용될 예정이고요. 세계 최고의 AI 군사 기업이라고 할 수 있는 팔란티어. 팔란티어는 메이븐 스마트 시스템이라고 해서 위성, 드론 영상, 통신, 메타 데이터를 통합 분석해서 실시간으로 공격 타겟을 즉시 찾아주는.

▶김어준 : 전쟁에 AI를 도입하려는 거네. 지금

▷박태웅 : 제 생각에는 인간을 적으로 삼으면 그때는 그냥 다 죽는 수밖에 없을 것 같아요.

<윤리를 지키는 AI를 만들겠다던 앤트로픽도 태도를 바꿔서 군사분야와 계약>

▷박태웅 : 그뿐 아니고 앤트로픽이라는 데가 있어요. 클로드라는 AI 개발하는 데인데, 여기는 헌법적 AI를 개발하겠다고 오픈 AI에서 떨어져 나간 사람들이에요. 그게 뭐냐 하면 인간의 윤리를 AI가 처음부터 헌법처럼 내재화하고 개발을 시작해야 한다. 뜻은 너무 좋죠.

▶김어준 : 윤리를 지키는 AI

▷박태웅 : 앤트로픽이 미국 국방정보기관에 클라우드 닷 가브, 라는 정부 전용 모델을 공급하기로 계약을 맺었어요.

▷박태웅 : 팔란티어하고 아마존하고 같이하는 건데 작전 계획 수립 평가 정보 분석 과정에 들어가고요. 기밀 문서, 정보 요약, 교차 검증, 사이버 보안 및 위협 탐지 이런 거 다 합니다. 그러니까 팔란티어 자체는 자치 AI를 엄청난 성능을 가진 걸 개발하고 있지는 않아요. 그냥 응용하는 곳이지. 거기에 엔진으로 클라우드를 넣겠다라는 계약입니다.

▶김어준 : 그러니까 지금 AI하고 군사 분야가 지금 붙기 시작했네요.

▷박태웅 : 전면적으로. 그러니까 이때까지 그 윤리적이고 공익적이고 이런 걸 하기 위해서 우리는 비영리 기업인 오픈 AI를 설립했어요. 인간을 해치면 안 되기 때문에 헌법적 AI를 만드는 앤트로픽을 설립했어요. 구글은 사람을 해치는 일을 하지 않아요. 막 그랬었잖아요. 그 회사들이 전부 태도를 바꿔서 국방으로 들어가고

▶김어준 : 돈이 거기서 나오니까

<AI 기술기업의 철학적 배경이 극우적으로 바뀜>

▷박태웅 : 그것도 있는데. 더 문제는 뭐냐 하면 이 사람들의 철학적 배경이 바뀌었어요.

▶김어준 : 어떻게 바뀌었습니까?

▷박태웅 : 그 대표적인 게 실리콘밸리의 팔란티어 CEO가 알렉스 카프라는 사람인데 이 사람이 뭐라고 얘기하냐 하면 9·11 이후에 정보 분석 실패에 대한 반성으로 CIA하고 손잡고 만든 게 팔란티어거든요. 우리가 정보 분석에 실패해서 당했다. 그리고 이 양반이 원래 좌파였는데 우파로 돌아서면서 신애국주의라는 사상을 만들어요. 그게 뭐냐 하면 애국심은 감정적 구호가 아니다. 국가 시스템의 지속성, 자유 수호를 위한 기능적 가치다. 그래서 기술 기업이 자유 국가에 봉사하지 않으면 결국 그 기술은 자유를 파괴하는 데 쓰인다. 서구의 부상은 사상이나 가치의 우월함 덕분이 아니라 조직된 폭력 다시 말해서 군대와 경찰이죠. 군대라고 해야겠죠.

▶김어준 : SF에서 인류 종말이 다가갈 때 나오는 논리인데 이게

▷박태웅 : 딱 그대로죠. 그리고 평화주의자는 실은 전쟁주의자다. 왜냐하면 전쟁을 막지 못하기 때문에. 그리고 이게 핵심인데 미국은 여전히 좋은 편이고 다른 나라와 비교하면 그 격차가 크다. 그러므로 미국이 압도적인 우위를 유지할 수 있도록 우리가 도와야 한다. 그래야 평화가 유지된다. 이런 사상인데요. 여기에 지금 미국의 거대 AI 기업들이 다 동의를 하고 있는 거예요.

▶김어준 : 어 굉장히 위험하네요.

<미국은 압도적으로 선하고, 압도적인 군사력으로 세계 평화를 지켜야 한다는 명분으로>

▷박태웅 : 그러니까 자기들의 어떤 인간을 위해한다는 그 가치와 배치되지 않으면서 국방에 뛰어들 수 있는 명분을 이 친구가 만들어준 거죠.

▶김어준 : 그러니까, 이런 거네. 자기들은 좋은 사람들이기 때문에, 이 AI를 군 역량을 더 강하게, 지금도 절반 전 세계 절반의 군사력이라고 하는데. 더 강하게 만들어서 어느 누구도 넘볼 수 없는 군사력으로 키워야 된다. 거기에 AI를 우리가 투입해야 된다. 이거

▷박태웅 :왜냐하면 우리는 선하니까

▶김어준 : 우리는 선하니까. 그래 놓고 트럼프 뽑았으면서. 이야, 진짜 위험하네.

▷박태웅 : 이게 사실은 끝까지 밀고 나가면요. 히틀러의 아리안족 우월주의하고 구분할 수 없게 됩니다.

▶김어준 : 그렇죠. 똑같아요. 그래서 SF종말을 얘기하는 SF의 다국적 기업들이 내세우는 논리하고 거의 똑같은데 보니까

<오픈 AI의 샘 알트만, 초지능을 미국 정부 주도로 개발 관리해야 한다>

▷박태웅 : 그리고 이제 오픈 AI의 샘 알트만은 뭐라고 주장하냐면 AGI를 넘어서 그 AGI가 인간의 지능을 넘어서는 인공지능이잖아요.

AGI 다음 단계를 얘기하는 게 이 사람들이 ASI에요. ASI Artificial Super Intelligence, 초지능이라고 하는데 이건 반드시 미국 정부 주도로 개발 관리해야 된다.

▶김어준 : 그런 걸 개발하면 안 되지. 인간을 능가하는 초지능을 개발하면 안 되지.

▷박태웅 : 그런데 이게 지금 대세가 되고 있다. 사람들이 이걸 알고 있어야 된다라는 거고요.

<트럼프 정부는 AI에 대한 규제를 없에려고 해서 위험>

▷박태웅 : 트럼프 정부는 지금 미국 정부의 전략적 우위를 위해서 AI와 관련한 모든 규제를 깨고 있습니다. 그리고 심지어 미국 상원에 지금 올라가 있는 법안 중의 하나는 주 정부에서 지방 정부나 공공기관에서 AI에 대한 어떤 규제도 내지 못한다, 라는 법안을 미국 상원에 올린 상태예요.

▶김어준 : 더군다나 이게 트럼프 시대하고 맞물려서 더 위험해요.

▶김어준 : 이게 이제 이 기술이 위험한 요소가 있다라고 윤리적 측면에서 계속 모니터링하고 하는 정부여도 위험한데

▶김어준 : 그게 아니라 마음대로 폭주해라. 군사하고 붙어라. 이거 진짜 위험하네. 이게

▷박태웅 : 뒤의 사상적 배경이 이렇기 때문에 무서운 거예요. 그냥 뭐 AI 회사들이 돈을 못 버니까, 국방이 돈이 되니까 거기로 들어갔다 정도면 차라리 다행인데

▷박태웅 : 이런 사상적 확신이 있다면 이건 대단히 무서운 일이 된다는 거죠.

▶김어준 : 큰일이네. 진짜로 큰일이네. 우리가 예상했던, 그 의장님하고 몇 년 전부터 이거 위험한데. 그러면 안 되는데. 했던 그 나쁜 코스보다 더 나쁜 코스인데요. 지금

▷박태웅 : 이게 둠스데이 시나리오로 가는 경로를 밟고 있는 거예요.

▶김어준 : 그렇죠. 인간이 아닌 AI한테 사람, 사람을 적과 아군으로 구분해서 죽이는 방법을 제시하라고 하는데 이게 말이 되나.

▷박태웅 : 그리고 이스라엘도 지금 이미 쓰고 있습니다. 이스라엘이 타겟 공격물을 식별하는 걸로, 뭐 예언이라는 시스템을 쓰고 있는데. 얘는 몇 초 안에 타겟을 몇백 개, 몇천 개를 확 보여줘요. 공격할래? 오케이 하면 팍 쏘는 겁니다.

▶김어준 : 아니 그러니까 유대인들이 인류 멸망으로 이끌 것 같아. 요새 보고 있으면은

▷박태웅 : 저도 진짜 걱정돼요.

▶김어준 : 유대인들이 인류를 구원하는 종교를 만들어냈다고 자기들은 스스로 생각하는데 인류를 멸망으로 이끌 것 같아

▷박태웅 : 그러니까 이게 그 아브라함의 자손들끼리 싸우는 데, 인류가 다 끌려 들어가고 있어요.

▶김어준 : 오픈AI의, 제가 악의 축이라고 하는

<한국도 인공지능의 파운데이션 모델을 자체적으로 개발해야 하는 이유>

박시동 평론가는 매불쇼에서

인공지능 주권•소버린(Sovereign) AI라고 표현하며, 이재명 행정부에서 빠르게 추진해야 한다고요. 

원천 기술 없이 얹어 쓰는 서비스만 개발해서 쓰면, 원천기술 종료 일방적 통보 당할 때 국방, 의료 등 당장 타격을 입는다고 하더라고요. 그리고 얹어 쓰는 서비스는 상대방도 금방 만들 수 있다고요.

그리고 이재명 행정부에서 인공지능에 역점을 둔 인사 배치와 빠른 결정 그 자체가 경제적으로도 큰 비용 절감효과를 낸거라고요.

소버린 AI를 빠르게 추친해야 한다고 합니다.

https://youtu.be/9qBrQlmZ89k?t=608

25.06.25 매불쇼

▷박태웅 : AGI 넘어서는 ASI는 미국 정부만 개발을 관리해야 한다고 주장했잖아요. 그런데 우리나라 AI 개발을 어떻게 해야 될 거냐라는 얘기를 할 이제 그 대형 거대 AI 모델을 따라가기는 늦었으니까, 오픈 소스 모델이나 이미 나와 있는 모델 작은 거 많으니까. 그걸 가지고 특수 분야 AI 개발하는데 뭐 들어갑시다. 이런 얘기 하는 분들이 있어요. 그게 얼마나 나이브한 얘기인가 순진한 얘기인가?

▶김어준 : 본류를 따라갈 수 없으니 그렇게라도 하자고 하는데

▷박태웅 : 최신 모델을 안 줘요. 그리고 오픈 소스는 이미 몇 세대 전 거예요. 그리고 그걸 쓰고 있으면요. 그다음 버전을 내놓으면서 계약 조건을 바꿀 수 있어요. 그동안 즐거웠다. 종료해버리면 그만인 거예요.

그리고 지금 노골적으로 ASI는 미국 정부만 관리해야 되고 이건 국가 기밀로 들어야 한다고 얘기하고 있지 않습니까? 그러니까 이런 게 뭐냐 하면 이런 거대 AI 모델들을 파운데이션 모델이라고 불러요. 이게 기반이 되는 모델이다라는 뜻이에요. 그러니까 이런 거죠. 그런 주장의 논리에 보면 이런 게 있어요. 구글에서 알파폴드라는 AI를 내놓고 그걸로 이번에 노벨 화학상을 받은 건데 그게 고분자 단백질에 접힌 모양을 예측하는 모델이에요. AI. 그러니까 아니 그런 특수 분야 AI 하면 되지 않아, 라고, 주장할 수 있어요. 그런데 그걸 개발한 데미스 하사비스. 그러니까 알파고 개발한 사람이에요. 데미스 하사비스가 인터뷰에서 뭐라고 얘기하냐 하면 이 거대 AI가 있었기 때문에 알파폴드가 나올 수 있었고, 알파폴드가 굉장히 훌륭한 탁월한 성과를 낸 그 결과가 전부 다 이 거대 AI를, 품질을 높이는 데 쓰였다.

그래서 이렇게 상호 발전하고 있는 거다. 그러니까 거대 AI와 알파폴드 같은 특수 변화 AI는 반드시 같이 가야 된다.

▶김어준 : 이전 단계의 발전에 당연히 다음 단계에 영향을 미치지.

▷박태웅 : 네네. 그리고 알파폴드의 학습 그 결과들이 얼마나 정교하고 과학적이고 좋아요. 굉장히 고품질 학습 데이터가 되는 거거든요. 그래서 이 파운데이션 모델이 또 좋아지는 거예요.

▶김어준 : 그러니까 자, 본류는 안 되니까 가지를 붙잡고 해 보자는 것은 말이 안 된다.

▷박태웅 : 어불성설입니다.

▶김어준 : 밑에가 없는데 기반이

▷박태웅 : 네네. 그러니까 100조 투자하자는 게 왜 말이 되는가 아닌가. 그런 게 기술적으로 납득이 되는 거죠.

▶김어준 : 이재명 대통령이 지금 그 AI 부분에서 우리가 뒤처졌다는 것도 인지하고 있고

▶김어준 : 그리고 여기에 투자를 많이 해야 된다는 것도 알고 있잖아요. 그리고 윤석열 시대에 이 귀한 3년을 망쳤잖아요.

▶김어준 : 이걸 어떻게 따로 잡아야 하는가, 이재명 대통령이 관심도 있고 예산도 투자하고 한다고 하는데 그러면 첫 단계는 뭡니까? 우리가 해야 되는

<김대중 정부에서 정보화에 역점을 둬서 20년간의 경쟁력을 가져왔다면 이재명 정부에서는 인공지능 원천기술>

▷박태웅 : 이재명 대통령께서 얘를 전기나 증기기관과 같은 물건이라고 인식하고 있는 건 틀림이 없어요. 그러니까 DJ가 정보화를, 체중을 전체를 실었잖아요.

▶김어준 : 인터넷에다가

▷박태웅 : 네, 그것보다 더 강력하게 싣겠다 라고 하는 게 이번에 정보통신부 장관을 AI 전문가로 임명하고, AI 수석을 전문가로 임명했다.

무엇보다도 이때까지 이런 식의 어떤 일을 할 때 왜 실패했을까. 왜 못 풀었나. 몇 가지가 있어요. 제일 중요한 게 뭐냐 하면 아마추어가 하게 만들었어요. 정부는 순환 보직을 하잖아요. 평균 1.1년 정도 해요. 그러니까 전문성이 쌓일 도리가 없어요.

<기재부가 정부의 추진 과제 모양을 다 바꿔놓는데, 전문가가 개입해서 원천 봉쇄해야>

▷박태웅 : 네, 두 번째는 기재부의 예산 시스템이에요. 기재부가 모든 걸 다 틀어쥐고 사사건건 간섭하잖아요. 그러니까 어떤 식이냐 하면 이거는 뭐 각 부처의 공무원들 물어보면 다 동의할 텐데. 자기가 알 수 없는 어떤 분의 예산이 올라와도 어떻게든 간섭을 해요. 그래서 모양을 다 바꿔놓는데 정작 이 모양을 다 바꿔놓은 사람은 어떤 책임도 지지 않아요. 왜냐하면 자기 일이 아니니까

▷박태웅 : 그리고 그러니까 전문가가 개입하지 않아서 실패한 일들이 너무 많았던 거예요. 제가 볼 때 이재명 대통령은 이걸 정확히 알고 있어요. 그래서 전문가가 개입하지 않는 일이 아예 원천 봉쇄되기 위해서 과기정통부 장관하고, AI 수석을 AI 전문가로 박은 거예요.

<기재부의 예산 책정 절차도 변경>

▶김어준 : 그다음에 이제 소위 이제 예산을 책정하는 그동안의 프로세스를 어떻게든 이 뭐랄까요. 손을 봐야 되겠네요. 그러면은

▷박태웅 : 네, 그래서 기재부를 예산 파트와 재무 파트로 분리하는 것. 그것도 대단히 잘한 거고요. 세 번째로는 이게 무슨 이슈인가를 봐야 되는데, 이 이슈는 과기정통부의 이슈가 아니에요. 과기정통부, 행안부, 국방부, 산업부가 다 붙어야 되거든요.

▷박태웅 : 왜냐하면 이게 다 적용이 되잖아요. 교육도 바뀌어야 되고, 산업도 바뀌어야 되고, 그래서 이 융합 과제를 어떻게 해결할 건가를 풀어야 돼요. 그러니까 아마추어리즘을 해결해야 된다. 융합 과제라는 걸 명심해야 한다. 부처 간 이기주의가 붙으면 망한다

세 번째로는 이게 산업 전환의 문제예요. 산업들이 AI로 완전히 바뀌지 않으면 중국에 다 먹힙니다.

▶김어준 : 그러면 말씀 듣다 보니까 이제 앞으로는 더 브레이크 다운해가지고 자세히 따져 보겠지만, 이 향후 5년간 가장 중요한 국가적 과제 하나로 AI다.

▷박태웅 : 네, 저는 그렇게 확신합니다.

▶김어준 : 그렇게 이재명 대통령이 마음을 정했다.

▷박태웅 : 저는 DJ의 인터넷이 이재명의 AI라고 생각합니다. 그리고 산업 전환을 해야 되는데 왜냐하면 자동차가 AI가 붙으면 자율 주행이 되잖아요. 그런데 우리는 자율 주행이 되게 약해요. 조선도 무인 조선, 무인 운항을 해요. 그리고 기름값이 엄청 줄어요. AI가 최적화되면 그러니까 모든 산업에 AI가 붙지 않으면 중국하고 1대 1로 붙었을 때 다 집니다.

​

▶김어준 : 지금 미국 다음 AI 강국이 중국 아닙니까. 그렇죠?

▷박태웅 : 네네, 그게 문제예요.

▷박태웅 : 네네, 근데 산업 전환을 할 때 우리가 알고 들어가야 될 문제는 또 뭐냐? 우리가 공장들이 다 지방에 있잖아요. 거기는 지금 지방 소멸과 청년이 없다는 두 가지 이중 구조가 있어요. 그래서 여기는 디지털 전환도 안 돼 있어요. 가면 엑셀도 잘못 쓰는 거예요. 그리고 일할 사람도 없어요. AI는커녕 디지털도 잘 몰라요. 세 번째로는 돈이 없어요. 그러니까

▷박태웅 : 그다음에 이게 지방 살리기하고 연관이 돼 있어요.

▶김어준 : (김대중 정부가 추진한) 고속 통신망이 어떤 의미인지

▷박태웅 : 대체, 왜 저러나

▶김어준 : 그러니까요. 근데 그 고속통신망을 깔고 그 이후 우리가 전 세계적으로 인터넷에서 앞서가기 시작했거든요.

▷박태웅 : 그때요 FTTH를 했어요. 그게 뭐냐 하면 FIBER TO THE HOME이라고 해서 광섬유를 가정집에 깔았어요.

▶김어준 : 맞아요. 그게 왜 필요하냐고 그랬다고

▷박태웅 : 전 세계에서 유일하게 한국만 했거든요.

▶김어준 : 그리고 그때는 삐삐삐삐 모델 하던 시절이거든요.

▷박태웅 : ATDT 0에 살고 있는

▶김어준 : 맞아요. 근데 그걸 갑자기 광선으로 넘어간다고 하니까. 중간 과정 다 빼고. 근데 그 김대중 대통령이 그걸 봤죠. 이게, 여기에 우리 미래가 있다고

▷박태웅 : FTTH가 광섬유를 온 가정집에 다 깔겠다고 얼마나 미친 생각이에요

▶김어준 : 그때 기준으로 미친 생각이에요.

▷박태웅 : 완전히 미친 거거든요. 전 세계에서 유일하게 한국만 했어요. 그걸로 여기까지 온 거죠.

▶김어준 : 맞아요. 그걸로 20년 뽑아먹었고요. 그런데 이제 AI가 그런 역할을 할 것이다.

출처: 겸손은힘들다 뉴스공장 25.06.25

<글로벌 기업이 전쟁 주도권을 갖고 세계 평화를 위협, 대한민국 평화와 직결.. 아니 서로 연동됐다는 인식이 필요>

▷박구용 : 현대국가란 폭력을 국내적으로만이 아니라 국외적으로도 독점하는 겁니다. 그런데 지금 그 독점 체제가 무너져가고 있다는 거예요. 무슨 말이냐 하면 지금 가자지구에서나 이란, 이라크 전쟁이라든가 우크라이나 전쟁에 단순하게 미국이나 미국이 주도하는 나토가 전쟁을 수행하고 있다고 생각하면 저는 착각이라고 생각해요. 거기에 핵심이 기업이 들어가 있어요, 글로벌 기업이.

▶김어준 : 그렇지. 맞아요.

▷박구용 : 다시 말하면 팔란티어 같은 그룹들은 지금 그들이 전쟁을 수행하고 있는 거예요.

▶김어준 : 그렇게 된 지 오래됐어요. 그러니까 전쟁을 위탁 받아가지고 민간 용병들이 전쟁을 수행하는,

▷박구용 : 일론 머스크가 만약에 스타링크를 정지하는 순간 우크라이나 전쟁 끝납니다.

▶김어준 : 그렇겠죠.

▷박구용 : 무서운 얘기잖아요. 그런데 그들의 사상이 더 무섭다는 거예요. 그래서 그런 것들을 좀 지금 대한민국 사람이라면, 대한민국이 그런 것에 대한 책임의식을 가져야 될 때가 됐다.

출처: 겸손은힘들다 뉴스공장 25.06.26