비번을 변경하는 순간 새로운 인증서가 발급되고, 기존의 인증서는 사용하지 못하게 됩니다

직접 경험한 건 아니고 이론적인 부분과 몇몇 금융기관의 가이드를 보고 판단해 보자면
1. USB메모리, 스마트폰, 노트북의 비번은 기존 1234입니다. (인증서 파일을 만들때 비번이 암호화되어서 같이 들어갑니다.)
2. 비밀번호가 다른 공동인증서는 새로 발급된 것과 큰 차이가 없습니다.
예를 들어 비번 1234로 발급받아서 PC, 스마트폰에 복사한 공동인증서를 우리은행, 국민은행, 신한은행에 등록한 상황에서
우리은행 인증센터에서 PC의 공동인증서 비번을 5678로 변경한다면
국민은행, 신한은행에서 스마트폰으로 1234로 사용은 가능해 보이지만, 우리은행에서는 사용이 어려울 것 같습니다.
마찬가지로 PC의 공동인증서를 국민은행, 신한은행에서 사용하려면 타금융기관 공동인증서 재등록이 필요할 수도 있을 것 같습니다.

1번의 경우 거의 확실한 답일 것 같고
2번의 경우 약간의 추측이 들어가있습니다.

공동인증서는 개별 파일이 따로 놀기 때문에 암호를 바꿀거면 전부 다 각각 변경해야 합니다.

공동인증서는 자동생성된 비밀키(개인키) 파일과, 그 개인키가 A라는 사람의 소유임을 보증하는 인증서(공인인증기관이 발급한)의 조합으로 이루어집니다.
이 개인키와 인증서 2개 조합이 일반적으로 말하는 공동인증서구요.
개인키는 그 자체가 비밀번호이므로, 그대로 파일로 가지고 있으면 보안에 취약하니, 이를 비밀번호로 한번 더 암호화해서 저장을 하는데, 그게 말씀하신 1234 등 사용자가 설정하는 인증서 비밀번호입니다.

즉 모든 서비스에서 공동인증서를 사용할 때는, 사용자가 입력한 비밀번호로 개인키 파일을 획득하고, 그 파일로 후속 인증 작업을 진행합니다.
고로, 어느 한 곳에서 비밀번호를 바꾸는 것은 다른 곳에 복사된 키 파일(인증서)에 영향을 주지 않습니다.
쉽게 생각하면, 공동인증서는 암호화된 압축 파일이고, 비밀번호는 압축 비밀번호이며, 내용물이 중요하다고 생각하시면 됩니다.
다른 컴퓨터에서 압축풀고 비밀번호를 변경한다고, 원래 컴퓨터의 압축파일 비밀번호가 바뀌지는 않죠...

추가로 인증서 포맷은 국제 표준 규격(pkcs8 혹은 pkcs12)을 살짝 수정하여 한국인터넷진흥원에서 표준으로 공개하고 있기 때문에 은행권 프로그램을 통하지 않고 직접 비밀번호를 변경하는 작업 등도 가능합니다.