대화가 새는 건 암호화가 없어서가 아닙니다
2023년 기준, 전 세계 스마트폰 사용자 10명 중 7명은 메신저 앱을 설치합니다. 그런데 정작 ‘내 대화가 안전한가’를 정확히 아는 사람은 드뭅니다. 제가 보안 컨설팅을 하며 만난 고객 중에는 ‘종단간 암호화(E2EE)를 쓰니까 해킹 걱정이 없다’고 말하는 분이 많았습니다. 하지만 실제로는 대화 내용이 유출되는 사고의 상당수가 암호화가 아닌 다른 경로에서 발생합니다. 예를 들어, 2021년 한 글로벌 메신저에서 발생한 대화 유출 사건은 서버가 아니라 사용자의 클라우드 백업에서 시작됐습니다. 이 글에서는 종단간 암호화의 개념부터 실제 위협, 그리고 종단간 암호화 서비스를 고를 때 봐야 할 기준까지 짚어보겠습니다.
종단간 암호화가 뭘 보장하고, 뭘 보장하지 않나요
종단간 암호화는 메시지를 보내는 사람과 받는 사람만 내용을 볼 수 있게 만드는 기술입니다. 중간에 있는 서버는 암호화된 데이터만 볼 뿐, 복호화 키가 없으면 내용을 읽을 수 없습니다. 이 개념 자체는 1990년대 Phil Zimmermann이 만든 PGP(Pretty Good Privacy)에서 시작됐습니다. 당시만 해도 이메일을 위한 기술이었지만, 지금은 메신저의 기본 기능이 됐습니다.
하지만 종단간 암호화가 ‘모든 것을 막아주는 방패’는 아닙니다. 첫째, 상대방의 기기가 이미 해킹됐다면 암호화는 무의미합니다. 둘째, 사용자가 직접 키를 관리하는 방식이 아니라면 서비스 제공자가 언제든 키에 접근할 수 있는 구조일 수 있습니다. 셋째, 화면 캡처, 대화 내용을 다른 사람에게 보여주는 행위는 암호화와 무관하게 정보가 새는 경로입니다.
제가 상담했던 한 스타트업 대표는 ‘왓츠앱을 쓰니까 안전하다’고 확신했습니다. 그런데 직원이 회사 기밀이 담긴 대화를 개인 폰으로 캡처해 외부에 유출하는 사고가 났습니다. 암호화는 데이터 전송 중에는 확실히 보호하지만, ‘사람’이라는 변수는 막지 못합니다.
메신저마다 종단간 암호화 구현이 다른 이유
모든 메신저가 같은 방식으로 종단간 암호화를 구현하지 않습니다. 대표적인 차이는 암호화 프로토콜과 키 관리 방식에서 나타납니다. 시그널 프로토콜은 오픈소스로 공개되어 있어 보안 전문가들의 검증을 거쳤고, 왓츠앱과 시그널 앱이 이 방식을 사용합니다. 반면 텔레그램의 비밀대화는 자체 MTProto 프로토콜을 쓰는데, 기본 대화는 종단간 암호화가 아닌 서버-클라이언트 암호화만 적용됩니다.
이 차이는 사용자 입장에서 체감하기 어렵습니다. 하지만 보안 수준을 따질 때는 ‘어떤 프로토콜을 쓰는가’보다 ‘기본 설정이 무엇인가’가 더 중요합니다. 예를 들어 텔레그램은 비밀대화를 켜야만 종단간 암호화가 적용되지만, 왓츠앱은 모든 대화에 기본 적용됩니다. 사용자가 설정을 잘못 건드리거나 모르는 상태에서 대화를 나누면 암호화가 적용되지 않을 수 있습니다.
또 하나 간과하기 쉬운 점은 백업입니다. iCloud나 구글 드라이브에 대화를 백업하면, 대부분의 경우 백업 파일은 종단간 암호화에서 제외됩니다. 2020년 애플은 iCloud 백업에 종단간 암호화를 적용하겠다고 발표했지만, 기본 설정은 여전히 일반 백업입니다. 이 때문에 ‘암호화를 쓰는데도 대화가 새는’ 사례가 발생합니다.
실제로 데이터가 새는 경로 3가지
제가 보안 사고 사례를 분석해보면, 종단간 암호화가 적용된 메신저에서 데이터가 새는 경로는 크게 세 가지로 나뉩니다. 첫째는 상대방 기기의 해킹입니다. 상대방의 스마트폰에 스파이웨어가 설치되면 암호화된 메시지라도 복호화된 상태에서 화면이 캡처될 수 있습니다. 2021년 페가수스(Pegasus) 스파이웨어 사건이 대표적인데, 이때 피해자들의 메신저 대화가 유출됐습니다.
둘째는 클라우드 백업입니다. 앞서 말했듯이, iOS와 안드로이드 모두 기본적으로 클라우드에 대화를 백업합니다. 이 백업 데이터는 대부분의 경우 종단간 암호화가 적용되지 않습니다. 따라서 해커가 클라우드 계정을 탈취하면 대화 내용을 볼 수 있습니다. 2022년 한 유명인 사생활 유출 사건도 이 경로로 발생했습니다.
셋째는 사용자 실수입니다. 상대방이 다른 사람에게 대화 내용을 전달하거나, 화면을 녹화하거나, 공용 PC에서 로그인한 경우가 여기에 해당합니다. 종단간 암호화는 이 경로를 전혀 막지 못합니다. 실제로 기업 내부 정보 유출 사고의 60% 이상이 내부자의 실수나 고의적 유출이라는 통계도 있습니다.
종단간 암호화를 써도 안심하면 안 되는 이유
종단간 암호화 https://en.search.wordpress.com/?src=organic&q=종단간 암호화 가 적용된 메신저를 쓴다고 해서 모든 위협이 사라지는 것은 아닙니다. 첫 번째 이유는 ‘메타데이터’입니다. 누가, 언제, 어디서, 얼마나 자주 대화를 주고받는지는 암호화가 되지 않습니다. 이 정보만으로도 상당한 개인정보가 노출될 수 있습니다. 예를 들어, 특정 시간에 특정 장소에서 메시지를 보냈다는 사실은 그 사람의 위치와 생활 패턴을 드러냅니다.
두 번째 이유는 인증 문제입니다. 종단간 암호화는 상대방이 ‘진짜 그 사람인지’를 확인해주지 않습니다. 중간자 공격(MITM)을 통해 공격자가 상대방 행세를 하면 암호화가 무력화될 수 있습니다. 대부분의 메신저는 지문(fingerprint) 비교 기능을 제공하지만, 일반 사용자가 이를 확인하는 경우는 거의 없습니다.
세 번째 이유는 정부의 압수수색입니다. 일부 국가에서는 법원 명령을 통해 메신저 서비스에 키를 요구할 수 있습니다. 서비스가 키를 보관하지 않는 구조라면 문제가 없지만, 일부 서비스는 백도어를 요구받기도 합니다. 2016년 FBI가 애플에 아이폰 잠금 해제를 요구했던 사건이 대표적입니다. 이런 경우 암호화는 기술적 문제가 아니라 정치적 문제가 됩니다.
메신저 선택, 이 4가지를 확인하세요
종단간 암호화를 제대로 활용하려면, 단순히 ‘암호화 지원’이라는 문구만 보고 선택하지 말아야 합니다. 제가 추천하는 확인 방법은 네 가지입니다.
첫째, 암호화가 기본 설정인지 확인하세요. 왓츠앱처럼 모든 대화에 기본 적용되는 서비스가 있고, 텔레그램처럼 특정 대화에만 적용되는 서비스가 있습니다. 기본 설정이 아니라면 매번 직접 켜야 하는 번거로움이 있고, 잊어버리면 암호화 없이 대화하게 됩니다.
둘째, 백업 시 암호화가 유지되는지 확인하세요. 클라우드 백업에서 암호화가 풀리는 서비스는 사실상 ‘암호화가 없는 것’과 같습니다. 현재 시그널 앱은 백업 파일에 암호화를 적용할 수 있지만, 왓츠앱은 백업 암호화를 별도로 설정해야 합니다. 이런 세부 사항을 모르고 사용하면 데이터가 새어도 원인을 찾기 어렵습니다.
셋째, 프로토콜이 검증되었는지 확인하세요. 오픈소스로 공개된 프로토콜은 보안 전문가들의 지속적인 검토를 받기 때문에 취약점이 발견되면 빠르게 패치됩니다. 반면 비공개 프로토콜은 검증 기회가 적어 위험할 수 있습니다. 시그널 프로토콜은 2013년 공개 이후 지금까지 치명적인 취약점이 발견되지 않았습니다.
넷째, 회사의 비즈니스 모델을 확인하세요. 광고 기반으로 운영되는 서비스는 대화 내용을 분석해 맞춤 광고를 제공할 가능성이 있습니다. 종단간 암호화를 도입하면 광고 타겟팅이 어려워지기 때문에, 이런 서비스는 암호화를 도입할 유인이 적습니다. 반면 유료 구독 기반 서비스는 사용자 데이터를 팔지 않아도 되기 때문에 암호화를 기본으로 제공하는 경우가 많습니다.
결국 종단간 암호화는 ‘기술적 도구’일 뿐입니다. 이 도구를 어떻게 설정하고, 어떤 서비스를 선택하느냐에 따라 실제 보안 수준이 결정됩니다. 암호화를 켜는 것만으로 안심하지 말고, 위에서 말한 네 가지 기준을 꼭 확인해보시길 권합니다.
자주 묻는 질문
종단간 암호화와 일반 암호화의 차이는 무엇인가요?
일반 암호화는 메시지가 서버에 저장될 때까지 암호화되어 있다가 서버에서 복호화한 뒤 수신자에게 전달됩니다. 반면 종단간 암호화는 보내는 사람과 받는 사람만 복호화할 수 있어서, 서버는 내용을 볼 수 없습니다. 즉, 통신사나 서비스 제공자가 데이터를 열람할 수 없도록 하는 것이 핵심 차이입니다.
종단간 암호화를 적용해도 해킹을 막을 수 있나요?
종단간 암호화는 데이터가 전송되는 동안에만 보호합니다. 해커가 상대방의 기기를 직접 해킹하거나, 클라우드 백업 파일을 탈취하면 암호화된 대화도 유출될 수 있습니다. 따라서 기기 보안과 백업 설정을 별도로 관리하는 것이 중요합니다.
왓츠앱과 텔레그램 중 어느 것이 더 안전한가요?
왓츠앱은 모든 대화에 종단간 암호화가 기본 적용되지만, 텔레그램은 비밀대화 기능을 켜야만 적용됩니다. 또한 왓츠앱은 백업 암호화를 지원하지만 기본값이 아니며, 텔레그램은 클라우드 백업이 암호화되지 않습니다. 따라서 기본 설정을 기준으로 보면 왓츠앱이 더 안전하다고 볼 수 있습니다. 다만, 텔레그램의 비밀대화는 자체 프로토콜을 사용하므로 보안 전문가들의 검증 여부를 확인해보시길 권합니다.