REALITY와 XTLS Vision 원리: VLESS 전송은 왜 빠르고 탐지가 어려울까

TLS 핸드셰이크 모방, 인증서 없는 위장, Vision의 흐름 제어를 통한 중복 암호화 감소까지 살펴보고 VLESS+REALITY 조합의 성능 향상 원리와 사용 조건을 정리합니다.

핵심 내용 미리보기

구독 정보에서 VLESS, REALITY, Vision을 함께 봤다면 우선 서로 다른 설정 항목으로 이해하면 됩니다. 각 항목의 역할과 연결 실패 시 확인할 로그, 암호화 처리 비용과 네트워크 경로 차이를 구분하는 방법을 설명합니다. 프로토콜 이름만으로 다운로드 속도를 예측하거나 트래픽을 식별할 수 없다고 단정할 수는 없습니다.

VLESS, REALITY, Vision의 역할

프록시 연결에는 앱, 클라이언트 코어, 프록시 서버, 대상 사이트가 관여합니다. 앱이 요청을 로컬 클라이언트에 전달하면 코어가 연결 설정에 따라 서버와 통신하고, 서버가 대상 사이트에 접속합니다. 브라우저에서 HTTPS 페이지를 열면 브라우저와 대상 사이트 사이에도 별도의 TLS 세션이 연결됩니다. 이 세션은 클라이언트와 프록시 서버 사이의 보안 전송과 다른 계층이므로 문제를 확인할 때 각각 살펴봐야 합니다.

앱 요청로컬 인바운드프록시 핸드셰이크전달 단계대상 응답
  • VLESS는 프록시 프로토콜입니다. 클라이언트가 프록시 서버에 사용자 정보와 대상 주소를 전달하는 방식을 정합니다. 노드에 VLESS라고 적혀 있다는 이유만으로 어떤 전송 보안 방식이나 흐름 제어 모드를 사용하는지 판단할 수는 없습니다.
  • REALITY는 Xray의 전송 보안 메커니즘입니다. 이 조합에서는 프록시 연결의 핸드셰이크와 서버 인증을 처리하며, 브라우저가 대상 HTTPS 사이트의 인증서를 검증하는 절차를 대신하지 않습니다.
  • XTLS Vision은 흐름 제어 모드입니다. 핸드셰이크 이후 데이터를 처리하는 방식에 영향을 줍니다. 독립적인 프록시 프로토콜이 아니며, 대역폭 상한을 조정하거나 시스템 혼잡 제어 알고리즘을 바꾸는 설정도 아닙니다.

REALITY 핸드셰이크는 일반 TLS와 어떻게 다를까

일반적인 TLS 환경에서는 서버가 자신이 제공하는 도메인의 인증서를 제시하고 클라이언트가 인증서 체인과 호스트 이름을 확인합니다. REALITY는 프록시 연결의 인증 방식을 바꿉니다. 호환되는 클라이언트는 REALITY 메커니즘으로 상대를 검증하므로 운영자는 프록시 엔드포인트용으로 일반적인 공개 신뢰 인증서를 별도로 준비하지 않아도 됩니다. ‘인증서 불필요’는 배포 방식의 차이를 뜻할 뿐, 상대 인증을 건너뛰거나 브라우저에서 대상 사이트의 인증서 오류를 무시해도 된다는 뜻은 아닙니다.

‘핸드셰이크 차용’은 핸드셰이크의 겉모습이 일반 TLS의 동작을 닮았다는 뜻이지, 앱 데이터가 제3자 사이트를 거쳐 전달된다는 뜻은 아닙니다. 겉모습이 비슷하다고 탐지를 피할 수 있는 것도 아닙니다. 관찰자는 주소, 연결 빈도와 지속 시간, 데이터 크기 등을 함께 살펴 트래픽을 판단할 수 있으므로 핸드셰이크 한 번만으로 결론을 내릴 수 없습니다.

노드 세부 정보의 VLESS 조합

프록시 프로토콜
VLESS
전송 보안
REALITY
흐름 제어
xtls-rprx-vision

세 항목은 서로 다른 질문에 답합니다. 한 프로토콜 이름만 보고 나머지 두 항목을 추측할 수는 없습니다.

로그의 연결 단계

다이얼 연결 실패
먼저 노드 주소에 연결할 수 있는지 확인
핸드셰이크 오류
먼저 코어와 구독 설정의 호환 여부 확인
전달 실패
그다음 대상 도메인 조회와 연결 문제를 구분

첫 번째 오류를 먼저 기록하세요. 이후의 시간 초과는 같은 실패로 인해 발생한 결과일 수 있습니다.

Vision은 어떻게 암호화 처리 부담을 줄일까

브라우저가 HTTPS 페이지를 요청하면 웹 콘텐츠는 이미 내부 TLS로 암호화되어 있습니다. 프록시 연결에서 이 암호문을 다시 조각마다 외부 암호화하면 같은 앱 데이터가 캡슐화와 암호화·복호화 과정을 한 번 더 거칩니다. Vision은 조건에 맞는 데이터 경로에서 이러한 중복 처리를 줄일 수 있습니다. 브라우저와 웹사이트 사이의 TLS를 평문으로 바꾸거나 프록시를 통과하는 모든 트래픽을 동일한 최적화 경로로 보내는 것은 아닙니다.

효과는 병목이 어디에 있는지에 따라 달라집니다. 대용량 파일을 오래 다운로드할 때 프록시 프로세스가 먼저 CPU 한계에 도달한다면 중복 처리를 줄여 처리량을 높일 수 있습니다. 반면 접속 회선 대역폭, 서버 속도 제한, 패킷 손실이 병목이라면 CPU 작업을 줄여도 다운로드 속도가 빨라지지 않을 수 있습니다. 웹페이지 로딩 시간에는 DNS 조회, 연결 설정, 대상 사이트의 응답 시간도 포함되므로 대용량 파일의 최고 속도로 대신 판단해서는 안 됩니다.

  1. 먼저 새 연결과 재사용 연결을 구분하세요. 새 연결에는 연결 설정 비용이 포함되지만, 재사용 연결은 이미 설정된 연결로 바로 데이터를 전송할 수 있습니다. 두 유형의 측정값을 섞으면 연결 재사용 효과를 흐름 제어의 속도 향상으로 오해하기 쉽습니다.
  2. 다음으로 CPU 사용량과 처리량이 함께 변하는지 확인하세요. 처리량은 그대로인데 코어 사용량이 줄었다면 같은 양의 데이터를 전송하는 데 계산 자원을 덜 쓴 것입니다. 페이지 로딩이 빨라졌다는 뜻은 아닙니다.
  3. 마지막으로 네트워크 경로가 바뀌었는지 확인하세요. 서버, 출구 노드 또는 테스트 사이트를 함께 바꾸면 두 연결 구성의 전체 성능만 비교할 수 있으며, 차이를 Vision만의 효과로 볼 수는 없습니다.

동일한 조건으로 처리량과 첫 바이트 시간을 비교하기

같은 기기와 접속 네트워크, 동일한 HTTPS 테스트 서버를 사용하고 안정적으로 응답하는 파일을 선택하세요. 접근 권한이 있는 파일이어야 합니다. 비교 설정만 다른 테스트 연결 두 개가 있다면 번갈아가며 측정해 시간대에 따른 영향을 줄일 수 있습니다. 아래 수치는 재사용 가능한 테스트 기준의 예시이며, 실제 사이트 측정 결과나 프로토콜 요구 사항은 아닙니다.

64 MiB
예시 파일 크기
5회
그룹별 측정 횟수
443
HTTPS 기본 포트(테스트 사이트 기준)

데스크톱 브라우저에서는 개발자 도구의 ‘네트워크’ 패널로 요청을 확인할 수 있습니다. 패널을 연 뒤 ‘캐시 사용 중지’를 선택하고, 매회 파일 데이터가 실제로 전송됐는지 확인하세요. 캐시에서 불러왔거나 리디렉션만 받은 경우는 제외합니다. 첫 바이트 대기 시간, 실제 전송량, 다운로드 시간을 기록하세요. 전송량을 다운로드 시간으로 나누어 처리량을 계산하고 단위도 통일합니다. 파일이 거의 즉시 전송된다면 측정 오차가 결과를 좌우하지 않도록 파일 크기를 늘리거나 연속 전송 테스트를 사용하세요.

결론: 중앙값을 먼저 보고 변동 폭을 확인하세요

각 그룹의 처리량 5개를 정렬해 세 번째 값을 비교하고 최저·최고값도 함께 살펴보세요. 두 그룹의 변동 범위가 뚜렷하게 겹친다면 표본을 늘리거나 다른 시간대에 다시 측정하세요. 한 번의 최고 속도만으로 어느 조합이 더 빠른지 판단하지 마세요.

구독 가져오기 후 자주 발생하는 호환성 및 연결 문제

노드를 가져왔는데 실행할 때 지원되지 않는다는 메시지가 표시되는 이유는?

가져오기에 성공했다는 것은 클라이언트가 구독 항목을 읽을 수 있다는 뜻일 뿐입니다. 먼저 노드 세부 정보에서 프로토콜, 전송 보안, 흐름 제어를 확인한 다음 실행 로그에서 실제 코어 종류와 버전을 살펴보세요. v2rayN은 여러 코어를 사용할 수 있으므로 해당 노드가 이 설정 조합을 지원하는 Xray로 실행되는지 확인해야 합니다. 안드로이드용 v2rayNG는 Xray를 사용합니다. V2Fly 코어를 사용하는 v2flyNG를 같은 조합의 대체품으로 간주해서는 안 됩니다. 지원하지 않는 필드가 있다면 오류를 없애려고 임의로 삭제하지 말고 클라이언트와 코어 버전부터 확인하세요.

잘 연결되던 노드가 구독 업데이트 후 핸드셰이크 오류를 내는 이유는?

먼저 업데이트된 노드를 선택했는지 확인한 뒤 기기의 날짜와 시간이 자동으로 설정되어 있는지 점검하세요. 같은 클라이언트에서 구독에 포함된 정상 작동 노드도 테스트해 특정 노드의 변경인지 로컬 문제인지 구분합니다. 업데이트 후에만 오류가 발생한다면 첫 번째 로그와 발생 시각을 보관하고 제공업체에 노드 매개변수가 바뀌었는지 문의하세요. 문의할 때 구독 주소와 사용자 식별 정보는 제거하고, 인증서 검증을 끄는 방식으로 오류를 우회하지 마세요.

속도 테스트는 성공했는데 브라우저에서 웹페이지가 열리지 않는 이유는?

클라이언트 속도 테스트와 브라우저가 반드시 같은 로컬 경로를 사용하는 것은 아닙니다. 데스크톱에서는 먼저 v2rayN의 시스템 프록시 상태와 실제 수신 대기 포트를 확인하고, 브라우저에 별도의 프록시 설정이 있는지도 살펴보세요. 문제가 재현될 때 코어 로그에 해당 사이트 요청이 있는지 확인합니다. 요청이 없다면 앱이 프록시에 연결되어 있는지 확인하고, 요청이 있다면 로그를 바탕으로 도메인 조회, 라우팅 선택, 대상 연결 오류를 구분하세요. DNS, 포트, 흐름 제어를 한꺼번에 바꾸면 문제가 해결돼도 원인을 찾기 어렵습니다.

클라이언트 다운로드