v2rayN Windows 설치 및 설정 완벽 가이드: 데스크톱 버전과 WPF 버전 선택, 자주 발생하는 문제 해결

설치 전에 데스크톱 버전, WPF 버전과 패키징 방식을 구분하기

다운로드 목록의 ‘데스크톱 버전’과 ‘WPF 버전’은 주로 UI 기술과 상호작용 방식을 가리키며, 프록시 프로토콜이나 코어를 의미하지 않습니다. 두 버전 모두 VMess, VLESS 등의 설정을 관리할 수 있으며, 실제 프로토콜 지원 여부는 UI 이름이 아니라 선택한 코어와 노드 매개변수에 따라 결정됩니다. Windows에서만 사용하고 기존 Windows 메뉴와 창 조작을 선호한다면 WPF 버전을 우선 고려할 수 있습니다. 새로운 데스크톱 UI와 일관된 사용 경험을 원한다면 데스크톱 버전을 선택하세요.

UI 버전과 런타임 패키징 방식도 따로 판단해야 합니다. 파일 이름에 SelfContained가 포함되어 있으면 일반적으로 실행 환경이 프로그램에 함께 제공되어 압축 파일이 더 크지만, 필요한 .NET 실행 환경이 설치되지 않은 PC에 적합합니다. 경량 패키지는 용량이 작지만 첫 실행 전에 호환되는 .NET Desktop Runtime을 설치해야 할 수 있습니다. 버전 페이지의 명칭은 변경될 수 있으므로 다운로드 항목의 설명을 기준으로 판단하고, 압축 파일 크기만으로 추측하지 마세요.

프로세서 아키텍처도 올바르게 선택해야 합니다. 대부분의 Windows 10 및 Windows 11 데스크톱과 노트북은 x64 패키지를 사용하고, ARM64 프로세서 장치는 arm64 패키지를 선택합니다. 「설정」→「시스템」→「시스템 정보」에서 ‘시스템 종류’를 확인할 수 있습니다. ‘x64 기반 프로세서’로 표시되면 x64를, ‘ARM 기반 프로세서’로 표시되면 arm64를 선택하세요.

올바른 압축 해제와 첫 실행 절차

v2rayN 프로그램 폴더는 계속 유지해야 하며, 압축 파일 안의 실행 파일만 꺼내 따로 실행하면 안 됩니다. 실행 파일, 코어 파일, 설정 폴더와 종속 파일은 원래의 상대 경로를 유지해야 합니다. 먼저 D:\Tools\v2rayN과 같은 고정 폴더를 만든 다음 압축 파일 전체를 그 안에 해제하는 것이 좋습니다. 브라우저의 임시 다운로드 폴더에 장기간 보관하거나 압축 프로그램의 미리 보기 창에서 직접 실행하지 마세요.

폴더 권한은 설정 저장과 코어 업데이트에 직접 영향을 줍니다. 프로그램을 C:\Program Files에 넣으면 일반 계정으로 일부 파일을 쓰지 못할 수 있습니다. 바탕 화면의 깊은 하위 폴더, 동기화 폴더 또는 특수 권한 정책이 적용된 위치에서도 업데이트 후 파일이 사용 중으로 잠길 수 있습니다. D:\Apps\v2rayN과 같은 짧은 영문 경로가 문제를 확인하기 쉽습니다. 경로에 한국어가 포함되어도 되지만, 실행 문제가 발생하면 먼저 영문 경로로 옮겨 다시 테스트하세요.

1. 아키텍처 확인

   「설정」→「시스템」→「시스템 정보」를 열고 시스템 종류에 따라 x64 또는 arm64 다운로드 항목을 선택하세요. 아키텍처가 다른 프로그램과 코어를 섞어 사용하지 마세요.

2. 전체 압축 해제

   압축 파일 전체를 D:\Apps\v2rayN과 같은 고정 폴더에 해제하고, 실행 파일과 코어 폴더 및 기타 파일이 함께 있는지 확인하세요.

3. 프로그램 실행

   실행 파일을 두 번 클릭한 뒤 작업 표시줄의 알림 영역을 확인하세요. 주 창을 닫아도 프로그램은 백그라운드에서 계속 실행될 수 있으며, 트레이 아이콘에서 다시 열 수 있습니다.

4. 코어 선택

   「설정」→「매개변수 설정」→「Core 유형」으로 이동해 설정 유형에 맞는 코어를 선택하세요. VLESS와 Reality 설정은 일반적으로 Xray 코어로 처리합니다.

5. 설정 가져오기

   클립보드에서 단일 링크를 가져오거나 구독 그룹에 구독 주소를 추가하세요. 업데이트가 완료되면 설정 하나를 선택해 활성 서버로 지정합니다.

6. 프록시 활성화

   트레이 메뉴에서 시스템 프록시 설정을 선택한 뒤 브라우저로 대상 사이트에 접속해 확인하세요. 테스트가 끝나면 같은 메뉴에서 시스템 프록시를 해제할 수 있습니다.

구독, 활성 설정과 코어 매개변수 설정 방법

프로그램이 정상적으로 열렸다고 해서 프록시를 바로 사용할 수 있는 것은 아닙니다. 최소한 유효한 설정 가져오기, 설정 하나를 활성 서버로 지정하기, 해당 설정과 호환되는 코어 시작하기의 세 가지 작업을 완료해야 합니다. 구독은 노드 매개변수를 일괄 전달하는 방식일 뿐입니다. 업데이트 성공은 클라이언트가 내용을 읽었다는 뜻이며, 모든 설정이 연결 가능하다는 의미는 아닙니다.

구독을 추가할 때는 먼저 구독 그룹 관리 메뉴로 이동해 그룹을 새로 만들고 전체 주소를 붙여 넣은 다음 모든 구독 업데이트를 실행하세요. 주소 앞뒤의 불필요한 공백, 중간에 잘린 매개변수, 만료된 인증 정보는 모두 업데이트 실패의 원인이 됩니다. 단일 vmess:// 또는 vless:// 링크를 받았다면 구독 주소 입력란에 잘못 넣지 말고 클립보드에서 가져오기를 사용하세요.

가져온 뒤 주소, 포트, 전송 방식, TLS, SNI, Host, 경로와 Flow를 확인하세요. VLESS + Reality에서 자주 확인해야 하는 항목은 대상 주소, 포트, 공개 키, Short ID, Server Name, 지문과 xtls-rprx-vision Flow입니다. VMess + WebSocket + TLS는 Host, 경로와 TLS 활성화 여부를 중점적으로 확인하세요. 어느 한 필드라도 잘리면 코어는 시작되지만 연결이 시간 초과되는 현상이 나타날 수 있습니다.

• 구독을 업데이트한 뒤 목록에 설정이 실제로 표시되는지 확인하세요. 빈 그룹 하나만 남아 있어서는 안 됩니다.
• 대상 설정을 두 번 클릭하거나 메뉴를 사용해 활성 서버로 지정한 뒤, 현재 선택 상태가 바뀌었는지 확인하세요.
• 코어 유형을 변경한 뒤 코어를 재시작해야 새 설정이 실제로 적용됩니다.
• 비슷한 설정을 여러 개 유지한다면 메모로 전송 방식과 접속 위치를 구분하세요. 지연 시간 순서만 보고 판단하지 마세요.
• 구독 업데이트로 직접 수정한 내용이 덮어써진다면 구독 원본에서 매개변수를 수정하세요. 업데이트할 때마다 반복해서 수정하는 일을 피할 수 있습니다.

시스템 프록시를 켰는데도 인터넷이 되지 않을 때 확인 순서

시스템 프록시와 코어 프로세스는 서로 다른 두 단계의 설정입니다. 시스템 프록시는 Windows 프록시 설정을 지원하는 프로그램의 트래픽을 로컬 포트로 보내고, 코어는 이 트래픽을 받아 활성 서버로 전달합니다. 시스템 프록시만 켜고 코어가 수신 대기하지 않으면 연결 거부가 발생합니다. 반대로 코어가 실행 중이어도 시스템 프록시를 켜지 않으면 프록시를 수동 지정한 앱만 이를 사용합니다.

이 글에서는 SOCKS 127.0.0.1:10808, HTTP 127.0.0.1:10809를 문제 해결 예시로 사용하지만 모든 버전의 기본값이 같다는 뜻은 아닙니다. v2rayN의 로컬 수신 설정에서 실제 포트를 확인한 뒤 Windows 프록시 페이지 또는 앱의 프록시 매개변수와 일치하는지 점검하세요. 수신 포트를 변경하면 기존 시스템 프록시 주소가 수동으로 설정된 모든 프로그램에 자동 적용되지는 않습니다.

먼저 메인 화면의 로그를 확인하세요. address already in use가 표시되면 다른 프로세스가 해당 포트를 사용 중이라는 뜻입니다. 설정 필드 파싱 오류가 표시되면 노드 매개변수로 돌아가 확인하세요. 코어가 정상적으로 시작했지만 원격 연결이 시간 초과되면 서버 주소, 포트, 시스템 시간과 네트워크 환경을 점검합니다. 처음부터 반복해서 재설치하지 마세요. 로그를 보면 문제를 로컬 수신, 설정 파싱 또는 원격 연결 중 한 단계로 좁힐 수 있습니다.

netstat -ano | findstr :10808
tasklist /fi "PID eq 프로세스 번호"
powershell -Command "Test-NetConnection 127.0.0.1 -Port 10808"

첫 번째 명령은 10808이 LISTENING 상태인지 확인하고 PID를 읽습니다. 두 번째 명령은 PID에 해당하는 프로세스 이름을 확인합니다. 세 번째 명령은 이 컴퓨터의 TCP 포트로 연결할 수 있는지 검사합니다. 포트가 수신 대기하지 않으면 먼저 코어를 재시작하고 로그를 확인하세요. 수신 중인 프로세스가 v2rayN에서 사용하는 코어가 아니라면 충돌하는 프로그램을 종료하거나 매개변수 설정에서 로컬 포트를 변경한 뒤 시스템 프록시도 함께 업데이트하세요.

자주 발생하는 설치 문제: 폴더, 차단, 시간과 기존 설정

압축이 완전히 해제되지 않은 것은 첫 실행 실패의 흔한 원인입니다. 실행 파일만 복사하고 코어 및 종속 폴더를 빠뜨리는 경우가 있으며, 압축 파일 안에서 직접 실행하면 압축 프로그램을 닫는 순간 임시 파일이 사라질 수 있습니다. 새 빈 폴더를 만들고 전체 압축을 해제한 뒤 새 폴더에서 실행하세요. 문제를 확인하는 동안 백그라운드 인스턴스를 여러 개 실행하지 마세요. 트레이 메뉴와 주 창이 서로 다른 프로세스에 연결될 수 있습니다.

Windows가 다운로드 파일의 출처를 경고하면 압축 파일 또는 프로그램 파일의 「속성」을 열어 차단 해제 옵션이 있는지 확인한 뒤 파일 출처를 확인하고 처리하세요. 보안 프로그램이 코어 파일을 격리하면 메인 화면은 실행되지만 연결을 눌렀을 때 로컬 포트가 열리지 않을 수 있습니다. 격리 기록과 v2rayN 로그에서 실제로 처리된 파일을 확인한 다음 신뢰할 수 있는 다운로드 출처에서 전체 패키지를 다시 받으세요.

시스템 시간이 잘못되면 TLS와 Reality 연결에 영향을 줍니다. 「설정」→「시간 및 언어」→「날짜 및 시간」으로 이동해 시간 자동 설정과 시간대 자동 설정을 켠 다음 지금 동기화를 클릭하세요. 시간이 몇 분만 달라도 프로그램이 충돌하기보다는 노드 핸드셰이크 실패, 연결 조기 종료 또는 모든 TLS 설정의 동시 시간 초과로 나타나는 경우가 많습니다.

기존 버전에 새 파일을 그대로 덮어써 업데이트하면 호환되지 않는 설정이 남을 수 있습니다. 업그레이드 전에 트레이의 v2rayN을 종료하고 설정을 백업한 뒤, 새 버전을 별도 폴더에 전체 압축 해제해 테스트하세요. 구독, 코어와 시스템 프록시가 정상적으로 작동하는 것을 확인한 뒤 필요한 데이터만 옮기세요. 새 프로그램과 기존 프로그램이 쓰기 중인 동일한 설정 폴더를 함께 사용하지 않도록 하세요.

설정 완료 후 확인 목록

확인은 트레이 아이콘 색상이나 메인 화면 상태만 보고 판단해서는 안 됩니다. ‘코어 프로세스, 로컬 포트, 시스템 프록시, 대상 접속’의 네 단계로 점검하세요. 먼저 로그에 지속적인 오류가 없는지 확인하고, 다음으로 로컬 포트 수신 상태를 확인한 뒤 Windows 프록시 주소를 점검하고, 마지막으로 브라우저에서 프록시가 필요한 사이트에 실제로 접속합니다. 어느 한 단계에서 실패하면 해당 단계에서 해결한 뒤 진행하고 여러 매개변수를 동시에 변경하지 마세요.

시스템 프록시를 해제한 뒤의 동작도 테스트해야 합니다. v2rayN을 종료하기 전에 트레이 메뉴에서 시스템 프록시를 해제하고 Windows 프록시 페이지가 원래대로 돌아왔는지 확인하세요. 프로그램이 비정상적으로 종료된 뒤 이전 프록시 주소가 남아 있으면 브라우저가 이미 닫힌 로컬 포트에 계속 연결을 시도해 모든 웹 페이지가 갑자기 열리지 않을 수 있습니다. 이때 Windows 수동 프록시를 끄면 직접 연결을 복구할 수 있습니다.

1. 메인 화면에서 활성 설정 하나가 명확히 선택되어 있고 메모가 예상한 노드와 일치합니다.
2. 코어 로그에 설정 로드 완료가 표시되고 포트 사용 중 오류나 필드 파싱 오류가 없습니다.
3. Test-NetConnection 127.0.0.1 -Port 10808이 로컬 포트에 연결할 수 있다고 반환되거나 실제 수신 포트로 테스트합니다.
4. Windows 시스템 프록시의 주소가 v2rayN HTTP 수신 설정과 일치합니다.
5. 프록시를 켠 상태에서 브라우저로 대상 사이트에 접속할 수 있고, 프록시를 해제하면 기존 직접 연결 방식으로 돌아갑니다.
6. v2rayN을 재시작한 뒤에도 구독 그룹, 활성 설정과 코어 선택이 올바르게 읽힙니다.