SSH 접속 안될 때 원인별 해결 방법 (Permission denied 포함 완벽 가이드)

SSH 접속 안될 때 가장 먼저 확인해야 할 것

서버(Server)를 운영하다 보면 가장 자주 겪는 문제가 바로 SSH 접속 안됨입니다.
특히 “Permission denied”, “Connection refused”, “Timeout” 같은 에러는 초보자뿐 아니라 경험자도 자주 막히는 부분입니다.

이 글에서는 실제로 많이 발생하는 SSH 접속 문제를 원인별로 나누어 해결 방법을 정리합니다.

---

실제 문제 상황

서버(Server)에 접속하려고 다음 명령어를 입력했는데 문제가 발생합니다.

ssh user@서버IP

다음과 같은 에러가 나타날 수 있습니다.

• Permission denied
• Connection refused
• Connection timed out

각 에러는 원인이 다르기 때문에 정확하게 구분하는 것이 중요합니다.

---

1. Permission denied 오류 해결 방법

가장 많이 발생하는 SSH 접속 오류입니다.

원인

• 비밀번호 입력 오류
• SSH 키 설정 문제
• 사용자 계정 권한 문제

---

해결 방법

1) 사용자 이름 확인

ssh ubuntu@서버IP

서버(Server)마다 기본 계정이 다릅니다.

• Ubuntu → ubuntu
• AWS → ec2-user
• 기타 → root 또는 custom

---

2) SSH 키 권한 문제 해결

chmod 400 key.pem

권한이 잘못되면 접속이 거부됩니다.

---

3) authorized_keys 확인

서버 내부 파일 확인:

~/.ssh/authorized_keys

키가 등록되어 있어야 정상 접속됩니다.

---

2. Connection refused 오류 해결 방법

이 에러는 서버(Server)가 SSH 요청을 거부하는 경우입니다.

원인

• SSH 서비스 미실행
• 포트 변경 후 설정 미반영
• 방화벽 차단

---

해결 방법

1) SSH 서비스 상태 확인

sudo systemctl status ssh

실행 중이 아니면:

sudo systemctl start ssh

---

2) 포트 변경 여부 확인

sudo nano /etc/ssh/sshd_config

포트가 22가 아닌 경우:

ssh -p 2222 user@서버IP

---

3) 방화벽 확인

sudo ufw status

필요한 포트 허용:

sudo ufw allow 22

---

3. Connection timed out 오류 해결 방법

이 에러는 서버(Server)까지 연결 자체가 안되는 경우입니다.

원인

• 네트워크 문제
• 포트포워딩 미설정
• 공인 IP 문제

---

해결 방법

1) 서버 ping 확인

ping 서버IP

응답이 없으면 네트워크 문제입니다.

---

2) 포트포워딩 확인

공유기에서 22번 포트가 서버(Server)로 연결되어 있어야 합니다.

---

3) 클라우드 보안 그룹 확인

AWS 등에서는 인바운드 규칙 확인 필요

• 포트 22 허용
• IP 허용 범위 확인

---

4. SSH 키로 접속 안될 때 해결 방법

키 인증 설정 후 접속이 안되는 경우도 많습니다.

원인

• 키 파일 불일치
• 권한 문제
• 경로 오류

---

해결 방법

ssh -i key.pem user@서버IP

---

권한 설정

chmod 400 key.pem

---

5. root 접속 막혀서 접속 안되는 경우

보안 설정 중 root 접속을 막은 경우 발생합니다.

해결 방법

일반 사용자로 접속 후 sudo 사용

또는 설정 확인:

sudo nano /etc/ssh/sshd_config

PermitRootLogin no

---

실제 경험 기반 해결 흐름

SSH 접속이 안될 때는 아래 순서대로 확인하면 대부분 해결됩니다.

1. 사용자 계정 확인
2. SSH 키 및 비밀번호 확인
3. SSH 서비스 실행 여부 확인
4. 포트 및 방화벽 확인
5. 네트워크 연결 확인

이 순서로 점검하면 불필요한 시간 낭비를 줄일 수 있습니다.

---

초보자가 가장 많이 하는 실수

포트 변경 후 접속 실패

포트를 변경하고 -p 옵션을 안 쓰는 경우

---

키 권한 설정 안함

권한이 400이 아니면 접속이 거부됨

---

방화벽 설정 누락

포트가 열려 있지 않으면 연결 불가

---

SSH 접속 문제 체크리스트

• SSH 서비스 실행 중인가
• 포트가 열려 있는가
• 사용자 계정이 맞는가
• 키 권한이 올바른가
• 네트워크 연결이 정상인가

---

핵심 요약

• SSH 접속 안됨 문제는 대부분 설정 문제이다
• 에러 메시지에 따라 원인을 구분해야 한다
• Permission denied → 인증 문제
• Connection refused → 서비스 문제
• Timeout → 네트워크 문제

---

마무리

SSH 접속 문제는 서버(Server)를 운영하면서 반드시 겪게 되는 과정입니다.
중요한 것은 에러 메시지를 정확히 이해하고 원인별로 접근하는 것입니다.

한 번 해결 과정을 경험하면 이후에는 훨씬 빠르게 문제를 해결할 수 있습니다.