用 SSH 登录阿里云 Linux 服务器时,常会用到 .pem 文件。它是 SSH 密钥对中的私钥,通常保存在本地;与之配对的公钥则配置在服务器上。连接时,SSH 客户端会用私钥完成身份验证。
PEM 文件不是服务器地址、用户名或密码,也不能单独保证登录成功。还要确认实例已配置对应的公钥,用户名正确,目标地址和 SSH 端口可访问。手里有一份 pem,不代表它能登录所有阿里云实例。
连接前先核对实例和密钥
- 确认实例系统:这套流程适用于 Linux 实例。Windows 实例通常使用远程桌面等方式,不能直接照搬 SSH 密钥登录步骤。
- 确认密钥匹配:核对创建实例或绑定密钥时使用的密钥对。不同密钥对生成的私钥不能互换。
- 查清登录用户名:用户名取决于镜像和系统设置,常见的有 root、ubuntu 等。以镜像说明或管理员配置为准,别只凭习惯猜测。
- 检查地址和端口:确认实例有可访问的公网 IP 或内网地址,安全组和系统防火墙允许 SSH 通信。默认端口通常是 22,管理员也可能改过。
- 提前保管私钥:创建密钥对后及时下载并安全备份。私钥通常无法从服务器端重新下载;丢失后,需要通过控制台或其他管理方式恢复访问。
Linux 和 macOS:用终端连接
先把 pem 文件放在安全目录,例如用户主目录下的 .ssh 文件夹,再限制文件权限:
chmod 400 ~/.ssh/my-ecs-key.pem
如果私钥允许其他用户读取,SSH 客户端可能会拒绝使用它。权限调整后,用以下命令连接:
ssh -i ~/.ssh/my-ecs-key.pem 用户名@服务器公网IP
例如,实例地址是 203.0.113.10,镜像账户为 ubuntu,私钥文件名为 prod.pem:
ssh -i ~/.ssh/prod.pem ubuntu@203.0.113.10
首次连接时,终端可能询问是否信任服务器指纹。确认目标地址无误后再输入 yes。若 SSH 使用的不是 22 端口,可通过 -p 指定,例如:
ssh -i ~/.ssh/prod.pem -p 2222 ubuntu@203.0.113.10
示例中的文件名、用户名、地址和端口都要按实际情况替换。复制命令时也要留意路径是否正确,尤其是从其他目录运行命令的情况。
Windows:使用 OpenSSH 或图形化工具
较新的 Windows 系统一般自带 OpenSSH 客户端。打开 PowerShell,进入 pem 文件所在目录后,可以运行:
ssh -i .\prod.pem 用户名@服务器公网IP
如果提示私钥权限过宽,在文件属性的“安全”设置中限制访问范围,确保只有当前账户及必要的系统账户能读取。Windows 不同版本的权限设置界面可能略有差异。
部分图形化 SSH 工具要求使用 PPK 格式。可以使用可信的 PuTTYgen 将 pem 私钥转换为 PPK,再在客户端中选择转换后的文件。转换只处理客户端可识别的文件格式,不会替代服务器端的公钥配置。不要把私钥上传到来历不明的网站进行转换。
案例:拿到 pem 后仍然无法登录
一支小型团队新建了阿里云 Linux 实例,把 pem 文件交给负责部署的同事。对方运行 SSH 命令后,先看到“权限过于开放”的提示;调整权限后,又遇到 “Permission denied (publickey)”。
排查时,团队先用 chmod 400 修正本地私钥权限。随后发现命令里的用户名是 root,而该实例镜像的默认账户为 ubuntu;交付的 pem 也不是创建实例时使用的那一份。换成镜像对应的用户名和匹配的私钥后,登录恢复正常。
这类问题看起来都像是“密钥不能用”,原因却可能不同。按本地文件权限、用户名、密钥匹配情况,再到服务器公钥配置和网络连通性逐项检查,通常比一上来重建密钥或改服务器配置更稳妥。
常见报错怎么查
- Permission denied (publickey):先核对用户名和 pem 文件,再确认实例配置了对应公钥。还要检查服务器是否禁止该账户通过 SSH 登录。
- UNPROTECTED PRIVATE KEY FILE:通常是私钥权限过宽。Linux 或 macOS 可使用 chmod 400;Windows 用户应收紧文件访问权限。
- Connection timed out:客户端无法连到目标端口。检查公网 IP、实例状态、安全组、路由和本地网络;如果使用非默认端口,也要确认命令中的端口设置。
- Connection refused:目标地址可达,但端口上可能没有 SSH 服务监听,或系统防火墙拒绝了连接。需要核对 SSH 服务状态和端口配置。
- 无法识别密钥格式:检查文件是否被编辑器改写或损坏,并确认客户端支持该格式。不要把私钥内容发到聊天工具或在线转换页面,尝试“修复”。
私钥保管和团队权限
把 pem 私钥当作重要凭证保管。不要上传到代码仓库、公开网盘链接,也不要在工单或群聊中传播。多人运维时,尽量为每位使用者配置独立身份和密钥,避免共用同一份私钥;人员离职或权限调整后,及时撤销旧密钥并更新授权。
生产服务器还应保留可用的控制台管理或应急恢复路径,并定期检查安全组、登录账户和 SSH 配置。如果怀疑私钥泄露,应尽快停止使用旧密钥,在服务器或云控制台中撤销对应公钥授权,再配置新密钥。只删除本地文件,不能让已经泄露的私钥失效。
连接阿里云服务器时,先确认实例与密钥对匹配,再检查用户名、文件权限和网络端口。遇到报错就按这些条件逐项排查,避免误把网络问题当成密钥损坏。妥善保管私钥,也要确保团队成员只拥有完成工作所需的访问权限。