Esto normalmente se debe a permisos en la cable privada del certificado SSL, tiene que tener permisos 600, en caso contrario dará error. Si se utiliza Letsencrypt, por defecto le da permisos 644 al archivo privkey.pem, pero sendmial no lo permite y da error.