Como tienes configurado el Router?, Tienes activado el DHCP o tienes tu que poner manualmente la IP a los dispositivos que se conectan? En principio en la configuración de la consola la IP que tiene que aparecer en el campo DNS es la IP de tu router (la IP privada, que sera una 192.x.x.x o una 172.x.x.x, no la IP publica)

Te recomendaría que temporalmente dejes abierto el Wifi para hacer pruebas y que una vez que ya te consiga conectar la PS3 pongas el cifrado en WPA.

Salu2