Es Facil, dependiendo del HardWare (Capturadora) y Software (Aplicacion de la capturadora) el metodo puede cambiar, pero las capturadoras USB son casi Plug & Play, Solo instala la aplicacion y la Abres como cualquier otra (En caso de tener Windows Vista, 7 u 8 debes abrirlo como Administrador) despues conectas el USB a algun Puerto (Es recomendable conectar a los puertos traseros si tu PC es de Mesa. En caso de ser un Notebook, que sea el mas cercano a la orilla [El puerto Numero 1]) pero sin tener los cables AV conectados, despues, conectas el Cable Amarillo, despues el Cable Blanco y despues el Rojo y el programa te deberia dar una vista previa.

Eso si, si tu tienes conectado la PS3 a la TV con HDMI, primero deberas resetear la configuracion, aqui tienes 2 formas:

1) la Manual que es conectar la PS3 a la TV con HDMI y con los Cables AV (el Cable amarillo, Rojo y blanco), despues vas a Ajustes>Ajuste de Pantalla Metodo de Salida (O algo que tenga que ver con "Salida", no tengo mi PS3 aqui asi que no te puedo dar la opcion exacta, pero creo que es el primero). Al entrar deberias ver un menu con 3 o 4 opciones y unas imagenes abajo de unos cables, selecciona la opcion llamda "Componentes" (Debe ser la primera) y pones aceptar, entonces se deberia cortar la señal en la TV, entonces rapidamente (tienes solo 25 segundos antes que vuelva a HDMI) en la TV cambias al canal de AV o Componente (Segun el numero del puerto donde los conectaste, puede variar el numero de canal). Cuando lo encuentras presionas "aceptar" y listo, ahora lo puedes conectar al Capturador

2) La Forma Automatica, y es en conectar la PS3 al TV con solo el Cable AV (Sin el HDMI), entonces prendes la PS3 y despues la apagas tras pasar 15 segundos. Cuando pase el tiempo apagada, presionas y Manten pulsado el Boton Power, vas a escuchar unos Pitidos, no te asustes, es normal (No sueltes), pasado unos segundos la PS3 va a soltar otro pitido y se va a apagar (No te asustes de nuevo, es normal), entonces lo prendes normalmente y va a estar configurado en AV y no en HDMI, ahora lo puedes conectar al Capturador.

También existe otra forma que es conectar la PS3 al Capturador y a la TV a la vez (puedes que tenga problemas con el video grabado, pero se puede grabar mejor ya que puedes ver la imagen en directo en la TV y no en la pantalla pequeña que te da la Aplicacion. Mira ESTE Video.

En caso de que esto no lo solucione, por favor pon mas Detalles como

Cual era la configuracion de la Imagen antes de usar el Capturador o cualquier cosa que nos pueda ayudar a identificar el problema.

Saludos y Suerte