Es raro ... si el central está bien y el cableado también y no hay ningún pelillo que toque chapa o el polo opuesto, no debería oírse nada.
¿El USB lo pinchas directo al aparato, o usas un cable alargador de USB?
Esa interferencia debe ser causada por algún aparato cercano, algo que tengas enchufado cerca e irradie.
¿Tienes un teléfono inalámbrico por los alrededores?