La plupart des cartes son modernes peuvent supporter nativement les fréquences d'échantillonnage les plus courantes (celles que vous mentionnez) sans perte de qualité. Et comme l'indique l'utilisateur55325, tout ce qui dépasse 44,1 kHz n'est pas vraiment nécessaire pour l'oreille humaine (normale). La plupart des pertes de qualité subies avec l'audio numérique commencent après la conversion du son numérique en analogique, et dépendent des filtres utilisés (une bonne conversion numérique -> analogique nécessite un filtre pour supprimer les effets de numérisation des hautes fréquences), de l'amplificateur, et surtout des haut-parleurs (ou des écouteurs ou …)
Un autre élément qui influencera la qualité est : Utilisez-vous une compression sur ces fichiers audio (MP3, WMA, Flac …), si oui, alors la plupart du temps (sauf quand vous utilisez un format de compression sans perte) cette compression influencera la qualité plus que la fréquence d'échantillonnage choisie.
Si vous n'utilisez aucune forme de compression (ou si vous utilisez une compression sans perte), je conserverai les fichiers dans le format que je leur ai donné, car toute manipulation de la fréquence d'échantillonnage entraînera une légère dégradation de la qualité (plus notable lorsque le downsampling = passage d'une fréquence plus élevée à une fréquence plus basse ; et le upsampling ne vous apportera aucun avantage - vous ne pouvez pas améliorer la qualité du son au-dessus de la qualité de l'original). Le suréchantillonnage présente également l'inconvénient des fichiers plus volumineux, de sorte que vous aurez besoin de plus d'espace disque pour contenir les mêmes fichiers.
A propos des fichiers 96 kHz : ceux-ci peuvent parfaitement être utilisés pour un traitement ultérieur, c'est (un des) format(s) que les studios utilisent lorsqu'ils font un enregistrement (la plupart multipistes) et combinent ensuite tout cela pour le mettre sur un CD (à 44,1 kHz) ou dans un film (48 kHz). Lorsque vous les avez dans ce format, je les garderais comme ça, sauf si vous avez besoin de l'espace disque, mais je ne l'utiliserais jamais comme format pour tous mes fichiers.