Olá,

Conforme contato via e-mail acessei seu site e localizei os problemas.

Haviam dois problemas, ambos na configuração dentro de sua conta PagSeguro:

-configuração incorreta do envio do valor do frete.
-configuração incorreta do local do arquivo de processamento de retorno.
Estava setado como "www.seusite.com/administrator/components...rt/pagseg_notify.php"
Porém o correto é "www.seusite.com/site/administrator/components/com_virtuemart/pagseg_notify.php" já que seu site está na pasta "/site".

Abraços

vc me sugeriu não colocar a pasta com os arquivos que disponibilizo para download na pasta httpdocs, pois assim qq pessoa poderia baixa-los.

coloco em qual pasta entuam?

Olá,

Supondo que seu diretório raíz seja "/" e que seu diretório público (do site) seja "/httpdocs" então tudo que estiver neste diretório "/httpdocs" estará acessível pela internet.
Logo você deve colocar seus arquivos em um diretório na raiz como por exemplo "/arquivos" e no caminho dos downloads na configuração do VirtueMart deve colocar "/arquivos"...

Abraços