Что касается unrecognized packet возможно на циске включен какой-то extension. Это можно поисследовать, но это врядли причина 40%-й потери.
Теперь касательно потерь, чем проводится измерение? Если простым ping-ом то какая активность канала в это время, есть ли какие-либо странности в самой системе.
Для наблюдения за активность канала есть много интересных средст, например, iptraf.