Facebook недавно выпустил модуль для ядра Linux под названием 'FlashCache', который может сделать точно это:
http://github.com/facebook/flashcache
Ознакомьтесь с OpenVPN или некоторыми реализациями IPsec , например Openswan .