hi,
zum thema zfs und ram ist dieser beitrag ganz interessant:
[H]ard|Forum - View Single Post - When will ZFS use RAM ?
wenn du zeit und bock auf basteln hast, dann würde ich auf ein linux/bsd deiner wahl zurückgreifen.....
dann kannst du z.b. auch auf dem recht starken rechner virtualisieren (mit lxc oder kvm).
sonst wie hier schon erwähnt whs2011, freenas oder omv.