<div dir="ltr"><div><div><div>given what the drive arrays are used for, dedup is a big plus (people make copies and copies of research files like drive space is $0!). And, yeah, even with no dedup, 32G is not going to cut it anyway.<br>
<br></div>The checksums for RAID6 are the same as in raidz2. <br><br></div>I found a 250G SSD but can&#39;t use it. I have one other system I can put it on but it has not enough PCIe slots for the need. <br><br></div>the solution to all of this is $$$$$ for new system :-(<br>
</div><div class="gmail_extra"><br><br><div class="gmail_quote">On Fri, Apr 19, 2013 at 11:58 AM, Derek Atkins <span dir="ltr">&lt;<a href="mailto:warlord@mit.edu" target="_blank">warlord@mit.edu</a>&gt;</span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Jim,<br>
<div class="im"><br>
Jim Kinney &lt;<a href="mailto:jim.kinney@gmail.com">jim.kinney@gmail.com</a>&gt; writes:<br>
<br>
&gt; After much research, I have decided to NOT implement ZFS. The main factors of<br>
&gt; interest were the raidz2 and data deduplication. In order to support the<br>
&gt; deduplication,the server needs 5G RAM per 1TB storage. That&#39;s a deal breaker<br>
&gt; right there as the system to be used will only support 32G and has 50TB.<br>
&gt; Raidz2 is basically software RAID6 which I can already do.<br>
&gt;<br>
&gt; Looked at getting an SSD for the deduplication data and using l2arc but I have<br>
&gt; no space to install it on that server. Grr.<br>
<br>
</div>Do you really feel you need ZFS deduplication?  According to<br>
<a href="http://doc.freenas.org/index.php/Hardware_Recommendations" target="_blank">http://doc.freenas.org/index.php/Hardware_Recommendations</a> you only need<br>
5GB/TB if you&#39;re using dedup.  If you&#39;re just using ZFS then they<br>
recommend 1GB/TB.  Granted, if you&#39;ve got 50TB of data then a 32GB<br>
memory limit wont be useful to you.<br>
<br>
However, thank you for making me look at that; I was considering a<br>
32GB-limit Mobo for my system, which I was expecting to start at 12TB<br>
usable but potentially expanding to 96TB.  I don&#39;t think a 96TB ZFS<br>
would work well with 32GB memory.<br>
<br>
OTOH, is ZFS really only just &quot;RAID6&quot;?  I thought that the ZFS checksums<br>
would provide improved data integrity (scrubbing) over pure RAID6?<br>
<span class="HOEnZb"><font color="#888888"><br>
-derek<br>
</font></span><div class="HOEnZb"><div class="h5"><br>
&gt; On Fri, Mar 29, 2013 at 3:10 PM, Ed Cashin &lt;<a href="mailto:ecashin@noserose.net">ecashin@noserose.net</a>&gt; wrote:<br>
&gt;<br>
&gt;     Thanks in advance for the notes you take.  I&#39;m interested to hear what you<br>
&gt;     find.<br>
&gt;<br>
&gt;     By the way, work sent me to a Nexenta course in 2010 where I learned ZFS<br>
&gt;     stuff from Richard Elling:<br>
&gt;<br>
&gt;       <a href="http://www.richardelling.com/" target="_blank">http://www.richardelling.com/</a><br>
&gt;<br>
&gt;     ... and one thing that kept coming up is how users usually reach for the<br>
&gt;     RAID-Z options when stripes of mirrors would perform better and offer more<br>
&gt;     flexibility.  I thought that was notable.<br>
&gt;<br>
&gt;     On Fri, Mar 29, 2013 at 2:44 PM, Jim Kinney &lt;<a href="mailto:jim.kinney@gmail.com">jim.kinney@gmail.com</a>&gt; wrote:<br>
&gt;<br>
&gt;         There was an update to this that just hit /.<br>
&gt;<br>
&gt;         WooHoo!<br>
&gt;<br>
&gt;         I have not used ZFS (minimal solaris experience) before but I have a<br>
&gt;         situation where raidz looks like a very good choice. An external 16<br>
&gt;         bay JBOD box hanging off a SAS HBA looks like a prime candidate. The<br>
&gt;         big issue for me is the support for native NFSv4 ACLs which solves<br>
&gt;         some issues.<br>
&gt;<br>
&gt;         As I go through this exercise, I&#39;ll keep some notes and maybe look at<br>
&gt;         a presentation on doing this.<br>
&gt;<br>
&gt;         hints, gotcha&#39;s, are very welcome.<br>
&gt;<br>
&gt;         I did find a pdf of the zfsadmin.pdf  <a href="http://pdfhome.org/zfsadmin.pdf" target="_blank">http://pdfhome.org/zfsadmin.pdf</a><br>
&gt;<br>
&gt;         --<br>
&gt;         --<br>
&gt;         James P. Kinney III<br>
&gt;<br>
&gt;         Every time you stop a school, you will have to build a jail. What you<br>
&gt;         gain at one end you lose at the other. It&#39;s like feeding a dog on his<br>
&gt;         own tail. It won&#39;t fatten the dog.<br>
&gt;         - Speech 11/23/1900 Mark Twain<br>
&gt;<br>
&gt;         <a href="http://electjimkinney.org" target="_blank">http://electjimkinney.org</a><br>
&gt;         <a href="http://heretothereideas.blogspot.com/" target="_blank">http://heretothereideas.blogspot.com/</a><br>
&gt;<br>
&gt;         _______________________________________________<br>
&gt;         Ale mailing list<br>
&gt;         <a href="mailto:Ale@ale.org">Ale@ale.org</a><br>
&gt;         <a href="http://mail.ale.org/mailman/listinfo/ale" target="_blank">http://mail.ale.org/mailman/listinfo/ale</a><br>
&gt;         See JOBS, ANNOUNCE and SCHOOLS lists at<br>
&gt;         <a href="http://mail.ale.org/mailman/listinfo" target="_blank">http://mail.ale.org/mailman/listinfo</a><br>
&gt;<br>
&gt;     --<br>
&gt;       Ed Cashin &lt;<a href="mailto:ecashin@noserose.net">ecashin@noserose.net</a>&gt;<br>
&gt;       <a href="http://noserose.net/e/" target="_blank">http://noserose.net/e/</a><br>
&gt;       <a href="http://www.coraid.com/" target="_blank">http://www.coraid.com/</a><br>
&gt;<br>
&gt;     _______________________________________________<br>
&gt;     Ale mailing list<br>
&gt;     <a href="mailto:Ale@ale.org">Ale@ale.org</a><br>
&gt;     <a href="http://mail.ale.org/mailman/listinfo/ale" target="_blank">http://mail.ale.org/mailman/listinfo/ale</a><br>
&gt;     See JOBS, ANNOUNCE and SCHOOLS lists at<br>
&gt;     <a href="http://mail.ale.org/mailman/listinfo" target="_blank">http://mail.ale.org/mailman/listinfo</a><br>
&gt;<br>
&gt; --<br>
&gt; --<br>
&gt; James P. Kinney III<br>
&gt;<br>
&gt; Every time you stop a school, you will have to build a jail. What you gain at<br>
&gt; one end you lose at the other. It&#39;s like feeding a dog on his own tail. It<br>
&gt; won&#39;t fatten the dog.<br>
&gt; - Speech 11/23/1900 Mark Twain<br>
&gt;<br>
&gt; <a href="http://electjimkinney.org" target="_blank">http://electjimkinney.org</a><br>
&gt; <a href="http://heretothereideas.blogspot.com/" target="_blank">http://heretothereideas.blogspot.com/</a><br>
&gt;<br>
&gt; _______________________________________________<br>
&gt; Ale mailing list<br>
&gt; <a href="mailto:Ale@ale.org">Ale@ale.org</a><br>
&gt; <a href="http://mail.ale.org/mailman/listinfo/ale" target="_blank">http://mail.ale.org/mailman/listinfo/ale</a><br>
&gt; See JOBS, ANNOUNCE and SCHOOLS lists at<br>
&gt; <a href="http://mail.ale.org/mailman/listinfo" target="_blank">http://mail.ale.org/mailman/listinfo</a><br>
<br>
--<br>
</div></div><div class="im HOEnZb">       Derek Atkins, SB &#39;93 MIT EE, SM &#39;95 MIT Media Laboratory<br>
       Member, MIT Student Information Processing Board  (SIPB)<br>
       URL: <a href="http://web.mit.edu/warlord/" target="_blank">http://web.mit.edu/warlord/</a>    PP-ASEL-IA     N1NWH<br>
       <a href="mailto:warlord@MIT.EDU">warlord@MIT.EDU</a>                        PGP key available<br>
<br>
</div><div class="HOEnZb"><div class="h5">_______________________________________________<br>
Ale mailing list<br>
<a href="mailto:Ale@ale.org">Ale@ale.org</a><br>
<a href="http://mail.ale.org/mailman/listinfo/ale" target="_blank">http://mail.ale.org/mailman/listinfo/ale</a><br>
See JOBS, ANNOUNCE and SCHOOLS lists at<br>
<a href="http://mail.ale.org/mailman/listinfo" target="_blank">http://mail.ale.org/mailman/listinfo</a><br>
</div></div></blockquote></div><br><br clear="all"><br>-- <br>-- <br>James P. Kinney III<br><i><i><i><i><br></i></i></i></i>Every time you stop a school, you will have to build a jail. What you 
        gain at one end you lose at the other. It&#39;s like feeding a dog on his 
        own tail. It won&#39;t fatten the dog.<br>

        - Speech 11/23/1900 Mark Twain<br><i><i><i><i><br><a href="http://electjimkinney.org" target="_blank">http://electjimkinney.org</a><br><a href="http://heretothereideas.blogspot.com/" target="_blank">http://heretothereideas.blogspot.com/</a><br>
</i></i></i></i>
</div>