🔴 👃🏽 💩 [UPD] GlusterFS के साथ बढ़ते हुए ⛹🏻 🧑🏿‍🤝‍🧑🏻 🤴🏿

सभी को नमस्कार।

जिस कंपनी में मैं काम करता हूं वह क्रमशः गतिशील रूप से विकसित हो रही है, और सर्वर और उपयोगकर्ताओं की संख्या बढ़ रही है। सुलह के मुद्दे पहले की तुलना में अधिक प्रासंगिक होते जा रहे हैं।
ऐतिहासिक रूप से, कुछ डेटा फाइलों में है और क्लाइंट एनएफएस के माध्यम से बैकएंड से जुड़ते हैं। हालाँकि, मैं नहीं चाहता था कि केंद्रीय सर्वर विफल हो जाए।
रुपी-विकल्प-उथले तुरंत। अन्य लोगों के प्रश्न और अनुभव के साथ-साथ कुछ s3fs परीक्षणों का अध्ययन करने के बाद, जिस तरह से वितरित भंडारण के लिए नंबर 1 उम्मीदवार था, GlusterFS को चुना गया था।

विवरण में जाने के बिना, वैसे, आप मुख्य साइट पर लिंक पर पा सकते हैं, समुदाय कहेंगे कि इस तरह का भंडार हमारे उद्देश्यों के लिए काफी उपयुक्त था। GlusterFS की मुख्य विशेषता यह है कि क्लाइंट वर्तमान में उपलब्ध किसी भी विज़ार्ड को लिखता है, और ऑपरेशन में वापस आने के बाद इसे दुर्गम में प्रतिकृति बनाता है।

तो चलिए शुरू करते हैं सेटअप के साथ। मैं एक आरक्षण बनाऊंगा कि पुराने एनएफएस ने भी सर्वर पर काम किया था, वे एक ही मशीन पर काफी मिल जाते हैं। एनएफएस से संक्रमण के दौरान हमें इसकी आवश्यकता थी।

सर्वर स्थापित करें:

aptitude install glusterfs-server

हम विन्यास का वर्णन करते हैं (/etc/glusterfs/glusterfsd.vol):

 volume posix type storage/posix option directory /mnt/Files end-volume volume locks type features/locks subvolumes posix end-volume volume Files type performance/io-threads option thread-count 8 subvolumes locks end-volume volume server type protocol/server option transport-type tcp option auth.login.Files.allow user #     login+password option auth.login.user.password secret_pass subvolumes Files end-volume

दूसरे सर्वर पर glusterfs-server पैकेज और config (/etc/glusterfs/glusterfsd.vol) को डुप्लिकेट करें।

क्लाइंट स्थापित करें:

 aptitude install glusterfs-client

हम क्लाइंट के लिए विन्यास का वर्णन करते हैं (/etc/glusterfs/glusterfs.vol):

 volume server1.com type protocol/client option transport-type tcp option username user option password secret_pass option remote-host 10.132.259.159 # server1.com option remote-subvolume Files end-volume volume server2.com type protocol/client option transport-type tcp option username user option password secret_pass option remote-host 10.184.179.175 # server2.com option remote-subvolume Files end-volume volume replicate type cluster/replicate subvolumes server1.com server2.com end-volume volume writebehind type performance/write-behind option cache-size 1MB subvolumes replicate end-volume volume cache type performance/io-cache option cache-size 512MB subvolumes writebehind end-volume

फ्यूज मॉड्यूल लोड हो रहा है

 modprobe fuse

FS को माउंट करने का प्रयास करें

 /usr/sbin/glusterfs -f /etc/glusterfs/glusterfs.vol /mnt/Files df -h /etc/glusterfs/glusterfs.vol 199G 120G 70G 64% /mnt/Files

अब एक छोटी सी रेक के बारे में। Glst-FS को रिस्टूट पर fstab के माध्यम से नहीं लगाया जाता है, क्योंकि फ्यूज मॉड्यूल स्वचालित रूप से लोड नहीं होता है। आप कर्नेल का पुनर्निर्माण कर सकते हैं, लेकिन हम इसे आसान करेंगे।
अंत में / etc / initramfs-tools / मॉड्यूल जोड़ें:

 fuse

हम बाहर ले:

 update-initramfs -u -k `uname -r`

/ Etc / fstab में जोड़ें:

 /etc/glusterfs/glusterfs.vol /mnt/Files glusterfs defaults 0 0

रिबूट और लाभ।

खैर, परीक्षणों के बारे में प्रश्नों का अनुमान लगाते हुए, मैं कुछ संकेत दे दूंगा, Gluster-fs बनाम NFS बनाम POHHELFS। फ़ाइल का वजन ~ 700Mb।

GlusterFS:

 root@domU-12-41-56-0F-34-81:~# time cat /mnt/Files/ubuntu-11.10-desktop-amd64+mac.iso > /dev/null real 0m28.101s user 0m0.000s sys 0m4.700s root@domU-12-41-56-0F-34-81:~# time cat /mnt/Files/ubuntu-11.10-desktop-amd64+mac.iso > /dev/null real 0m20.321s user 0m0.000s sys 0m2.030s root@domU-12-41-56-0F-34-81:~# time cat /mnt/Files/ubuntu-11.10-desktop-amd64+mac.iso > /dev/null real 0m36.444s user 0m0.000s sys 0m1.410s

POHMELFS (यहां से लिया गया POHMELFS: NFS एक नए तरीके से ):

 stolen@stolen ~/soft/pohmelfs-server.git $ time cat /mnt/pohmel/share/GRTMPVOL_RU_20.10.08.iso >/dev/null real 1m37.150s user 0m0.010s sys 0m1.270s stolen@stolen ~/soft/pohmelfs-server.git $ time cat /mnt/pohmel/share/GRTMPVOL_RU_20.10.08.iso >/dev/null real 0m0.591s user 0m0.003s sys 0m0.257s stolen@stolen ~/soft/pohmelfs-server.git $ time cat /mnt/upload/share/GRTMPVOL_RU_20.10.08.iso >/dev/null real 1m3.719s user 0m0.003s sys 0m0.400s

एनएफएस:

 root@domU-12-41-56-0F-34-81:run$ time cat /mnt/Files/ubuntu-11.10-desktop-amd64+mac.iso > /dev/null real 0m15.220s user 0m0.008s sys 0m0.423s root@domU-12-41-56-0F-34-81:run$ time cat /mnt/Files/ubuntu-11.10-desktop-amd64+mac.iso > /dev/null real 0m16.139s user 0m0.005s sys 0m0.160s root@domU-12-41-56-0F-34-81:run$ time cat /mnt/Files/ubuntu-11.10-desktop-amd64+mac.iso > /dev/null real 0m18.812s user 0m0.006s sys 0m0.177s

छोटी फाइलों पर टेस्ट GlusteFS बनाम NFS।
इन उद्देश्यों के लिए, मैंने एक स्क्रिप्ट को स्केच किया जो 700 फाइलों को उत्पन्न करती है और थोड़ी सामग्री के साथ रोकती है:

 #!/bin/bash count=0 while [ $count -lt 700 ] do touch small_files/$count.txt openssl rand -base64 $[$count*42] > /root/small_files/$count.txt count=$[$count+1] done

GlusterFS, कॉपी:

 root@domU-12-31-36-0F-71-81:~# time cp /root/small_files/* /mnt/Files/test_small/ real 0m28.318s user 0m0.010s sys 0m0.160s root@domU-12-31-36-0F-71-81:~# time cp /root/small_files/* /mnt/Files/test_small/ real 0m27.432s user 0m0.000s sys 0m0.170s root@domU-12-31-36-0F-71-81:~# time cp /root/small_files/* /mnt/Files/test_small/ real 0m29.397s user 0m0.010s sys 0m0.150s

एनएफएस कॉपी:

 root@domU-12-41-39-01-D1-71:~# time cp /root/small_files/* /mnt/Files/test_small/ real 0m15.848s user 0m0.008s sys 0m0.061s root@domU-12-41-39-01-D1-71:~# time cp /root/small_files/* /mnt/Files/test_small/ real 0m12.792s user 0m0.002s sys 0m0.070s root@domU-12-41-39-01-D1-71:~# time cp /root/small_files/* /mnt/Files/test_small/ real 0m13.417s user 0m0.006s sys 0m0.049s

GlusterFS, हटाना:

 root@domU-12-31-36-0F-71-81:~# time rm /mnt/Files/test_small/* real 0m5.050s user 0m0.060s sys 0m0.000s root@domU-12-31-36-0F-71-81:~# time rm /mnt/Files/test_small/* real 0m7.055s user 0m0.000s sys 0m0.060s root@domU-12-31-36-0F-71-81:~# time rm /mnt/Files/test_small/* real 0m5.300s user 0m0.040s sys 0m0.020s

एनएफएस हटाने:

 root@domU-12-41-39-01-D1-71:~# time rm /mnt/Files/test_small/* real 0m4.861s user 0m0.003s sys 0m0.013s root@domU-12-41-39-01-D1-71:~# time rm /mnt/Files/test_small/* real 0m3.618s user 0m0.002s sys 0m0.007s root@domU-12-41-39-01-D1-71:~# time rm /mnt/Files/test_small/* real 0m4.297s user 0m0.003s sys 0m0.024s

UPD: NFS और GlusterFS के लिए छोटी फ़ाइलों पर जोड़े गए परीक्षण।

[UPD] GlusterFS के साथ बढ़ते हुए

More articles: