dCache - भंडारण जहां HIGGs रहते हैं

हाल ही में, CERN और लार्ज हेड्रॉन कोलाइडर (LHC या LHC) के बारे में बड़ी संख्या में पोस्ट किए गए हैं। लेकिन बहुत से लोग नहीं जानते हैं कि LHC प्रति वर्ष ~ 20 PB डेटा का उत्पादन करता है। सभी डेटा का लगभग 50% dCache में संग्रहीत किया जाता है।

dCache एक वितरित स्टोरेज सिस्टम है जो नए नोड्स को जोड़कर विस्तार करने की क्षमता के साथ, साधारण हार्डवेयर पर काम कर सकता है। नोड पर काम करने के लिए आवश्यक सभी JVM है (चूंकि सब कुछ जावा में लिखा गया है) और फ़ाइल सिस्टम, जहां, वास्तव में, डेटा संग्रहीत है। विशिष्ट इंस्टॉलेशन क्रमशः लिनक्स (आरएचईएल / एसएल / सेंटो 6) या एक्सएफएस या जेडएफएस के साथ सोलारिस का उपयोग करते हैं। प्रयोगात्मक डेटा की प्रकृति के कारण, dCache संग्रहीत फ़ाइलों को बदलने के लिए प्रदान नहीं करता है।

dCache को 2000 से विकसित किया गया है और 2002 से इसका उपयोग रूस सहित दुनिया के 80 से अधिक वैज्ञानिक केंद्रों में किया गया है। सबसे छोटी प्रणालियों में कई टीबी में एक नोड होता है, जिसमें 22 पीबी के कुल डिस्क स्थान के साथ ~ 500 नोड्स का सबसे बड़ा होता है।



छवि

dCache विभिन्न डेटा एक्सेस प्रोटोकॉल का समर्थन करता है। व्यापक मानक प्रोटोकॉलों के साथ-साथ WebDAV, FTP, NFSv4.1 / pNFS , ग्रिड प्रोटोकॉल SRM और GRIDFTP का भी उपयोग किया जाता है

DCache का सबसे सरल अनुप्रयोग एक वितरित WebDAV सर्वर है। इसके आधार पर, आप अपना स्वयं का क्लाउड स्टोरेज बना सकते हैं, विशेष रूप से चूंकि HTTP और WebDAV का उपयोग करने वाले पहले से ही पर्याप्त संख्या में ग्राहक हैं।

हम एक अधिक सामान्य अनुप्रयोग - वितरित NFSv4.1 भंडारण पर विचार करेंगे।

DCache मेटाडेटा को संग्रहीत करने के लिए postgresql का उपयोग करता है।
तो चलिए शुरू करते हैं:
# yum install postgresql-server # yum install java-1.7.0-openjdk # yum install http://www.dcache.org/downloads/1.9/repo/2.6/dcache-2.6.10-1.noarch.rpm # /etc/init.d/postgresql initdb 


/Var/lib/pgsql/data/postgresql.conf TCP सक्षम करें:
listen_addresses = 'localhost'

/Var/lib/pgsql/data/pg_hba.conf जोड़ें
 host all all 127.0.0.1/32 trust # IPv6 local connections: host all all ::1/128 trust 


 # /etc/init.d/postgresql restart # su postgres -c "createuser -D -R -S chimera" # su postgres -c "createdb -O chimera chimera" # su postgres -c "createlang plpgsql chimera" 


सभी कॉन्फ़िगरेशन फ़ाइलें / etc / dcache निर्देशिका में हैं। हम उनमें से केवल एक में रुचि रखते हैं: /etc/dcache/layout/single.conf, जहां उन सेवाओं का विवरण है जो इस नोड पर चलना चाहिए।

हम dCache को बताते हैं कि /etc/dcache/layouts/single.conf में क्या काम करना चाहिए:

 [dCacheDomain] [dCacheDomain/admin] [dCacheDomain/broadcast] [dCacheDomain/poolmanager] [dCacheDomain/loginbroker] [dCacheDomain/pnfsmanager] [dCacheDomain/cleaner] [dCacheDomain/httpd] [dCacheDomain/topo] [dCacheDomain/nfsv41] 

यह कॉन्फ़िगरेशन संबंधित सेवाओं के साथ dCacheDomain (प्रत्येक डोमेन - एक JVM, एक प्रक्रिया) बनाता है।

और उसी नोड पर दिनांक सर्वर को कॉन्फ़िगर करें:
# dcache pool create /srv/dcache pool1 pool1Domain

यह कमांड विन्यास फाइल पूल 1 में जोड़ेगा। पूल 1 नामक टाइप डेट सर्वर की सेवा के साथ:
 [pool1Domain] [pool1Domain/pool] name=pool1 path=/srv/dcache waitForFiles=${path}/data 


एक निर्देशिका बनाएँ:
# chimera-cli mkdir /data<br>
# chimera-cli chmod /data 777


और निर्यात / आदि / निर्यात करने के लिए:
/data *(rw)

हम शुरू करते हैं:
# dcache start
लॉग फाइलें / var / log / dcache में स्थित हैं।

चूंकि dCache एक वितरित संग्रहण है, इसलिए हमें NFS क्लाइंट की आवश्यकता है जो pNFS (समानांतर NFS) का समर्थन करता है। यह RHEL / CentOS 6 या कोई अन्य आधुनिक लिनक्स वितरण है:

# mount -overs=4.1 :/data /data

, , , openjdk dcache,
/etc/dcache/layouts/single.conf :
dcache.broker.host= :
# dcache pool create /srv/dcache pool2 pool2Domain

, .

To steal and contribute code
dCache- , , AGPL, LGPL BSD.

:
www.dcache.org
https://github.com/dCache/dcache

, .
# mount -overs=4.1 :/data /data

, , , openjdk dcache,
/etc/dcache/layouts/single.conf :
dcache.broker.host= :
# dcache pool create /srv/dcache pool2 pool2Domain

, .

To steal and contribute code
dCache- , , AGPL, LGPL BSD.

:
www.dcache.org
https://github.com/dCache/dcache

, .
# mount -overs=4.1 :/data /data

, , , openjdk dcache,
/etc/dcache/layouts/single.conf :
dcache.broker.host= :
# dcache pool create /srv/dcache pool2 pool2Domain

, .

To steal and contribute code
dCache- , , AGPL, LGPL BSD.

:
www.dcache.org
https://github.com/dCache/dcache

, .
# mount -overs=4.1 :/data /data

, , , openjdk dcache,
/etc/dcache/layouts/single.conf :
dcache.broker.host= :
# dcache pool create /srv/dcache pool2 pool2Domain

, .

To steal and contribute code
dCache- , , AGPL, LGPL BSD.

:
www.dcache.org
https://github.com/dCache/dcache

, .
# mount -overs=4.1 :/data /data

, , , openjdk dcache,
/etc/dcache/layouts/single.conf :
dcache.broker.host= :
# dcache pool create /srv/dcache pool2 pool2Domain

, .

To steal and contribute code
dCache- , , AGPL, LGPL BSD.

:
www.dcache.org
https://github.com/dCache/dcache

, .

Source: https://habr.com/ru/post/In196584/


All Articles