
рд╣рдореЗрдВ рдХреЗрд╡рд▓ рд╕рд┐рдл рдПрдлрдПрд╕ рд╡рд┐рддрд░рд┐рдд рдлрд╝рд╛рдЗрд▓ рд╕рд┐рд╕реНрдЯрдо рдХреЛ рдмрдврд╝рд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдХреБрдЫ рдорд┐рдирдЯреЛрдВ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реИ
рддреНрд╡рд░рд┐рдд рд╕рдВрджрд░реНрдн
рд╕реЗрдлрд╝ рд▓рдЪреАрд▓реА, рдЖрд╕рд╛рдиреА рд╕реЗ рд╕реНрдХреЗрд▓реЗрдмрд▓ рдкреЗрдЯрд╛рдмрд╛рдЗрдЯ рднрдВрдбрд╛рд░рдг рдХрд╛ рдПрдХ рдЦреБрд▓рд╛ рд╕реНрд░реЛрдд рд╡рд┐рдХрд╛рд╕ рд╣реИред рдЖрдзрд╛рд░ рд╡рд╕реНрддреБ рднрдВрдбрд╛рд░рдг рдореЗрдВ рдХрдИ рджрд░реНрдЬрди рд╕рд░реНрд╡рд░реЛрдВ рдХреЗ рдбрд┐рд╕реНрдХ рд╕реНрдерд╛рди рдХрд╛ рд╕рдВрдШ рд╣реИ, рдЬреЛ рд▓рдЪреАрд▓реЗ рдПрдХрд╛рдзрд┐рдХ рдЫрджреНрдо рдЖрдпрд╛рдореА рдбреЗрдЯрд╛ рдкреБрдирд░реНрд╡рд┐рддрд░рдг рдХреЗ рд▓рд┐рдП рдЕрдиреБрдорддрд┐ рджреЗрддрд╛ рд╣реИред рд╕рд┐рдл рдбреЗрд╡рд▓рдкрд░реНрд╕ рддреАрди рдФрд░ рдкрд░рд┐рдпреЛрдЬрдирд╛рдУрдВ рдХреЗ рд╕рд╛рде рдЗрд╕ рдСрдмреНрдЬреЗрдХреНрдЯ рд╕реНрдЯреЛрд░ рдХреЛ рдкреВрд░рдХ рдХрд░рддреЗ рд╣реИрдВ:
- RADOS рдЧреЗрдЯрд╡реЗ - S3- рдФрд░ рд╕реНрд╡рд┐рдлреНрдЯ-рд╕рдВрдЧрдд RESTful рдЗрдВрдЯрд░рдлрд╝реЗрд╕
- рдЖрд░рдмреАрдбреА - рдкрддрд▓реА рд╡рд┐рдХрд╛рд╕ рдФрд░ рд╕реНрдиреИрдкрд╢реЙрдЯ рдХреЗ рд╕рдорд░реНрдерди рдХреЗ рд╕рд╛рде рдПрдХ рдмреНрд▓реЙрдХ рдбрд┐рд╡рд╛рдЗрд╕
- рд╕реАрдПрдлрдПрд╕ рдПрдлрдПрд╕ - рд╡рд┐рддрд░рд┐рдд рдкреЛрд╕рд┐рдХреНрд╕-рдЕрдиреБрд░реВрдк рдлрд╛рдЗрд▓ рд╕рд┐рд╕реНрдЯрдо
рдЙрджрд╛рд╣рд░рдг рд╡рд░реНрдгрди
рдореЗрд░реЗ рдЫреЛрдЯреЗ рдЙрджрд╛рд╣рд░рдг рдореЗрдВ, рдореИрдВ рднрдВрдбрд╛рд░рдг рдХреЗ рд░реВрдк рдореЗрдВ рдХреЗрд╡рд▓ 3 рд╕рд░реНрд╡рд░реЛрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддрд╛ рд╣реВрдВред рдкреНрд░рддреНрдпреЗрдХ рд╕рд░реНрд╡рд░ рдореЗрдВ, рдореЗрд░реЗ рдкрд╛рд╕ 3 рдПрд╕рдПрдЯреАрдП рдбрд┐рд╕реНрдХ рд╣реИрдВ:
/dev/sda
рдПрдХ рдкреНрд░рдгрд╛рд▓реА рдХреЗ рд░реВрдк рдореЗрдВ рдФрд░
/dev/sdb
рдФрд░
/dev/sdc
рд▓рд┐рдП рд╕реАрдПрдл рдПрдлрдПрд╕ рдлрд╛рдЗрд▓ рд╕рд┐рд╕реНрдЯрдо рдбреЗрдЯрд╛ред рдЗрд╕ рдЙрджрд╛рд╣рд░рдг рдореЗрдВ рдУрдПрд╕ Ubuntu 12.04 LTS рд╣реЛрдЧрд╛ред рдПрдХ рдЕрдиреНрдп рд╕рд░реНрд╡рд░ рдлрд╝рд╛рдЗрд▓ рд╕рд┐рд╕реНрдЯрдо рдХреЛ рдорд╛рдЙрдВрдЯ рдХрд░реЗрдЧрд╛, рдЬреЛ рд╡рд╛рд╕реНрддрд╡ рдореЗрдВ, рдХреНрд▓рд╛рдЗрдВрдЯ рдХреЗ рд░реВрдк рдореЗрдВ рдХрд╛рд░реНрдп рдХрд░реЗрдЧрд╛ред рд╣рдо рдбрд┐рдлрд╝реЙрд▓реНрдЯ рдЕрддрд┐рд░реЗрдХ рд╕реНрддрд░ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╣реИрдВ, рдЕрд░реНрдерд╛рддреН, рдПрдХ рд╣реА рдмреНрд▓реЙрдХ рдХреЗ рджреЛ рдкреНрд░рддрд┐рдХреГрддрд┐рдпрд╛рдВред
рдЗрд╕ рд▓реЗрдЦрди рдХреЗ рд╕рдордп, рдбреЗрд╡рд▓рдкрд░реНрд╕ рд╕рд░рд▓ рдХреЙрдиреНрдлрд╝рд┐рдЧрд░реЗрд╢рди рдмрдирд╛рдиреЗ рдХреЗ рд▓рд┐рдП рджреЛ рддрд░реАрдХреЗ рдкреЗрд╢ рдХрд░ рд░рд╣реЗ рд╣реИрдВ - рдкреБрд░рд╛рдиреЗ рдПрдХ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ
mkcephfs
рдпрд╛ рдирдП
mkcephfs
ceph-deploy
ред рдирдП рд╕рдВрд╕реНрдХрд░рдгреЛрдВ рдХреЗ рд▓рд┐рдП, рд╢рд╛рдЦрд╛ 0.6x (рдХрдЯрд▓рдлрд┐рд╢) рдХреЗ рд╕рд╛рде рд╢реБрд░реВ рдХрд░рддреЗ рд╣реБрдП, рдкрд╣рд▓реЗ рд╕реЗ рд╣реА
ceph-deploy
рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдХреА рд╕рд┐рдлрд╛рд░рд┐рд╢ рдХреА рдЬрд╛рддреА рд╣реИред рд▓реЗрдХрд┐рди рдЗрд╕ рдЙрджрд╛рд╣рд░рдг рдореЗрдВ, рдореИрдВ mkcephfs рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╣реБрдП
mkcephfs
рд╢рд╛рдЦрд╛ (bobtail) рдХреЗ рдкрд╣рд▓реЗ, рд╕реНрдерд┐рд░ рд░рд┐рд▓реАрдЬрд╝ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░ рд░рд╣рд╛
mkcephfs
ред
рдореБрдЭреЗ рдЖрдкрдХреЛ рддреБрд░рдВрдд рдЪреЗрддрд╛рд╡рдиреА рджреЗрдиреА рдЪрд╛рд╣рд┐рдП - рд╕реЗрдл рдПрдлрдПрд╕ рдЕрднреА рднреА рдкреВрд░реНрд╡-рдЙрддреНрдкрд╛рджрди рдХреА рд╕реНрдерд┐рддрд┐ рдореЗрдВ рд╣реИ, рд▓реЗрдХрд┐рди рд╕рдореБрджрд╛рдп рдХреА рдЧрддрд┐рд╡рд┐рдзрд┐ рджреНрд╡рд╛рд░рд╛ рдЗрд╕ рдкрд░рд┐рдпреЛрдЬрдирд╛ рдХреЛ рд╕реЙрдлреНрдЯрд╡реЗрдпрд░ рдкрд░рд┐рднрд╛рд╖рд┐рдд рднрдВрдбрд╛рд░рдг рдХреЗ рдмреАрдЪ рд╕рдмрд╕реЗ рд╣реЙрдЯ рдореЗрдВ рд╕реЗ рдПрдХ рдХрд╣рд╛ рдЬрд╛рддрд╛ рд╣реИред
рдЪрд▓рд┐рдП рд╢реБрд░реВ рдХрд░рддреЗ рд╣реИрдВред
рдЪрд░рдг 0. рдУрдПрд╕ рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдирд╛
рд╣рдо рдПрдХ рдиреНрдпреВрдирддрдо рд╕реНрдерд╛рдкрдирд╛ рдХрд░рддреЗ рд╣реИрдВред рдЗрд╕рдХреЗ рдЕрддрд┐рд░рд┐рдХреНрдд, рдЖрдкрдХреЛ
ntpdate
рдФрд░ рдЕрдкрдиреЗ рдкрд╕рдВрджреАрджрд╛ рд╕рдВрдкрд╛рджрдХ рдХреЛ рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реИ, рдЙрджрд╛рд╣рд░рдг рдХреЗ рд▓рд┐рдП
vim
ред
aptitude update && aptitude install ntpdate vim
рдЪрд░рдг 1ред рд╕реЗрдл рдкреИрдХреЗрдЬ рд╕реНрдерд╛рдкрд┐рдд рдХрд░реЗрдВ
рдХреНрд▓рд╕реНрдЯрд░ рдФрд░ рдХреНрд▓рд╛рдЗрдВрдЯ рдХреЗ рдкреНрд░рддреНрдпреЗрдХ рдиреЛрдб рдкрд░, рд╕рд┐рдл рдкреИрдХреЗрдЬ рд╕реНрдерд╛рдкрд┐рдд рдХрд░реЗрдВ
wget -q -O- 'https://ceph.com/git/?p=ceph.git;a=blob_plain;f=keys/release.asc' | sudo apt-key add - echo deb http://ceph.com/debian-bobtail/ $(lsb_release -sc) main | tee /etc/apt/sources.list.d/ceph.list aptitude update && aptitude install ceph
рдЪрд░рдг 2. рдПрдХ рдХреЙрдиреНрдлрд╝рд┐рдЧрд░реЗрд╢рди рдлрд╝рд╛рдЗрд▓ рдмрдирд╛рдПрдВ
рдкреНрд░рддреНрдпреЗрдХ рдиреЛрдб рдФрд░ рдХреНрд▓рд╛рдЗрдВрдЯ рдкрд░, рдПрдХрд▓ рдХреЙрдиреНрдлрд╝рд┐рдЧрд░реЗрд╢рди рдлрд╝рд╛рдЗрд▓
/etc/ceph/ceph.conf
[global] auth cluster required = cephx auth service required = cephx auth client required = cephx [osd] osd journal size = 2000 osd mkfs type = xfs osd mkfs options xfs = -f -i size=2048 osd mount options xfs = rw,noatime,inode64 [mon.a] host = node01 mon addr = 192.168.2.31:6789 [mon.b] host = node02 mon addr = 192.168.2.32:6789 [mon.c] host = node03 mon addr = 192.168.2.33:6789 [osd.0] host = node01 devs = /dev/sdb [osd.1] host = node01 devs = /dev/sdc [osd.2] host = node02 devs = /dev/sdb [osd.3] host = node02 devs = /dev/sdc [osd.4] host = node03 devs = /dev/sdb [osd.5] host = node03 devs = /dev/sdc [mds.a] host = node01
рдлрд╝рд╛рдЗрд▓ рдХреЛ рд╕рднреА рдХреЗ рд▓рд┐рдП рдкрдардиреАрдп рдмрдирд╛рдирд╛
chmod 644 /etc/ceph/ceph.conf
рдЪрд░рдг 3. рдиреЛрдбреНрд╕ рдХреЗ рдмреАрдЪ рдкрд╛рд╕рд╡рд░реНрдб рд░рд╣рд┐рдд рдкреНрд░рд╡рд┐рд╖реНрдЯрд┐ рдмрдирд╛рдирд╛
рд╣рдо рдПрдХ рд░реВрдЯ рдкрд╛рд╕рд╡рд░реНрдб рд╕реЗрдЯ рдХрд░рддреЗ рд╣реИрдВ, рдкрд╛рд╕рдлрд╝реНрд░реЗрдЬрд╝ рдирд┐рд░реНрджрд┐рд╖реНрдЯ рдХрд┐рдП рдмрд┐рдирд╛ ssh рдХреБрдВрдЬрд┐рдпрд╛рдБ рдмрдирд╛рддреЗ рд╣реИрдВ
passwd root ssh-keygen
рдЕрдкрдиреЗ рдорд╛рдорд▓реЗ рдореЗрдВ рдиреЛрдбреНрд╕ рдХреЗ рдирд╛рдо рдХреЗ рдЕрдиреБрд╕рд╛рд░
/root/.ssh/config
рдореЗрдВ ssh рдЙрдкрдирд╛рдо рдмрдирд╛рдПрдБ
Host node01 Hostname node01.ceph.labspace.studiogrizzly.com User root Host node02 Hostname node02.ceph.labspace.studiogrizzly.com User root Host node03 Hostname node03.ceph.labspace.studiogrizzly.com User root
рд╕рд╛рд░реНрд╡рдЬрдирд┐рдХ рдХреБрдВрдЬреА рдХреЛ рдХреНрд▓рд╕реНрдЯрд░ рдХреЗ рдкрдбрд╝реЛрд╕реА рдиреЛрдбреНрд╕ рдореЗрдВ рдЬреЛрдбрд╝реЗрдВред
ssh-copy-id root@node02 ssh-copy-id root@node03
рдЪрд░рдг 4. рдХреНрд▓рд╕реНрдЯрд░ рдХрд╛ рд╡рд┐рд╕реНрддрд╛рд░ рдХрд░реЗрдВ
рд╕рдмрд╕реЗ рдкрд╣рд▓реЗ, рдХрд╛рдо рдХреЗ рд▓рд┐рдП рдЖрд╡рд╢реНрдпрдХ рдбреНрд░рд╛рдЗрд╡ рддреИрдпрд╛рд░ рдХрд░реЗрдВ
mkfs -t xfs fs-options -f -i size=2048 /dev/sdb mkfs -t xfs fs-options -f -i size=2048 /dev/sdc
рдЕрдЧрд▓рд╛, рд╣рдо рдЕрдкрдиреЗ рдбрд┐рдЬрд╛рдЗрди рдХреЗ рдЕрдиреБрд╕рд╛рд░ рд╡рд░реНрдХрд┐рдВрдЧ рдХреИрдЯрд▓реЙрдЧ рдФрд░ рдорд╛рдЙрдВрдЯ рдбрд┐рд╕реНрдХ рддреИрдпрд╛рд░ рдХрд░рддреЗ рд╣реИрдВ
рдЗрд╕рд▓рд┐рдП рдиреЛрдб 01 рдХреЗ рд▓рд┐рдП рд╣рдо рдХрд░рддреЗ рд╣реИрдВ
mkdir -p /var/lib/ceph/osd/ceph-0 mkdir -p /var/lib/ceph/osd/ceph-1 mount /dev/sdb /var/lib/ceph/osd/ceph-0 -o noatime,inode64 mount /dev/sdc /var/lib/ceph/osd/ceph-1 -o noatime,inode64
рдиреЛрдб 02 рдХреЗ рд▓рд┐рдП
mkdir -p /var/lib/ceph/osd/ceph-2 mkdir -p /var/lib/ceph/osd/ceph-3 mount /dev/sdb /var/lib/ceph/osd/ceph-2 -o noatime,inode64 mount /dev/sdc /var/lib/ceph/osd/ceph-3 -o noatime,inode64
рдФрд░ рдиреЛрдб 0 рдХреЗ рд▓рд┐рдП
mkdir -p /var/lib/ceph/osd/ceph-4 mkdir -p /var/lib/ceph/osd/ceph-5 mount /dev/sdb /var/lib/ceph/osd/ceph-4 -o noatime,inode64 mount /dev/sdc /var/lib/ceph/osd/ceph-5 -o noatime,inode64
рдЕрдВрдд рдореЗрдВ, рдиреЛрдб 01 рдкрд░, рд╕рд┐рдл рд░рд┐рдкреЙрдЬрд┐рдЯрд░реА рдирд┐рд░реНрдорд╛рдг рд╕реНрдХреНрд░рд┐рдкреНрдЯ рдЪрд▓рд╛рдПрдБ
mkcephfs -a -c /etc/ceph/ceph.conf -k /etc/ceph/ceph.keyring
рдФрд░ рдлрд┐рд░
ceph.keyring
рдХреБрдВрдЬреА рдХреЛ рдХреНрд▓рд╕реНрдЯрд░ рдХреЗ рдЕрдиреНрдп рдиреЛрдбреНрд╕ рдкрд░ рдХреЙрдкреА рдХрд░реЗрдВ
scp /etc/ceph/ceph.keyring node02:/etc/ceph/ceph.keyring scp /etc/ceph/ceph.keyring node03:/etc/ceph/ceph.keyring
рдФрд░ рдХреНрд▓рд╛рдЗрдВрдЯ рдиреЛрдб рдкрд░, рдореЗрд░реЗ рдорд╛рдорд▓реЗ рдореЗрдВ -
192.168.2.39
scp /etc/ceph/ceph.keyring 192.168.2.39:/etc/ceph/ceph.keyring
рд╣рдордиреЗ рдХреБрдВрдЬрд┐рдпреЛрдВ рддрдХ рдкрд╣реБрдВрдЪ рдХреЛ рд╕реЗрдЯ рдХрд┐рдпрд╛ рд╣реИ
chmod 644 /etc/ceph/ceph.keyring
рдЪрд░рдг 5. рд▓реЙрдиреНрдЪ рдФрд░ рд╕реНрдерд┐рддрд┐
рдиреЛрдбреНрд╕ рдХреЗ рдмреАрдЪ рдкрд╛рд╕рд╡рд░реНрдб рд░рд╣рд┐рдд рдкреНрд░рд╡рд┐рд╖реНрдЯрд┐ рдХреЗ рд▓рд┐рдП рдзрдиреНрдпрд╡рд╛рдж, рд╣рдо рдХрд┐рд╕реА рднреА рдиреЛрдб рд╕реЗ рдкреВрд░реЗ рдХреНрд▓рд╕реНрдЯрд░ рдХреЛ рд╢реБрд░реВ рдХрд░рддреЗ рд╣реИрдВ
service ceph -a start
рд╡рд╣рд╛рдВ рд╣рдо рдХреНрд▓рд╕реНрдЯрд░ рд╕реНрдерд┐рддрд┐ рдХреА рдЬрд╛рдВрдЪ рдХрд░рддреЗ рд╣реИрдВ
ceph -s
рд╕рд╛рдорд╛рдиреНрдп рдСрдкрд░реЗрд╢рди рдХреЗ рджреМрд░рд╛рди рд╕рдмрд╕реЗ рдЕрдкреЗрдХреНрд╖рд┐рдд рд╕реНрдерд┐рддрд┐
HEALTH_OK
рдХреНрд▓рд╛рдЗрдВрдЯ рдХреА рдУрд░, рдЖрд╡рд╢реНрдпрдХ рд╕реНрдерд╛рди рдкрд░ рдПрдХ рдирд┐рд░реНрджреЗрд╢рд┐рдХрд╛ рдмрдирд╛рдПрдВ, рдЙрджрд╛рд╣рд░рдг рдХреЗ рд▓рд┐рдП
/mnt/cephfs
,
ceph
рдХрд░реНрдиреЗрд▓
ceph
рд▓рд┐рдП рдХреБрдВрдЬреА рдкрд╛рд░реНрд╕ рдХрд░реЗрдВ рдФрд░ рдлрд╝рд╛рдЗрд▓ рд╕рд┐рд╕реНрдЯрдо рдХреЛ рдорд╛рдЙрдВрдЯ рдХрд░реЗрдВ
mkdir /mnt/cephfs ceph-authtool --name client.admin /etc/ceph/ceph.keyring --print-key | tee /etc/ceph/admin.secret mount -t ceph node01:6789,node02:6789,node03:6789:/ /mnt/cephfs -o name=admin,secretfile=/etc/ceph/admin.secret,noatime
рдЕрдВрддрднрд╛рд╖рдг
рдпрд╣ рд╣реИ рдХрд┐ рд╣рдо рдХреЗрд╡рд▓ 15 рдорд┐рдирдЯ рдореЗрдВ рд╡рд┐рддрд░рд┐рдд рд╕реАрдПрдлрдПрд╕ рдПрдлрдПрд╕ рдлрд╛рдЗрд▓ рд╕рд┐рд╕реНрдЯрдо рдХреИрд╕реЗ рдкреНрд░рд╛рдкреНрдд рдХрд░рддреЗ рд╣реИрдВред рдкреНрд░рджрд░реНрд╢рди, рд╕реБрд░рдХреНрд╖рд╛ рдФрд░ рд░рдЦрд░рдЦрд╛рд╡ рдХреЗ рдореБрджреНрджреЛрдВ рдХреЛ
рдЕрдзрд┐рдХ рд╡рд┐рд╕реНрддреГрдд рд╡рд┐рд╕рд░реНрдЬрди рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реЛрддреА рд╣реИ рдФрд░ рдпрд╣ рд╕рд╛рдордЧреНрд░реА рдПрдХ рдЕрд▓рдЧ рд▓реЗрдЦ рдкрд░ рд╣реИ, рдпрд╛ рдпрд╣рд╛рдВ рддрдХ тАЛтАЛрдХрд┐ рдПрдХ рднреА рдирд╣реАрдВ рд╣реИред
рдкреБрдирд╢реНрдЪ
OpenNebula
+ Ceph рдмрдВрдбрд▓ рдХреЗрд╡рд▓
рд╕реЗрдл рдСрдмреНрдЬреЗрдХреНрдЯ рд╕реНрдЯреЛрд░реЗрдЬ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ
рдЕрдЯрдХ рдЧрдпрд╛ , рдмрд┐рдирд╛ рд╕реЗрдл рдлрд╛рдЗрд▓ рд╕рд┐рд╕реНрдЯрдо рдХреЗред
рдЕрдзрд┐рдХ рдкрдврд╝реЗрдВ рд╣рдм рдореЗрдВ рдореИрдВ рдкреАрдЖрд░ рд╣реВрдВ ред
