Dryadред рд╡рд┐рддрд░рд┐рдд рдХрдореНрдкреНрдпреВрдЯрд┐рдВрдЧ рдлреНрд░реЗрдорд╡рд░реНрдХ

рдирд┐рдореНрдирд▓рд┐рдЦрд┐рдд рдЖрдБрдХрдбрд╝реЛрдВ рдХреЗ рд╕рд╛рде рд╡рд┐рддрд░рд┐рдд рдЖрд╡реЗрджрди рдирд┐рд╖реНрдкрд╛рджрди рдХреЗ рд▓рд┐рдП рдПрдХ рд╕рд╛рдорд╛рдиреНрдп рдврд╛рдВрдЪреЗ рдХреА рдХрд▓реНрдкрдирд╛ рдХрд░реЗрдВ *:


* 2011 рдХреЗ рд▓рд┐рдП рд╕рд╛рдВрдЦреНрдпрд┐рдХреАрдп рдбреЗрдЯрд╛ред

рдЕрдм рдХрд▓реНрдкрдирд╛ рдХреАрдЬрд┐рдП рдХрд┐ рдпрд╣ рд╣рдбреЛрдк рдирд╣реАрдВ рд╣реИред

рдпрд╣ рдХрд┐рд╕ рддрд░рд╣ рдХрд╛ рдврд╛рдВрдЪрд╛ рд╣реИ, рдЗрд╕рдХреА рдиреАрдВрд╡ рдореЗрдВ рд░рдЦреЗ рдЧрдП рд╡рд┐рдЪрд╛рд░реЛрдВ рдФрд░ рдЕрд╡рдзрд╛рд░рдгрд╛рдУрдВ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдФрд░ рдХреНрдпреЛрдВ рдЗрд╕ рдврд╛рдВрдЪреЗ рдХреЛ рд╣рдбреЛрдк рдХреА рддреБрд▓рдирд╛ рдореЗрдВ рдЕрдзрд┐рдХ рдирд╡реАрди (рд╡реНрдпрдХреНрддрд┐рдкрд░рдХ) рд╣реИ, рдиреАрдЪреЗ рдЪрд░реНрдЪрд╛ рдХреА рдЬрд╛рдПрдЧреАред

1. рдбреНрд░рд╛рдИрдбред рд╕рд╛рдорд╛рдиреНрдп рдЬрд╛рдирдХрд╛рд░реА


рдбреНрд░рд╛рдпрдб рд╡рд┐рддрд░рд┐рдд рдЕрдиреБрдкреНрд░рдпреЛрдЧ рдирд┐рд╖реНрдкрд╛рджрди рдХреЗ рд▓рд┐рдП рдПрдХ рд╕рд╛рдорд╛рдиреНрдп-рдЙрджреНрджреЗрд╢реНрдп рд╕реЙрдлрд╝реНрдЯрд╡реЗрдпрд░ рдврд╛рдВрдЪрд╛ рд╣реИ ред рдбреНрд░рд╛рдпрдб рдорд╛рдЗрдХреНрд░реЛрд╕реЙрдлреНрдЯ рд░рд┐рд╕рд░реНрдЪ рдХрд╛ рдПрдХ рдкреНрд░реЛрдЬреЗрдХреНрдЯ рд╣реИред рдбреНрд░рд╛рдпрдб рдкрд░рд┐рдпреЛрдЬрдирд╛ рдХреА рдХреЗрдВрджреНрд░реАрдп рдЕрд╡рдзрд╛рд░рдгрд╛ рдкреНрд░рддреНрдпреЗрдХ рд╡рд┐рддрд░рд┐рдд рдХрд╛рд░реНрдп рдХреЗ рд▓рд┐рдП рдирд┐рд░реНрджреЗрд╢рд┐рдд рдЪрдХреНрд░реАрдп рдЧреНрд░рд╛рдл (DAG) рдХрд╛ рдирд┐рд░реНрдорд╛рдг рд╣реИред рдЧреНрд░рд╛рдл рдХреЗ рдХреЛрдиреЗ рдбреЗрдЯрд╛ (рд╡рд╛рд╕реНрддрд╡ рдореЗрдВ, рдкреНрд░реЛрдЧреНрд░рд╛рдо) рдкрд░ рд╕рдВрдЪрд╛рд▓рди рд╣реЛрддреЗ рд╣реИрдВ, рдФрд░ рдЧреНрд░рд╛рдл рдХреЗ рдХрд┐рдирд╛рд░реЗ рдЪреИрдирд▓ рд╣реЛрддреЗ рд╣реИрдВ рдЬрд┐рд╕рдХреЗ рдорд╛рдзреНрдпрдо рд╕реЗ рдбреЗрдЯрд╛ рдкреНрд░рд╕рд╛рд░рд┐рдд рд╣реЛрддрд╛ рд╣реИред

рдПрдХ рдкреНрд░рддреНрдпрдХреНрд╖ рдПрд╕рд╛рдЗрдХреНрд▓рд┐рдХ рдЧреНрд░рд╛рдл рдХреЗ рдореЙрдбрд▓ рдкрд░ рдЖрдзрд╛рд░рд┐рдд рдЕрдореВрд░реНрддрддрд╛ рд╕реЗ рдмрдбрд╝реА рд╕рдВрдЦреНрдпрд╛ рдореЗрдВ рд╕рдорд╛рдирд╛рдВрддрд░ рдПрд▓реНрдЧреЛрд░рд┐рджрдо , рдкреБрдирд░рд╛рд╡реГрддреНрдд рдПрд▓реНрдЧреЛрд░рд┐рджрдо , рдорд╢реАрди рд▓рд░реНрдирд┐рдВрдЧ рдПрд▓реНрдЧреЛрд░рд┐рджрдо рдХреЗ рдирд┐рд╖реНрдкрд╛рджрди рдХреА рдпреЛрдЬрдирд╛рдУрдВ рдХреЛ рдкреНрд░рднрд╛рд╡реА рдврдВрдЧ рд╕реЗ рд▓рд╛рдЧреВ рдХрд░рдирд╛ рд╕рдВрднрд╡ рд╣реЛ рдЬрд╛рддрд╛ рд╣реИред рдЗрд╕ рдкреНрд░рдХрд╛рд░, рдХреЗрд╡рд▓ ( YARN рд╕реЗ рдкрд╣рд▓реЗ) рд╣рдбреЙрдк ** рдореЗрдВ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рд┐рдд рдкреНрд░реЛрдЧреНрд░рд╛рдорд┐рдВрдЧ рдореЙрдбрд▓ рдХреЛ рдХрдо / рдЕрдирд┐рд╡рд╛рд░реНрдп рд░реВрдк рд╕реЗ рдбреНрд░рд╛рдпрдб рджреНрд╡рд╛рд░рд╛ рдкреНрд░рджрд╛рди рдХрд┐рдП рдЧрдП рд╡рд┐рддрд░рд┐рдд рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдореЙрдбрд▓ рдХрд╛ рдХреЗрд╡рд▓ рдПрдХ рд╡рд┐рд╢реЗрд╖ рдорд╛рдорд▓рд╛ рд╣реИ ред

рдбреНрд░рд╛рдпрдб рдХреЛ рдПрдХ рдордзреНрдпрдо рдпрд╛ рдмрдбрд╝реЗ рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдХреНрд▓рд╕реНрдЯрд░ (100 рд╕реЗ 10K рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдиреЛрдбреНрд╕ рд╕реЗ) рдкрд░ рдЪрд▓рд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдЕрдиреБрдХреВрд▓рд┐рдд рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИ рдФрд░ рдЗрд╕рдХрд╛ рдЙрджреНрджреЗрд╢реНрдп рдореБрдЦреНрдп рд░реВрдк рд╕реЗ рджреАрд░реНрдШрдХрд╛рд▓рд┐рдХ рдмреИрдЪ рдХреА рдиреМрдХрд░рд┐рдпреЛрдВ рдХреЗ рд▓рд┐рдП рд╣реИ, рдЬрд┐рдиреНрд╣реЗрдВ рдЕрдХреНрд╕рд░ рдмрд╛рддрдЪреАрдд рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рдирд╣реАрдВ рд╣реЛрддреА рд╣реИред

2004 ... 2008


рдбреНрд░рд╛рдпрдб рдХреЗ рдЕрддреАрдд, рд╡рд░реНрддрдорд╛рди рдФрд░ рднрд╡рд┐рд╖реНрдп рд╕реЗ рдирд┐рдкрдЯрдиреЗ рдХреЗ рдкреНрд░рдпрд╛рд╕реЛрдВ рдиреЗ рдореБрдЭреЗ рд▓реЗрдЦреЛрдВ рдХреА рдПрдХ рд╕реАрдорд┐рдд рд╕рдВрдЦреНрдпрд╛ рдореЗрдВ рд▓реЗ рд▓рд┐рдпрд╛, рдЬрд┐рдирдореЗрдВ рд╕реЗ рд▓реЗрдЦрдХ, рдореВрд▓ рд╕реНрд░реЛрддреЛрдВ рдХрд╛ рд╣рд╡рд╛рд▓рд╛ рджреЗрддреЗ рд╣реИрдВ, рди рдХрд┐ рдпрд╣ рддрд░реНрдХ рджреЗрддреЗ рд╣реИрдВ рдХрд┐:

2008 ... 2009


рдбреНрд░рд╛рдпрдб рдореЗрдВ рд╕рдиреНрдирд┐рд╣рд┐рдд рдЕрд╡рдзрд╛рд░рдгрд╛рдУрдВ рдХрд╛ рд╡рд░реНрдгрди рдХрд░рдиреЗ рд╡рд╛рд▓реЗ рдореВрд▓рднреВрдд рджрд╕реНрддрд╛рд╡реЗрдЬреЛрдВ рдореЗрдВ рд╕реЗ рдПрдХ, OSDI'08 рдкрд░ " рдмреЗрд╕реНрдЯ рдкреЗрдкрд░ " (рдСрдкрд░реЗрдЯрд┐рдВрдЧ рд╕рд┐рд╕реНрдЯрдо рдбрд┐рдЬрд╝рд╛рдЗрди рдФрд░ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдкрд░ USENIX рд╕рдВрдЧреЛрд╖реНрдареА) рд╕реЗ рд╕рдореНрдорд╛рдирд┐рдд рдХрд┐рдпрд╛ рдЧрдпрд╛ рдерд╛ред

рдирд╡рдВрдмрд░ 2009 рдореЗрдВ, рдбреНрд░рд╛рдпрдб рдПрдХ рдЕрдХрд╛рджрдорд┐рдХ рд▓рд╛рдЗрд╕реЗрдВрд╕ рдХреЗ рддрд╣рдд рдЙрдкрд▓рдмреНрдз рд╣реЛ рдЧрдпрд╛ред

2010 ... 2011


2011 рдореЗрдВ, рд╡рд┐рдВрдбреЛрдЬ рдПрдЪрдкреАрд╕реА рдЯреАрдо рдиреЗ рд╕рдВрдмрдВрдзрд┐рдд рд╡рд┐рдВрдбреЛрдЬ рдСрдкрд░реЗрдЯрд┐рдВрдЧ рд╕рд┐рд╕реНрдЯрдо рд▓рд╛рдЗрди рдХреЗ рд▓рд┐рдП "рд▓рд┐рдирдХреНрдпреВ рдЯреВ рдПрдЪрдкреАрд╕реА" (рд╡рд┐рдВрдбреЛрдЬ рдПрдЪрдкреАрд╕реА рд╕рд░реНрд╡рд░ рдХреЗ рд▓рд┐рдП рдбреНрд░рд╛рдпрдб) рдХреЗ рдмреАрдЯрд╛ рд╕рдВрд╕реНрдХрд░рдг рдХреА рдШреЛрд╖рдгрд╛ рдХреА ред рдЙрд╕реА рд╡рд░реНрд╖, рдпрд╣ рдШреЛрд╖рдгрд╛ рдХреА рдЧрдИ рдереА рдХрд┐ LINQ рд╕реЗ HPC "рдкреВрд░реНрд╡рд╛рд╡рд▓реЛрдХрди рд╕рдВрд╕реНрдХрд░рдг рд╕реЗ" рдмрд╛рд╣рд░ рдирд╣реАрдВ рдирд┐рдХрд▓реЗрдВрдЧреЗ (рдЕрд░реНрдерд╛рдд, рд╡рд╛рд╕реНрддрд╡ рдореЗрдВ, рд╕рдорд░реНрдерди рдХреА рд╕рдорд╛рдкреНрддрд┐ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ)ред

2012 ... 2013 / UPD /


рдпрд╣ рдзреНрдпрд╛рди рджреЗрдиреЗ рдпреЛрдЧреНрдп рд╣реИ рдХрд┐ рд╡рд┐рдВрдбреЛрдЬ рдПрдЪрдкреАрд╕реА рдЯреАрдо рдиреЗ рдбреНрд░рд╛рдп рдкреНрд░реЛрдЬреЗрдХреНрдЯ рдХреЗ рд╕рдорд░реНрдерди / рд╡рд┐рдХрд╛рд╕ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдХреБрдЫ рднреА рдирд╣реАрдВ рдХрд╣рд╛ (рдФрд░ рд╕рд┐рджреНрдзрд╛рдВрдд рдореЗрдВ рдирд╣реАрдВ рдХрд╣ рд╕рдХрддрд╛)ред рдбреНрд░рд╛рдпрдб рдХреЗ рдЖрдЧреЗ рд╕рдорд░реНрдерди рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдЕрдиреНрдп рдмрдпрд╛рди рдпрд╛, рдЗрд╕рдХреЗ рд╡рд┐рдкрд░реАрдд, рд╕рдорд░реНрдерди рдХрд╛ рдПрдХ рдЕрд╕рдорд╛рди рдирдХрд╛рд░, рдкрд┐рдЫрд▓реЗ (2012) рдФрд░ рдЗрд╕ рд╡рд░реНрд╖ рдкрд░ рдзреНрдпрд╛рди рдирд╣реАрдВ рджрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИред

2. рдбреНрд░рд╛рдпрдб рдЗрдХреЛрд╕рд┐рд╕реНрдЯрдо


рдбреЗрдЯрд╛ рд╕рдорд╛рдирд╛рдВрддрд░ рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ

рдбреНрд░рд╛рдпрдб рдкрд░рд┐рдпреЛрдЬрдирд╛ рдореЗрдВ 3 рдкреНрд░рдореБрдЦ рдШрдЯрдХ рд╣реЛрддреЗ рд╣реИрдВ:

Dryadред рд╕реЙрдлреНрдЯрд╡реЗрдпрд░ рд╕реНрдЯреИрдХ

рдиреАрдЪреЗ рд╣рдо рдбреНрд░рд╛рдпрдб рдЗрдХреЛрд╕рд┐рд╕реНрдЯрдо рдХреЗ рддрддреНрд╡реЛрдВ рдкрд░ рдПрдХ рдХрд░реАрдм рд╕реЗ рдирдЬрд╝рд░ рдбрд╛рд▓реЗрдВрдЧреЗ: рдбреНрд░рд╛рдпрдб рд░рдирдЯрд╛рдЗрдо рд░рдирдЯрд╛рдЗрдо рдФрд░ рдбреНрд░рд╛рдпрдбрд▓рд╛рдЗрди рд╕реНрдЯреЗрдЯ рднрд╛рд╖рд╛ред

3. рдбреНрд░рд╛рдИрдб рд░рдирдЯрд╛рдЗрдо


рдбреНрд░рд╛рдпрдб рд░рдирдЯрд╛рдЗрдо рд╡рд┐рддрд░рд┐рдд рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдХрд╛ рдПрдХ рд░рдирдЯрд╛рдЗрдо рд╣реИ , рдЬреИрд╕реЗ рд╣реИрдбреЛрдк, рдЗрд╕ рддрд░рд╣ рдХреЗ рдХрд╛рд░реНрдпреЛрдВ рдХреЛ рд▓реЗ рд░рд╣рд╛ рд╣реИ:

рдбреНрд░рд╛рдпрдб рдЗрдВрдлреНрд░рд╛рд╕реНрдЯреНрд░рдХреНрдЪрд░

рдбреНрд░рд╛рдпрдб рд░рдирдЯрд╛рдЗрдо рдореЗрдВ рдХрд╛рд░реНрдп рдПрдХ рдирд┐рд░реНрджреЗрд╢рд┐рдд рдПрд╕рд╛рдЗрдХреНрд▓рд┐рдХ рдЧреНрд░рд╛рдл рд╣реИ , рдЬрд╣рд╛рдВ рдХреЛрдиреЗ рдкреНрд░реЛрдЧреНрд░рд╛рдо рд╣реИрдВ рдФрд░ рдЧреНрд░рд╛рдл рдХреЗ рдХрд┐рдирд╛рд░реЗ рдбреЗрдЯрд╛ рдЪреИрдирд▓ рд╣реИрдВ ред рдпрд╣ рддрд╛рд░реНрдХрд┐рдХ рдЧреНрд░рд╛рдлрд╝ рдирд┐рд╖реНрдкрд╛рджрди рдпреЛрдЧреНрдп рд╡рд╛рддрд╛рд╡рд░рдг рджреНрд╡рд╛рд░рд╛ рдХреНрд▓рд╕реНрдЯрд░ рдореЗрдВ рднреМрддрд┐рдХ рд╕рдВрд╕рд╛рдзрдиреЛрдВ рдХреЗ рд▓рд┐рдП рдореИрдк рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред рд╕рд╛рдорд╛рдиреНрдп рддреМрд░ рдкрд░, рдПрдХ рдЧреНрд░рд╛рдлрд╝ рдореЗрдВ рдХреЛрдиреЗ рдХреА рд╕рдВрдЦреНрдпрд╛ рдПрдХ рдХреНрд▓рд╕реНрдЯрд░ рдореЗрдВ рднреМрддрд┐рдХ рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдиреЛрдбреНрд╕ рдХреА рд╕рдВрдЦреНрдпрд╛ рд╕реЗ рдЕрдзрд┐рдХ рд╣реЛрддреА рд╣реИред

Dryadред рдирд┐рд╖реНрдкрд╛рджрди рдХрд╛ рдЧреНрд░рд╛рдл

3.1ред рдбреЗрдЯрд╛ рдЪреИрдирд▓


рдбреЗрдЯрд╛ рдЪреИрдирд▓, рд╕рд╛рде рд╣реА рд╕рд╛рде рдХреЛрдиреЗ, рдЕрдореВрд░реНрдд рд╣реИрдВ рдФрд░ рдЗрдирдХреЗ рджреНрд╡рд╛рд░рд╛ рджрд░реНрд╢рд╛рдпрд╛ рдЧрдпрд╛ рд╣реИ:

рд╡рд┐рддрд░рд┐рдд рдХрд╛рд░реНрдп рдХреЗ рд╕рдмрд╕реЗ рдХреБрд╢рд▓ рдирд┐рд╖реНрдкрд╛рджрди рдХреЗ рд▓рд┐рдП рдХреНрд▓рд╕реНрдЯрд░ рдХреЗ рднреМрддрд┐рдХ рд╕рдВрд╕рд╛рдзрдиреЛрдВ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдЬрд╛рдирдХрд╛рд░реА рдХрд╛ рдЦреБрд▓рд╛рд╕рд╛ рдХрд░рдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рдЪреИрдирд▓ рдХреЛ "рд╕реНрд╡рдЪреНрдЫ" рдХреЗ рд░реВрдк рдореЗрдВ рдЕрдореВрд░реНрдд рдирд╣реАрдВ рдмрдирд╛рддреА рд╣реИ рдХреНрдпреЛрдВрдХрд┐ рдпрд╣ рдкрд╣рд▓реА рдирдЬрд╝рд░ рдореЗрдВ рд▓рдЧрддрд╛ рд╣реИред рдлрд┐рд░ рднреА, рд╡рд┐рддрд░рд┐рдд рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдХреЗ рдбреЗрд╡рд▓рдкрд░ рдХреЛ "рдЪреИрдирд▓" рдЕрдореВрд░реНрддрддрд╛ рдХрд╛ рдЙрд▓реНрд▓рдВрдШрди рдирд╣реАрдВ рджрд┐рдЦрддрд╛ рд╣реИ, рдХреНрдпреЛрдВрдХрд┐ рд╡рд╣ рдЕрдиреНрдп рд╕реНрддрд░реЛрдВ (рдХрд╛рд░реНрдп рдкреНрд░рдмрдВрдзрдХ) рдХреЗ рддрд╣рдд рдЫрд┐рдкрддреА рд╣реИ, рдЬрд┐рд╕ рдкрд░ рдиреАрдЪреЗ рдЪрд░реНрдЪрд╛ рдХреА рдЬрд╛рдПрдЧреАред

3.2ред рдбреЗрдЯрд╛ рдореЙрдбрд▓


рдбреНрд░рд╛рдпрдб рдбреЗрдЯрд╛ рдореЙрдбрд▓ рдПрдХ рд╕рд╛рдЭрд╛-рдХреБрдЫ рднреА рдирд╣реАрдВ рд╡рд╛рд╕реНрддреБрдХрд▓рд╛ рд╣реИ ред рдЗрд╕ рддрд░рд╣ рдХреЗ рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ рдХреЗ рдлрд╛рдпрджреЗ рдкрд╛рд░рдВрдкрд░рд┐рдХ рд░реВрдк рд╕реЗ рд╕реНрдХреЗрд▓реЗрдмрд┐рд▓рд┐рдЯреА , рдкрд░рд┐рд╡рд░реНрддрди рдЯреНрд░реИрдХрд┐рдВрдЧ рдХрд╛ рд╕рдорд░реНрдерди рдХрд░рдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рдХреА рдЕрдиреБрдкрд╕реНрдерд┐рддрд┐, рдЬрдЯрд┐рд▓ рд▓реЗрдирджреЗрди рдХреЗ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдФрд░ рд╕рд┐рдВрдХреНрд░рдирд╛рдЗрдЬрд╝реЗрд╢рди рдкреНрд░рд╛рдЗрдореЗрдЯрд┐рд╡ рдХрд╛ рдЙрдкрдпреЛрдЧ рд╣реИрдВред рдбреНрд░рд╛рдпрдб рдкреНрд▓реЗрдЯрдлрд╝реЙрд░реНрдо рдбреЗрдЯрд╛ рдХреЗ рдмрдбрд╝реЗ рд╕реНрдерд┐рд░ рд╕рдВрд╕реНрдХрд░рдгреЛрдВ рдХреЗ рд▓рд┐рдП рдЕрдЪреНрдЫреА рддрд░рд╣ рд╕реЗ рдЕрдиреБрдХреВрд▓ рд╣реИ рдФрд░ рдбреЗрдЯрд╛ рдХреЛ рдмрд╛рд░-рдмрд╛рд░ рдмрджрд▓рдиреЗ рдпрд╛ рд╕реНрдЯреНрд░реАрдорд┐рдВрдЧ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЕрдиреБрдХреВрд▓ рдирд╣реАрдВ рд╣реИред

рдбреНрд░рд╛рдпрдб рдХреЛ рдЗрдирдкреБрдЯ рдбреЗрдЯрд╛ рдХреА рдЕрдкрд░рд┐рд╡рд░реНрддрдиреАрдп рдФрд░ рдкрд░рд┐рдорд┐рдд рдорд╛рддреНрд░рд╛ рдкреНрд░рд╛рдкреНрдд рдХрд░рдиреЗ рдХреА рдЙрдореНрдореАрдж рд╣реИред рд╡рд┐рддрд░рд┐рдд рдХрд╛рд░реНрдпрдХреНрд░рдо рдирд┐рд╖реНрдкрд╛рджрди рдкрд░рд┐рдгрд╛рдо рддрдм рддрдХ рдЙрдкрд▓рдмреНрдз рдирд╣реАрдВ рд╣реЛрдВрдЧреЗ рдЬрдм рддрдХ рдХрд┐ рд╕рднреА рд░реВрдЯреАрди рдирд┐рд╖реНрдкрд╛рджрд┐рдд рдирд╣реАрдВ рд╣реЛ рдЬрд╛рддреЗред рдпрд╣ рдорд╛рдирдирд╛ тАЛтАЛрддрд░реНрдХрд╕рдВрдЧрдд рд╣реИ рдХрд┐ рдбреНрд░рд╛рдпрдб рдореЗрдВ рд╕реНрдЯреНрд░реАрдорд┐рдВрдЧ рдбреЗрдЯрд╛ рд╡рд╛рд▓реЗ рдХрд╛рд░реНрдп рдореВрд▓рднреВрдд рд░реВрдк рд╕реЗ рдЕрд╕рдВрднрд╡ рд╣реИрдВред

3.3ред рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ


рдбреНрд░рд╛рдпрдб рдЬреЙрдм рдЬреЙрдм рдореИрдиреЗрдЬрд░ (рдЬреЗрдПрдо) рджреНрд╡рд╛рд░рд╛ рдСрд░реНрдХреЗрд╕реНрдЯреНрд░реЗрдЯреЗрдб рд╣реИред рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ рдореЗрдВ рдХрд╛рд░реНрдпреЛрдВ рдХреА рдЧрдгрдирд╛ рдХреЗ рд▓рд┐рдП рдПрдХ рдЧреНрд░рд╛рдл рдмрдирд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдПрдкреНрд▓рд┐рдХреЗрд╢рди-рд╡рд┐рд╢рд┐рд╖реНрдЯ рдХреЛрдб рд╣реЛрддрд╛ рд╣реИред

рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ рдХреЗ рд▓рд┐рдП рдЬрд┐рдореНрдореЗрджрд╛рд░ рд╣реИ:
  1. рдЧрдгрдирд╛ рдЧреНрд░рд╛рдл рдХрд╛ рдЖрд░рдВрднреАрдХрд░рдг ;
  2. рдирд┐рдпреЛрдЬрди рд╕рдВрдЪрд╛рд▓рди (рдХреЛрдиреЗ, рдмрд╛рдж рдореЗрдВ рд╢реАрд░реНрд╖ рд╕рдВрдЪрд╛рд▓рди рдХреЗ рд░реВрдк рдореЗрдВ рд╕рдВрджрд░реНрднрд┐рдд рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ) рддрд╛рдХрд┐ рдЗрди рдХреЛрдиреЗ рдХреЗ рд╕рд╛рде рдЬреБрдбрд╝реЗ рднреМрддрд┐рдХ рд╣рд╛рд░реНрдбрд╡реЗрдпрд░ рд╢реАрд░реНрд╖ рдкрд░ рдЗрди рдбреЗрдЯрд╛ рджреНрд╡рд╛рд░рд╛ рд╕рдВрд╕рд╛рдзрд┐рдд рдбреЗрдЯрд╛ рдХреЗ рдЬрд┐рддрдирд╛ рд╕рдВрднрд╡ рд╣реЛ рд╕рдХреЗ;
  3. рдЧрд▓рддреА рд╕рд╣рд┐рд╖реНрдгреБрддрд╛ ;
  4. рдкреНрд░рджрд░реНрд╢рди рдХреА рдирд┐рдЧрд░рд╛рдиреА рдФрд░ рд╕рд╛рдВрдЦреНрдпрд┐рдХреА рд╕рдВрдЧреНрд░рд╣ ;
  5. рдореМрдЬреВрджрд╛ рдиреАрддрд┐рдпреЛрдВ рдХреЗ рдЕрдиреБрд╕рд╛рд░ рдЧреНрд░рд╛рдл рдХрд╛ рдЧрддрд┐рд╢реАрд▓ рдкрд░рд┐рд╡рд░реНрддрди ред

рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдбреЗрдЯрд╛ рдХреЛ рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рд╕реЗ рд╕реАрдзреЗ рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рдореЗрдВ рднреЗрдЬрд╛ рдЬрд╛рддрд╛ рд╣реИред рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ рдХреЗрд╡рд▓ рд╡рд┐рддрд░рд┐рдд рдХрд╛рд░реНрдпреЛрдВ рдХреЗ рдирд┐рд╖реНрдкрд╛рджрди, рдирд┐рд░реНрдзрд╛рд░рдг рдФрд░ рдирд┐рдЧрд░рд╛рдиреА рдХреЗ рд▓рд┐рдП рдЬрд┐рдореНрдореЗрджрд╛рд░ рд╣реИред рдЗрд╕рд▓рд┐рдП, рдЬреЗрдПрдо рдПрдХ рдкреНрд░рджрд░реНрд╢рди рдЕрдбрд╝рдЪрди рдирд╣реАрдВ рд╣реИ ред рдЗрд╕рдХреЗ рдЕрд▓рд╛рд╡рд╛, рдЕрдЧреНрд░реЗрд╖рдг рдХреЗ рджреМрд░рд╛рди, рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рдХреЛрдб рдпрд╛ рддреЛ рдЬреЙрдм рдореИрдиреЗрдЬрд░ рд╕реЗ рдпрд╛ рдирд┐рдХрдЯрддрдо рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдиреЛрдб рд╕реЗ рдЕрдЧреНрд░реЗрд╖рд┐рдд рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИ, рдЬрд┐рд╕ рдкрд░ рдПрдХ рд╕рдорд╛рди рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред

3.4ред рдирд╛рдо рд╕рд░реНрд╡рд░ред рдбреЗрдореЙрди


рдирд╛рдо рд╕рд░реНрд╡рд░ рдирд╛рдо рд╕рд░реНрд╡рд░ рдХреНрд▓рд╕реНрдЯрд░ рдореЗрдВ рдЙрдкрд▓рдмреНрдз рдЧрдгрдирд╛ рдиреЛрдбреНрд╕ рдФрд░ рдЙрдирдХреЗ рд╕рд╛рдордпрд┐рдХ рд╕реНрдерд╛рди рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдЬрд╛рдирдХрд╛рд░реА рдХреЗ рдкреНрд░рдХрдЯреАрдХрд░рдг рдХреЗ рд▓рд┐рдП рдЬрд┐рдореНрдореЗрджрд╛рд░ рд╣реИред

рдкреНрд░рддреНрдпреЗрдХ рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдиреЛрдб рдкрд░ рдПрдХ рдбреЗрдорди рдкреНрд░рдХреНрд░рд┐рдпрд╛ рд╢реБрд░реВ рдХреА рдЬрд╛рддреА рд╣реИ, рдЬрд┐рд╕рдХрд╛ рдореБрдЦреНрдп рдЙрджреНрджреЗрд╢реНрдп рдЬреЙрдм рдореИрдиреЗрдЬрд░ рджреНрд╡рд╛рд░рд╛ рднреЗрдЬреЗ рдЧрдП рд╢реАрд░реНрд╖ рд╕рдВрдЪрд╛рд▓рди рдХреЛ рд▓реЙрдиреНрдЪ рдХрд░рдирд╛ рд╣реИред рдбреЗрдореЙрди рдПрдХ рдкреНрд░реЙрдХреНрд╕реА рдСрдмреНрдЬреЗрдХреНрдЯ рдХреЗ рд░реВрдк рдореЗрдВ рдХрд╛рд░реНрдп рдХрд░рддрд╛ рд╣реИ, рдЗрд╕рд▓рд┐рдП рдЬреЙрдм рдореИрдиреЗрдЬрд░ рдореЗрдВ рд░рд┐рдореЛрдЯ рдбреЗрдореЙрди рджреНрд╡рд╛рд░рд╛ рд╢реБрд░реВ рдХрд┐рдП рдЧрдП рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рдХреА рд╕реНрдерд┐рддрд┐ рдФрд░ рдЪрд░рдг рдХрд╛ рдкрддрд╛ рд▓рдЧрд╛рдиреЗ рдХреА рдХреНрд╖рдорддрд╛ рд╣реИред

рдбреНрд░рд╛рдпрдб рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ рдФрд░ рдЬреЙрдм рдореИрдиреЗрдЬрд░ , рдирд╛рдо рд╕рд░реНрд╡рд░ (рдПрдирдПрд╕) рдФрд░ рдбреЗрдорди (рдкреАрдбреА) рдХреЗ рд▓рд┐рдП рдЗрд╕ рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ рдореЗрдВ рдЬрдЧрд╣ рдиреАрдЪреЗ рджреА рдЧрдИ рд╣реИред

Dryadред рдирд┐рд╖реНрдкрд╛рджрди рдХрд╛ рдЧреНрд░рд╛рдл
рдЪрд┐рддреНрд░рдг рдХрд╛ рд╕реНрд░реЛрдд [3]

( рдЪрд┐рддреНрд░рдг рдХреА рд╡реНрдпрд╛рдЦреНрдпрд╛ : рдЬреЗрдПрдо рдПрдирдПрд╕ рд╕реЗ рдкреНрд░рд╛рдкреНрдд рдЙрдкрд▓рдмреНрдз рдиреЛрдбреНрд╕ рдФрд░ рдЙрдирдХреЗ рд╕реНрдерд╛рди рдкрд░ рдбреЗрдЯрд╛ рдХреЗ рдЖрдзрд╛рд░ рдкрд░ рдирд┐рд╖реНрдкрд╛рджрди рдЧреНрд░рд╛рдл рдХреЛ рдЖрд░рдВрднреАрдХреГрдд рдХрд░рддрд╛ рд╣реИред рдЬреЗрдПрдо рдЧреНрд░рд╛рдл рдХреЗ рдирд┐рд╖реНрдкрд╛рджрди рдХреА рдирд┐рдЧрд░рд╛рдиреА рдХрд░рддрд╛ рд╣реИ, рдкреАрдбреА рд╕реЗ рд╕реНрдерд┐рддрд┐ рдкреНрд░рд╛рдкреНрдд рдХрд░рддрд╛ рд╣реИред рдкреАрдбреА, рдПрдирдПрд╕ рдФрд░ рдЬреЗрдПрдо рдХреЛ рджрд░рдХрд┐рдирд╛рд░ рдХрд░рддреЗ рд╣реБрдП рдЙрдкрд▓рдмреНрдз рдЪреИрдирд▓реЛрдВ рдкрд░ рдбреЗрдЯрд╛ рдХрд╛ рдЖрджрд╛рди-рдкреНрд░рджрд╛рди рдХрд░рддрд╛ рд╣реИред рдЙрди рдСрдкрд░реЗрд╢рдиреЛрдВ рдХреЛ рджрд┐рдЦрд╛рддрд╛ рд╣реИ рдЬреЛ рд╡рд░реНрддрдорд╛рди рдореЗрдВ рдирд┐рд╖реНрдкрд╛рджрд┐рдд рд╣реЛ рд░рд╣реЗ рд╣реИрдВред)

3.5ред рдЧрддрд┐рд╢реАрд▓ рдЧреНрд░рд╛рдл рдкрд░рд┐рд╡рд░реНрддрди


Hadoop рдореЗрдВ JobTracker рдХреЗ рд╕рдорд╛рди Job Manager, рд╕реНрдереИрддрд┐рдХ рдкреНрд░рджрд░реНрд╢рди рдЕрдиреБрдХреВрд▓рди рдкреНрд░рджрд╛рди рдХрд░рддрд╛ рд╣реИред рд▓реЗрдХрд┐рди Hadoop рдХреЗ рд╡рд┐рдкрд░реАрдд, рдбреНрд░рд╛рдпрдб рдореЗрдВ рдЧрддрд┐рд╢реАрд▓ рд░реВрдк рд╕реЗ рдкреНрд░рджрд░реНрд╢рди рдХреЛ рдЕрдиреБрдХреВрд▓рд┐рдд рдХрд░рдиреЗ рдХреА рдХреНрд╖рдорддрд╛ рд╣реИред

рдПрдХ рдирд┐рд░реНрджреЗрд╢рд┐рдд рдПрд╕рд╛рдЗрдХреНрд▓рд┐рдХ рдЧреНрд░рд╛рдл рдХреЗ рдХреЗрдВрджреНрд░реАрдп рдбреНрд░рд╛рдпрдб рдЕрд╡рдзрд╛рд░рдгрд╛ рдХреЗ рд▓рд┐рдП рдзрдиреНрдпрд╡рд╛рдж рдФрд░ рдХреЙрд▓рдмреИрдХ рддрдВрддреНрд░ рдХреЗ рд▓рд┐рдП рд╕рдорд░реНрдерди (рдХреЙрд▓рдмреИрдХ рдЬреЗрдПрдо рдХреЛ рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рдХреЗ рдирд┐рд╖реНрдкрд╛рджрди рдЪрд░рдг рдореЗрдВ рдмрджрд▓рд╛рд╡ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рд╕реВрдЪрд┐рдд рдХрд░рддрд╛ рд╣реИ), рдирд┐рд╖реНрдкрд╛рджрди рдЧреНрд░рд╛рдл рд░рдирдЯрд╛рдЗрдо рдХреЗ рджреМрд░рд╛рди рдмрджрд▓рдиреЗ рдореЗрдВ рд╕рдХреНрд╖рдо рд╣реИред рдбрд╛рдпрдирд╛рдорд┐рдХ рдкрд░рд┐рд╡рд░реНрддрди рд╕реЗ рдЖрдк рдирд┐рдореНрди рд╕рдорд╕реНрдпрд╛рдУрдВ рдХреЛ рдХрд╛рдлреА рд╣рдж рддрдХ рд╣рд▓ рдХрд░ рд╕рдХрддреЗ рд╣реИрдВ:

рдЗрд╕рдХреЗ рдЕрд▓рд╛рд╡рд╛, рд░рдирдЯрд╛рдЗрдо рдХреЗ рджреМрд░рд╛рди рдЧреНрд░рд╛рдл рдХреЗ рдЧрддрд┐рд╢реАрд▓ рдкрд░рд┐рд╡рд░реНрддрди рдФрд░ рдбреЗрдЯрд╛ рдЯреНрд░рд╛рдВрд╕рдлрд░ рдХреЗ рдПрдХ рд╡рд┐рд╢рд┐рд╖реНрдЯ рддрд░реАрдХреЗ рд╕реЗ "рдЪреИрдирд▓" рдХреА рдЕрд╡рдзрд╛рд░рдгрд╛ рдХреЗ рдЕрдореВрд░реНрдд рд╣реЛрдиреЗ рдХреЗ рдХрд╛рд░рдг, рдпрд╣ рдорд╣рддреНрд╡рдкреВрд░реНрдг рд╣реИ (рдпрд╣реА рд╣реИ, рдЗрд╕реЗ рд▓рд╛рдЧреВ рдХрд░рдирд╛ рд╕рдВрднрд╡ рд╣реИ, рдпрджрд┐ рд▓рд╛рдЧреВ рдирд╣реАрдВ рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИ) рдбреЗрдЯрд╛ рди рдХреЗрд╡рд▓ рдЙрд╕ рдиреЛрдб рддрдХ рдкрд╣реБрдВрдЪ рд╕рдХрддрд╛ рд╣реИ рдЬрд┐рд╕ рдкрд░ рдбреЗрдЯрд╛ рднреМрддрд┐рдХ рд░реВрдк рд╕реЗ рд╕рдВрдЧреНрд░рд╣реАрдд рд╣реИред рд▓реЗрдХрд┐рди рдпрд╣ рднреА:

3.6ред рджреЛрд╖ рд╕рд╣рд┐рд╖реНрдгреБрддрд╛


рдЬреИрд╕рд╛ рдХрд┐ рдкрд╣рд▓реЗ рдЙрд▓реНрд▓реЗрдЦ рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИ, рдбреЗрдорди рдПрдХ рдкреНрд░реЙрдХреНрд╕реА рд╣реИ, рдЗрд╕рд▓рд┐рдП рдЬреЙрдм рдореИрдиреЗрдЬрд░ рдореЗрдВ рд░рд┐рдореЛрдЯ рдбреЗрдореЙрди рджреНрд╡рд╛рд░рд╛ рд╢реБрд░реВ рдХрд┐рдП рдЧрдП рдПрдХ рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рдХреА рд╕реНрдерд┐рддрд┐ рдФрд░ рдЪрд░рдг рдХрд╛ рдкрддрд╛ рд▓рдЧрд╛рдиреЗ рдХреА рдХреНрд╖рдорддрд╛ рд╣реИред рдпрджрд┐ рдбреЗрдорди "рдХреНрд░реИрд╢" рдХрд░рддрд╛ рд╣реИ, рддреЛ рдЬреЙрдм рдореИрдиреЗрдЬрд░ рдХреЛ рдЗрд╕рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдкрддрд╛ рдЪрд▓ рдЬрд╛рдПрдЧрд╛:

рдкреАрдбреА рдХреА рд╡рд┐рдлрд▓рддрд╛ рдХрд╛ рдирд┐рджрд╛рди рдХрд░рдиреЗ рдХреЗ рдмрд╛рдж, рдЙрд╕ рдкрд░ рдХрд┐рдП рдЧрдП рдСрдкрд░реЗрд╢рди рдХреЛ рджреВрд╕рд░реЗ рдбреЗрдореЙрди рдкрд░ рдлрд┐рд░ рд╕реЗ рдирд┐рд╖реНрдкрд╛рджрд┐рдд рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред

Dryadред рджреЛрд╖ рд╕рд╣рд┐рд╖реНрдгреБрддрд╛

рдирд╛рдо рд╕рд░реНрд╡рд░ рдХреНрд░реИрд╢ рдХреА рд╕реНрдерд┐рддрд┐ рдореЗрдВ рдХреНрдпрд╛ рд╣реЛрдЧрд╛, рдЗрд╕рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдореБрдЭреЗ рдбреНрд░рд╛рдпрдб рдкреНрд░рд▓реЗрдЦрди рдореЗрдВ рдЬрд╛рдирдХрд╛рд░реА рдирд╣реАрдВ рдорд┐рд▓реАред рдпрд╣ рдорд╛рди рд▓реЗрдирд╛ рдЙрдЪрд┐рдд рд╣реИ рдХрд┐ рдпрджрд┐ NS рдкреНрд░рдХреНрд░рд┐рдпрд╛ рд╕реЗ рдХреЛрдИ рджрд┐рд▓ рдХреА рдзрдбрд╝рдХрди рдирд╣реАрдВ рд╣реИ, рддреЛ рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ NS рдХреЛ рджреВрд╕рд░реЗ рдиреЛрдб рдкрд░ рдкреБрдирдГ рдЖрд░рдВрдн рдХрд░реЗрдЧрд╛ред рдирд╛рдо рд╕рд░реНрд╡рд░ рдХреЗ рдбрд╛рдЙрдирдЯрд╛рдЗрдо рдХреЗ рджреМрд░рд╛рди, рдХреНрд▓рд╕реНрдЯрд░ рдХреА рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рд╢рдХреНрддрд┐ рдХрд╛ рд╣рд┐рд╕реНрд╕рд╛, рдЙрд╕ рдЬрд╛рдирдХрд╛рд░реА рдХреЗ рдкреНрд░рдХрдЯреАрдХрд░рдг рдХреЗ рд▓рд┐рдП рдЬрд┐рд╕рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдПрдирдПрд╕ рдЬрд┐рдореНрдореЗрджрд╛рд░ рд╣реИ, рдмрд╕ "рдмрд╛рд╣рд░ рдЧрд┐рд░ рдЬрд╛рддрд╛ рд╣реИ"ред

рд╕рд╛рде рд╣реА, рдпрд╣ рдкреНрд░рд▓реЗрдЦрди рд╕реЗ рд╕реНрдкрд╖реНрдЯ рдирд╣реАрдВ рд╣реБрдЖ рдХрд┐ рдпрд╣ рд╕реБрдирд┐рд╢реНрдЪрд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХреНрдпрд╛ рдЙрдкрд╛рдп рдХрд┐рдП рдЧрдП рдереЗ рдХрд┐ рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ рд╡рд┐рдлрд▓рддрд╛ рдХрд╛ рдПрдХ рднреА рдмрд┐рдВрджреБ рдирд╣реАрдВ рдмрди рдЧрдпрд╛ред рдпрджрд┐ рдкреНрд░рддреНрдпреЗрдХ рд╡рд┐рддрд░рд┐рдд рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдХрд╛ рдЕрдкрдирд╛ рд╕реНрд╡рдпрдВ рдХрд╛ рдЬреЙрдм рдореИрдиреЗрдЬрд░ рд╣реИ, рддреЛ рдЬреЙрдм рдореИрдиреЗрдЬрд░ рдХреЛ рд░реЛрдХрдиреЗ рд╕реЗ рдкреВрд░реЗ рдХреНрд▓рд╕реНрдЯрд░ рдХрд╛ рдбрд╛рдЙрдирдЯрд╛рдЗрдо рдирд╣реАрдВ рд╣реЛрдЧрд╛, рдЬреИрд╕рд╛ рдХрд┐ рдирд╛рдо рдиреЛрдб рдХреЗ рд╡рд┐рдлрд▓ рд╣реЛрдиреЗ рдкрд░ Hadoop рдХреЗ рд╕рд╛рде рд╣реЛрддрд╛ рд╣реИред

рд▓реЗрдХрд┐рди рд╡рд┐рддрд░рд┐рдд рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдореЗрдВ рд╕реЗ рдкреНрд░рддреНрдпреЗрдХ рдХреЗ рд▓рд┐рдП рдЕрд▓рдЧ-рдЕрд▓рдЧ рдЬреЗрдПрдо рдкреНрд░рдХреНрд░рд┐рдпрд╛рдУрдВ рдХреА рдЙрдкрд╕реНрдерд┐рддрд┐ рддреБрд░рдВрдд 2 рд╕рдорд╕реНрдпрд╛рдПрдВ рдкреНрд░рд╕реНрддреБрдд рдХрд░рддреА рд╣реИ:

4. рдЕрднреНрдпрд╛рд╕


рдбреНрд░рд╛рдпрдб рдПрдХ рд╢реИрдХреНрд╖рдгрд┐рдХ рд▓рд╛рдЗрд╕реЗрдВрд╕ [4] рдХреЗ рддрд╣рдд рдирд┐: рд╢реБрд▓реНрдХ рдЙрдкрд▓рдмреНрдз рд╣реИред рдлреНрд░реЗрдорд╡рд░реНрдХ рд╢реБрд░реВ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП, рдЖрдкрдХреЛ Microsoft HPC рдкреИрдХ 2008 SP1, 4 Gb RAM, 1 Gb рдИрдерд░рдиреЗрдЯ рдФрд░ 200 Gb рдореБрдХреНрдд рд╕реНрдерд╛рди рдХреНрд▓рд╕реНрдЯрд░ [1] рдХреЗ рд╕рд╛рде рдПрдХ Windows HPC рдХреНрд▓рд╕реНрдЯрд░ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реЛрдЧреАред

рдбреНрд░рд╛рдпрдб рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдХреЛ C ++ рдФрд░ C # рджреЛрдиреЛрдВ рдореЗрдВ рд▓рд┐рдЦрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИ (рдпрд╣ рдорд╛рди рд▓реЗрдирд╛ рдЙрдЪрд┐рдд рд╣реИ рдХрд┐ рдХреЛрдИ рднреА CLS- рд╕рдВрдЧрдд рднрд╛рд╖рд╛ рдЙрдкрдпреБрдХреНрдд рд╣реИ)ред

рдбреНрд░рд╛рдпрдб рдХреЗ рд▓рд┐рдП рдПрдХ рдСрдкрд░реЗрд╢рди рдХреЗ рд╡рд┐рддрд░рд┐рдд рдирд┐рд╖реНрдкрд╛рджрди рдХреЗ рд▓рд┐рдП рдирд┐рд░реНрджреЗрд╢ рдирд┐рдореНрдирд╛рдиреБрд╕рд╛рд░ рд╣реИ (рдкреНрд░рд╛рд░рдВрднрд┐рдХ рд░реАрдб, рд╕рдВрдпреЛрдЬрди, рдкреНрд░рд╛рд░рдВрднрд┐рдХ, рдЗрд░реЗрдЯреЗрдЯ, рдорд░реНрдЬ рд╡рд┐рддрд░рд┐рдд рдирд┐рд╖реНрдкрд╛рджрди рдХреЗ рд╕рдВрдмрдВрдзрд┐рдд рдЪрд░рдгреЛрдВ рдХреЗ рд▓рд┐рдП рдЬрд┐рдореНрдореЗрджрд╛рд░ рдХрд╛рд░реНрдпреЛрдВ рдХреЗ рдирд╛рдо рд╣реИрдВ; рд▓рд┐рд╕реНрдЯрд┐рдВрдЧ рдореЗрдВ рдЙрджрд╛рд╣рд░рдг рдЕрдВрдХрдЧрдгрд┐рддреАрдп рдорд╛рдзреНрдп рдорд╛рдирддреЗ рд╣реИрдВ):

///<summary>For iterator-based implementation</summary> [AssociativeDecomposable("InitialReduce", "Combine")] public static TOutput H(IEnumerable<TInput> source) { тАж } 

рд▓рд┐рд╕реНрдЯрд┐рдВрдЧ 1. Iterator- рдЖрдзрд╛рд░рд┐рдд рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдЙрджрд╛рд╣рд░рдгред рд╕реНрд░реЛрдд [реи]
 public static double Average(IEnumerable<int> g) { IntPair final = g.Aggregate(x => PartialSum(x)); if (final.second == 0) return 0.0; return (double)final.first / (double)final.second; } [AssociativeDecomposable("InitialReduce", "Combine")] public static IntPair PartialSum(IEnumerable<int> g) { return InitialReduce(g); } public static IntPair InitialReduce(IEnumerable<int> g) { return new IntPair(g.Sum(), g.Count()); } public static IntPair Combine(IEnumerable<IntPair> g) { return new IntPair(g.Select(x => x.first).Sum(), g.Select(x => x.second).Sum()); } 

 ///<summary>For accumulator-based implementation</summary> [AssociativeDecomposable("Initialize", "Iterate", "Merge")] public static TOutput H(IEnumerable<TInput> source) { тАж } 

рд▓рд┐рд╕реНрдЯрд┐рдВрдЧ 2. Accumulator- рдЖрдзрд╛рд░рд┐рдд рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдЙрджрд╛рд╣рд░рдгред рд╕реНрд░реЛрдд [реи]
 public static double Average(IEnumerable<int> g) { IntPair final = g.Aggregate(x => PartialSum(x)); if (final.second == 0) return 0.0; else return (double)final.first / (double)final.second } [AssociativeDecomposable("Initialize", "Iterate", "Merge")] public static IntPair PartialSum(IEnumerable<int> g) { return new IntPair(g.Sum(), g.Count()); } public static IntPair Initialize() { return new IntPair(0, 0); } public static IntPair Iterate(IntPair x, int r) { x.first += r; x.second += 1; return x; } public static IntPair Merge(IntPair x, IntPair o) { x.first += o.first; x.second += o.second; return x; } 

DryadLINQ рдХреНрд╡реЗрд░реА рднрд╛рд╖рд╛ рдХреЛрдб рдХреА рдЬрдЯрд┐рд▓рддрд╛ рдХреЛ рдШреЗрд░ рд▓реЗрддреА рд╣реИ, рдЗрд╕рд▓рд┐рдП, рд╕рд╛рдорд╛рдиреНрдп рддреМрд░ рдкрд░, рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдбреЗрд╡рд▓рдкрд░ рдХреЛ рд▓рд┐рд╕реНрдЯрд┐рдВрдЧ рдореЗрдВ рд╕реВрдЪреАрдмрджреНрдз рдбрд┐рдЬрд╝рд╛рдЗрди рдирд╣реАрдВ рд▓рд┐рдЦрдирд╛ рд╣реЛрдЧрд╛ред рдЗрд╕ рд╢реНрд░реГрдВрдЦрд▓рд╛ рдореЗрдВ рдЕрдЧрд▓реЗ рд▓реЗрдЦ рдореЗрдВ DryadLINQ рдХреЛ рд╢рд╛рдорд┐рд▓ рдХрд┐рдпрд╛ рдЬрд╛рдПрдЧрд╛ред

5. рд╕реАрдорд╛рдПрдВ рдФрд░ рдиреБрдХрд╕рд╛рди


рдЕрдВрдд рдореЗрдВ, рд╣рдо рд╕рдВрдХреНрд╖реЗрдк рдореЗрдВ рдбреНрд░рд╛рдпрдб рдХреА рд╕реАрдорд╛рдУрдВ рдФрд░ рдореБрдЦреНрдп рд░реВрдк рд╕реЗ рд╕реЙрдлреНрдЯрд╡реЗрдпрд░ рдХреЗ рдЗрд╕ рд╡рд░реНрдЧ рдХреЗ рдЙрджреНрджреЗрд╢реНрдп рдХреА рдЧрд▓рдд рдзрд╛рд░рдгрд╛ рд╕реЗ рдЬреБрдбрд╝реА "рдЧрд▓рдд" рдЙрдореНрдореАрджреЛрдВ рдХреА рд╕рдореАрдХреНрд╖рд╛ рдХрд░рддреЗ рд╣реИрдВред

рдбреНрд░рд╛рдпрдб рдХреА рдореБрдЦреНрдп рд╕реАрдорд╛рдУрдВ рдореЗрдВ рд╕реЗ рдПрдХ рд░рд┐рдпрд▓рдЯрд╛рдЗрдо рдореЛрдб рдореЗрдВ рдХрд╛рдо рдХрд░рдиреЗ рдореЗрдВ рдХрдард┐рдирд╛рдИ рд╣реЛрддреА рд╣реИ рдФрд░, рд╢рд╛рдпрдж, рд╕реНрдЯреНрд░реАрдорд┐рдВрдЧ рдбреЗрдЯрд╛ рдХреЗ рд╕рд╛рде рдХрд╛рдо рдХрд░рдиреЗ рдХреА рдореМрд▓рд┐рдХ рдЕрд╕рдВрднрд╡рддрд╛ ред рдпрд╣ рднреА рдЬреЛрдбрд╝рд╛ рдЬрд╛рдирд╛ рдЪрд╛рд╣рд┐рдП рдХрд┐ рдбреНрд░рд╛рдпрдб рдлреНрд░реЗрдорд╡рд░реНрдХ рдмреИрдЪ рдХрд╛рд░реНрдпреЛрдВ рдХреЗ рд▓рд┐рдП рдЕрдЪреНрдЫреА рджрдХреНрд╖рддрд╛ рджрд┐рдЦрд╛рдПрдЧрд╛, рд▓реЗрдХрд┐рди рдпрд╛рджреГрдЪреНрдЫрд┐рдХ-рдкрд╣реБрдВрдЪ рд╕рдВрдЪрд╛рд▓рди рдХреЗ рд╕рд╛рде рдбреНрд░рд╛рдпрдб рдХрд╛ рдЙрдкрдпреЛрдЧ рдЙрдЪрд┐рдд рдирд╣реАрдВ рд╣реЛрдЧрд╛ред рдЗрд╕рдХреЗ рдЕрд▓рд╛рд╡рд╛, рдореИрдВ рдПрдХ рд╕рдВрднрд╛рд╡рд┐рдд рд╕рдорд╕реНрдпрд╛ рдХреЛ рд╡рд┐рдлрд▓рддрд╛ рдХреЗ рдПрдХ рдмрд┐рдВрджреБ рдХреЗ рд╕рд╛рде [рдЖрд╡реЗрджрди рд╕реНрддрд░ рдкрд░] рдиреЛрдЯ рдХрд░рддрд╛ рд╣реВрдВ рдЬрдм рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ рдХреЛ "рдХреНрд░реИрд╢" рдХрд░рддрд╛ рд╣реИ (рд╢рд╛рдпрдж рдРрд╕реА рдХреЛрдИ рд╡рд┐рдлрд▓рддрд╛ рдХрд╛ рдмрд┐рдВрджреБ рдирд╣реАрдВ рд╣реИ, рд▓реЗрдХрд┐рди рдпрд╣ рдкреНрд░рд▓реЗрдЦрди рд╕реЗ рд╕реНрдкрд╖реНрдЯ рдирд╣реАрдВ рд╣реИ рдХрд┐ рдпрд╣ рд╕рдорд╕реНрдпрд╛ рдХреИрд╕реЗ рд╣рд▓ рд╣реЛрддреА рд╣реИ)ред

рдпрд╣ рд╕рдордЭрдирд╛ рднреА рдЖрд╡рд╢реНрдпрдХ рд╣реИ рдХрд┐ рдбреНрд░рд╛рдпрдб рдХреЗрд╡рд▓ рдПрдХ рд╡рд┐рддрд░рд┐рдд рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдврд╛рдВрдЪрд╛ рд╣реИ , рдЗрд╕рд▓рд┐рдП рдЖрдкрдХреЛ рдбреНрд░рд╛рдпрдб рд╕реЗ рдЙрдореНрдореАрдж рдирд╣реАрдВ рдХрд░рдиреА рдЪрд╛рд╣рд┐рдП:

рдирд┐рд╖реНрдХрд░реНрд╖


рдбреНрд░рд╛рдпрдб рдХреЗ рдмрд╛рдХреА рдПрдХ рд╡рд┐рддрд░рд┐рдд рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдбреЗрд╡рд▓рдкрд░ рдХреЗ рд▓рд┐рдП рдПрдХ рд╢рдХреНрддрд┐рд╢рд╛рд▓реА рдФрд░ рд▓рдЪреАрд▓рд╛ рдЕрдореВрд░реНрдд рд╣реИред рдордВрдЪ рдЖрдзреБрдирд┐рдХ рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдФрд░ рд╕рдорд╛рдирд╛рдВрддрд░ рд╕реЙрдлрд╝реНрдЯрд╡реЗрдпрд░ рд╡рд┐рдХрд╕рд┐рдд рдХрд░рдиреЗ рдХреА рдЕрд╡рдзрд╛рд░рдгрд╛рдУрдВ рдХрд╛ рдПрдХ рдЕрддреНрдпрдВрдд рдЬреИрд╡рд┐рдХ рд╕рд╣рдЬреАрд╡рди рд╣реИ, рдЬреЛ рд╡рд┐рддрд░рд┐рдд рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдЪреМрдЦрдЯреЗ рджреНрд╡рд╛рд░рд╛ рдЕрдХреНрд╕рд░ рд╕рд╛рдордирд╛ рдХреА рдЬрд╛рдиреЗ рд╡рд╛рд▓реА рд╕рдорд╕реНрдпрд╛рдУрдВ (рдФрд░ рд╢рд╛рдпрдж рд╣реА рдХрднреА рд╣рд▓ рдХрд┐рдП рдЧрдП) рдХреЛ рд╣рд▓ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдкрд░рд┐рдЪрд┐рдд рднрд╛рд╖рд╛ рдЙрдкрдХрд░рдг рдФрд░ рд╕реБрд░реБрдЪрд┐рдкреВрд░реНрдг рддрд░реАрдХреЗ рдкреНрд░рджрд╛рди рдХрд░рддрд╛ рд╣реИ ред

рд╕реВрддреНрд░реЛрдВ рдХреА рд╕реВрдЪреА


[рез] рдж рдбреНрд░рд╛рдпрдб рдкреНрд░реЛрдЬреЗрдХреНрдЯ ред Microsoft рдЕрдиреБрд╕рдВрдзрд╛рдиред
[реи] рд╡рд╛рдИред рдпреВред, рдкреАрдХреЗ рдЧреБрдВрдбрд╛, рдПрдоред рдЗрд╕рд╛рд░реНрдбред рдбреЗрдЯрд╛-рд╕рдорд╛рдирд╛рдВрддрд░ рдХрдореНрдкреНрдпреВрдЯрд┐рдВрдЧ рдХреЗ рд▓рд┐рдП рд╡рд┐рддрд░рд┐рдд рдПрдХрддреНрд░реАрдХрд░рдг: рдЗрдВрдЯрд░рдлреЗрд╕ рдФрд░ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди , 2009ред
[рей] рдПрдоред рдЗрд╕рд╛рд░реНрдб, рдПрдоред рдмреБрдбреАрдпреВ, рд╡рд╛рдИред рдпреВред, рдПред рдмрд┐рд░реЗрд▓, рдФрд░ рдбреАред рдкреВрд░реА рддрд░рд╣ рд╕реЗред рдбреНрд░рд╛рдпрдб: рдЕрдиреБрдХреНрд░рдорд┐рдХ рднрд╡рди рдмреНрд▓реЙрдХреЛрдВ рд╕реЗ рд╡рд┐рддрд░рд┐рдд рдбреЗрдЯрд╛-рд╕рдорд╛рдирд╛рдВрддрд░ рдХрд╛рд░реНрдпрдХреНрд░рдо ред
рдХрдВрдкреНрдпреВрдЯрд░ рд╕рд┐рд╕реНрдЯрдо рдкрд░ рдпреВрд░реЛрдкреАрдпрди рдХреЙрдиреНрдлреНрд░реЗрдВрд╕ рдХреА рдХрд╛рд░реНрдпрд╡рд╛рд╣реА рдореЗрдВ (2007)ред
[рек] рдбреНрд░рд╛рдпрдб рдФрд░ рдбреНрд░рд╛рдпрдбреНрд▓рд┐рдирдХреНрдпреВ рдЕрдХрд╛рджрдорд┐рдХ рд░рд┐рд▓реАрдЬрд╝ ред Microsoft рдЕрдиреБрд╕рдВрдзрд╛рдиред

* рд╡рд░реНрдгрд╛рдиреБрдХреНрд░рдо рдореЗрдВ рдХреНрд░рдордмрджреНрдзред
** рд▓реЗрдЦ рдореЗрдВ рддреБрд▓рдирд╛ рд╡рд┐рд╢реЗрд╖ рд░реВрдк рд╕реЗ Hadoop рдкреНрд▓реЗрдЯрдлрд╝реЙрд░реНрдо рдХреЗ 1 рд╕рдВрд╕реНрдХрд░рдг (рдпрд╛рдиреА YARN рдХреЗ рдмрд┐рдирд╛) рдХреЗ рд╕рд╛рде рд╣реЛрддреА рд╣реИред рдбреНрд░рд╛рдпрдб рдХреА рдПрдХ рд╡рд┐рд╕реНрддреГрдд рддреБрд▓рдирд╛ рдбреАрдмреАрдПрдордПрд╕, рдЬреАрдкреАрдпреВ рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ, рдФрд░ рд╣рдбреЛрдк рдлреНрд░реЗрдорд╡рд░реНрдХ рдХреЗ рд╕рд╛рде рдбреНрд░рд╛рдИрдб рд╢реНрд░реГрдВрдЦрд▓рд╛ рдореЗрдВ рдЕрдВрддрд┐рдо рд▓реЗрдЦ рдореЗрдВ рдХреА рдЬрд╛рдПрдЧреАред

Source: https://habr.com/ru/post/In182164/


All Articles