рдирд┐рдореНрдирд▓рд┐рдЦрд┐рдд рдЖрдБрдХрдбрд╝реЛрдВ рдХреЗ рд╕рд╛рде
рд╡рд┐рддрд░рд┐рдд рдЖрд╡реЗрджрди рдирд┐рд╖реНрдкрд╛рджрди рдХреЗ рд▓рд┐рдП рдПрдХ
рд╕рд╛рдорд╛рдиреНрдп рдврд╛рдВрдЪреЗ рдХреА рдХрд▓реНрдкрдирд╛ рдХрд░реЗрдВ *:

* 2011 рдХреЗ рд▓рд┐рдП рд╕рд╛рдВрдЦреНрдпрд┐рдХреАрдп рдбреЗрдЯрд╛ред
рдЕрдм рдХрд▓реНрдкрдирд╛ рдХреАрдЬрд┐рдП рдХрд┐ рдпрд╣ рд╣рдбреЛрдк рдирд╣реАрдВ рд╣реИредрдпрд╣ рдХрд┐рд╕ рддрд░рд╣ рдХрд╛ рдврд╛рдВрдЪрд╛ рд╣реИ, рдЗрд╕рдХреА рдиреАрдВрд╡ рдореЗрдВ рд░рдЦреЗ рдЧрдП рд╡рд┐рдЪрд╛рд░реЛрдВ рдФрд░ рдЕрд╡рдзрд╛рд░рдгрд╛рдУрдВ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдФрд░ рдХреНрдпреЛрдВ рдЗрд╕ рдврд╛рдВрдЪреЗ рдХреЛ рд╣рдбреЛрдк рдХреА рддреБрд▓рдирд╛ рдореЗрдВ рдЕрдзрд┐рдХ рдирд╡реАрди (рд╡реНрдпрдХреНрддрд┐рдкрд░рдХ) рд╣реИ, рдиреАрдЪреЗ рдЪрд░реНрдЪрд╛ рдХреА рдЬрд╛рдПрдЧреАред
1. рдбреНрд░рд╛рдИрдбред рд╕рд╛рдорд╛рдиреНрдп рдЬрд╛рдирдХрд╛рд░реА
рдбреНрд░рд╛рдпрдб рд╡рд┐рддрд░рд┐рдд рдЕрдиреБрдкреНрд░рдпреЛрдЧ рдирд┐рд╖реНрдкрд╛рджрди рдХреЗ рд▓рд┐рдП рдПрдХ рд╕рд╛рдорд╛рдиреНрдп-рдЙрджреНрджреЗрд╢реНрдп рд╕реЙрдлрд╝реНрдЯрд╡реЗрдпрд░ рдврд╛рдВрдЪрд╛ рд╣реИ ред рдбреНрд░рд╛рдпрдб
рдорд╛рдЗрдХреНрд░реЛрд╕реЙрдлреНрдЯ рд░рд┐рд╕рд░реНрдЪ рдХрд╛ рдПрдХ рдкреНрд░реЛрдЬреЗрдХреНрдЯ рд╣реИред рдбреНрд░рд╛рдпрдб рдкрд░рд┐рдпреЛрдЬрдирд╛ рдХреА рдХреЗрдВрджреНрд░реАрдп рдЕрд╡рдзрд╛рд░рдгрд╛ рдкреНрд░рддреНрдпреЗрдХ рд╡рд┐рддрд░рд┐рдд рдХрд╛рд░реНрдп рдХреЗ рд▓рд┐рдП
рдирд┐рд░реНрджреЗрд╢рд┐рдд рдЪрдХреНрд░реАрдп рдЧреНрд░рд╛рдл (DAG) рдХрд╛ рдирд┐рд░реНрдорд╛рдг рд╣реИред
рдЧреНрд░рд╛рдл рдХреЗ рдХреЛрдиреЗ рдбреЗрдЯрд╛ (рд╡рд╛рд╕реНрддрд╡ рдореЗрдВ, рдкреНрд░реЛрдЧреНрд░рд╛рдо)
рдкрд░ рд╕рдВрдЪрд╛рд▓рди рд╣реЛрддреЗ рд╣реИрдВ, рдФрд░
рдЧреНрд░рд╛рдл рдХреЗ
рдХрд┐рдирд╛рд░реЗ рдЪреИрдирд▓ рд╣реЛрддреЗ рд╣реИрдВ рдЬрд┐рд╕рдХреЗ рдорд╛рдзреНрдпрдо рд╕реЗ рдбреЗрдЯрд╛ рдкреНрд░рд╕рд╛рд░рд┐рдд рд╣реЛрддрд╛ рд╣реИред
рдПрдХ рдкреНрд░рддреНрдпрдХреНрд╖ рдПрд╕рд╛рдЗрдХреНрд▓рд┐рдХ рдЧреНрд░рд╛рдл рдХреЗ рдореЙрдбрд▓ рдкрд░ рдЖрдзрд╛рд░рд┐рдд рдЕрдореВрд░реНрддрддрд╛ рд╕реЗ рдмрдбрд╝реА рд╕рдВрдЦреНрдпрд╛ рдореЗрдВ
рд╕рдорд╛рдирд╛рдВрддрд░ рдПрд▓реНрдЧреЛрд░рд┐рджрдо ,
рдкреБрдирд░рд╛рд╡реГрддреНрдд рдПрд▓реНрдЧреЛрд░рд┐рджрдо ,
рдорд╢реАрди рд▓рд░реНрдирд┐рдВрдЧ рдПрд▓реНрдЧреЛрд░рд┐рджрдо рдХреЗ рдирд┐рд╖реНрдкрд╛рджрди рдХреА рдпреЛрдЬрдирд╛рдУрдВ рдХреЛ рдкреНрд░рднрд╛рд╡реА рдврдВрдЧ рд╕реЗ рд▓рд╛рдЧреВ рдХрд░рдирд╛ рд╕рдВрднрд╡ рд╣реЛ рдЬрд╛рддрд╛ рд╣реИред рдЗрд╕ рдкреНрд░рдХрд╛рд░, рдХреЗрд╡рд▓ (
YARN рд╕реЗ рдкрд╣рд▓реЗ) рд╣рдбреЙрдк ** рдореЗрдВ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рд┐рдд
рдкреНрд░реЛрдЧреНрд░рд╛рдорд┐рдВрдЧ рдореЙрдбрд▓ рдХреЛ рдХрдо / рдЕрдирд┐рд╡рд╛рд░реНрдп рд░реВрдк
рд╕реЗ рдбреНрд░рд╛рдпрдб рджреНрд╡рд╛рд░рд╛ рдкреНрд░рджрд╛рди рдХрд┐рдП рдЧрдП рд╡рд┐рддрд░рд┐рдд рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдореЙрдбрд▓ рдХрд╛ рдХреЗрд╡рд▓ рдПрдХ
рд╡рд┐рд╢реЗрд╖ рдорд╛рдорд▓рд╛ рд╣реИ ред
рдбреНрд░рд╛рдпрдб рдХреЛ рдПрдХ рдордзреНрдпрдо рдпрд╛ рдмрдбрд╝реЗ рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдХреНрд▓рд╕реНрдЯрд░ (100 рд╕реЗ 10K рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдиреЛрдбреНрд╕ рд╕реЗ) рдкрд░ рдЪрд▓рд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдЕрдиреБрдХреВрд▓рд┐рдд рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИ рдФрд░ рдЗрд╕рдХрд╛ рдЙрджреНрджреЗрд╢реНрдп рдореБрдЦреНрдп рд░реВрдк рд╕реЗ рджреАрд░реНрдШрдХрд╛рд▓рд┐рдХ рдмреИрдЪ рдХреА рдиреМрдХрд░рд┐рдпреЛрдВ рдХреЗ рд▓рд┐рдП рд╣реИ, рдЬрд┐рдиреНрд╣реЗрдВ рдЕрдХреНрд╕рд░ рдмрд╛рддрдЪреАрдд рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рдирд╣реАрдВ рд╣реЛрддреА рд╣реИред
2004 ... 2008
рдбреНрд░рд╛рдпрдб рдХреЗ рдЕрддреАрдд, рд╡рд░реНрддрдорд╛рди рдФрд░ рднрд╡рд┐рд╖реНрдп рд╕реЗ рдирд┐рдкрдЯрдиреЗ рдХреЗ рдкреНрд░рдпрд╛рд╕реЛрдВ рдиреЗ рдореБрдЭреЗ рд▓реЗрдЦреЛрдВ рдХреА рдПрдХ рд╕реАрдорд┐рдд рд╕рдВрдЦреНрдпрд╛ рдореЗрдВ рд▓реЗ рд▓рд┐рдпрд╛, рдЬрд┐рдирдореЗрдВ рд╕реЗ рд▓реЗрдЦрдХ, рдореВрд▓ рд╕реНрд░реЛрддреЛрдВ рдХрд╛ рд╣рд╡рд╛рд▓рд╛ рджреЗрддреЗ рд╣реИрдВ, рди рдХрд┐ рдпрд╣ рддрд░реНрдХ рджреЗрддреЗ рд╣реИрдВ рдХрд┐:
- рдЗрд╕ рддрд░рд╣ рдХреА рдкреНрд░рдгрд╛рд▓реА рдХреЗ рдирд┐рд░реНрдорд╛рдг рдХрд╛ рд╡рд┐рдЪрд╛рд░ рдорд╛рдЗрдХрд▓ рдЗрд╕реНрд░реНрдб рджреНрд╡рд╛рд░рд╛ 2004 рдореЗрдВ (Google MapReduce рдХреЗ рд╕рд╛рде рдПрдХ рд╕рд╛рджреГрд╢реНрдп) рдЙрддреНрдкрдиреНрди рд╣реБрдЖ (рдмрд╛рдж рдореЗрдВ рдЙрдиреНрд╣реЛрдВрдиреЗ Microsoft рдореЗрдВ рд╢реЛрдзрдХрд░реНрддрд╛ рдХрд╛ рдкрдж рд╕рдВрднрд╛рд▓рд╛);
- 2006 рдореЗрдВ, рдмрд┐рд▓ рдЧреЗрдЯреНрд╕ рдиреЗ рдЦреБрдж рдХреЛ рдХрдВрдкреНрдпреВрдЯрд░ рд╕рд╛рдЗрдВрд╕ рд╕рдореНрдореЗрд▓рди рдореЗрдВ рдбреНрд░рд╛рдпрдб рдкреНрд░рд╕реНрддреБрдд рдХрд┐рдпрд╛;
- рдбреНрд░рд╛рдпрдб рдХреЛ рдмрд┐рдВрдЧ, рдорд╛рдЗрдХреНрд░реЛрд╕реЙрдлреНрдЯ рдПрдбрдХреЗрдВрдЯрд░,
рдХрд┐рдиреЗрдХреНрдЯ , рд╡рд┐рдВрдбреЛрдЬ рдПрдЪрдкреАрд╕реА рд╕рд░реНрд╡рд░ 2008 рдЖрд░ 2 (рдЙрддреНрддрд░рд╛рд░реНрджреНрдз, рд╡рд┐рд╢реНрд╡рд╕рдиреАрдп рд░реВрдк рд╕реЗ рдЬреНрдЮрд╛рдд) рдореЗрдВ рдЙрдкрдпреЛрдЧ рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред
2008 ... 2009
рдбреНрд░рд╛рдпрдб рдореЗрдВ рд╕рдиреНрдирд┐рд╣рд┐рдд рдЕрд╡рдзрд╛рд░рдгрд╛рдУрдВ рдХрд╛ рд╡рд░реНрдгрди рдХрд░рдиреЗ рд╡рд╛рд▓реЗ рдореВрд▓рднреВрдд рджрд╕реНрддрд╛рд╡реЗрдЬреЛрдВ рдореЗрдВ рд╕реЗ рдПрдХ,
OSDI'08 рдкрд░ "
рдмреЗрд╕реНрдЯ рдкреЗрдкрд░ " (рдСрдкрд░реЗрдЯрд┐рдВрдЧ рд╕рд┐рд╕реНрдЯрдо рдбрд┐рдЬрд╝рд╛рдЗрди рдФрд░ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдкрд░ USENIX рд╕рдВрдЧреЛрд╖реНрдареА) рд╕реЗ рд╕рдореНрдорд╛рдирд┐рдд рдХрд┐рдпрд╛ рдЧрдпрд╛ рдерд╛ред
рдирд╡рдВрдмрд░ 2009 рдореЗрдВ, рдбреНрд░рд╛рдпрдб
рдПрдХ рдЕрдХрд╛рджрдорд┐рдХ рд▓рд╛рдЗрд╕реЗрдВрд╕ рдХреЗ рддрд╣рдд рдЙрдкрд▓рдмреНрдз рд╣реЛ рдЧрдпрд╛ред
2010 ... 2011
2011 рдореЗрдВ, рд╡рд┐рдВрдбреЛрдЬ рдПрдЪрдкреАрд╕реА рдЯреАрдо
рдиреЗ рд╕рдВрдмрдВрдзрд┐рдд рд╡рд┐рдВрдбреЛрдЬ рдСрдкрд░реЗрдЯрд┐рдВрдЧ рд╕рд┐рд╕реНрдЯрдо рд▓рд╛рдЗрди рдХреЗ
рд▓рд┐рдП "рд▓рд┐рдирдХреНрдпреВ рдЯреВ рдПрдЪрдкреАрд╕реА" (рд╡рд┐рдВрдбреЛрдЬ рдПрдЪрдкреАрд╕реА рд╕рд░реНрд╡рд░ рдХреЗ рд▓рд┐рдП рдбреНрд░рд╛рдпрдб)
рдХреЗ рдмреАрдЯрд╛ рд╕рдВрд╕реНрдХрд░рдг рдХреА рдШреЛрд╖рдгрд╛ рдХреА ред рдЙрд╕реА рд╡рд░реНрд╖, рдпрд╣ рдШреЛрд╖рдгрд╛ рдХреА рдЧрдИ рдереА рдХрд┐
LINQ рд╕реЗ HPC "рдкреВрд░реНрд╡рд╛рд╡рд▓реЛрдХрди рд╕рдВрд╕реНрдХрд░рдг рд╕реЗ" рдмрд╛рд╣рд░ рдирд╣реАрдВ рдирд┐рдХрд▓реЗрдВрдЧреЗ (рдЕрд░реНрдерд╛рдд, рд╡рд╛рд╕реНрддрд╡ рдореЗрдВ, рд╕рдорд░реНрдерди рдХреА рд╕рдорд╛рдкреНрддрд┐ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ)ред
2012 ... 2013 / UPD /
рдпрд╣ рдзреНрдпрд╛рди рджреЗрдиреЗ рдпреЛрдЧреНрдп рд╣реИ рдХрд┐ рд╡рд┐рдВрдбреЛрдЬ рдПрдЪрдкреАрд╕реА рдЯреАрдо рдиреЗ рдбреНрд░рд╛рдп рдкреНрд░реЛрдЬреЗрдХреНрдЯ рдХреЗ рд╕рдорд░реНрдерди / рд╡рд┐рдХрд╛рд╕ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдХреБрдЫ рднреА рдирд╣реАрдВ рдХрд╣рд╛ (рдФрд░ рд╕рд┐рджреНрдзрд╛рдВрдд рдореЗрдВ рдирд╣реАрдВ рдХрд╣ рд╕рдХрддрд╛)ред рдбреНрд░рд╛рдпрдб рдХреЗ рдЖрдЧреЗ рд╕рдорд░реНрдерди рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдЕрдиреНрдп рдмрдпрд╛рди рдпрд╛, рдЗрд╕рдХреЗ рд╡рд┐рдкрд░реАрдд, рд╕рдорд░реНрдерди рдХрд╛ рдПрдХ рдЕрд╕рдорд╛рди рдирдХрд╛рд░, рдкрд┐рдЫрд▓реЗ (2012) рдФрд░ рдЗрд╕ рд╡рд░реНрд╖ рдкрд░ рдзреНрдпрд╛рди рдирд╣реАрдВ рджрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИред
2. рдбреНрд░рд╛рдпрдб рдЗрдХреЛрд╕рд┐рд╕реНрдЯрдо

рдбреНрд░рд╛рдпрдб рдкрд░рд┐рдпреЛрдЬрдирд╛ рдореЗрдВ 3 рдкреНрд░рдореБрдЦ рдШрдЯрдХ рд╣реЛрддреЗ рд╣реИрдВ:
- рдбреНрд░рд╛рдпрдб - рд╡рд┐рддрд░рд┐рдд рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдХрд╛ рдХреНрд░рдо (рдЗрд╕рдХреЗ рдмрд╛рдж, рдЕрд╕реНрдкрд╖реНрдЯрддрд╛ рд╕реЗ рдмрдЪрдиреЗ рдХреЗ рд▓рд┐рдП, рд╣рдо рдЗрд╕ рдШрдЯрдХ рдХреЛ рдбреНрд░рд╛рдпрдб рд░рдирдЯрд╛рдЗрдо рдХрд╣реЗрдВрдЧреЗ);
- DryadLINQ рдПрдХ рдЙрдЪреНрдЪ рд╕реНрддрд░реАрдп рдХреНрд╡реЗрд░реА рднрд╛рд╖рд╛ рд╣реИ рдЬреЛ .NET рд▓реИрдВрдЧреНрд╡реЗрдЬ рдЗрдВрдЯреАрдЧреНрд░реЗрдЯреЗрдб рдкреНрд░реЛрдЧреНрд░рд╛рдорд┐рдВрдЧ рдореЙрдбрд▓ рдкрд░ рдЖрдзрд╛рд░рд┐рдд рд╣реИ
рдХреНрд╡реЗрд░реА (LINQ);
- рдбрд┐рд╕реНрдЯреНрд░рд┐рдмреНрдпреВрдЯреЗрдб рд╕реНрдЯреЛрд░реЗрдЬ рдХреИрдЯрд▓реЙрдЧ (рдбреАрдПрд╕рд╕реА) рдПрдХ рд╡рд┐рддрд░рд┐рдд рдлрд╛рдЗрд▓ рд╕рд┐рд╕реНрдЯрдо рд╣реИ рдЬреЛ рдХрд┐ рд╡рд┐рдиреНрдпрд╛рд╕ рдЕрддрд┐рд░реЗрдХ рдХреЗ рд╕рд╛рде рд╣реИред

рдиреАрдЪреЗ рд╣рдо рдбреНрд░рд╛рдпрдб рдЗрдХреЛрд╕рд┐рд╕реНрдЯрдо рдХреЗ рддрддреНрд╡реЛрдВ рдкрд░ рдПрдХ рдХрд░реАрдм рд╕реЗ рдирдЬрд╝рд░ рдбрд╛рд▓реЗрдВрдЧреЗ: рдбреНрд░рд╛рдпрдб рд░рдирдЯрд╛рдЗрдо рд░рдирдЯрд╛рдЗрдо рдФрд░ рдбреНрд░рд╛рдпрдбрд▓рд╛рдЗрди рд╕реНрдЯреЗрдЯ рднрд╛рд╖рд╛ред
3. рдбреНрд░рд╛рдИрдб рд░рдирдЯрд╛рдЗрдо
рдбреНрд░рд╛рдпрдб рд░рдирдЯрд╛рдЗрдо рд╡рд┐рддрд░рд┐рдд рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдХрд╛ рдПрдХ
рд░рдирдЯрд╛рдЗрдо рд╣реИ , рдЬреИрд╕реЗ рд╣реИрдбреЛрдк, рдЗрд╕ рддрд░рд╣ рдХреЗ рдХрд╛рд░реНрдпреЛрдВ рдХреЛ рд▓реЗ рд░рд╣рд╛ рд╣реИ:
- рд╡рд┐рддрд░рд┐рдд рдХрд╛рд░реНрдпреЛрдВ рдХрд╛ рдирд┐рд░реНрдзрд╛рд░рдг рдФрд░ рдкреНрд░рдмрдВрдзрди;
- рд╕рдВрд╕рд╛рдзрди рдкреНрд░рдмрдВрдзрди;
- рдЧрд▓рддреА рд╕рд╣рд┐рд╖реНрдгреБрддрд╛;
- рдирд┐рдЧрд░рд╛рдиреАред
рдбреНрд░рд╛рдпрдб рд░рдирдЯрд╛рдЗрдо рдореЗрдВ рдХрд╛рд░реНрдп рдПрдХ
рдирд┐рд░реНрджреЗрд╢рд┐рдд рдПрд╕рд╛рдЗрдХреНрд▓рд┐рдХ рдЧреНрд░рд╛рдл рд╣реИ , рдЬрд╣рд╛рдВ
рдХреЛрдиреЗ рдкреНрд░реЛрдЧреНрд░рд╛рдо рд╣реИрдВ рдФрд░
рдЧреНрд░рд╛рдл рдХреЗ
рдХрд┐рдирд╛рд░реЗ рдбреЗрдЯрд╛ рдЪреИрдирд▓ рд╣реИрдВ ред рдпрд╣ рддрд╛рд░реНрдХрд┐рдХ рдЧреНрд░рд╛рдлрд╝ рдирд┐рд╖реНрдкрд╛рджрди рдпреЛрдЧреНрдп рд╡рд╛рддрд╛рд╡рд░рдг рджреНрд╡рд╛рд░рд╛ рдХреНрд▓рд╕реНрдЯрд░ рдореЗрдВ рднреМрддрд┐рдХ рд╕рдВрд╕рд╛рдзрдиреЛрдВ рдХреЗ рд▓рд┐рдП рдореИрдк рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред рд╕рд╛рдорд╛рдиреНрдп рддреМрд░ рдкрд░, рдПрдХ рдЧреНрд░рд╛рдлрд╝ рдореЗрдВ рдХреЛрдиреЗ рдХреА рд╕рдВрдЦреНрдпрд╛ рдПрдХ рдХреНрд▓рд╕реНрдЯрд░ рдореЗрдВ рднреМрддрд┐рдХ рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдиреЛрдбреНрд╕ рдХреА рд╕рдВрдЦреНрдпрд╛ рд╕реЗ рдЕрдзрд┐рдХ рд╣реЛрддреА рд╣реИред

3.1ред рдбреЗрдЯрд╛ рдЪреИрдирд▓
рдбреЗрдЯрд╛ рдЪреИрдирд▓, рд╕рд╛рде рд╣реА рд╕рд╛рде рдХреЛрдиреЗ, рдЕрдореВрд░реНрдд рд╣реИрдВ рдФрд░ рдЗрдирдХреЗ рджреНрд╡рд╛рд░рд╛ рджрд░реНрд╢рд╛рдпрд╛ рдЧрдпрд╛ рд╣реИ:
- рд╕рд╛рдЭрд╛-рд╕реНрдореГрддрд┐ FIFO (рдЗрдВрдЯреНрд░рд╛-рдорд╢реАрди): рд╕рдВрдЪрд╛рд▓рди (рдЧреНрд░рд╛рдлрд╝ рдХреЗ рдХреЛрдиреЗ) рдХреЗ рдмреАрдЪ рдбреЗрдЯрд╛ рдХрд╛ рдЖрджрд╛рди-рдкреНрд░рджрд╛рди рдХрд░рдиреЗ рдХрд╛ рд╕рдмрд╕реЗ рддреЗрдЬрд╝ рддрд░реАрдХрд╛ рд╣реИ, рд▓реЗрдХрд┐рди рд╕рдВрдЪрд╛рд▓рди рдПрдХ рд╣реА рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдиреЛрдб рдХреЗ рднреАрддрд░ рдХрд┐рдпрд╛ рдЬрд╛рдирд╛ рдЪрд╛рд╣рд┐рдП;
- рдЯреАрд╕реАрдкреА рдкрд╛рдЗрдк (рдЕрдВрддрд░-рдорд╢реАрди): рдПрдХ рдЪреИрдирд▓ рдЬрд┐рд╕реЗ рдбрд┐рд╕реНрдХ рддрдХ рдкрд╣реБрдВрдЪ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рдирд╣реАрдВ рд╣реЛрддреА рд╣реИ (рд╣рдо рдбрд┐рд╕реНрдХ рд╕реЗ рдбреЗрдЯрд╛ рд▓рд┐рдЦрдиреЗ / рдкрдврд╝рдиреЗ рд╕реЗ рдЬреБрдбрд╝реЗ рдУрд╡рд░рд╣реЗрдб рд╕реЗ рдмрдЪрддреЗ рд╣реИрдВ); рдПрдХ рдЪреИрдирд▓ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХреЗрд╡рд▓ рддрднреА рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИ рдЬрдм рд╕рдВрдЪрд╛рд▓рди рдЬрд┐рд╕рдХреЗ рдмреАрдЪ рдбреЗрдЯрд╛ рдкреНрд░рд╕рд╛рд░рд┐рдд рд╣реЛрддрд╛ рд╣реИ, рдЯреНрд░рд╛рдВрд╕рдорд┐рд╢рди рдХреЗ рд╕рдордп рдЙрдкрд▓рдмреНрдз рд╣реЛ;
- рдПрд╕рдПрдордмреА / рдПрдирдЯреАрдПрдлрдПрд╕ рдлрд╛рдЗрд▓реЗрдВ (рдЕрд╕реНрдерд╛рдпреА рдлрд╛рдЗрд▓реЗрдВ): рдЪреИрдирд▓ рдкрд░ рдкреНрд░реЗрд╖рд┐рдд рдЖрдЙрдЯрдкреБрдЯ рд░рд┐рдХреЙрд░реНрдб рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ
рдбрд┐рд╕реНрдХ рдХреЗ рд▓рд┐рдП, рдЗрдирдкреБрдЯ рдбреЗрдЯрд╛ рдкрдврд╝рд╛ рдЬрд╛рддрд╛ рд╣реИ; рдбрд┐рдлрд╝реЙрд▓реНрдЯ рдЪреИрдирд▓ред
рд╡рд┐рддрд░рд┐рдд рдХрд╛рд░реНрдп рдХреЗ рд╕рдмрд╕реЗ рдХреБрд╢рд▓ рдирд┐рд╖реНрдкрд╛рджрди рдХреЗ рд▓рд┐рдП рдХреНрд▓рд╕реНрдЯрд░ рдХреЗ рднреМрддрд┐рдХ рд╕рдВрд╕рд╛рдзрдиреЛрдВ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдЬрд╛рдирдХрд╛рд░реА рдХрд╛ рдЦреБрд▓рд╛рд╕рд╛ рдХрд░рдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рдЪреИрдирд▓ рдХреЛ "рд╕реНрд╡рдЪреНрдЫ" рдХреЗ рд░реВрдк рдореЗрдВ рдЕрдореВрд░реНрдд рдирд╣реАрдВ рдмрдирд╛рддреА рд╣реИ рдХреНрдпреЛрдВрдХрд┐ рдпрд╣ рдкрд╣рд▓реА рдирдЬрд╝рд░ рдореЗрдВ рд▓рдЧрддрд╛ рд╣реИред рдлрд┐рд░ рднреА, рд╡рд┐рддрд░рд┐рдд рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдХреЗ рдбреЗрд╡рд▓рдкрд░ рдХреЛ "рдЪреИрдирд▓" рдЕрдореВрд░реНрддрддрд╛ рдХрд╛ рдЙрд▓реНрд▓рдВрдШрди рдирд╣реАрдВ рджрд┐рдЦрддрд╛ рд╣реИ, рдХреНрдпреЛрдВрдХрд┐ рд╡рд╣ рдЕрдиреНрдп рд╕реНрддрд░реЛрдВ (рдХрд╛рд░реНрдп рдкреНрд░рдмрдВрдзрдХ) рдХреЗ рддрд╣рдд рдЫрд┐рдкрддреА рд╣реИ, рдЬрд┐рд╕ рдкрд░ рдиреАрдЪреЗ рдЪрд░реНрдЪрд╛ рдХреА рдЬрд╛рдПрдЧреАред
3.2ред рдбреЗрдЯрд╛ рдореЙрдбрд▓
рдбреНрд░рд╛рдпрдб рдбреЗрдЯрд╛ рдореЙрдбрд▓ рдПрдХ
рд╕рд╛рдЭрд╛-рдХреБрдЫ рднреА рдирд╣реАрдВ рд╡рд╛рд╕реНрддреБрдХрд▓рд╛ рд╣реИ ред рдЗрд╕ рддрд░рд╣ рдХреЗ рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ рдХреЗ рдлрд╛рдпрджреЗ рдкрд╛рд░рдВрдкрд░рд┐рдХ рд░реВрдк рд╕реЗ
рд╕реНрдХреЗрд▓реЗрдмрд┐рд▓рд┐рдЯреА ,
рдкрд░рд┐рд╡рд░реНрддрди рдЯреНрд░реИрдХрд┐рдВрдЧ рдХрд╛ рд╕рдорд░реНрдерди рдХрд░рдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рдХреА рдЕрдиреБрдкрд╕реНрдерд┐рддрд┐,
рдЬрдЯрд┐рд▓ рд▓реЗрдирджреЗрди рдХреЗ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдФрд░
рд╕рд┐рдВрдХреНрд░рдирд╛рдЗрдЬрд╝реЗрд╢рди рдкреНрд░рд╛рдЗрдореЗрдЯрд┐рд╡ рдХрд╛ рдЙрдкрдпреЛрдЧ рд╣реИрдВред рдбреНрд░рд╛рдпрдб рдкреНрд▓реЗрдЯрдлрд╝реЙрд░реНрдо рдбреЗрдЯрд╛ рдХреЗ рдмрдбрд╝реЗ рд╕реНрдерд┐рд░ рд╕рдВрд╕реНрдХрд░рдгреЛрдВ рдХреЗ рд▓рд┐рдП рдЕрдЪреНрдЫреА рддрд░рд╣ рд╕реЗ рдЕрдиреБрдХреВрд▓ рд╣реИ рдФрд░ рдбреЗрдЯрд╛ рдХреЛ рдмрд╛рд░-рдмрд╛рд░ рдмрджрд▓рдиреЗ рдпрд╛ рд╕реНрдЯреНрд░реАрдорд┐рдВрдЧ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЕрдиреБрдХреВрд▓ рдирд╣реАрдВ рд╣реИред
рдбреНрд░рд╛рдпрдб рдХреЛ рдЗрдирдкреБрдЯ рдбреЗрдЯрд╛
рдХреА рдЕрдкрд░рд┐рд╡рд░реНрддрдиреАрдп рдФрд░
рдкрд░рд┐рдорд┐рдд рдорд╛рддреНрд░рд╛ рдкреНрд░рд╛рдкреНрдд рдХрд░рдиреЗ рдХреА рдЙрдореНрдореАрдж рд╣реИред рд╡рд┐рддрд░рд┐рдд рдХрд╛рд░реНрдпрдХреНрд░рдо рдирд┐рд╖реНрдкрд╛рджрди рдкрд░рд┐рдгрд╛рдо рддрдм рддрдХ рдЙрдкрд▓рдмреНрдз рдирд╣реАрдВ рд╣реЛрдВрдЧреЗ рдЬрдм рддрдХ рдХрд┐ рд╕рднреА рд░реВрдЯреАрди рдирд┐рд╖реНрдкрд╛рджрд┐рдд рдирд╣реАрдВ рд╣реЛ рдЬрд╛рддреЗред рдпрд╣ рдорд╛рдирдирд╛ тАЛтАЛрддрд░реНрдХрд╕рдВрдЧрдд рд╣реИ рдХрд┐ рдбреНрд░рд╛рдпрдб рдореЗрдВ рд╕реНрдЯреНрд░реАрдорд┐рдВрдЧ рдбреЗрдЯрд╛ рд╡рд╛рд▓реЗ рдХрд╛рд░реНрдп рдореВрд▓рднреВрдд рд░реВрдк рд╕реЗ рдЕрд╕рдВрднрд╡ рд╣реИрдВред
3.3ред рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ
рдбреНрд░рд╛рдпрдб рдЬреЙрдм
рдЬреЙрдм рдореИрдиреЗрдЬрд░ (рдЬреЗрдПрдо) рджреНрд╡рд╛рд░рд╛ рдСрд░реНрдХреЗрд╕реНрдЯреНрд░реЗрдЯреЗрдб рд╣реИред рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ рдореЗрдВ рдХрд╛рд░реНрдпреЛрдВ рдХреА рдЧрдгрдирд╛ рдХреЗ рд▓рд┐рдП рдПрдХ рдЧреНрд░рд╛рдл рдмрдирд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдПрдкреНрд▓рд┐рдХреЗрд╢рди-рд╡рд┐рд╢рд┐рд╖реНрдЯ рдХреЛрдб рд╣реЛрддрд╛ рд╣реИред
рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ рдХреЗ рд▓рд┐рдП рдЬрд┐рдореНрдореЗрджрд╛рд░ рд╣реИ:
- рдЧрдгрдирд╛ рдЧреНрд░рд╛рдл рдХрд╛ рдЖрд░рдВрднреАрдХрд░рдг ;
- рдирд┐рдпреЛрдЬрди рд╕рдВрдЪрд╛рд▓рди (рдХреЛрдиреЗ, рдмрд╛рдж рдореЗрдВ рд╢реАрд░реНрд╖ рд╕рдВрдЪрд╛рд▓рди рдХреЗ рд░реВрдк рдореЗрдВ рд╕рдВрджрд░реНрднрд┐рдд рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ) рддрд╛рдХрд┐ рдЗрди рдХреЛрдиреЗ рдХреЗ рд╕рд╛рде рдЬреБрдбрд╝реЗ рднреМрддрд┐рдХ рд╣рд╛рд░реНрдбрд╡реЗрдпрд░ рд╢реАрд░реНрд╖ рдкрд░ рдЗрди рдбреЗрдЯрд╛ рджреНрд╡рд╛рд░рд╛ рд╕рдВрд╕рд╛рдзрд┐рдд рдбреЗрдЯрд╛ рдХреЗ рдЬрд┐рддрдирд╛ рд╕рдВрднрд╡ рд╣реЛ рд╕рдХреЗ;
- рдЧрд▓рддреА рд╕рд╣рд┐рд╖реНрдгреБрддрд╛ ;
- рдкреНрд░рджрд░реНрд╢рди рдХреА рдирд┐рдЧрд░рд╛рдиреА рдФрд░ рд╕рд╛рдВрдЦреНрдпрд┐рдХреА рд╕рдВрдЧреНрд░рд╣ ;
- рдореМрдЬреВрджрд╛ рдиреАрддрд┐рдпреЛрдВ рдХреЗ рдЕрдиреБрд╕рд╛рд░ рдЧреНрд░рд╛рдл рдХрд╛ рдЧрддрд┐рд╢реАрд▓ рдкрд░рд┐рд╡рд░реНрддрди ред
рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдбреЗрдЯрд╛ рдХреЛ рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рд╕реЗ рд╕реАрдзреЗ рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рдореЗрдВ рднреЗрдЬрд╛ рдЬрд╛рддрд╛ рд╣реИред рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ рдХреЗрд╡рд▓ рд╡рд┐рддрд░рд┐рдд рдХрд╛рд░реНрдпреЛрдВ рдХреЗ рдирд┐рд╖реНрдкрд╛рджрди, рдирд┐рд░реНрдзрд╛рд░рдг рдФрд░ рдирд┐рдЧрд░рд╛рдиреА рдХреЗ рд▓рд┐рдП рдЬрд┐рдореНрдореЗрджрд╛рд░ рд╣реИред рдЗрд╕рд▓рд┐рдП,
рдЬреЗрдПрдо рдПрдХ рдкреНрд░рджрд░реНрд╢рди
рдЕрдбрд╝рдЪрди рдирд╣реАрдВ рд╣реИ ред рдЗрд╕рдХреЗ рдЕрд▓рд╛рд╡рд╛, рдЕрдЧреНрд░реЗрд╖рдг рдХреЗ рджреМрд░рд╛рди, рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рдХреЛрдб рдпрд╛ рддреЛ рдЬреЙрдм рдореИрдиреЗрдЬрд░ рд╕реЗ рдпрд╛ рдирд┐рдХрдЯрддрдо рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдиреЛрдб рд╕реЗ рдЕрдЧреНрд░реЗрд╖рд┐рдд рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИ, рдЬрд┐рд╕ рдкрд░ рдПрдХ рд╕рдорд╛рди рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред
3.4ред рдирд╛рдо рд╕рд░реНрд╡рд░ред рдбреЗрдореЙрди
рдирд╛рдо рд╕рд░реНрд╡рд░
рдирд╛рдо рд╕рд░реНрд╡рд░ рдХреНрд▓рд╕реНрдЯрд░ рдореЗрдВ рдЙрдкрд▓рдмреНрдз рдЧрдгрдирд╛ рдиреЛрдбреНрд╕ рдФрд░ рдЙрдирдХреЗ рд╕рд╛рдордпрд┐рдХ рд╕реНрдерд╛рди рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдЬрд╛рдирдХрд╛рд░реА рдХреЗ рдкреНрд░рдХрдЯреАрдХрд░рдг рдХреЗ рд▓рд┐рдП рдЬрд┐рдореНрдореЗрджрд╛рд░ рд╣реИред
рдкреНрд░рддреНрдпреЗрдХ рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдиреЛрдб рдкрд░ рдПрдХ
рдбреЗрдорди рдкреНрд░рдХреНрд░рд┐рдпрд╛ рд╢реБрд░реВ рдХреА рдЬрд╛рддреА рд╣реИ, рдЬрд┐рд╕рдХрд╛ рдореБрдЦреНрдп рдЙрджреНрджреЗрд╢реНрдп рдЬреЙрдм рдореИрдиреЗрдЬрд░ рджреНрд╡рд╛рд░рд╛ рднреЗрдЬреЗ рдЧрдП рд╢реАрд░реНрд╖ рд╕рдВрдЪрд╛рд▓рди рдХреЛ рд▓реЙрдиреНрдЪ рдХрд░рдирд╛ рд╣реИред рдбреЗрдореЙрди рдПрдХ рдкреНрд░реЙрдХреНрд╕реА рдСрдмреНрдЬреЗрдХреНрдЯ рдХреЗ рд░реВрдк рдореЗрдВ рдХрд╛рд░реНрдп рдХрд░рддрд╛ рд╣реИ, рдЗрд╕рд▓рд┐рдП рдЬреЙрдм рдореИрдиреЗрдЬрд░ рдореЗрдВ рд░рд┐рдореЛрдЯ рдбреЗрдореЙрди рджреНрд╡рд╛рд░рд╛ рд╢реБрд░реВ рдХрд┐рдП рдЧрдП рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рдХреА рд╕реНрдерд┐рддрд┐ рдФрд░ рдЪрд░рдг рдХрд╛ рдкрддрд╛ рд▓рдЧрд╛рдиреЗ рдХреА рдХреНрд╖рдорддрд╛ рд╣реИред
рдбреНрд░рд╛рдпрдб рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ рдФрд░
рдЬреЙрдм рдореИрдиреЗрдЬрд░ ,
рдирд╛рдо рд╕рд░реНрд╡рд░ (рдПрдирдПрд╕) рдФрд░
рдбреЗрдорди (рдкреАрдбреА) рдХреЗ рд▓рд┐рдП рдЗрд╕ рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ рдореЗрдВ рдЬрдЧрд╣ рдиреАрдЪреЗ рджреА рдЧрдИ рд╣реИред

рдЪрд┐рддреНрд░рдг рдХрд╛ рд╕реНрд░реЛрдд [3]
(
рдЪрд┐рддреНрд░рдг рдХреА рд╡реНрдпрд╛рдЦреНрдпрд╛ : рдЬреЗрдПрдо рдПрдирдПрд╕ рд╕реЗ рдкреНрд░рд╛рдкреНрдд рдЙрдкрд▓рдмреНрдз рдиреЛрдбреНрд╕ рдФрд░ рдЙрдирдХреЗ рд╕реНрдерд╛рди рдкрд░ рдбреЗрдЯрд╛ рдХреЗ рдЖрдзрд╛рд░ рдкрд░ рдирд┐рд╖реНрдкрд╛рджрди рдЧреНрд░рд╛рдл рдХреЛ рдЖрд░рдВрднреАрдХреГрдд рдХрд░рддрд╛ рд╣реИред рдЬреЗрдПрдо рдЧреНрд░рд╛рдл рдХреЗ рдирд┐рд╖реНрдкрд╛рджрди рдХреА рдирд┐рдЧрд░рд╛рдиреА рдХрд░рддрд╛ рд╣реИ, рдкреАрдбреА рд╕реЗ рд╕реНрдерд┐рддрд┐ рдкреНрд░рд╛рдкреНрдд рдХрд░рддрд╛ рд╣реИред рдкреАрдбреА, рдПрдирдПрд╕ рдФрд░ рдЬреЗрдПрдо рдХреЛ рджрд░рдХрд┐рдирд╛рд░ рдХрд░рддреЗ рд╣реБрдП рдЙрдкрд▓рдмреНрдз рдЪреИрдирд▓реЛрдВ рдкрд░ рдбреЗрдЯрд╛ рдХрд╛ рдЖрджрд╛рди-рдкреНрд░рджрд╛рди рдХрд░рддрд╛ рд╣реИред рдЙрди рдСрдкрд░реЗрд╢рдиреЛрдВ рдХреЛ рджрд┐рдЦрд╛рддрд╛ рд╣реИ рдЬреЛ рд╡рд░реНрддрдорд╛рди рдореЗрдВ рдирд┐рд╖реНрдкрд╛рджрд┐рдд рд╣реЛ рд░рд╣реЗ рд╣реИрдВред)
3.5ред рдЧрддрд┐рд╢реАрд▓ рдЧреНрд░рд╛рдл рдкрд░рд┐рд╡рд░реНрддрди
Hadoop рдореЗрдВ JobTracker рдХреЗ рд╕рдорд╛рди Job Manager,
рд╕реНрдереИрддрд┐рдХ рдкреНрд░рджрд░реНрд╢рди рдЕрдиреБрдХреВрд▓рди рдкреНрд░рджрд╛рди рдХрд░рддрд╛ рд╣реИред рд▓реЗрдХрд┐рди Hadoop рдХреЗ рд╡рд┐рдкрд░реАрдд, рдбреНрд░рд╛рдпрдб рдореЗрдВ
рдЧрддрд┐рд╢реАрд▓ рд░реВрдк рд╕реЗ рдкреНрд░рджрд░реНрд╢рди рдХреЛ рдЕрдиреБрдХреВрд▓рд┐рдд рдХрд░рдиреЗ рдХреА рдХреНрд╖рдорддрд╛ рд╣реИред
рдПрдХ
рдирд┐рд░реНрджреЗрд╢рд┐рдд рдПрд╕рд╛рдЗрдХреНрд▓рд┐рдХ рдЧреНрд░рд╛рдл рдХреЗ рдХреЗрдВрджреНрд░реАрдп рдбреНрд░рд╛рдпрдб рдЕрд╡рдзрд╛рд░рдгрд╛ рдХреЗ рд▓рд┐рдП рдзрдиреНрдпрд╡рд╛рдж рдФрд░
рдХреЙрд▓рдмреИрдХ рддрдВрддреНрд░ рдХреЗ рд▓рд┐рдП рд╕рдорд░реНрдерди (рдХреЙрд▓рдмреИрдХ рдЬреЗрдПрдо рдХреЛ рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рдХреЗ рдирд┐рд╖реНрдкрд╛рджрди рдЪрд░рдг рдореЗрдВ рдмрджрд▓рд╛рд╡ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рд╕реВрдЪрд┐рдд рдХрд░рддрд╛ рд╣реИ), рдирд┐рд╖реНрдкрд╛рджрди рдЧреНрд░рд╛рдл рд░рдирдЯрд╛рдЗрдо рдХреЗ рджреМрд░рд╛рди рдмрджрд▓рдиреЗ рдореЗрдВ рд╕рдХреНрд╖рдо рд╣реИред рдбрд╛рдпрдирд╛рдорд┐рдХ рдкрд░рд┐рд╡рд░реНрддрди рд╕реЗ рдЖрдк рдирд┐рдореНрди рд╕рдорд╕реНрдпрд╛рдУрдВ рдХреЛ рдХрд╛рдлреА рд╣рдж рддрдХ рд╣рд▓ рдХрд░ рд╕рдХрддреЗ рд╣реИрдВ:
- рдиреЗрдЯрд╡рд░реНрдХ рдмреИрдВрдбрд╡рд┐рдбреНрде рдХреА рдЧрд┐рд░рд╛рд╡рдЯ , рдЬрдм рдХрдИ рдиреЛрдбреНрд╕ рдХреЛ рдбреЗрдЯрд╛ рдХреЛ рджреВрд╕рд░реЗ рдиреЛрдб рдХреЗ рдЗрдирдкреБрдЯ рдореЗрдВ рд╕реНрдерд╛рдирд╛рдВрддрд░рд┐рдд рдХрд░рдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реЛрддреА рд╣реИ (рдХреЙрдореНрдмрд┐рдиреЗрд╢рди рдФрд░ рд░рд┐рдбреНрдпреВрд╕ рдЪрд░рдгреЛрдВ рдХреЗ рдмреАрдЪ рдбреЗрдЯрд╛ рдЯреНрд░рд╛рдВрд╕рдлрд░ рдХрд░рддреЗ рд╕рдордп Hadoop рдореЗрдВ, рдЗрд╕ рддрд░рд╣ рдХреА рдЧрд┐рд░рд╛рд╡рдЯ рджреЗрдЦреА рдЬрд╛рддреА рд╣реИ);

- рд╕рд░рд▓ рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдиреЛрдбреНрд╕ "рдзреАрдореА" рд╕рдВрдЪрд╛рд▓рди рдХреЗ рдкреВрд░рд╛ рд╣реЛрдиреЗ рдХреЗ рд▓рд┐рдП рдкреНрд░рддреАрдХреНрд╖рд╛ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП (Hadoop рдореЗрдВ, рд╕рднреА рдорд╛рдирдЪрд┐рддреНрд░ рдХрд╛рд░реНрдп рдкреВрд░рд╛ рд╣реЛрдиреЗ рддрдХ рдХрдиреНрд╡реЗрдВрд╢рди рд╢реБрд░реВ рдирд╣реАрдВ рд╣реЛ рд╕рдХрддрд╛ рд╣реИ, рдЬреЛ рдПрдХ рд╕рд░рд▓ рдореИрдк рд╕реНрд▓реЙрдЯ рдХреА рдУрд░ рдЬрд╛рддрд╛ рд╣реИ, рдФрд░ "рд╕рдмрд╕реЗ рдзреАрдореА" рдореИрдк рдХреЗ рдирд┐рд╖реНрдкрд╛рджрди рд╕рдордп рдХреЗ рдмрд░рд╛рдмрд░ рдХрд╛рд░реНрдпрдХреНрд░рдо рдХрд╛ рд╕рдмрд╕реЗ рдЕрдЪреНрдЫрд╛ рдирд┐рд╖реНрдкрд╛рджрди рд╕рдордп рдмрдирд╛рддрд╛ рд╣реИред рд╕рдВрджрд░реНрдн)ред

рдЗрд╕рдХреЗ рдЕрд▓рд╛рд╡рд╛, рд░рдирдЯрд╛рдЗрдо рдХреЗ рджреМрд░рд╛рди рдЧреНрд░рд╛рдл рдХреЗ рдЧрддрд┐рд╢реАрд▓ рдкрд░рд┐рд╡рд░реНрддрди рдФрд░ рдбреЗрдЯрд╛ рдЯреНрд░рд╛рдВрд╕рдлрд░ рдХреЗ рдПрдХ рд╡рд┐рд╢рд┐рд╖реНрдЯ рддрд░реАрдХреЗ рд╕реЗ "рдЪреИрдирд▓" рдХреА рдЕрд╡рдзрд╛рд░рдгрд╛ рдХреЗ рдЕрдореВрд░реНрдд рд╣реЛрдиреЗ рдХреЗ рдХрд╛рд░рдг, рдпрд╣ рдорд╣рддреНрд╡рдкреВрд░реНрдг рд╣реИ (рдпрд╣реА рд╣реИ, рдЗрд╕реЗ рд▓рд╛рдЧреВ рдХрд░рдирд╛ рд╕рдВрднрд╡ рд╣реИ, рдпрджрд┐ рд▓рд╛рдЧреВ рдирд╣реАрдВ рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИ) рдбреЗрдЯрд╛ рди рдХреЗрд╡рд▓ рдЙрд╕ рдиреЛрдб рддрдХ рдкрд╣реБрдВрдЪ рд╕рдХрддрд╛ рд╣реИ рдЬрд┐рд╕ рдкрд░ рдбреЗрдЯрд╛ рднреМрддрд┐рдХ рд░реВрдк рд╕реЗ рд╕рдВрдЧреНрд░рд╣реАрдд рд╣реИред рд▓реЗрдХрд┐рди рдпрд╣ рднреА:
- рдПрдХ рдбреЗрдорди рдПрдХ рдЕрд╕реНрдерд╛рдпреА рдлрд╝рд╛рдЗрд▓ рдХреЛ рдПрдХ рд░реИрдХ рд▓реЛрдХрд▓ рдореЗрдВ рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рдХреЗ рд▓рд┐рдП рдЗрдВрдЯрд░рдореАрдбрд┐рдПрдЯ рдкрд░рд┐рдгрд╛рдореЛрдВ рдХреЗ рд╕рд╛рде рд╕рд╣реЗрдЬ рд╕рдХрддрд╛ рд╣реИ, рдЬреЛ рдЗрд╕ рдбреЗрдЯрд╛ рдХреЛ рдЗрдирдкреБрдЯ рдХреЗ рд░реВрдк рдореЗрдВ рд╕реНрд╡реАрдХрд╛рд░ рдХрд░рддрд╛ рд╣реИ;
- рдПрдХ рдбреЗрдореЙрди рд╣реЛрд╕реНрдЯ рдХреА рд░реИрдо рдореЗрдВ рдбреЗрдЯрд╛ рдХреЛ рд╕реНрдЯреЛрд░ рдХрд░ рд╕рдХрддрд╛ рд╣реИ рдпрджрд┐ рдЗрд╕ рдСрдкрд░реЗрд╢рди рдХреЛ рдЗрдирдкреБрдЯ рдХреЗ рд░реВрдк рдореЗрдВ рд╕реНрд╡реАрдХрд╛рд░ рдХрд░рддрд╛ рд╣реИ, рдЬреЛ рдПрдХ рд╣реА рдХрдВрдкреНрдпреВрдЯ рдиреЛрдб рдкрд░ рдЪрд▓ рд░рд╣рд╛ рд╣реИред
3.6ред рджреЛрд╖ рд╕рд╣рд┐рд╖реНрдгреБрддрд╛
рдЬреИрд╕рд╛ рдХрд┐ рдкрд╣рд▓реЗ рдЙрд▓реНрд▓реЗрдЦ рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИ, рдбреЗрдорди рдПрдХ рдкреНрд░реЙрдХреНрд╕реА рд╣реИ, рдЗрд╕рд▓рд┐рдП рдЬреЙрдм рдореИрдиреЗрдЬрд░ рдореЗрдВ рд░рд┐рдореЛрдЯ рдбреЗрдореЙрди рджреНрд╡рд╛рд░рд╛ рд╢реБрд░реВ рдХрд┐рдП рдЧрдП рдПрдХ рд╡рд░реНрдЯреЗрдХреНрд╕ рдСрдкрд░реЗрд╢рди рдХреА рд╕реНрдерд┐рддрд┐ рдФрд░ рдЪрд░рдг рдХрд╛ рдкрддрд╛ рд▓рдЧрд╛рдиреЗ рдХреА рдХреНрд╖рдорддрд╛ рд╣реИред рдпрджрд┐ рдбреЗрдорди "рдХреНрд░реИрд╢" рдХрд░рддрд╛ рд╣реИ, рддреЛ рдЬреЙрдм рдореИрдиреЗрдЬрд░ рдХреЛ рдЗрд╕рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдкрддрд╛ рдЪрд▓ рдЬрд╛рдПрдЧрд╛:
- рдПрдХ рддреНрд░реБрдЯрд┐ рд╕рдВрджреЗрд╢ рдЬреЛ рдбреЗрдорди рдиреЗ рдЕрдкрдиреА рдкреНрд░рдХреНрд░рд┐рдпрд╛ рдХреЛ рдмрдВрдж рдХрд░рдиреЗ рд╕реЗ рдкрд╣рд▓реЗ рдЬреЗрдПрдо рдХреЛ рднреЗрдЬрд╛ рдерд╛
- рдЕрдЧрд░ рдбрд╛рдпрдорди рдХреЛ рдмрдВрдж рдХрд░рдиреЗ рдХреЗ рдорд╛рдорд▓реЗ рдореЗрдВ рджрд┐рд▓ рдХреА рдзрдбрд╝рдХрди рд╕рдВрджреЗрд╢ рдХрд╛ рд╕рдордп рд╕рдорд╛рдкреНрдд рд╣реЛ рдЧрдпрд╛ рд╣реИ, рддреЛ рдХреЛрдИ рдиреИрджрд╛рдирд┐рдХ тАЛтАЛрдШрдЯрдирд╛ рдЬреЗрдПрдо рдХреЛ рдирд╣реАрдВ рднреЗрдЬреА рдЧрдИ рдереАред
рдкреАрдбреА рдХреА рд╡рд┐рдлрд▓рддрд╛ рдХрд╛ рдирд┐рджрд╛рди рдХрд░рдиреЗ рдХреЗ рдмрд╛рдж, рдЙрд╕ рдкрд░ рдХрд┐рдП рдЧрдП рдСрдкрд░реЗрд╢рди рдХреЛ рджреВрд╕рд░реЗ рдбреЗрдореЙрди рдкрд░ рдлрд┐рд░ рд╕реЗ рдирд┐рд╖реНрдкрд╛рджрд┐рдд рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред

рдирд╛рдо рд╕рд░реНрд╡рд░ рдХреНрд░реИрд╢ рдХреА рд╕реНрдерд┐рддрд┐ рдореЗрдВ рдХреНрдпрд╛ рд╣реЛрдЧрд╛, рдЗрд╕рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдореБрдЭреЗ рдбреНрд░рд╛рдпрдб рдкреНрд░рд▓реЗрдЦрди рдореЗрдВ рдЬрд╛рдирдХрд╛рд░реА рдирд╣реАрдВ рдорд┐рд▓реАред рдпрд╣ рдорд╛рди рд▓реЗрдирд╛ рдЙрдЪрд┐рдд рд╣реИ рдХрд┐ рдпрджрд┐ NS рдкреНрд░рдХреНрд░рд┐рдпрд╛ рд╕реЗ рдХреЛрдИ рджрд┐рд▓ рдХреА рдзрдбрд╝рдХрди рдирд╣реАрдВ рд╣реИ, рддреЛ рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ NS рдХреЛ рджреВрд╕рд░реЗ рдиреЛрдб рдкрд░ рдкреБрдирдГ рдЖрд░рдВрдн рдХрд░реЗрдЧрд╛ред рдирд╛рдо рд╕рд░реНрд╡рд░ рдХреЗ рдбрд╛рдЙрдирдЯрд╛рдЗрдо рдХреЗ рджреМрд░рд╛рди, рдХреНрд▓рд╕реНрдЯрд░ рдХреА рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рд╢рдХреНрддрд┐ рдХрд╛ рд╣рд┐рд╕реНрд╕рд╛, рдЙрд╕ рдЬрд╛рдирдХрд╛рд░реА рдХреЗ рдкреНрд░рдХрдЯреАрдХрд░рдг рдХреЗ рд▓рд┐рдП рдЬрд┐рд╕рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдПрдирдПрд╕ рдЬрд┐рдореНрдореЗрджрд╛рд░ рд╣реИ, рдмрд╕ "рдмрд╛рд╣рд░ рдЧрд┐рд░ рдЬрд╛рддрд╛ рд╣реИ"ред
рд╕рд╛рде рд╣реА, рдпрд╣ рдкреНрд░рд▓реЗрдЦрди рд╕реЗ рд╕реНрдкрд╖реНрдЯ рдирд╣реАрдВ рд╣реБрдЖ рдХрд┐ рдпрд╣ рд╕реБрдирд┐рд╢реНрдЪрд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХреНрдпрд╛ рдЙрдкрд╛рдп рдХрд┐рдП рдЧрдП рдереЗ рдХрд┐ рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ рд╡рд┐рдлрд▓рддрд╛ рдХрд╛ рдПрдХ рднреА рдмрд┐рдВрджреБ рдирд╣реАрдВ рдмрди рдЧрдпрд╛ред рдпрджрд┐ рдкреНрд░рддреНрдпреЗрдХ рд╡рд┐рддрд░рд┐рдд рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдХрд╛ рдЕрдкрдирд╛ рд╕реНрд╡рдпрдВ рдХрд╛ рдЬреЙрдм рдореИрдиреЗрдЬрд░ рд╣реИ, рддреЛ рдЬреЙрдм рдореИрдиреЗрдЬрд░ рдХреЛ рд░реЛрдХрдиреЗ рд╕реЗ рдкреВрд░реЗ рдХреНрд▓рд╕реНрдЯрд░ рдХрд╛ рдбрд╛рдЙрдирдЯрд╛рдЗрдо рдирд╣реАрдВ рд╣реЛрдЧрд╛, рдЬреИрд╕рд╛ рдХрд┐ рдирд╛рдо рдиреЛрдб рдХреЗ рд╡рд┐рдлрд▓ рд╣реЛрдиреЗ рдкрд░ Hadoop рдХреЗ рд╕рд╛рде рд╣реЛрддрд╛ рд╣реИред
рд▓реЗрдХрд┐рди рд╡рд┐рддрд░рд┐рдд рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдореЗрдВ рд╕реЗ рдкреНрд░рддреНрдпреЗрдХ рдХреЗ рд▓рд┐рдП рдЕрд▓рдЧ-рдЕрд▓рдЧ рдЬреЗрдПрдо рдкреНрд░рдХреНрд░рд┐рдпрд╛рдУрдВ рдХреА рдЙрдкрд╕реНрдерд┐рддрд┐ рддреБрд░рдВрдд 2 рд╕рдорд╕реНрдпрд╛рдПрдВ рдкреНрд░рд╕реНрддреБрдд рдХрд░рддреА рд╣реИ:
- рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ рдХреЗ рдЖрд░рдВрдн рдкрд░ рдЦрд░реНрдЪ рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╕рдордп
- рд╕рдВрд╕рд╛рдзрди рд╕рд╛рдЭрд╛ рдХрд░рдиреЗ рдХреА рд╕рдорд╕реНрдпрд╛, рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ "рдкрд░реНрдпрд╛рдкреНрдд рд░реВрдк рд╕реЗ" рдореБрдХреНрдд рд╕рдВрд╕рд╛рдзрдиреЛрдВ (рд╕реАрдкреАрдпреВ, рд░реИрдо, рдмреИрдВрдбрд╡рд┐рдбреНрде) рдХреА рдорд╛рддреНрд░рд╛ рдХрд╛ рдЕрдиреБрдорд╛рди рдирд╣реАрдВ рд▓рдЧрд╛ рд╕рдХрддрд╛ рд╣реИ, рдХреНрдпреЛрдВрдХрд┐ рди рдЬрд╛рдиреЗ рдХрд┐рддрдиреЗ рдФрд░ рдЬреЗрдПрдо рдЗрд╕ рднреМрддрд┐рдХ рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдиреЛрдб рдХреА рд╕реЗрд╡рд╛ рдХрд░ рд░рд╣реЗ рд╣реИрдВред
4. рдЕрднреНрдпрд╛рд╕
рдбреНрд░рд╛рдпрдб рдПрдХ рд╢реИрдХреНрд╖рдгрд┐рдХ рд▓рд╛рдЗрд╕реЗрдВрд╕ [4] рдХреЗ рддрд╣рдд рдирд┐: рд╢реБрд▓реНрдХ рдЙрдкрд▓рдмреНрдз рд╣реИред рдлреНрд░реЗрдорд╡рд░реНрдХ рд╢реБрд░реВ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП, рдЖрдкрдХреЛ Microsoft HPC рдкреИрдХ 2008 SP1, 4 Gb RAM, 1 Gb рдИрдерд░рдиреЗрдЯ рдФрд░ 200 Gb рдореБрдХреНрдд рд╕реНрдерд╛рди рдХреНрд▓рд╕реНрдЯрд░ [1] рдХреЗ рд╕рд╛рде рдПрдХ Windows HPC рдХреНрд▓рд╕реНрдЯрд░ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реЛрдЧреАред
рдбреНрд░рд╛рдпрдб рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдХреЛ C ++ рдФрд░ C # рджреЛрдиреЛрдВ рдореЗрдВ рд▓рд┐рдЦрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИ (рдпрд╣ рдорд╛рди рд▓реЗрдирд╛ рдЙрдЪрд┐рдд рд╣реИ рдХрд┐ рдХреЛрдИ рднреА CLS- рд╕рдВрдЧрдд рднрд╛рд╖рд╛ рдЙрдкрдпреБрдХреНрдд рд╣реИ)ред
рдбреНрд░рд╛рдпрдб рдХреЗ рд▓рд┐рдП рдПрдХ рдСрдкрд░реЗрд╢рди рдХреЗ рд╡рд┐рддрд░рд┐рдд рдирд┐рд╖реНрдкрд╛рджрди рдХреЗ рд▓рд┐рдП рдирд┐рд░реНрджреЗрд╢ рдирд┐рдореНрдирд╛рдиреБрд╕рд╛рд░ рд╣реИ (рдкреНрд░рд╛рд░рдВрднрд┐рдХ рд░реАрдб, рд╕рдВрдпреЛрдЬрди, рдкреНрд░рд╛рд░рдВрднрд┐рдХ, рдЗрд░реЗрдЯреЗрдЯ, рдорд░реНрдЬ рд╡рд┐рддрд░рд┐рдд рдирд┐рд╖реНрдкрд╛рджрди рдХреЗ рд╕рдВрдмрдВрдзрд┐рдд рдЪрд░рдгреЛрдВ рдХреЗ рд▓рд┐рдП рдЬрд┐рдореНрдореЗрджрд╛рд░ рдХрд╛рд░реНрдпреЛрдВ рдХреЗ рдирд╛рдо рд╣реИрдВ; рд▓рд┐рд╕реНрдЯрд┐рдВрдЧ рдореЗрдВ рдЙрджрд╛рд╣рд░рдг рдЕрдВрдХрдЧрдгрд┐рддреАрдп рдорд╛рдзреНрдп рдорд╛рдирддреЗ рд╣реИрдВ):
///<summary>For iterator-based implementation</summary> [AssociativeDecomposable("InitialReduce", "Combine")] public static TOutput H(IEnumerable<TInput> source) { тАж }
рд▓рд┐рд╕реНрдЯрд┐рдВрдЧ 1. Iterator- рдЖрдзрд╛рд░рд┐рдд рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдЙрджрд╛рд╣рд░рдгред рд╕реНрд░реЛрдд [реи] public static double Average(IEnumerable<int> g) { IntPair final = g.Aggregate(x => PartialSum(x)); if (final.second == 0) return 0.0; return (double)final.first / (double)final.second; } [AssociativeDecomposable("InitialReduce", "Combine")] public static IntPair PartialSum(IEnumerable<int> g) { return InitialReduce(g); } public static IntPair InitialReduce(IEnumerable<int> g) { return new IntPair(g.Sum(), g.Count()); } public static IntPair Combine(IEnumerable<IntPair> g) { return new IntPair(g.Select(x => x.first).Sum(), g.Select(x => x.second).Sum()); }
///<summary>For accumulator-based implementation</summary> [AssociativeDecomposable("Initialize", "Iterate", "Merge")] public static TOutput H(IEnumerable<TInput> source) { тАж }
рд▓рд┐рд╕реНрдЯрд┐рдВрдЧ 2. Accumulator- рдЖрдзрд╛рд░рд┐рдд рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдЙрджрд╛рд╣рд░рдгред рд╕реНрд░реЛрдд [реи] public static double Average(IEnumerable<int> g) { IntPair final = g.Aggregate(x => PartialSum(x)); if (final.second == 0) return 0.0; else return (double)final.first / (double)final.second } [AssociativeDecomposable("Initialize", "Iterate", "Merge")] public static IntPair PartialSum(IEnumerable<int> g) { return new IntPair(g.Sum(), g.Count()); } public static IntPair Initialize() { return new IntPair(0, 0); } public static IntPair Iterate(IntPair x, int r) { x.first += r; x.second += 1; return x; } public static IntPair Merge(IntPair x, IntPair o) { x.first += o.first; x.second += o.second; return x; }
DryadLINQ рдХреНрд╡реЗрд░реА рднрд╛рд╖рд╛ рдХреЛрдб рдХреА рдЬрдЯрд┐рд▓рддрд╛ рдХреЛ рдШреЗрд░ рд▓реЗрддреА рд╣реИ, рдЗрд╕рд▓рд┐рдП, рд╕рд╛рдорд╛рдиреНрдп рддреМрд░ рдкрд░, рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдбреЗрд╡рд▓рдкрд░ рдХреЛ рд▓рд┐рд╕реНрдЯрд┐рдВрдЧ рдореЗрдВ рд╕реВрдЪреАрдмрджреНрдз рдбрд┐рдЬрд╝рд╛рдЗрди рдирд╣реАрдВ рд▓рд┐рдЦрдирд╛ рд╣реЛрдЧрд╛ред рдЗрд╕ рд╢реНрд░реГрдВрдЦрд▓рд╛ рдореЗрдВ рдЕрдЧрд▓реЗ рд▓реЗрдЦ рдореЗрдВ DryadLINQ рдХреЛ рд╢рд╛рдорд┐рд▓ рдХрд┐рдпрд╛ рдЬрд╛рдПрдЧрд╛ред
5. рд╕реАрдорд╛рдПрдВ рдФрд░ рдиреБрдХрд╕рд╛рди
рдЕрдВрдд рдореЗрдВ, рд╣рдо рд╕рдВрдХреНрд╖реЗрдк рдореЗрдВ рдбреНрд░рд╛рдпрдб рдХреА рд╕реАрдорд╛рдУрдВ рдФрд░ рдореБрдЦреНрдп рд░реВрдк рд╕реЗ рд╕реЙрдлреНрдЯрд╡реЗрдпрд░ рдХреЗ рдЗрд╕ рд╡рд░реНрдЧ рдХреЗ рдЙрджреНрджреЗрд╢реНрдп рдХреА рдЧрд▓рдд рдзрд╛рд░рдгрд╛ рд╕реЗ рдЬреБрдбрд╝реА "рдЧрд▓рдд" рдЙрдореНрдореАрджреЛрдВ рдХреА рд╕рдореАрдХреНрд╖рд╛ рдХрд░рддреЗ рд╣реИрдВред
рдбреНрд░рд╛рдпрдб рдХреА рдореБрдЦреНрдп рд╕реАрдорд╛рдУрдВ рдореЗрдВ рд╕реЗ рдПрдХ
рд░рд┐рдпрд▓рдЯрд╛рдЗрдо рдореЛрдб рдореЗрдВ рдХрд╛рдо рдХрд░рдиреЗ рдореЗрдВ
рдХрдард┐рдирд╛рдИ рд╣реЛрддреА рд╣реИ рдФрд░, рд╢рд╛рдпрдж,
рд╕реНрдЯреНрд░реАрдорд┐рдВрдЧ рдбреЗрдЯрд╛ рдХреЗ рд╕рд╛рде рдХрд╛рдо рдХрд░рдиреЗ рдХреА
рдореМрд▓рд┐рдХ рдЕрд╕рдВрднрд╡рддрд╛ ред рдпрд╣ рднреА рдЬреЛрдбрд╝рд╛ рдЬрд╛рдирд╛ рдЪрд╛рд╣рд┐рдП рдХрд┐ рдбреНрд░рд╛рдпрдб рдлреНрд░реЗрдорд╡рд░реНрдХ рдмреИрдЪ рдХрд╛рд░реНрдпреЛрдВ рдХреЗ рд▓рд┐рдП рдЕрдЪреНрдЫреА рджрдХреНрд╖рддрд╛ рджрд┐рдЦрд╛рдПрдЧрд╛, рд▓реЗрдХрд┐рди рдпрд╛рджреГрдЪреНрдЫрд┐рдХ-рдкрд╣реБрдВрдЪ рд╕рдВрдЪрд╛рд▓рди рдХреЗ рд╕рд╛рде рдбреНрд░рд╛рдпрдб рдХрд╛ рдЙрдкрдпреЛрдЧ рдЙрдЪрд┐рдд рдирд╣реАрдВ рд╣реЛрдЧрд╛ред рдЗрд╕рдХреЗ рдЕрд▓рд╛рд╡рд╛, рдореИрдВ рдПрдХ рд╕рдВрднрд╛рд╡рд┐рдд
рд╕рдорд╕реНрдпрд╛ рдХреЛ рд╡рд┐рдлрд▓рддрд╛ рдХреЗ рдПрдХ рдмрд┐рдВрджреБ рдХреЗ рд╕рд╛рде [рдЖрд╡реЗрджрди рд╕реНрддрд░ рдкрд░] рдиреЛрдЯ рдХрд░рддрд╛ рд╣реВрдВ рдЬрдм рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ рдиреМрдХрд░реА рдкреНрд░рдмрдВрдзрдХ рдХреЛ "рдХреНрд░реИрд╢" рдХрд░рддрд╛ рд╣реИ (рд╢рд╛рдпрдж рдРрд╕реА рдХреЛрдИ рд╡рд┐рдлрд▓рддрд╛ рдХрд╛ рдмрд┐рдВрджреБ рдирд╣реАрдВ рд╣реИ, рд▓реЗрдХрд┐рди рдпрд╣ рдкреНрд░рд▓реЗрдЦрди рд╕реЗ рд╕реНрдкрд╖реНрдЯ рдирд╣реАрдВ рд╣реИ рдХрд┐ рдпрд╣ рд╕рдорд╕реНрдпрд╛ рдХреИрд╕реЗ рд╣рд▓ рд╣реЛрддреА рд╣реИ)ред
рдпрд╣ рд╕рдордЭрдирд╛ рднреА рдЖрд╡рд╢реНрдпрдХ рд╣реИ рдХрд┐ рдбреНрд░рд╛рдпрдб
рдХреЗрд╡рд▓ рдПрдХ рд╡рд┐рддрд░рд┐рдд рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдврд╛рдВрдЪрд╛ рд╣реИ , рдЗрд╕рд▓рд┐рдП рдЖрдкрдХреЛ рдбреНрд░рд╛рдпрдб рд╕реЗ рдЙрдореНрдореАрдж рдирд╣реАрдВ рдХрд░рдиреА рдЪрд╛рд╣рд┐рдП:
- рд▓реЗрдирджреЗрди рд╕рдорд░реНрдерди рдХреНрдпреЛрдВрдХрд┐ рдпрд╣ рдЖрд░рдбреАрдмреАрдПрдордПрд╕ рдирд╣реАрдВ рд╣реИ;
- GPU рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдХреЗ рд▓рд┐рдП рддреБрд▓рдиреАрдп рдкреНрд░рджрд░реНрд╢рди , рдХреНрдпреЛрдВрдХрд┐ рдбреНрд░рд╛рдпрдб рдореМрд▓рд┐рдХ рд░реВрдк рд╕реЗ рд╡рд┐рднрд┐рдиреНрди рдЙрдкрдХрд░рдгреЛрдВ рдХреЗ рд╕рд╛рде рд╕рдорд╕реНрдпрд╛рдУрдВ рдХреА рдПрдХ рд╡реНрдпрд╛рдкрдХ рд╡реНрдпрд╛рдкрдХ рд╢реНрд░реЗрдгреА рдХреЛ рд╣рд▓ рдХрд░рддрд╛ рд╣реИ;
- рдУрдкрди рд╕реЛрд░реНрд╕ рд▓рд╛рдЗрд╕реЗрдВрд╕ рдХреНрдпреЛрдВрдХрд┐
рдорд╛рдЗрдХреНрд░реЛрд╕реЙрдлреНрдЯ рдореВрд▓ рд░реВрдк рд╕реЗ рдПрдХ рдЕрд▓рдЧ рдкреНрд░рдХрд╛рд░ рдХрд╛ рдЙрддреНрдкрд╛рдж (рд▓реЗрдХрд┐рди рдЕрднреА рднреА рдПрдХ рд╢реИрдХреНрд╖рдгрд┐рдХ рд▓рд╛рдЗрд╕реЗрдВрд╕ рдХреЗ рддрд╣рдд рдореБрдлреНрдд рдкрд╣реБрдВрдЪ рд╣реИ);
- рд╡рд┐рддрд░рд┐рдд рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдХрд╛ рддреЗрдЬреА рд╕реЗ рд╡рд┐рдХрд╛рд╕ рдЬреЛ рдорд╛рдирдЪрд┐рддреНрд░ рдХреЗ рдврд╛рдВрдЪреЗ рдХреЗ рднреАрддрд░ рдХрд╛рдо рдХрд░рддреЗ рд╣реИрдВ / рдкреНрд░рддрд┐рдорд╛рди рдХреЛ рдХрдо рдХрд░рддреЗ рд╣реИрдВ, рдХреНрдпреЛрдВрдХрд┐ рдбреНрд░рд╛рдпрдб Hadoop рдирд╣реАрдВ рд╣реИ: рдорд╛рдирдЪрд┐рддреНрд░ / рдХрдо рдореЙрдбрд▓ рдХреЗрд╡рд▓ Dryad рдХреЗ рд▓рд┐рдП рдПрдХ рд╡рд┐рд╢реЗрд╖ рдорд╛рдорд▓рд╛ рд╣реИ, рдЬрдмрдХрд┐ Hadoop рдХреЗ рд▓рд┐рдП рдпрд╣ рдПрдХрдорд╛рддреНрд░ рд╕рдВрднрд╡ рдирд┐рд╖реНрдкрд╛рджрди рдореЙрдбрд▓ рд╣реИред
рдирд┐рд╖реНрдХрд░реНрд╖
рдбреНрд░рд╛рдпрдб рдХреЗ рдмрд╛рдХреА
рдПрдХ рд╡рд┐рддрд░рд┐рдд рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдбреЗрд╡рд▓рдкрд░ рдХреЗ рд▓рд┐рдП рдПрдХ рд╢рдХреНрддрд┐рд╢рд╛рд▓реА рдФрд░ рд▓рдЪреАрд▓рд╛ рдЕрдореВрд░реНрдд рд╣реИред рдордВрдЪ рдЖрдзреБрдирд┐рдХ рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдФрд░ рд╕рдорд╛рдирд╛рдВрддрд░ рд╕реЙрдлрд╝реНрдЯрд╡реЗрдпрд░ рд╡рд┐рдХрд╕рд┐рдд рдХрд░рдиреЗ рдХреА рдЕрд╡рдзрд╛рд░рдгрд╛рдУрдВ рдХрд╛ рдПрдХ рдЕрддреНрдпрдВрдд рдЬреИрд╡рд┐рдХ рд╕рд╣рдЬреАрд╡рди рд╣реИ, рдЬреЛ рд╡рд┐рддрд░рд┐рдд рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рдЪреМрдЦрдЯреЗ рджреНрд╡рд╛рд░рд╛ рдЕрдХреНрд╕рд░ рд╕рд╛рдордирд╛ рдХреА рдЬрд╛рдиреЗ рд╡рд╛рд▓реА рд╕рдорд╕реНрдпрд╛рдУрдВ (рдФрд░ рд╢рд╛рдпрдж рд╣реА рдХрднреА рд╣рд▓ рдХрд┐рдП рдЧрдП) рдХреЛ рд╣рд▓ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдкрд░рд┐рдЪрд┐рдд рднрд╛рд╖рд╛ рдЙрдкрдХрд░рдг рдФрд░ рд╕реБрд░реБрдЪрд┐рдкреВрд░реНрдг рддрд░реАрдХреЗ рдкреНрд░рджрд╛рди рдХрд░рддрд╛ рд╣реИ ред
рд╕реВрддреНрд░реЛрдВ рдХреА рд╕реВрдЪреА
[рез]
рдж рдбреНрд░рд╛рдпрдб рдкреНрд░реЛрдЬреЗрдХреНрдЯ ред Microsoft рдЕрдиреБрд╕рдВрдзрд╛рдиред
[реи] рд╡рд╛рдИред рдпреВред, рдкреАрдХреЗ рдЧреБрдВрдбрд╛, рдПрдоред рдЗрд╕рд╛рд░реНрдбред
рдбреЗрдЯрд╛-рд╕рдорд╛рдирд╛рдВрддрд░ рдХрдореНрдкреНрдпреВрдЯрд┐рдВрдЧ рдХреЗ рд▓рд┐рдП рд╡рд┐рддрд░рд┐рдд рдПрдХрддреНрд░реАрдХрд░рдг: рдЗрдВрдЯрд░рдлреЗрд╕ рдФрд░ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди , 2009ред
[рей] рдПрдоред рдЗрд╕рд╛рд░реНрдб, рдПрдоред рдмреБрдбреАрдпреВ, рд╡рд╛рдИред рдпреВред, рдПред рдмрд┐рд░реЗрд▓, рдФрд░ рдбреАред рдкреВрд░реА рддрд░рд╣ рд╕реЗред
рдбреНрд░рд╛рдпрдб: рдЕрдиреБрдХреНрд░рдорд┐рдХ рднрд╡рди рдмреНрд▓реЙрдХреЛрдВ рд╕реЗ рд╡рд┐рддрд░рд┐рдд рдбреЗрдЯрд╛-рд╕рдорд╛рдирд╛рдВрддрд░ рдХрд╛рд░реНрдпрдХреНрд░рдо ред
рдХрдВрдкреНрдпреВрдЯрд░ рд╕рд┐рд╕реНрдЯрдо рдкрд░ рдпреВрд░реЛрдкреАрдпрди рдХреЙрдиреНрдлреНрд░реЗрдВрд╕ рдХреА рдХрд╛рд░реНрдпрд╡рд╛рд╣реА рдореЗрдВ (2007)ред
[рек]
рдбреНрд░рд╛рдпрдб рдФрд░ рдбреНрд░рд╛рдпрдбреНрд▓рд┐рдирдХреНрдпреВ рдЕрдХрд╛рджрдорд┐рдХ рд░рд┐рд▓реАрдЬрд╝ ред Microsoft рдЕрдиреБрд╕рдВрдзрд╛рдиред
* рд╡рд░реНрдгрд╛рдиреБрдХреНрд░рдо рдореЗрдВ рдХреНрд░рдордмрджреНрдзред
** рд▓реЗрдЦ рдореЗрдВ рддреБрд▓рдирд╛ рд╡рд┐рд╢реЗрд╖ рд░реВрдк рд╕реЗ Hadoop рдкреНрд▓реЗрдЯрдлрд╝реЙрд░реНрдо рдХреЗ 1 рд╕рдВрд╕реНрдХрд░рдг (рдпрд╛рдиреА YARN рдХреЗ рдмрд┐рдирд╛) рдХреЗ рд╕рд╛рде рд╣реЛрддреА рд╣реИред рдбреНрд░рд╛рдпрдб рдХреА рдПрдХ рд╡рд┐рд╕реНрддреГрдд рддреБрд▓рдирд╛ рдбреАрдмреАрдПрдордПрд╕, рдЬреАрдкреАрдпреВ рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ, рдФрд░ рд╣рдбреЛрдк рдлреНрд░реЗрдорд╡рд░реНрдХ рдХреЗ рд╕рд╛рде рдбреНрд░рд╛рдИрдб
рд╢реНрд░реГрдВрдЦрд▓рд╛ рдореЗрдВ
рдЕрдВрддрд┐рдо рд▓реЗрдЦ рдореЗрдВ рдХреА рдЬрд╛рдПрдЧреАред