Goの割り当てメカニズム

Goのメモリ割り当てツールがどのように機能するかを最初に理解しようとしたとき、私が対処したかったのは神秘的なブラックボックスのようでした。 他のテクノロジーと同様に、ここで最も重要なことは、抽象化の多くのレイヤーの背後に隠されており、それを介して何かを理解する必要があります。



私たちが翻訳している資料の著者は、Goでのメモリ割り当ての手段の一番下に行き、それについて話すことにしました。

物理メモリと仮想メモリ

メモリを割り当てるためのすべての手段は、オペレーティングシステムによって制御される仮想メモリのアドレス空間で動作する必要があります。 メモリーがどのように機能するかを、最低レベルから始めて、メモリーセルを見てみましょう。
RAMセルを想像する方法を次に示します。


メモリセルのレイアウト

非常に簡単な方法で、メモリセルとそれを囲むものを想像すると、次のようになります。

1. コンデンサ（データライン）へのアクセスを可能にするのは、アドレスライン（トランジスタがスイッチとして機能する）です。
2. 信号（赤線）がアドレスラインに表示されると、データラインを使用してメモリセルにデータを書き込むことができます。つまり、コンデンサを充電し、1に対応する論理値を格納することができます。
3. アドレスライン（緑のライン）に信号がない場合、コンデンサは分離され、電荷は変化しません。 セル0に書き込むには、そのアドレスを選択し、データラインを介して論理0を送信する必要があります。つまり、データラインをマイナスで接続し、コンデンサを放電します。
4. プロセッサがメモリから値を読み取る必要がある場合、信号はアドレスラインに沿って送信されます（スイッチが閉じます）。 コンデンサが充電されている場合、信号はデータラインを通ります（1が読み取られます）。そうでない場合、信号はデータラインを通りません（0が読み取られます）。

物理メモリとプロセッサの相互作用のスキーム

データバスは、プロセッサと物理メモリ間でデータを転送します。

次に、アドレス行とアドレス指定可能なバイトについて説明します。


プロセッサと物理メモリ間のバスアドレスライン

1. RAMの各バイトには、一意の数値識別子（アドレス）が割り当てられます。 メモリに存在する物理バイトの数は、アドレス行の数と等しくないことに注意してください。
2. 各アドレス行は1ビット値を指定できるため、特定のバイトのアドレスの1ビットを示します。
3. 回路には32行のアドレス行があります。 その結果、各アドレス指定可能なバイトは、アドレスとして32ビットの数値を使用します。 [00000000000000000000000000000000]-最小メモリアドレス。 [111111111111111111111111111111111111]-最高メモリアドレス。
4. 各バイトには32ビットのアドレスがあるため、アドレス空間は2 ³²アドレス可能なバイト（4 GB）で構成されます。

その結果、アドレス可能なバイト数はアドレス行の総数に依存することがわかりました。 たとえば、64行のアドレス行（x86-64プロセッサ）がある場合、2 ⁶⁴バイト（16エクサバイト）のメモリをアドレス指定できますが、64ビットポインターを使用するほとんどのアーキテクチャでは実際に48ビットアドレス行（AMD64）を使用します理論的には、コンピューターに256テラバイトの物理メモリを装備できるようにする42ビットアドレスライン（Intel） 192 TB）。
物理RAMのサイズは制限されているため、各プロセスは独自の「サンドボックス」で実行されます。これは、仮想メモリと呼ばれる「仮想アドレス空間」と呼ばれます。

仮想アドレス空間のバイトアドレスは、プロセッサが物理メモリにアクセスするために使用するアドレスと一致しません。 そのため、仮想アドレスを物理アドレスに変換できるシステムが必要です。 仮想メモリアドレスがどのように見えるかを見てください。


仮想アドレス空間表現

その結果、プロセッサがメモリアドレスを参照する命令を実行するとき、最初のステップは論理アドレスを線形アドレスに変換することです。 この変換は、メモリ管理ユニットによって実行されます。


仮想メモリと物理メモリの関係の簡略化された表現

論理アドレスは大きすぎて個別に操作するには便利ではないため（さまざまな要因によって異なります）、メモリはページと呼ばれる構造に編成されます。 同時に、仮想アドレス空間は小さな領域、ページに分割されます。ほとんどのOSでは、サイズは4 KBですが、通常はこのサイズを変更できます。 これは、仮想メモリのメモリ管理の最小単位です。 仮想メモリは何も保存せず、単にプログラムのアドレス空間と物理メモリの対応を設定します。

プロセスは仮想メモリアドレスのみを参照します。 プログラムでさらに動的なメモリが必要な場合（このメモリはヒープメモリ、または「ヒープ」とも呼ばれます）、どうなりますか？ 動的に割り当てられた追加メモリがシステムから要求される単純なアセンブラコードの例を次に示します。

_start:        mov $12, %rax #    brk        mov $0, %rdi # 0 -  ,            syscall b0:        mov %rax, %rsi #  rsi    ,           mov %rax, %rdi #     ...        add $4, %rdi # ..  4 ,           mov $12, %rax #    brk        syscall 

これを図の形式で表現する方法を次に示します。


動的に割り当てられたメモリを増やす

プログラムはbrkシステムコール（sbrk / mmapなど）を使用して追加のメモリを要求します。 カーネルは仮想メモリに関する情報を更新しますが、物理メモリには新しいページがまだ表示されていないため、仮想メモリと物理メモリには違いがあります。

メモリアロケーター

一般的に、仮想アドレス空間の操作について説明し、追加の動的メモリ（ヒープ上のメモリ）を要求する方法について説明した後、メモリを割り当てる方法について説明する方が簡単になります。

ヒープにコードの要求を満たすのに十分なメモリがある場合、メモリアロケータはカーネルにアクセスせずにこれらの要求を実行できます。 それ以外の場合は、大きなメモリブロックを要求しながら、システムコールを使用して（たとえばbrkを使用して）ヒープサイズを増やす必要があります。 mallocの場合、「大」とは、 MMAP_THRESHOLDパラメーターで記述されたサイズを意味し、デフォルトでは128 Kbです。

ただし、メモリアロケータには、単にメモリを割り当てるよりも多くの責任があります。 彼の最も重要な責任の1つは、内部および外部メモリの断片化を減らし、メモリブロックをできるだけ早く割り当てることです。 プログラムがmalloc(size)形式の関数を使用してメモリの連続ブロックを割り当てる要求を連続して実行し、その後、このメモリがfree(pointer)形式の関数を使用して解放されるとしfree(pointer) 。


外部フラグメンテーションのデモ

前の図では、ステップp4で、空きブロックの合計量で許容されていますが、このような6つのブロックの割り当て要求を満たすのに十分な連続したメモリブロックがありません。 この状況は、メモリの断片化につながります。

メモリの断片化を減らす方法は？ この質問に対する答えは、特定のメモリ割り当てアルゴリズムに依存します。このアルゴリズムでは、メモリを操作するためにどのベースライブラリが使用されます。

次に、Goメモリ割り当てメカニズムのベースとなるTCMallocメモリ割り当てツールについて説明します。

TCMalloc

TCMallocは、メモリをいくつかのレベルに分割して、メモリの断片化を減らすという考えに基づいています。 TCMalloc内では、メモリ管理は2つの部分に分かれています。スレッドメモリの操作とヒープの操作です。

▍スレッドメモリ

メモリの各ページは、サイズクラスに従って選択された特定のサイズのフラグメントのシーケンスに分割されます。 これにより、断片化が減少します。 その結果、各スレッドは小さなオブジェクト用のキャッシュを自由に使用できるため、32 Kb以下のオブジェクトに対して非常に効率的にメモリを割り当てることができます。


ストリームキャッシュ

▍房

TCMallocマネージヒープは、一連のページを一連のページ（スパン）として表すことができるページのコレクションです。 32 KBを超えるオブジェクトにメモリを割り当てる必要がある場合、ヒープを使用してメモリを割り当てます。


ヒープとページの操作

メモリに小さなオブジェクトを配置するのに十分なスペースがない場合、メモリのヒープになります。 ヒープに十分な空きメモリがない場合、追加のメモリがオペレーティングシステムに要求されます。

その結果、提示されたメモリ操作モデルはユーザー空間のメモリプールをサポートし、その使用によりメモリの割り当てと解放の効率が大幅に向上します。

Goメモリ割り当てツールはもともとTCMallocに基づいていましたが、それとは少し異なります。

Goメモリアロケーター

Goランタイムは、論理プロセッサでゴルーチンを実行することを計画しています。 同様に、Goで使用されるTCMallocのバージョンは、メモリページを、67個のサイズクラスに対応するサイズのブロックに分割します。

Goスケジューラに慣れていない場合は、こちらで読むことができます 。


Goクラスサイズ

Goの最小ページサイズは8192バイト（8 Kb）であるため、そのようなページが1 Kbのブロックに分割されると、そのようなブロックが8つ得られます。


8 KBのページサイズは、1 KBのクラスサイズに対応するブロックに分割されます。

Goの同様のページシーケンスは、mspanと呼ばれる構造を使用して制御されます。

ms構造mspan

mspan構造は、二重リンクリスト、ページの開始アドレス、ページサイズに関する情報、およびそれに含まれるページ数を含むオブジェクトです。


Mspan構造

▍mcache構造

TCMallocと同様に、Goは各論理プロセッサにmcacheと呼ばれるローカルスレッドキャッシュを提供します。 その結果、ゴルーチンがメモリを必要とする場合、mcacheから直接メモリを取得できます。 これを行うために、ロックを実行する必要はありません。1つの論理プロセッサで実行されるゴルーチンは常に1つだけだからです。

mcache構造には、さまざまなサイズのクラスのmspan構造がキャッシュ形式で含まれています。


Goの論理プロセッサ、mcache、mspan間の相互作用

各論理プロセッサには独自のmcacheがあるため、mcacheからメモリを割り当てるときにロックする必要はありません。

各サイズクラスは、次のオブジェクトのいずれかで表すことができます。

• スキャンオブジェクトは、ポインターを含むオブジェクトです。
• noscanオブジェクトは、ポインターのないオブジェクトです。

このアプローチの長所の1つは、ガベージコレクションが実行されるときに、メモリが割り当てられているオブジェクトが含まれていないため、noscanオブジェクトを走査する必要がないことです。

mcacheには何が入りますか？ サイズが32 KBを超えないオブジェクトは、対応するサイズクラスのmspanを使用してmcacheに直接移動します。

mcacheに空きセルがない場合はどうなりますか？ 次に、mcentralというmspanオブジェクトのリストから目的のサイズクラスの新しいmspanを取得します。

▍中央構造

mcentral構造は、特定のサイズクラスのすべてのページ範囲を収集します。 各mcentralオブジェクトには、mspanオブジェクトの2つのリストが含まれています。

1. 空きオブジェクトがないmspanオブジェクト、またはmcacheにあるmspanオブジェクトのリスト。
2. 空きオブジェクトを持つmspanオブジェクトのリスト。

Mcentral構造

各mcentral構造は、mheap構造内に存在します。

▍ヒープ構造

mheap構造は、Goのヒープ管理を処理するオブジェクトによって表されます。 仮想アドレス空間を所有するグローバルオブジェクトは1つだけです。


ヒープ構造

上の図からわかるように、mheap構造にはmcentral構造の配列が含まれています。 この配列には、すべてのサイズクラスのmcentral構造が含まれています。

 central [numSpanClasses]struct { mcentral mcentral   pad     [sys.CacheLineSize unsafe.Sizeof(mcentral{})%sys.CacheLineSize]byte } 

各サイズクラスにmcentral構造があるため、mcacheがmcentralからmspan構造を要求すると、個々のmcentralレベルでロックが適用されます。その結果、他のサイズのmspan構造を要求する他のmcacheからの要求を同時に処理できます。

位置合わせ（パッド）により、mcentral構造体がCacheLineSize値に対応するバイト数だけ互いに分離されます。 その結果、各mcentral.lockは独自のキャッシュラインがあり、誤ったメモリ共有に関連する問題を回避します。

mcentralリストが空の場合はどうなりますか？ 次に、mcentralは、mheapから一連のページを受け取り、必要なサイズクラスのメモリフラグメントを割り当てます。

• free[_MaxMHeapList]mSpanListはspanList配列です。 各spanListのmspan構造は、1〜127（_MaxMHeapList-1）ページで構成されています。 たとえば、free [3]は、3ページを含むmspan構造のリンクリストです。 この場合の「空き」という言葉は、メモリが割り当てられていない空のリストについて話していることを示しています。 リストは、空ではなく、メモリが割り当てられた（ビジーな）リストです。
• freelarge mSpanListは、空きmspan構造のリストです。 要素ごとのページ数（mspan）は127を超えています。このリストをサポートするために、mtreapデータ構造が使用されます。 使用中のmspan構造のリストは、busylargeと呼ばれます。

32 Kbを超えるオブジェクトはラージオブジェクトと見なされ、それらのメモリはmheapから直接割り当てられます。 そのようなオブジェクトにメモリを割り当てる要求は、ロックを使用して実行されます。その結果、特定の時点で、1つの論理プロセッサのみから同様の要求を処理できます。

オブジェクトにメモリを割り当てるプロセス

• オブジェクトのサイズが32 Kbを超える場合、それは大きいと見なされ、そのメモリはmheapから直接割り当てられます。
• オブジェクトのサイズが16 Kb未満の場合、tiny allocatorと呼ばれるmcacheメカニズムが使用されます。
• オブジェクトのサイズが16〜32 Kbの場合、使用するサイズクラス（sizeClass）が判明し、適切なブロックがmcacheに割り当てられます。
• mcacheに対応するsizeClassで使用可能なブロックがない場合、mcentralが呼び出されます。
• mcentralに空きブロックがない場合、mheapを呼び出して最も適切なmspanを検索します。 アプリケーションが必要とするメモリサイズが割り当て可能なサイズよりも大きい場合、要求されたメモリサイズが処理されるため、プログラムで必要な数のページを返すことができ、新しいmspan構造が形成されます。
• アプリケーションの仮想メモリがまだ十分でない場合、オペレーティングシステムは新しいページセットにアクセスされます（少なくとも1 MBのメモリが要求されます）。

実際、オペレーティングシステムレベルでは、Goはアリーナと呼ばれるさらに大きなメモリの割り当てを要求します。 メモリの大きなフラグメントを同時に割り当てると、アプリケーションに割り当てられたメモリの量と、パフォーマンスに関してオペレーティングシステムへのコストのかかるアクセスとの妥協点を見つけることができます。

ヒープで要求されたメモリは、アリーナから割り当てられます。 このメカニズムを検討してください。

仮想メモリが行く

Goで書かれた簡単なプログラムでメモリ使用量を見てみましょう。

 func main() {   for {} } 

プログラムプロセス情報

このような単純なプログラムの仮想アドレス空間も約100 MBですが、RSSインデックスはわずか696 KBです。 まず、この不一致の理由を調べてみましょう。


マップおよびスマップ情報

ここでは、サイズが約2 MB、64 MB、32 MBのメモリ領域を確認できます。 これはどんな記憶ですか？

reneアレーン

Goの仮想メモリは、一連のアリーナで構成されていることがわかります。 ヒープの元のメモリサイズは1つのアリーナに対応します。つまり、64 MBです（これはGo 1.11.5に関連します）。


さまざまなシステムの現在のアリーナサイズ

その結果、プログラムの現在のニーズに必要なメモリが小さな部分に割り当てられます。 このプロセスは、1つの64 MBアリーナから始まります。

ここで説明している数値インジケータは、絶対値や変更されていない値については使用しないでください。 彼らは変わることができます。 以前、たとえば、Goは事前に連続仮想スペースを予約していました。64ビットシステムでは、アリーナサイズは512 GBでした（実際のメモリ要件が非常に大きく、対応するリクエストがmmapによって拒否されるとどうなるかを考えるのは興味深いですか）。

実際のところ、アリーナの束を束と呼びます。 Goでは、アリーナはメモリの断片として認識され、サイズが8192バイト（8 Kb）のブロックに分割されます。


1つの64 MBアリーナ

Goにはさらに2つのタイプのブロック（スパンとビットマップ）があります。 それらのメモリはヒープ外に割り当てられ、アリーナメタデータを保存します。 これらは主にガベージコレクションで使用されます。
Goでのメモリ割り当てメカニズムの一般的な概要を次に示します。


Goのメモリ割り当てメカニズムの概要

まとめ

一般に、この資料ではGoメモリを操作するためのサブシステムを非常に一般的な用語で説明したことに注意できます。 Goのメモリサブシステムの主なアイデアは、さまざまなレベルのさまざまな構造とキャッシュを使用してメモリを割り当てることです。 これには、メモリが割り当てられるオブジェクトのサイズが考慮されます。

マルチレベル構造の形式でオペレーティングシステムから受信した連続したメモリアドレスの単一ブロックの表現は、このアプローチがブロッキングを回避するという事実により、メモリ割り当てメカニズムの効率を向上させます。 メモリに格納する必要があるオブジェクトのサイズを考慮したリソースの割り当てにより、断片化が軽減され、メモリを解放した後、ガベージコレクションを高速化できます。

親愛なる読者！ Goで書かれたプログラムのメモリの誤動作が原因で問題が発生しましたか？