ノイマン型コンピュータでは、プログラムとデータが記憶装置に置かれる。これらが処理の進行に伴ない、処理装置から逐次参照される。ここでの記憶装置のことを主記憶装置という。主記憶装置では、半導体記憶素子（ICメモリ）が用いられる。これは写真製版技術を使って、精密な回路を基板に焼き付けたモノである。そのため、一般的には主記憶装置といえば、メモリのことを指す。
大きなプログラムで大量のデータを高速かつ複数同時並行的に処理するためには、記憶装置は主記憶装置の他にキャッシュメモリとディスク装置を含めて階層化されている。このうち主記憶装置とディスク装置で実現される仮想記憶の管理が主記憶管理の主要な役割である。
記憶装置を大きく分けると、読み書きができるRAM（Random Access Memory：ラム）と読み出し専用のROM（Read Only Memory：ロム）がある。
一般にプログラムは電源を切ってもその内容を保持できるROMに入れておく。また、プログラムで用いられるデータの格納には、RAMが用いられる。
よって、ROMは決まったプログラムの他に固定データを入れ、いつも同じ処理をする場合に使うわけである。そして、RAMはデータを記憶させる他に、プログラムを組む上での一時記憶エリア（作業エリア）としても使われる。
メモリに対する1回のアクセスで読み書きできるデータを語（word：ワード）といい、その長さ（ビット長）をメモリの語長（word length）という。
メモリの語長は、CPUの語長と等しくなっている。
メモリには語長を単位にして、アドレス（番地）が付けられている。
そして、メモリをアクセスするときには、何番のアドレスの記憶データを読み出せとか、何番のアドレスにデータを書き込めというように、アドレスを指定する必要がある。この
アドレスは必ず0から順に割り当てられ、またROMとRAMの割り振りは自由に行うことができる。
主記憶装置の利用形態は、ハードウェアおよびソフトウェア両技術の進展に伴ない、大きく変化してきた。
再配置とは、記憶領域のどの位置に読み込んでも実行できるように、プログラムの格納場所のアドレスを補正し、格納し直すことである。
再配置は次の2つに分類できる。
再配置可能プログラムとは、記憶領域のどの位置に読み込まれても実行可能なプログラムのことである。コンパクションを行う場合は、プログラムは再配置可能でなければならない。
コンピュータは、OSとプログラムを主記憶に読み込んでから実行する。この読み込みをロード（ローディング）という。その際、プログラムに対する記憶領域の割り当てと解放を管理する機能を実記憶管理という。主記憶装置にある記憶領域のことを実記憶領域といい、この実記憶領域を利用する仕組みを実記憶方式という。これに対して補助記憶装置を利用して実記憶よりはるかに大きな記憶領域を利用する仕組みを仮想記憶方式という。
主記憶において、仮想記憶方式を利用せず実記憶管理を行う場合には、実行するプログラムを効率的に配置することが重要になる。仮想記憶方式を利用すると、主記憶へのアクセスより補助記憶装置へのアクセスのほうが遅いため、処理速度が低下する。
仮想記憶方式は物理メモリを補完することはできても、物理メモリそのものになることはできない。特にPCの処理速度が遅いと感じるときは、CPUをより早いものに替えるよりも、物理メモリの容量を見直した方がよい。
複数のプログラムの同時実行を繰り返す場合には、各プログラムへの領域分割を動的にかつ適切に行うのは難しいので、パーティション方式（区画方式）が考えられている。
パーティション方式は、主記憶装置の記憶領域を複数のパーティション（区画）で論理上分割しておく。そして、プログラムはあらかじめどの区画で実行するかを決めておく。ただし、この方式でひとつの区画に収まらないプログラムを実行するにはオーバーレイ方式を併用する。
パーティション方式には、次の種類がある。
[補講]動的アドレス変換（動的再配置）は、仮想アドレスから実アドレスへの変換を行うことである。プログラムを読み込む際には動的アドレス変換を行う。仮想記憶方式では、主記憶装置上のアドレスを実アドレス（物理アドレス）、補助記憶装置上のアドレスを仮想アドレス（論理アドレス）という。
スワッピング方式は、プログラムやデータを補助記憶装置に格納しておき、必要に応じて主記憶装置に呼び出したり、補助記憶装置に戻したりする方式である。主記憶装置の記憶領域の空きが少ない場合には、主記憶上で優先度の低いプログラム（プロセス）を補助記憶装置へ移動し、補助記憶装置上で優先度の高いプログラムを主記憶装置に読み込む。
主記憶に呼び出すことをスワップイン（ロールイン）、補助記憶装置に戻すことをスワップアウト（ロールアウト）という。
[補講1]スワッピングはプロセス単位、ページングは固定長のページ単位である。
[補講2]Windows 98の場合、Windowsフォルダ内のWin386.swpがスワップファイルになる。その最大サイズはWindowsによって自動的に設定される。HDDの容量不測などの場合はスワップファイルの最大サイズを調整し、空き容量を確保することも可能である。
オーバーレイ方式とは、プログラムを機能的なまとまりであるセグメントと呼ばれる単位に分割し、実行時に必要なセグメントだけを補助記憶装置から読み込んで実行する方式である。主記憶装置の容量よりも大きなプログラムを実行する場合に用いられる。
オーバーレイとは「上書き」を意味する用語である。同じ領域にセグメントを上書きすることからこの名が付いた。
ここで、必要とするメモリのサイズが主記憶のサイズを越えるプログラムを実行する場合を考える。当然このままではロードできないので、プログラムの構造に注目してセグメントという単位に分割する。セグメントは関数などのプログラムの論理的な構造で分割される。すると、プログラムが木の構造を持つことがわかる。この木構造の頂点をルートセグメントとし、それ以外のセグメントをオーバーレイセグメントという。
例：セグメント分割を行った場合、セグメントAとセグメントBは補助記憶装置に置かれ、必要に応じて主記憶装置へロードされる。
セグメントの依存関係
主記憶の使い方
セグメント分割が適切でないと、セグメントの入れ替え操作が頻繁に行われ、プログラムの実行効率が悪くなる。したがって、オーバーレイ構造の設計には、十分な経験と実現する応用システムを熟知していることが要求される。
仮想記憶方式は、実装されている主記憶装置の容量よりも大きな論理アドレス空間を提供する仕組みである。プログラムをいくつかに分割し、必要な部分だけを主記憶装置（実記憶空間）におき、必要でない部分は補助記憶装置（仮想記憶空間）におくことによって、大きなプログラムでも実行可能にする。
プログラムに実際の主記憶容量よりはるかに大きな容量の主記憶（アドレス空間と呼ぶ）があるように見せる。つまり、記憶階層の中で主記憶装置と補助記憶装置とをひとつの層（主記憶）に見せかける。このおかげで、プログラマはほとんどメモリの限界を気にせずにプログラムできる。このプログラマから見た広大なアドレス空間を仮想アドレス（論理アドレス）と呼ぶ。これに対して実際の主記憶装置のアドレス空間を実アドレス（物理アドレス）と呼ぶ。
プログラムにおけるメモリ参照の局所性を利用して実記憶上にはプログラムやデータの一部が置かれ、対象が実記憶上になり場合に仮想記憶から実記憶へ移される。プログラムは仮想アドレスのみ意識して書かれる。
仮想アドレスから実アドレスへの変換は記憶管理機構（MMU）とOSとが協力して行う。
仮想記憶方式では、仮想アドレスと実アドレスの対応（マッピング）が必要となる。これをメモリマップという。実記憶の対応は主記憶上のテーブルで行われる。
メモリマップは仮想記憶方式の種類によって異なる。
どれが採用されているかはOSによって異なる。例えばWindowsではページング方式が採用されている。
仮想記憶には次の2つの目的がある。
複数のプログラムが実行されている環境では、すべてのプログラムを主記憶にロードすることは不可能な場合が多い。
例えば、主記憶装置は4ブロック分しか記憶できないとする。このとき、本当はHDDからプログラムAとプログラムBのすべてをロードしたい。しかし、プログラムAは3ブロック分、プログラムBは4ブロック分なので、合計7ブロック分を主記憶装置にロードすることは不可能である。
しかし、プログラムのすべてを主記憶装置にロードする必要はなく、ある時点で必要とするのはプログラムの中のほんの一部である。これは時間的局所性から成り立つ事実である。
そこで必要なブロックだけを主記憶装置にロードすることで、メモリの利用を効率化できる。この方式では、例えばプログラムブロックA1がA2にアクセスする際に、誤ってB1にアクセスしてしまう恐れがある。これをプログラムで検出して回避することも可能である。
しかし、仮想記憶を導入すれば各プログラムは自分専用のメモリ空間が与えられたと思い込むことができるので、他のプログラムを意識する必要がない。また、仮想記憶を導入することで、他のプログラムの領域に誤ってアクセスする恐れがなくなる。
単一のプログラムでも、主記憶装置を超える容量のプログラムをロードすることはできない。
仮想記憶導入以前は、この問題をプログラム側で対処していた。プログラムを論理的に分割可能な単位（モジュール）に分割し、必要な部分だけを読み込むオーバーレイという方法である。ただし、モジュールを読み込む場合でも、主記憶装置のサイズを越えてロードすることはできない。
そのような場合は不要な領域を主記憶装置から追い出して、それから必要な領域をロードする。こうした処理を個々のプログラムで行うとすると、プログラマーの負担が非常に高くなってしまう。
そこで仮想記憶を導入することで、プログラマの負荷を仮想記憶が代替してくれるわけだ。
動的アドレス変換機構（Dynamic Address Translator：DAT）は、論理的なプログラムアドレスを実行可能な物理アドレス（実アドレス）に変換するハードウェアである。
ページング方式やセグメンテーション方式は、ページ表やセグ面と表に保持された変換情報に基づいて行われる。
ページング方式とは、プログラムをページと呼ばれる固定長の単位に分割し、主記憶と補助記憶装置とでページを入れ替えて、主記憶の容量不足を補う方式のことである。実記憶域も同じ大きさのページ枠に分割されている。
このページの入れ替えをページリプレースメントと呼ぶ。補助記憶装置にページを移動することをページアウト、主記憶にページを読み込むことをページインという。
目的とするデータへのアクセスは、ページ番号＋オフセット（距離）となる。
ページを記憶する位置は物理メモリに割り当てられたアドレスによって決定される。物理メモリにプログラムコードやデータファイルを保存するとき、それぞれが記憶している位置はアドレスによって管理される。しかし、保存するプログラムコードやデータファイルが多くなると実際には物理メモリ内に存在しないアドレスが指定されるようになる。
ページの入れ替えは次の手順で行われる。
1：プログラムをページに分割し、仮想記憶に静的配置する。
2：動的アドレス変換機構によって、仮想アドレスを実アドレスに変換する（動的配置）。
3：主記憶装置上に、必要なページがない場合（ページフォールト）、そのページを主記憶に転送するための割り込みが発生する。
4：主記憶に空きページが十分ある場合は、必要なページを仮想記憶から読み込み（ページイン）、主記憶に空きページがない場合はページを仮想記憶に戻し（ページアウト）してからページインする。
このような方式が実現可能なのは、プログラム進行のある曲面では、参照されるアドレスがあちこちに飛び回らず、比較的狭い範囲に限定されるという経験則があるからである。このようなプログラムの性質をプログラムの局所参照性という。
例：Windowsはページング方式を採用している。
Windowsのページサイズは4Kバイトになっている。大きなプログラムを4Kバイトのページに切り分け、ページの単位でディスク（仮想記憶）に置いたり、メモリに置いたりする。
Windowsでは仮想記憶を実現するために、ディスク上に仮想メモリとなるファイル（ページングファイルという）を用意する。このファイルはWindowsによって自動的に作成・管理される。ファイルのサイズ、即ち仮想メモリのサイズは、実メモリの同程度〜2倍程度にするのが一般的である。
Windows 2000で仮想メモリを設定変更するには、マイコンピュータを右クリック＞「プロパティ」を選択。「システムのプロパティ」の「詳細」タブ＞[パフォーマンスオプション]ボタンをクリックする。 ◇
ページング方式のメリット・デメリットは次の通りである。
ページング方式では、ページリプレースメントアルゴリズムとして次のいずれかが採用される。
[補講]LRUは経過時間、LFUは参照回数と覚えるとよい。
[問題]仮想記憶管理におけるページ置き換えアルゴリズムとして、LRU方式を採用する。参照かつ更新されるページ番号の順番が、「2→3→5→8→2→3→6→2→3→5→1→6」で、実記憶のページ枠が4のとき、ページフォルトに伴なって発生するページアウトは何回あるか？ここで初期で状態では、実記憶にはいずれのページも読み込まれていないとする。 【ソフ開 平成16年度 午前問25】
[解答]ページングの状況を図にすると次のようになる。ただし、数字は参照されたページ番号で、丸の数字はページインされたページ番号とする。
青い線のところがページアウトされたところである。よって、ページアウトは4回行われている。
[補講]ページングとスワップを混同しないように注意。
仮想空間をセグメントと呼ばれる可変長のアドレス空間で管理する方式。メインルーチン・サブルーチン・データなど意味のある固まりで分割できる。
セグメント方式のメリット・デメリットは次の通りである。
ページング方式とセグ面と方式の両方の利点を取り入れた方式である。複数のページをまとめて1セグメントとして扱う。目的のデータへのアクセスはセグメント番号とページ番号と、目的のデータまでの距離という3つの情報を指定することで行う。
現状では、メモリの容量と速度・価格には次のような関係がある。
よって、小容量のものを組み合わせて、処理速度の速いものを作るとコストがかさむ。
そこで、小容量と大容量、低速と高速のメモリを組み合わせて使用する。これを記憶の階層化という。
ヒープとは、OSまたはプログラムによって動的に割り付けられたメモリ領域のことである。ヒープ領域は、プログラムが使う作業領域やプログラムそのものをロードする際に用いられ、必要なくなると解放される。
ここでは、話を簡単にするために、16Kバイトのメモリを扱う。16Kバイトのメモリは、1バイトのデータを最高65,536（＝216）個のデータを記録できる。1文字は1バイトで表すことができるので、400字詰めの原稿用紙約160枚分にあたる。
メモリはたくさんあるが、その中の1バイトを指定する方法がなければ、あるひとつのメモリに対して、データを読み書きできない。そこで、メモリには0000H〜FFFFH（0〜65,535）までの番号が順番に割り振られていて、どのメモリでもその番号で直接指定できるようになっている。
[補講]0000H〜FFFFHの「H」は16進数を意味している。
この番号のことをアドレスという。アドレスは0000H番地からFFFFH番地まで常に存在して、そこには1バイトの数値が必ず現れている。
ROM領域のデータ読み出しは、アドレスデコーダ（アドレス制御回路からの信号を入力して、メモリの列アドレス（ワード線）を選択できるように変換するための復号化回路）を介してROMアドレスに入力する。そして、指定されたROMアドレスのデータは、制御信号作成回路からの制御信号に応じて順次、データバスを介してレジスタへ読み出される。
ディスクを使った仮想記憶方式によってメモリ不足でアプリケーションが起動しないということは防げる。しかし仮想記憶によって発生するページインやページアウトは低速なディスクアクセスなので、その期間はアプリケーションの動作が停止してしまう。
メモリ不足を根本的に解決するためには、実メモリの容量を増えるか、実行するアプリケーションのサイズを小さくする工夫が必要である。アプリケーションのサイズを小さくすれば、それを格納するためのメモリの量を小さくすることができるわけだ。
DLLファイルは複数のアプリケーションによって共有される。これによりアプリケーションのサイズが小さくなるので、結果としてメモリ不足を解消させることに繋がる。
またDLLにはDLLの内容を変更しても、それを参照しているアプリケーションの再コンパイルが不要というメリットもある。
_stdcall呼び出しでプログラムのサイズを小さくするという方法は、C言語でアプリケーションが作られているときだけに有効である。といっても他の言語であっても同様の機能があるはずなので、仕組みを覚えておくとよいでしょう。
C言語では関数を呼び出した後に、スタックのクリーンアップ処理を行う命令を実行する必要がある。スタックのクリーンアップ処理とは関数のパラメータを引き渡すなどに使われるメモリ上のスタックの中から不要となったデータを削除することである。この命令はプログラムの中に記述するのではなく、コンパイル時にコンパイラが自動的に付け加えてくれる。コンパイラのデフォルト設定ではこの処理は関数の呼び出し側に付け加えられる。しかしながら、それではプログラムのサイズが大きってしまう。
このスタックのクリーンアップ処理を、呼び出された関数側で行うことで、呼び出す側で行う場合よりもプログラム全体のサイズを小さくできる。その際に使用するのが_stdcallである。関数の前に_stdcallを置くことで、スタックのクリーンアップ処理を呼び出された関数側で行うように変更できる。わずか数バイトの節約であるが、何度も呼び出される関数なら効果が出てくる。
メモリインターリーブ（memory interleave）方式とは、主記憶をいくつかの部分（バンク）に分割して、それらの複数バンクに同時にアクセスできるようにする方式である。簡単にいうと、主記憶装置を増やして同時にアクセスしてしまうということである。RAID0でも採用されている技術である。
主記憶装置を構成するメモリ素子（主にDRAM）は、バンクの一部のメモリブロックを読み出すだけで、そのバンクの他のメモリブロックの読み出しが一定時間できなくなる。そこで、主記憶装置を、並列動作可能な複数のメモリバンク（モジュール）に分割し、順々にアドレスを付ける。ここでは単純に3つのメモリバンクに分けて考えてみる。
アドレスが0,1,2番地と各メモリバンクに付けられていることがポイントである。データは、主記憶装置に連続して記憶されていることが多い。そこで、0番地のデータを読み込むときに、1番地と2番地のデータを同時に読み込むと、3つのデータを1回で読み込むので、アクセス時間を3分の1に短縮できる。
例えば、0番地から300番地までを連続してアクセスするようなプログラムでは大きな効果がある。しかし、0番地の次に15番地というように、飛び飛びに読む込むプログラムでは効果が出ない。
主記憶をいくつかの部分（バンク）に分割して、アドレスバスを経由してバンクにアクセスする方式である。
主記憶とCPUの間に高速なバッファ（緩衝）メモリを介在させ、主記憶とCPUとの速度差を吸収する方式である。バッファメモリは主記憶装置よりも容量が小さい。
| 領域の種類 | 静的領域 | ヒープ領域 | スタック領域 |
| 使われ方 | アプリケーション開始時に確保される。 | 開始時に一定領域が確保され、必要の都度アプリケーションに割り当てる。 | LIFO |
| 格納される情報 | グローバル変数、実行コード | 任意（アプリケーション依存） | 呼び出したサブルーチンの引数、ローカル変数、戻り先（リターンアドレス） |
| 確保される単位 | アプリケーションでまとめて1つ | システムまたはアプリケーションで1つ | スレッドごとに1つ |
