キャッシュメモリにキャッシングされているデータを引き出すためのタグ情報が格納される。
これに対して、キャッシングされるデータが格納されるのはデータRAMである。
CPUがメインメモリをアクセスするとき、まずアドレスの下位何ビットか(インデックス)がタグRAMにアドレスとして与えられ、タグ情報が読み出される。
このタグ情報とCPUのアドレスからインデックスを除いた上位ビットが比較され、もし同じなら、指定されたアドレスのデータがキャッシングされていることになる(これをキャッシュに「ヒット(hit)」したという)。
後はタグとインデックスを組み合わせたアドレスがデータRAMに与えられ、目的のデータが読み書きされる。
なお、キャッシュにヒットしなかった場合は「ミス(miss)」したといい、キャッシュメモリではなくメインメモリがアクセスされる。
上記のインデックスとタグのビット数は、キャッシングアルゴリズムやキャッシュメモリの容量によって異なる。
タグRAMには、データRAMと同じか若干アクセスタイムの短い高速
SRAMが用いられることが多い。
システムによってはチップセット内にタグRAMが内蔵されていることもあるし、キャッシュ専用のメモリにタグRAMが内蔵されていることもある。
またアドレスの比較器を内蔵したタグ専用RAMも存在する。