В разное время НКВД состоял из Главных управлений, сокращенно ГУ:
ГУГБ — Главное управление государственной безопасности;
ГУРКМ — рабоче-крестьянской милиции;
ГУПиВО — пограничной и внутренней охраны;
ГУПО — пожарной охраны;
ГУШосДор — шоссейных дорог;
ГУЛАГ — лагерей;
ГЭУ — экономики;
ГТУ — транспорта;
ГУВПИ — по делам военнопленных и интернированных.
В 1946 году НКВД был преобразован в МВД.