不变量理论是数学的一个分支，它研究群在代数簇上的作用。不变量理论的古典课题是研究在线性群作用下保持不变的多项式函数。

对于有限群，不变量理论与伽罗瓦理论有密切联系，一个较早的结果涉及了对称群 Sn 在多项式环 上的作用：Sn 作用下的不变量构成一个子环，由基本对称多项式生成，由于基本对称多项式彼此代数独立，此不变量环本身也同构于另一多项式环。Chevalley-Shephard-Todd 定理刻划了其不变量环同构于多项式环的有限群。晚近的研究则更关切算法问题，例如计算不变量环的生成元，或给出其次数的上界。

对于一般的代数群，其不变量理论与线性代数、二次型及行列式理论密切相关。

大卫·蒙福德在1960年代创建了几何不变量理论，这是构造模空间的有力工具。此理论探讨代数簇在群作用下的商空间，并研究轨道的几何性质。几何不变量理论与古典不变量理论的关联如次：考虑域 k 上的仿射代数簇 X = SpecA，群 G 作用其上，则商空间 X / G 也是仿射代数簇，其坐标环即不变量环 AG。希尔伯特证明若 G 是一般线性群，则 AG 是有限生成 k-代数；此结果对一般的约化群依然成立，然而 X / G 可能有颇复杂的几何性质，也未必满足商对象应满足的范畴论性质。