Teoría de la representación es una rama de las matemáticas que estudia estructuras algebraicas mediante su representación de sus elementos como transformaciones lineales de espacios vectoriales,[1]​ y estudia módulos sobre estas estructuras algebraicas abstractas.[2]​[3]​ En esencia, una representación hace que un objeto algebraico abstracto sea más concreto al describir sus elementos mediante matrices y sus operaciones algebraicas (por ejemplo, suma de matrices, multiplicación de matrices). La teoría de matrices y operadores lineales se comprende bien, por lo que las representaciones de objetos más abstractos en términos de objetos familiares de álgebra lineal ayudan a obtener propiedades y, a veces, simplifican los cálculos en teorías más abstractas.
Los objetos algebraicos susceptibles de tal descripción incluyen grupos, álgebras asociativas y álgebras de Lie. El más destacado de ellos (e históricamente el primero) es la teoría de la representación de grupos, en la que los elementos de un grupo están representados por matrices invertibles de tal manera que la operación de grupo es la multiplicación de matrices.[4]​[5]​
La teoría de la representación es un método útil porque reduce los problemas de álgebra abstracta a problemas de álgebra lineal, un tema que se comprende bien.[6]​ Además, el espacio vectorial en el que se representa un grupo (por ejemplo) puede ser de dimensión infinita y, al permitir que sea, por ejemplo, un espacio de Hilbert, los métodos de análisis se pueden aplicar a la teoría de grupos.[7]​[8]​ La teoría de la representación también es importante en física porque, por ejemplo, describe cómo el grupo de simetría de un sistema físico afecta las soluciones de ecuaciones que describen ese sistema.[9]​
La teoría de la representación es omnipresente en todos los campos de las matemáticas por dos razones. Primero, las aplicaciones de la teoría de la representación son diversas:[10]​ además de su impacto en el álgebra, la teoría de la representación:

ilumina y generaliza el análisis de Fourier a través del análisis armónico,[11]​
está conectada a la geometría a través de la teoría invariante y el programa Erlangen,[12]​
tiene un impacto en la teoría de números a través de formas automórficas y el programa Langlands.[13]​En segundo lugar, existen diversos enfoques de la teoría de la representación. Los mismos objetos pueden ser estudiados utilizando métodos de la geometría algebraica, teoría de módulos, la teoría analítica de números, la geometría diferencial, teoría de operadores, combinatoria algebraica y topología.[14]​
El éxito de la teoría de la representación ha dado lugar a numerosas generalizaciones. Uno de los más generales es el de la teoría de categorías.[15]​ Los objetos algebraicos a los que se aplica la teoría de la representación pueden verse como tipos particulares de categorías, y las representaciones como functores de la categoría de objeto a la categoría de espacios vectoriales.[5]​  Esta descripción apunta a dos generalizaciones obvias: primero, los objetos algebraicos pueden ser reemplazados por categorías más generales; en segundo lugar, la categoría objetivo de espacios vectoriales puede ser reemplazada por otras categorías bien entendidas.