El método de factorización de Fermat se basa en la representación de un número natural impar como la diferencia de dos cuadrados: 

  
    
      
        n
        =
        
          a
          
            2
          
        
        −
        
          b
          
            2
          
        
        .
      
    
    {\displaystyle n=a^{2}-b^{2}.}
  Esa diferencia se puede factorizar algebraicamente como 
  
    
      
        (
        a
        +
        b
        )
        (
        a
        −
        b
        )
      
    
    {\displaystyle (a+b)(a-b)}
  ; si ninguno de esos factores es igual a 1, se trata de una factorización propia de n.
Todo número impar se puede representar de esta manera. En efecto, si 
  
    
      
        n
        =
        c
        d
      
    
    {\displaystyle n=cd}
   es una factorización de n, entonces 

  
    
      
        n
        =
        
          
            (
            
              
                
                  c
                  +
                  d
                
                2
              
            
            )
          
          
            2
          
        
        −
        
          
            (
            
              
                
                  c
                  −
                  d
                
                2
              
            
            )
          
          
            2
          
        
      
    
    {\displaystyle n=\left({\frac {c+d}{2}}\right)^{2}-\left({\frac {c-d}{2}}\right)^{2}}
  Como n es impar, c y d también son impares, por lo que su semisuma y semidiferencia son ambos enteros. (Un múltiplo de cuatro también es una diferencia de cuadrados: en ese caso se pueden plantear c y d como números pares.)
En su forma más simple, el método de Fermat puede ser incluso más lento que el de división por tentativa en el peor de los casos. Sin embargo, la combinación de división por tentativa y el método de Fermat es más efectivo que el uso exclusivo de uno de ellos.