64-a³121a²-4b²27+a³ (2a⁴-3) (2a⁴+3) (2a-4) ³
============================================


64-a³121a²-4b²27+a³ (2a⁴-3) (2a⁴+3) (2a-4) ³
Используем формулы сокращенного умножения. Далее приводим подобные слагаемые.  
  
64 - a³121a² - 4b²27 + a³ (4a⁸ - 9) (8a³ - 3 · (2a) ² · 4 + 3 · 2a · 4² - 4³) = 64 - 121a⁵ - 108b² + a³ (4a⁸ - 9) (8a³ - 24a² + 96a - 64) = 64 - 121a⁵ - 108b² + a³ (32a¹¹ - 96 а¹⁰ + 384 а⁹ - 256a⁸ - 72a³ + 216a² - 864 а + 576) = 64 - 121a⁵ - 108b² + 32a¹⁴ - 96a¹³ + 384a¹² - 256a¹¹ - 72a⁶ + 216a⁵ - 864a⁴ + 576a³ = 32a¹⁴ - 96a¹³ + 384a¹² - 256a¹¹ - 72a⁶ + 95a⁵ - 864a⁴ + 576a³ - 108b² + 64.