Глубокие нейросети претерпели череду эволюций, приведших к появлению несовпадающих архитектур. Например, появились сверточные нейросети, которые включают топографические проекции между (не обязательно всеми) слоями сети, чтобы упрощать процесс обработки смежных входных данных: для различных нейронов выходного слоя используются одна и та же матрица весов, которую также называют ядром свёртки, что отличается от наборов индивидуальных весов у каждого нейрона в стандартной модели глубокой нейросети. Подобные улучшения и модификации структуры многослойного персептрона позволили достичь человеческого уровня (качественного) решения таких задач, как классификация объектов [1]} или распознование речи [2]}.
