Однако, при всём том успехе, которого достигли данные модели в решении конкретных задач, в них обнаружен целый ряд проблем. Первое, что стоит отметить, это направленность на решение одной узкой задачи и невозможность сочетать несколько разномодальных задач в одной сети. Глубокие нейросети обнаруживают в себе тенденцию к неуместным обобщениям, например, в задачах классификации, выдавая ответ на слишком сильно зашумленных и неидентифицируемых данных [1]}, [2]}. Во-вторых, существует целая серия работ о неустойчивости подобных моделей к некоторым незначительным пертурбациям и шумам во входных данных, которые человек с легкостью бы отфильтровал [1]}, [4]}. В-третьих, такие сети не имеют динамики и активируются также плотно, как и обычные многослойные персептроны, что разительно отличается от принципов нейросетевой активности в мозге человека, которая имеет разреженную природу. Недавнее исследование показало, что введение скрытого слоя, подражающего структуре слоя V1 зрительной коры приматов в архитектуру глубокой нейросети, повысило устойчивость нейросети к шумам во входном сигнале [5]}.
