EZRA KLEIN: And that streetlight is deep learning.

GARY MARCUS: The streetlight is deep learning. And what’s being ignored, I think, is the rest of cognitive science. So deep learning is a very interesting mathematical technique for setting some values in some system based on data. It turns out to be tremendously useful for a bunch of things.

But it’s only part of what we need. If you take a step back to cognitive science, which is what I was trained on, and you say, well, what is a human mind? Well, part of it is it does some pattern recognition. And some of what deep learning does is at least part of what we do in pattern recognition. So great.

But you also, if you look at the human mind, there’s a whole bunch of other things going on. So we use language. When we use language, we go from hearing a sentence to building a model in the world of what the other person’s talking to. We use analogies. We plan things and so forth and so on.

The reality is we’ve only made progress on a tiny bit of the things that go into intelligence. Now I’m not saying that A.I. has to be exactly like a human. In fact, I think humans are pretty flawed, and we don’t want to just replicate humans. We have, for example, confirmation bias where we notice things in favor of our own theories and not against them. We have all kinds of flaws that we might not want to have in our A.I. systems.

But there are many things that our A.I. systems can do that aren’t part of what’s fashionable right now and are not under that streetlight that everybody’s looking at. So on a technical level, I think there’s a narrowness to what A.I. has been in the last decade, where there’s this wonderful new tool, but people are a little bit misled about what that tool is actually appropriate for. It’s like if you discovered a power screwdriver and you’d never had one before, that’d be great. But that doesn’t mean that you build the house just with your power screwdriver. And we need other tools here.

Then culturally, and this relates — there’s been a history that’s actually much older than I am, goes back to the 1940s or ’50s depending on how you want to count it — of people who build neural networks in conflict with people who take a more classical approach to A.I., where there’s lots of symbols and trees and databases and reasoning and so forth.

And there’s a pendulum that’s gone back and forth. People in the two areas pretty much hate each other, or at least often do. I think it’s getting a little bit better. But there’s a lot of history of hostility between these two areas. So the people with the bigger streetlight right now are the people building the neural networks. And they feel like they’ve been oppressed by the symbolic people, and now they’re oppressing the symbolic people. There’s an old phrase, the victim becomes the victimizer.

So it’s not a pleasant intellectual area like some fields that I’ve seen. Of course, they’re not always pleasant. But there is definitely a culture right now where the people who are in power and have a lot of money are really trying to shape the decisions around what gets researched and what doesn’t.

EZRA KLEIN: Take a moment and explain what symbol manipulation is because I don’t think that the term for it is very intuitive.

GARY MARCUS: So symbols are just things that stand for other things. And manipulating just means you do stuff with them. So algebra is actually symbol manipulation. So you have an equation like y equals x plus 2. And you have variables in that like y and x. And then you can set those variables to particular instances. So I can say that x is 3. Then I can calculate the value of y from that equation.

So we do it in algebra. We do it in logic. And linguists like Noam Chomsky would say that we do it in the course of understanding language. It’s also essential to computer programming. Almost everything you see in a computer program is going to be a function that takes variables. You do something with those variables. The variables are symbols. The values that you set those variables are symbols.

There’s a whole tradition. Most of the world’s software is, in fact, built using software that manipulates symbols, where you describe things abstractly. You also have things like databases, and those databases are symbols. And neural networks have mostly been used as an alternative to that. And they’ve been very effective in some things like speech recognition. But on the other hand, nobody would build a GPS system or a web browser or a word processor using pure neural network approach. Anybody would use mostly symbols for that.

And there’s this weird argument, weird discourse where people who like the neural network stuff mostly don’t want to use symbols. What I’ve been arguing for 30 years, since I did my dissertation with Steve Pinker at M.I.T. studying children’s language, has been for some kind of hybrid where we use neural networks for the things they’re good at, and use the symbol stuff for the things they’re good at, and try to find ways to bridge these two traditions.
Summarize this
ZRA KLEIN: 그리고 저 가로등은 딥 러닝입니다.GARY MARCUS: 가로등은 딥러닝입니다. 그리고 무시되고 있는 것은 나머지 인지 과학이라고 생각합니다. 딥러닝은 데이터를 기반으로 어떤 시스템에서 어떤 값을 설정하는 매우 흥미로운 수학적 기법입니다. 딥러닝은 여러 분야에 매우 유용한 것으로 밝혀졌습니다.하지만 이는 우리에게 필요한 것의 일부일 뿐입니다. 제가 훈련받은 인지 과학으로 돌아가서 인간의 마음이란 무엇일까요? 글쎄요, 그 중 일부는 패턴 인식을 수행합니다. 그리고 딥러닝이 하는 일 중 일부는 적어도 패턴 인식에서 하는 일의 일부입니다. 정말 대단하죠.하지만 인간의 마음을 살펴보면 다른 많은 일들이 일어나고 있습니다. 그래서 우리는 언어를 사용합니다. 언어를 사용할 때 우리는 문장을 듣는 것에서 상대방이 말하는 세계에 대한 모델을 구축하는 단계로 넘어갑니다. 우리는 비유를 사용합니다. 우리는 일을 계획하는 등의 작업을 합니다.현실적으로 우리는 지능에 들어가는 것 중 아주 작은 부분만 진전을 이루었습니다. 인공지능이 인간과 똑같아야 한다는 말은 아닙니다. 사실 인간은 결점이 많기 때문에 인간을 그대로 복제하고 싶지는 않습니다. 예를 들어, 인간은 자신의 이론에 유리한 것만 보고 반대되는 것은 보지 않는 확증 편향이 있습니다. 인공지능 시스템에는 우리가 원하지 않는 모든 종류의 결함이 있습니다.하지만 인공지능 시스템이 할 수 있는 일 중에는 지금 유행하는 것의 일부가 아니며 모두가 주목하는 가로등 아래 있지 않은 것들이 많이 있습니다. 따라서 기술적인 측면에서는 지난 10년간 인공지능에 대한 편협한 시각이 존재한다고 생각합니다. 인공지능이라는 멋진 새로운 도구가 등장했지만, 사람들은 이 도구가 실제로 어떤 용도로 쓰이는지 잘 모르고 있습니다. 전동 드라이버를 발견했는데 이전에 한 번도 사용해 본 적이 없다면 정말 좋겠죠. 하지만 그렇다고 해서 전동 드라이버만으로 집을 지을 수 있는 것은 아닙니다. 여기에는 다른 도구가 필요합니다.문화적으로도, 그리고 이것은 저보다 훨씬 더 오래된, 어떻게 세고 싶은지에 따라 1940년대나 50년대까지 거슬러 올라가는 역사가 있습니다. 신경망을 구축하는 사람들은 기호와 나무, 데이터베이스, 추론 등이 많은 인공지능에 대한 고전적인 접근 방식을 취하는 사람들과 충돌하고 있습니다.그리고 앞뒤로 왔다 갔다 하는 진자가 있습니다. 두 영역의 사람들은 서로를 거의 싫어하거나 적어도 종종 싫어합니다. 조금씩 나아지고 있다고 생각해요. 하지만 이 두 지역 사이에는 많은 적대감의 역사가 있습니다. 그래서 지금 더 큰 가로등을 가진 사람들은 신경망을 구축하는 사람들입니다. 그리고 그들은 상징적 인 사람들에게 억압을 받았다고 느끼고 이제는 상징적 인 사람들을 억압하고 있습니다. 피해자가 가해자가 된다는 오래된 말이 있습니다.그래서 제가 본 다른 분야처럼 유쾌한 지적 영역은 아닙니다. 물론 항상 유쾌한 것은 아닙니다. 하지만 현재 권력을 쥐고 돈을 많이 가진 사람들이 연구 대상과 연구 대상에서 제외되는 대상을 결정하려는 문화가 분명히 존재합니다.EZRA KLEIN: 심볼 조작이라는 용어가 직관적이지 않은 것 같으니 잠시 시간을 내어 설명해 주세요.GARY MARCUS: 기호는 다른 것을 나타내는 것일 뿐입니다. 그리고 조작은 기호로 무언가를 하는 것을 의미합니다. 따라서 대수학은 사실 기호 조작입니다. 예를 들어 y는 x에 2를 더한 것과 같은 방정식이 있습니다. 그리고 그 안에 y와 x와 같은 변수가 있고, 그 변수를 특정 인스턴스로 설정할 수 있습니다. 예를 들어 x가 3이라고 가정하면 이 방정식에서 y의 값을 계산할 수 있습니다.대수학에서 이 작업을 수행합니다. 논리로도 할 수 있습니다. 노암 촘스키와 같은 언어학자는 우리가 언어를 이해하는 과정에서 이러한 작업을 수행한다고 말합니다. 컴퓨터 프로그래밍에도 필수적입니다. 컴퓨터 프로그램에서 볼 수 있는 거의 모든 것은 변수를 취하는 함수입니다. 그 변수로 무언가를 수행합니다. 변수는 기호입니다. 변수를 설정하는 값도 기호입니다.여기에는 전통이 있습니다. 사실 전 세계 소프트웨어의 대부분은 추상적으로 사물을 설명하는 기호를 조작하는 소프트웨어로 만들어졌습니다. 데이터베이스와 같은 것들도 기호를 기반으로 합니다. 그리고 신경망은 그 대안으로 주로 사용되어 왔습니다. 그리고 음성 인식과 같은 일부 분야에서 매우 효과적이었습니다. 그러나 다른 한편으로, 아무도 순수한 신경망 접근 방식을 사용하여 GPS 시스템이나 웹 브라우저 또는 워드 프로세서를 만들지 않을 것입니다. 대부분 기호를 사용하죠.그런데 신경망 방식을 좋아하는 사람들은 대부분 기호를 사용하고 싶지 않다는 이상한 주장과 담론이 있습니다. 제가 30년 동안 스티브 핑커와 함께 MIT에서 아동 언어를 연구하며 논문을 썼을 때부터 주장해 온 것은 신경망이 잘하는 것에는 신경망을 사용하고, 그렇지 않은 것에는 기호를 사용하는 일종의 하이브리드였습니다.