Thanks! Next segment:
\minisection{Internal mechanics.} This can refer to either (i) \textbf{\emph{what} knowledge a model encodes} or (ii) \textbf{\emph{why} a model makes certain predictions}. Past work in NLP explainability can be dissected along this dividing line:

(i) The ``what'' type of work aims to accurately characterize the extent to which a model $M$ encodes some target knowledge $K$, which can be linguistic, commonsense, world knowledge, etc. For example, given a Machine Translation (MT) model, does it implicitly capture linguistic knowledge such as the syntactic tree of the source sentence? Previous research answers such questions with methods including:
\begin{itemize}
 \item \textbf{Probing classifiers} (or auxiliary/diagnostic classifiers): \cite{veldhoen\_diagnostic\_2016, adi\_fine-grained\_2017, conneau\_what\_2018},
 \item \textbf{Information-theoretic measurement} \cite{voita\_information-theoretic\_2020, lovering\_information-theoretic\_2020};
 \item \textbf{Behavioral tests}: including challenge sets \cite{levesque\_winograd\_2012, gardner\_evaluating\_2020}, adversarial attacks \cite{ebrahimi\_hotflip\_2018, wallace\_universal\_2019}, and prompting \cite{petroni\_language\_2019, choenni\_stepmothers\_2021});
 \item \textbf{Visualization} \cite{coenen\_visualizing\_2019, ethayarajh\_how\_2019, karidi\_putting\_2021}.
\end{itemize}

Orthogonal to the choice of method, previous research also spans various domains of the target knowledge $K$:
\begin{itemize}
 \item \textbf{Syntax}: Agreement \cite{linzen\_assessing\_2016}, Negative Polarity Items \cite{marvin\_targeted\_2018}, Anaphora \cite{marvin\_targeted\_2018}, Dependency Trees \cite{shi\_does\_2016, hewitt\_structural\_2019, chi\_finding\_2020};
 
 \item \textbf{Semantics}: Lexical Semantics \cite{shwartz\_olive\_2018, gari\_soler\_lets\_2021}, Semantic Roles \cite{ettinger\_probing\_2016}, Logic (e.g., Negation \cite{kassner\_negated\_2020, dobreva\_investigating\_2021}, Conjunction and Disjunction \cite{saha\_conjnli\_2020}, Quantifiers \cite{haruta\_logical\_2020}), Monotonicity \cite{yanaka\_neural\_2020}, Systematicity \cite{goodwin\_probing\_2020};
 
 \item \textbf{Pragmatics}: Implicatures and Presupposition \cite{jeretic\_are\_2020, schuster\_harnessing\_2020};
 
 \item \textbf{World and commonsense knowledge}: Factual knowledge \cite{petroni\_language\_2019, kassner\_negated\_2020}, Numeracy \cite{wallace\_nlp\_2019}, Time \cite{zhou\_going\_2019, thukral\_probing\_2021}, Space \cite{mirzaee\_spartqa\_2021, masis\_prosper\_2021}, Factuality \cite{rudinger\_neural\_2018};
 
 \item \textbf{Combination}: \cite{conneau\_what\_2018, tenney\_what\_2019, tenney\_bert\_2019}.
 
\end{itemize}

It should be noted that ``what is known'' does not imply ``what is used''. For example, even if an MT model \textit{encodes} the knowledge of syntax trees, it does not necessarily \textit{use} it in translation. In fact, it has been shown that LMs do incidentally encode linguistic features even when they are irrelevant to the end task labels \cite{ravichander\_probing\_2021}. This leads us to the ``why'' question.

(ii) The ``why'' type of work addresses the \textit{causal} question of what factors (input features, model structures, decision rules, etc.) have led the model $M$ to certain predictions $Y$. It aims to establish causality between these potential factors and the prediction through various approaches. Such approaches will be the focus of the rest of this survey. We refer the reader to \citet{belinkov\_analysis\_2019} for a comprehensive survey of studies on the ``what'' question.\\

\minisection{Human.} This refers to the target audience of the explanation, which can include but is not limited to the model developers, fellow researchers, industry practitioners, or end-users. Depending on the audience, the form and goal of the explanation can be entirely different. We will revisit this in Section~\ref{section:properties} - Target Audience.\\

Instantiating the initial definition with the two clarified concepts, this survey will cover work on explainability in the following sense: \textbf{the extent to which \emph{why a model makes certain predictions} can be presented in understandable terms to \emph{a certain target audience}}.
고마워요! 다음 세그먼트입니다:\미니섹션{내부 역학.} 이는 (i) \textbf{\emph{어떤} 지식을 모델이 인코딩하는가} 또는 (ii) \textbf{\emph{왜 모델이 특정 예측을 하는가}를 의미할 수 있습니다.} NLP 설명력에 대한 과거의 연구는 이 구분선을 따라 분석할 수 있습니다:(i) '무엇' 유형의 작업은 모델 $M$이 언어, 상식, 세계 지식 등이 될 수 있는 일부 대상 지식 $K$를 인코딩하는 정도를 정확하게 특성화하는 것을 목표로 합니다. 예를 들어, 기계 번역(MT) 모델이 주어졌을 때, 이 모델이 소스 문장의 구문 트리와 같은 언어 지식을 암시적으로 포착할 수 있을까요? 이전 연구에서는 다음과 같은 방법으로 이러한 질문에 답합니다:\begin{itemize} \item \textbf{프로빙 분류기}(또는 보조/진단 분류기): \cite{veldhoen\_diagnostic\_2016, adi\_fine-grained\_2017, conneau\_what\_2018}, \item \textbf{정보 이론적 측정} \인용{voita\_정보 이론적\_2020, lovering\_정보 이론적\_2020}; \item \textbf{행동 테스트}: 챌린지 세트 \cite{levesque\_winograd\_2012, gardner\_evaluating\_2020}, 적대적 공격 \cite{ebrahimi\_hotflip\_2018, wallace\_universal\_2019}, 자극 \cite{petroni\_language\_2019, choenni\_stepmothers\_2021} 포함); \항목 \textbf{시각화} \cite{coenen\_visualizing\_2019, ethayarajh\_how\_2019, karidi\_putting\_2021}.\end{itemize}방법 선택과 직교하여, 이전 연구도 대상 지식 $K$의 다양한 영역에 걸쳐 있습니다:\begin{itemize} \항목 \textbf{구문}: 합의 \cite{linzen\_assessing\_2016}, 부정 극성 항목 \cite{marvin\_targeted\_2018}, 아나포라 \cite{marvin\_targeted\_2018}, 의존성 트리 \cite{shi\_does\_2016, hewitt\_structural\_2019, chi\_finding\_2020};  \항목 \textbf{시맨틱스}: 어휘 의미 \cite{shwartz\_olive\_2018, gari\_soler\_lets\_2021}, 의미론적 역할 \cite{ettinger\_probing\_2016}, 논리(예를 들어, 부정 \cite{kassner\_negated\_2020, dobreva\_investigating\_2021}, 접속사 및 접속부 분리 \cite{saha\_conjnli\_2020}, 수량자 \cite{haruta\_logical\_2020}), 단조성 \cite{yanaka\_neural\_2020}, 체계성 \cite{goodwin\_probing\_2020};  \항목 \textbf{문법}: 함축성 및 전제 \cite{jeretic\_are\_2020, schuster\_harnessing\_2020};  \항목 \textbf{세계 및 상식 지식}: 사실 지식 \cite{petroni\_language\_2019, kassner\_negated\_2020}, 수리력 \cite{wallace\_nlp\_2019}, 시간 \cite{zhou\_going\_2019, thukral\_probing\_2021}, Space \cite{mirzaee\_spartqa\_2021, masis\_prosper\_2021}, Factuality \cite{rudinger\_neural\_2018};  \항목 \textbf{조합}: \cite{conneau\_what\_2018, tenney\_what\_2019, tenney\_bert\_2019}. \end{itemize}'알려진 것'이 '사용되는 것'을 의미하지는 않는다는 점에 유의해야 합니다. 예를 들어, MT 모델이 구문 트리에 대한 지식을 \텍스트화{인코딩}한다고 해도 반드시 번역에 \텍스트화{사용}하는 것은 아닙니다. 실제로 LM은 언어적 특징이 최종 작업 레이블 \cite{ravichander\_probing\_2021}과 무관할 때에도 부수적으로 인코딩하는 것으로 나타났습니다. 이것은 '왜'라는 질문으로 이어집니다.(ii) '왜' 유형의 작업은 어떤 요인(입력 특징, 모델 구조, 의사 결정 규칙 등)이 모델 $M$을 특정 예측 $Y$로 이끌었는지에 대한 \textit{causal} 질문을 다룹니다. 다양한 접근 방식을 통해 이러한 잠재적 요인과 예측 사이의 인과관계를 규명하는 것을 목표로 합니다. 이러한 접근 방식은 이 글의 나머지 부분에서 중점적으로 다룰 것입니다. '무엇'이라는 질문에 대한 종합적인 연구 조사에 대해서는 \citet{belinkov\_analysis\_2019}를 참조하시기 바랍니다.\minisection{Human.} 이는 설명의 대상 독자를 의미하며, 모델 개발자, 동료 연구자, 업계 실무자 또는 최종 사용자 등이 포함될 수 있지만 이에 국한되지는 않습니다. 대상에 따라 설명의 형식과 목표는 완전히 달라질 수 있습니다. 이에 대해서는 섹션~\ref{section:속성}에서 다시 살펴보겠습니다. - 대상 고객\\앞서 설명한 두 가지 개념에 대한 정의를 바탕으로 이번 설문조사에서는 다음과 같은 의미에서 설명 가능성에 대한 작업을 다룹니다: \텍스트비프{모델이 특정 예측을 하는 이유}를 특정 대상 고객에게 이해할 수 있는 용어로 제시할 수 있는 정도}}.