[2023-05-30] 오늘의 자연어처리

NeuroX Library for Neuron Analysis of Deep NLP Models

 

Neuron analysis provides insights into how knowledge is structured in representations and discovers the role of neurons in the network. In addition to developing an understanding of our models, neuron analysis enables various applications such as debiasing, domain adaptation and architectural search. We present NeuroX, a comprehensive open-source toolkit to conduct neuron analysis of natural language processing models. It implements various interpretation methods under a unified API, and provides a framework for data processing and evaluation, thus making it easier for researchers and practitioners to perform neuron analysis. The Python toolkit is available at this https URL. Demo Video available at this https URL.

 

뉴런 분석은 지식이 어떻게 구조화되는지에 대한 통찰력을 제공한다 표현 및 네트워크에서 뉴런의 역할을 발견합니다. 게다가. 우리의 모델에 대한 이해를 발전시키기 위해, 뉴런 분석은 다양한 것을 가능하게 한다 디바이어싱, 도메인 적응 및 아키텍처 검색과 같은 응용 프로그램. 우리가 뉴런 분석을 수행하기 위한 포괄적인 오픈 소스 툴킷인 NeuroX를 제시한다 자연어 처리 모델의. 그것은 다양한 해석을 한다 통합 API 하에서 방법들, 그리고 데이터 처리를 위한 프레임워크를 제공한다 평가, 따라서 연구자들과 실무자들이 수행하는 것을 더 쉽게 만든다 뉴런 분석. Python 툴킷은 다음 사이트에서 이용할 수 있다 이 https URL. 데모 비디오는 다음 사이트에서 확인할 수 있습니다 이 https URL. 

 

 

NeuroX Library for Neuron Analysis of Deep NLP Models

 

Neuron analysis provides insights into how knowledge is structured in representations and discovers the role of neurons in the network. In addition to developing an understanding of our models, neuron analysis enables various applications such as debiasing, domain adaptation and architectural search. We present NeuroX, a comprehensive open-source toolkit to conduct neuron analysis of natural language processing models. It implements various interpretation methods under a unified API, and provides a framework for data processing and evaluation, thus making it easier for researchers and practitioners to perform neuron analysis. The Python toolkit is available at this https URL. Demo Video available at this https URL.

 

뉴런 분석은 지식이 어떻게 구조화되는지에 대한 통찰력을 제공한다 표현 및 네트워크에서 뉴런의 역할을 발견합니다. 게다가. 우리의 모델에 대한 이해를 발전시키기 위해, 뉴런 분석은 다양한 것을 가능하게 한다 디바이어싱, 도메인 적응 및 아키텍처 검색과 같은 응용 프로그램. 우리가 뉴런 분석을 수행하기 위한 포괄적인 오픈 소스 툴킷인 NeuroX를 제시한다 자연어 처리 모델의. 그것은 다양한 해석을 한다 통합 API 하에서 방법들, 그리고 데이터 처리를 위한 프레임워크를 제공한다 평가, 따라서 연구자들과 실무자들이 수행하는 것을 더 쉽게 만든다 뉴런 분석. Python 툴킷은 다음 사이트에서 이용할 수 있다 이 https URL. 데모 비디오는 다음 사이트에서 확인할 수 있습니다 이 https URL. 

 

 

Evaluating Open-Domain Dialogues in Latent Space with Next Sentence Prediction and Mutual Information

 

The long-standing one-to-many issue of the open-domain dialogues poses significant challenges for automatic evaluation methods, i.e., there may be multiple suitable responses which differ in semantics for a given a conversational context. To tackle this challenge, we propose a novel learning-based automatic evaluation metric (CMN), which can robustly evaluate open-domain dialogues by augmenting Conditional Variational Autoencoders (CVAEs) with a Next Sentence Prediction (NSP) objective and employing Mutual Information (MI) to model the semantic similarity of text in the latent space. Experimental results on two open-domain dialogue datasets demonstrate the superiority of our method compared with a wide range of baselines, especially in handling responses which are distant to the golden reference responses in semantics.

 

개방형 도메인 대화의 오래된 일대일 문제가 제기된다 자동 평가 방법에 대한 중요한 과제, 즉, 다음이 있을 수 있다 주어진 a에 대한 의미론이 다른 여러 적합한 반응 대화의 맥락. 이 문제를 해결하기 위해, 우리는 소설을 제안한다 강력하게 평가할 수 있는 학습 기반 자동 평가 메트릭(CMN) 조건부 가변 자동 인코더를 보강하여 개방형 도메인 대화 다음 문장 예측(NSP) 목표를 가지고 상호를 사용하는 CVAE 잠재 공간에서 텍스트의 의미론적 유사성을 모델링하기 위한 정보(MI). 두 개의 개방형 도메인 대화 데이터 세트에 대한 실험 결과는 다음을 입증한다 광범위한 기준선과 비교하여 우리 방법의 우수성, 특히 의 황금 참조 응답과 거리가 먼 응답을 처리할 때 의미론.