[2022-09-17] 오늘의 자연어처리

Hierarchical Attention Network for Explainable Depression Detection on Twitter Aided by Metaphor Concept Mappings

 

Automatic depression detection on Twitter can help individuals privately and conveniently understand their mental health status in the early stages before seeing mental health professionals. Most existing black-box-like deep learning methods for depression detection largely focused on improving classification performance. However, explaining model decisions is imperative in health research because decision-making can often be high-stakes and life-and-death. Reliable automatic diagnosis of mental health problems including depression should be supported by credible explanations justifying models' predictions. In this work, we propose a novel explainable model for depression detection on Twitter. It comprises a novel encoder combining hierarchical attention mechanisms and feed-forward neural networks. To support psycholinguistic studies, our model leverages metaphorical concept mappings as input. Thus, it not only detects depressed individuals, but also identifies features of such users' tweets and associated metaphor concept mappings.

 

트위터의 자동 우울증 감지는 개인에게 개인적으로 도움을 줄 수 있다. 이전의 초기 단계의 그들의 정신 건강 상태를 편리하게 이해한다. 정신 건강 전문가들을 만나는 것. 기존 블랙박스급 딥러닝 분류 개선에 주로 초점을 맞춘 우울증 감지 방법 성능. 그러나 모델 결정을 설명하는 것은 건강에 필수적이다. 의사결정이 종종 높은 위험과 생사가 달린 문제이기 때문에 연구. 우울증을 포함한 정신 건강 문제에 대한 신뢰할 수 있는 자동 진단 모델의 예측을 정당화하는 신뢰할 수 있는 설명에 의해 뒷받침되어야 한다. 인 이 작업, 우리는 우울증 감지를 위한 새로운 설명 가능한 모델을 제안한다. 트위터. 계층적 주의를 결합한 새로운 인코더로 구성됩니다. 메커니즘과 피드포워드 신경망. 심리언어학을 지지하기 위해 연구, 우리의 모델은 은유적 개념 매핑을 입력으로 활용한다. 따라서, 그것은 우울한 개인을 감지할 뿐만 아니라, 그러한 특징도 식별한다. 사용자의 트윗 및 관련 메타포 개념 매핑. 

 

 

ÚFAL CorPipe at CRAC 2022: Effectivity of Multilingual Models for Coreference Resolution

 

We describe the winning submission to the CRAC 2022 Shared Task on Multilingual Coreference Resolution. Our system first solves mention detection and then coreference linking on the retrieved spans with an antecedent-maximization approach, and both tasks are fine-tuned jointly with shared Transformer weights. We report results of fine-tuning a wide range of pretrained models. The center of this contribution are fine-tuned multilingual models. We found one large multilingual model with sufficiently large encoder to increase performance on all datasets across the board, with the benefit not limited only to the underrepresented languages or groups of typologically relative languages. The source code is available at this https URL.

 

우리는 CRAC 2022 공유 과제에 대한 수상 제출에 대해 설명합니다. 다국어 상호 참조 확인. 우리 시스템은 먼저 멘션 감지를 해결한다. 그런 다음 검색된 범위에 대한 상호 참조 링크 선행 기업화 접근 방식, 그리고 두 작업 모두 공동으로 미세 조정된다. 공유 변압기 가중치 우리는 다양한 범위의 미세 조정 결과를 보고한다. 사전 교육을 받은 모델 이 기고문의 중심은 세밀하게 조정된 다국어입니다. 모델들. 우리는 충분히 큰 인코더를 가진 하나의 큰 다국어 모델을 찾았다. 모든 데이터셋의 성능을 향상시키지만 이점은 없습니다. 유형학적으로 덜 대표되는 언어 또는 그룹으로만 제한된다. 상대 언어 소스 코드는 다음 위치에서 사용할 수 있습니다. 이 https URL. 

 

 

Automatic Error Analysis for Document-level Information Extraction

 

Document-level information extraction (IE) tasks have recently begun to be revisited in earnest using the end-to-end neural network techniques that have been successful on their sentence-level IE counterparts. Evaluation of the approaches, however, has been limited in a number of dimensions. In particular, the precision/recall/F1 scores typically reported provide few insights on the range of errors the models make. We build on the work of Kummerfeld and Klein (2013) to propose a transformation-based framework for automating error analysis in document-level event and (N-ary) relation extraction. We employ our framework to compare two state-of-the-art document-level template-filling approaches on datasets from three domains; and then, to gauge progress in IE since its inception 30 years ago, vs. four systems from the MUC-4 (1992) evaluation.

 

문서 수준 정보 추출(IE) 작업이 최근에 시작되었다. 다음과 같은 엔드 투 엔드 신경망 기술을 사용하여 본격적으로 재검토되었다. 문장 수준의 IE 대응에서 성공했습니다. 평가 그러나 접근 방식은 여러 차원에서 제한되었다. 특히, 일반적으로 보고된 정밀도/리콜/F1 점수는 다음과 같은 정보를 거의 제공하지 않습니다. 모형에서 발생하는 오차 범위. 우리는 쿠머펠드와 클라인의 작품을 기반으로 한다. (2013) 오류 자동화를 위한 변환 기반 프레임워크를 제안한다. 문서 수준 이벤트 분석 및 (N-ary) 관계 추출. 우리는 우리의 두 개의 최신 문서 수준 템플릿 비교 프레임워크 3개 도메인의 데이터 세트에 대한 접근 방식; 그리고 IE의 진행 상황을 측정한다. MUC-4(1992)의 4개 시스템 대 30년 전 창사 이래 평가하기.