改進提示學習訓練架構以偵測社交媒體文本之心理健康面向

No Thumbnail Available

Date

2024

Journal Title

Journal ISSN

Volume Title

Publisher

Abstract

本研究針對從中文社交媒體文本分析發文者心理健康面向的需求,探討如何從發文內容自動偵測發文者的心理健康狀態,包括是否有精神疾病或情緒問題,以及是否出現尋求協助的行為等三個面向。本論文改良提示學習中的訓練架構,提出漸次增加與策略挑選訓練資料的方法,對預訓練遮蔽語言模型微調的訓練方式進行改進,稱為IS訓練策略。此外,為了加強模型區別正負類別資料間的差異,額外採計邊界差異損失值。本研究在臺灣電子佈告欄上蒐集的三個心理健康面向資料集上進行實驗,結果顯示結合本論文所提出的IS訓練策略,可使PET和iPET所訓練出的面向偵測器,在Precision至少提升10%。當控制訓練資料樣本數減少至一半的情況下採用IS訓練策略,相較於原訓練樣本數未採用IS訓練策略,各面向偵測器的Precision仍提升至少5%,顯示IS訓練策略能從訓練集中有效挑選出對增進模型正確率學習有幫助的資料。在模擬開放環境測試集中,各目標面向的偵測效果皆可達0.8以上,顯示本論文所提出之提示學習訓練架構用於偵測社交媒體文本中心理健康面向的實用性。
none

Description

Keywords

提示學習, 大規模預訓練語言模型, 心理健康面向, none

Citation

Collections

Endorsement

Review

Supplemented By

Referenced By