近日，NLP國際頂會ACL(The Association for Computational Linguistics)進(jìn)行的國際賽事WASSA 2023(13th Workshop on Computational Approaches to Subjectivity, Sentiment & Social Media Analysis)公布獲獎結(jié)果，天翼云智能邊緣事業(yè)部AI團(tuán)隊在混合語種競賽的MLEC、MCEC兩項賽道中均取得亞軍的成績。

　　

 

　　這是繼天翼云在中文語言理解零樣本學(xué)習(xí)權(quán)威榜單ZeroCLUE拔得頭籌之后，獲得的又一重要獎項，進(jìn)一步夯實了天翼云AI在認(rèn)知智能領(lǐng)域的行業(yè)領(lǐng)先地位。

　　ACL是全球影響力最大、最具活力的國際學(xué)術(shù)組織之一，是自然語言處理與計算語言學(xué)領(lǐng)域最具權(quán)威性的專業(yè)學(xué)會。ACL會議是NLP領(lǐng)域頂級會議，同時也是CCF 推薦的A類國際學(xué)術(shù)會議。而本次WASSA混合語種競賽吸引了來自全球的58個優(yōu)秀團(tuán)隊參與。

　　

 

　　WASSA 2023成績排名

　　情感是人類基本的心理經(jīng)驗之一，且難以被定義。在不同語種情境下，人類識別文本的各類情感具有一定難度，而將這些知識轉(zhuǎn)移到機(jī)器上，用機(jī)器識別混合語種(code mixed)文本中蘊含的情感將更具挑戰(zhàn)性。WASSA 2023中的混合語種賽事便是針對混合語種文本多標(biāo)簽情感分類(MLEC)和多類別情感分類(MCEC)舉辦的競賽。混合語種的每個樣本中包含憤怒、喜悅、熱愛等12類情感中的一類或多類，參賽者需要盡可能準(zhǔn)確地識別各文本樣本中蘊含的情感。 本次競賽中，天翼云AI團(tuán)隊的算法重點采用了“提示學(xué)習(xí)”(Prompt Learning)技術(shù)。“提示學(xué)習(xí)”是大模型研究的前沿技術(shù)之一，也被稱為自然語言處理領(lǐng)域的“第四范式”。傳統(tǒng)“預(yù)訓(xùn)練+微調(diào)”的NLP模型應(yīng)用方式不僅會消耗大量的計算、存儲資源，也會浪費預(yù)訓(xùn)練模型的泛化能力。應(yīng)用“提示學(xué)習(xí)”技術(shù)，則可以通過設(shè)計不同的提示詞、無需進(jìn)行模型微調(diào)，就能進(jìn)行下游任務(wù)的適配和部署，這一方式實現(xiàn)了預(yù)訓(xùn)練模型的高效利用，同時保留了模型的泛化能力。

　　

 

　　模型微調(diào)與提示學(xué)習(xí)的對比

　　天翼云AI團(tuán)隊的算法方案僅使用單張GPU卡就實現(xiàn)了混合語種情感分類任務(wù)的適配和推理，方案中的數(shù)據(jù)預(yù)處理、提示詞設(shè)計、數(shù)據(jù)推理全流程可在數(shù)小時內(nèi)完成。利用少量的算力和存儲資源，算法方案就能高效部署到下游任務(wù)中，這體現(xiàn)了天翼云AI團(tuán)隊在大模型、認(rèn)知智能領(lǐng)域的技術(shù)沉淀，以及對相關(guān)業(yè)務(wù)場景的深度理解。

　　目前，天翼云AI團(tuán)隊“提示學(xué)習(xí)”技術(shù)已在實際業(yè)務(wù)中得到廣泛應(yīng)用，尤其是“大模型+提示學(xué)習(xí)”的技術(shù)范式有效地將大模型的能力應(yīng)用到下游各類任務(wù)和業(yè)務(wù)場景中。未來，天翼云將繼續(xù)推進(jìn)人工智能領(lǐng)域技術(shù)創(chuàng)新與突破，加快打造原創(chuàng)技術(shù)策源地，推動數(shù)字技術(shù)與產(chǎn)業(yè)深度融合，賦能千行百業(yè)數(shù)字化轉(zhuǎn)型。