前言
2023 年是當(dāng)之無(wú)愧的“大模型之年”，據(jù)瑞銀集團(tuán)的一份報(bào)告顯示，ChatGPT 推出僅僅兩個(gè)月后，月活用戶(hù)已經(jīng)突破了 1 億，成為史上用戶(hù)增長(zhǎng)速度最快的消費(fèi)級(jí)應(yīng)用程序。
在炙熱的大模型賽道里，基于中文大模型的發(fā)布也是層出不窮，相較于通用大模型的“大而全”，冪律聯(lián)合智譜 AI 此次聯(lián)合發(fā)布基于中文千億大模型的法律垂直大模型 ——PowerLawGLM，聚焦于法律細(xì)分領(lǐng)域，針對(duì)中文法律場(chǎng)景的應(yīng)用效果具有獨(dú)特優(yōu)勢(shì)，具備豐富的法律知識(shí)和法律語(yǔ)言理解能力。
一、“法律垂直大模型”的誕生
通用大模型是具有強(qiáng)大語(yǔ)言理解能力和生成能力的人工智能模型，但由于專(zhuān)業(yè)知識(shí)及數(shù)據(jù)的欠缺，將通用大模型直接應(yīng)用在法律領(lǐng)域，往往存在著嚴(yán)重的效果問(wèn)題，例如法律知識(shí)錯(cuò)誤、專(zhuān)業(yè)引用偏差、法律體系差異等問(wèn)題。比如前段時(shí)間美國(guó)律師使用 ChatGPT 來(lái)提交法庭簡(jiǎn)報(bào)，結(jié)果引用的 6 個(gè)案例都是 ChatGPT 編造的虛假案例，這種“人工智能幻覺(jué)”現(xiàn)象在法律場(chǎng)景屢見(jiàn)不鮮，也說(shuō)明了目前通用大模型難以保證法律專(zhuān)業(yè)層面的真實(shí)性、正確性。
冪律智能自 2017 年成立以來(lái)即深耕于法律 + AI 領(lǐng)域，基于領(lǐng)先的法律 AI 能力，向企業(yè)提供智能合同產(chǎn)品，并且深度參與了清華大學(xué)自然語(yǔ)言處理實(shí)驗(yàn)室的 OpenCLaP、LawFormer 等法律大模型的研發(fā)及應(yīng)用。而智譜 AI 作為領(lǐng)先的通用大模型廠(chǎng)商，法律領(lǐng)域是其大模型迭代及布局的重要方向，基于雙方達(dá)成的戰(zhàn)略合作，在法律大模型上展開(kāi)深度合作，來(lái)加快推動(dòng)大模型在法律行業(yè)應(yīng)用落地及商業(yè)化。
自 2023 年初雙方成立聯(lián)合項(xiàng)目組，啟動(dòng)法律大模型研發(fā)以來(lái)，經(jīng)過(guò)千億規(guī)模的基座模型增量訓(xùn)練、對(duì)話(huà)層監(jiān)督微調(diào)、應(yīng)用層工程優(yōu)化，推出了基于中文千億大模型的法律垂直大模型 ——PowerLawGLM。
二、“PowerLawGLM”的打造
PowerLawGLM 法律大模型，基于智譜目前效果最好的 ChatGLM 130B 通用千億對(duì)話(huà)大模型進(jìn)行聯(lián)合研發(fā)。在 2022 年 11 月斯坦福大學(xué)基礎(chǔ)模型中心對(duì)全球 30 個(gè)大模型的評(píng)測(cè)結(jié)果中，GLM-130B 是亞洲唯一入選的 Top10 大模型。
訓(xùn)練法律垂直大模型第一步 —— 基座層：閱讀大量法律文本。
通用大模型在法律場(chǎng)景的應(yīng)用效果問(wèn)題，最基礎(chǔ)的原因在于基座大模型沒(méi)有經(jīng)過(guò)大量高質(zhì)量專(zhuān)業(yè)法律文本數(shù)據(jù)的訓(xùn)練。雙方基于 ChatGLM130B 的基座大模型 GLM 130B，經(jīng)過(guò)了多輪多次高質(zhì)量法律文本數(shù)據(jù)(裁判文書(shū)、法律法規(guī)、法律知識(shí)問(wèn)答等)清洗及模型增量訓(xùn)練，得到法律版基座大模型 LawGLM 130B。
訓(xùn)練法律垂直大模型第二步 —— 對(duì)話(huà)層：與法律對(duì)話(huà)場(chǎng)景對(duì)齊，具備法律場(chǎng)景的對(duì)話(huà)能力。
LawGLM 130B 基座模型具備了文本生成能力，但在法律對(duì)話(huà)能力上存在欠缺，因此需要利用大量的法律領(lǐng)域?qū)υ?huà)數(shù)據(jù)進(jìn)行監(jiān)督微調(diào)。雙方利用了近百萬(wàn)對(duì)高質(zhì)量法律知識(shí)問(wèn)題數(shù)據(jù)，來(lái)訓(xùn)練得到 PowerLawGLM beta 版，此時(shí)，它已經(jīng)初步具備了法律場(chǎng)景的端到端生成式對(duì)話(huà)能力以及獨(dú)特的回答習(xí)慣。
訓(xùn)練法律垂直大模型第三步 —— 應(yīng)用層：保證輸出結(jié)果質(zhì)量和可靠性。
法律問(wèn)答的很多場(chǎng)景都有其特殊性，對(duì)于結(jié)果準(zhǔn)確性的要求、可解釋性的要求較高，直接大模型來(lái)端到端生成回答，會(huì)面臨很多效果問(wèn)題，例如引用失效法律、杜撰法條案例、與法律人處理邏輯不一致等等。因此冪律設(shè)計(jì)了一系列通用型及場(chǎng)景特定型的工程化優(yōu)化方案，來(lái)提升法律問(wèn)答的有法可依和引用法條內(nèi)容的準(zhǔn)確性，最終提升法律問(wèn)答的專(zhuān)業(yè)性和可靠性。
通過(guò)以上三層結(jié)構(gòu)，在基座層、對(duì)話(huà)層、應(yīng)用層上提升了大模型對(duì)法律專(zhuān)業(yè)文本的理解、推理與生成能力：
﹒理解能力：理解復(fù)雜的法律文本，包括各種法律條款、判例、合同和其他法律文件。
﹒推理能力：從法律文本中推斷出潛在的問(wèn)題，提供可能的解決方案，或者預(yù)測(cè)出可能的法律后果。
﹒生成能力：回答法律問(wèn)題，為用戶(hù)提供咨詢(xún)，甚至幫助起草法律文件。它還可以進(jìn)行法律對(duì)話(huà)，幫助用戶(hù)理解復(fù)雜的法律問(wèn)題。
三、“PowerLawGLM”的實(shí)際能力
為了測(cè)試 PowerLawGLM 與通用大模型之間的效果對(duì)比，冪律的法律團(tuán)隊(duì)收集了互聯(lián)網(wǎng)上法律相關(guān)的 Top100 高頻問(wèn)題，進(jìn)行了不同模型的效果人工評(píng)測(cè)，并且從法律專(zhuān)業(yè)人員的角度，與 ChatGPT 等典型的通用大模型進(jìn)行的效果對(duì)比。評(píng)測(cè)的維度包括：對(duì)問(wèn)題點(diǎn)的把握是否準(zhǔn)確、對(duì)問(wèn)題所含信息的分析是否全面準(zhǔn)確、答案的操作可行性強(qiáng)弱、答案的法律專(zhuān)業(yè)性程度、法律依據(jù)有無(wú)，以及準(zhǔn)確性全面性程度。最終的評(píng)測(cè)結(jié)果顯示，100 個(gè)問(wèn)題的最優(yōu)答案中，PowerLawGLM 接近 70% 是最優(yōu)答案，并且在操作可行性、法律專(zhuān)業(yè)性等方面差異顯著。
如圖所示，以下是部分 ChatGPT 和 PowerLawGLM 的回答：
1.針對(duì)某一法律問(wèn)題的咨詢(xún)：
ChatGPT 對(duì)于彩禮問(wèn)題的回答
PowerLawGLM 對(duì)同一問(wèn)題給出的回答
在此法律問(wèn)題上，ChatGPT 沒(méi)有對(duì)能否請(qǐng)求對(duì)方返還彩禮進(jìn)行正面解答，也沒(méi)有對(duì)彩禮問(wèn)題從法律角度進(jìn)行分析并給出相關(guān)法律依據(jù);而 PowerLawGLM 則對(duì)此問(wèn)題進(jìn)行了明確回答，對(duì)題目進(jìn)行分析并給出了相關(guān)法律依據(jù)。
2.關(guān)于買(mǎi)賣(mài)合同的起草：
ChatGPT 對(duì)于合同起草的回答
PowerLawGLM 關(guān)于合同起草的回答
如圖所示，ChatGPT 起草的合同較為簡(jiǎn)略，整體合同格式及條款表述與一份真實(shí)可用的合同差距較大，經(jīng)常出現(xiàn)引用失效法律、條款缺失、信息不完備等問(wèn)題;而 PowerLawGLM 將用戶(hù)提問(wèn)中的主體、標(biāo)的物、單價(jià)、訴訟法院等信息準(zhǔn)確無(wú)誤的體現(xiàn)在合同正文中，并且合同條款的完整性、專(zhuān)業(yè)性差異顯著。
四、基于 PowerLawGLM 大模型的對(duì)話(huà)產(chǎn)品 ChatMe 正式上線(xiàn)
基于 PowerLawGLM 大模型的能力，冪律打造了法律對(duì)話(huà)產(chǎn)品 ChatMe，現(xiàn)已正式上線(xiàn)，首批開(kāi)放 50 個(gè)內(nèi)測(cè)名額，掃碼文末二維碼即可直接預(yù)約報(bào)名體驗(yàn)。
ChatMe 的功能和特點(diǎn)：
﹒合同咨詢(xún)：ChatMe 擁有豐富的合同知識(shí)數(shù)據(jù)，能夠回答諸如“合同租期期限”等合同知識(shí)問(wèn)題。
﹒合同起草：貼近中文合同起草場(chǎng)景，模版起草、條款組合起草、端對(duì)端生成起草等多種解決方案，讓生成的合同質(zhì)量更高。
﹒合同信息抽取：能夠識(shí)別合同中的關(guān)鍵信息進(jìn)行提取，如主體信息，合同總金額等等。
﹒合同審查：能夠針對(duì)合同條款的風(fēng)險(xiǎn)點(diǎn)給出相關(guān)建議，提示風(fēng)險(xiǎn)。
﹒通用法律咨詢(xún)：提供具有專(zhuān)業(yè)法律依據(jù)的法律咨詢(xún)服務(wù)。
未來(lái)，冪律智能將持續(xù)專(zhuān)注法律垂直大模型的技術(shù)提升和落地應(yīng)用，將法律大模型能力深度融入智能合同管理產(chǎn)品 MeFlow 及智能合同審查產(chǎn)品 MeCheck 中。同時(shí)，冪律將面向企業(yè)客戶(hù)開(kāi)放能力接口，企業(yè)可以將法律大模型能力快速接入現(xiàn)有業(yè)務(wù)流與系統(tǒng)中，帶來(lái)顯著效率提升。
冪律也會(huì)不斷更新和改進(jìn)模型，面向不斷變化的法律知識(shí)和應(yīng)用進(jìn)行針對(duì)性的效果優(yōu)化，進(jìn)一步提升 PowerLawGLM 大模型的進(jìn)化能力。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
