大型語言模型的邏輯推理能力探究

最新研究揭示，盡管大語言模型LLMs在語言理解上表現(xiàn)出色，但在邏輯推理方面仍有待提高。為此，研究者們推出了GLoRE，一個全新的邏輯推理評估基準，包含1...

2023-11-23 標簽：語言模型自然語言ChatGPT 2.2k 0

BaiChuan13B多輪對話微調(diào)范例

答案是不會。原因是LLM作為語言模型，它的注意力機制是一個單向注意力機制(通過引入 Masked Attention實現(xiàn))，模型在第一輪對話的輸出跟輸入...

2023-08-24 標簽：語言模型大模型 2.2k 0

LlamaIndex：面向QA系統(tǒng)的全新文檔摘要索引

添加關(guān)鍵字過濾器是增強檢索結(jié)果的一種方法。但這也帶來了一系列挑戰(zhàn)。我們需要手動或通過 NLP 關(guān)鍵字提取/主題標記模型為每個文檔充分確定合適的關(guān)鍵字。此...

2023-05-12 標簽：代碼語言模型nlp 2.1k 0

ImageBind：跨模態(tài)之王，將6種模態(tài)全部綁定！

最近，很多方法學(xué)習(xí)與文本、音頻等對齊的圖像特征。這些方法使用單對模態(tài)或者最多幾種視覺模態(tài)。最終嵌入僅限于用于訓(xùn)練的模態(tài)對。因此，視頻 - 音頻嵌入無法直...

2023-05-11 標簽：編碼器語言模型數(shù)據(jù)集 2.1k 0

清華&港大提出LanguageMPC：將大語言模型和MPC相結(jié)合的新型類人智駕系統(tǒng)

LanguageMPC首次將LLM應(yīng)用于駕駛場景，并設(shè)計了將文字形式高層決策轉(zhuǎn)化為可操作駕駛行為的方法。我們定量的證明了LanguageMPC在路口和環(huán)...

2023-10-10 標簽：MPC語言模型自動駕駛 2.1k 0

以Gpipe作為流水線并行的范例進行介紹

回顧ChatGPT的發(fā)展歷程，我們可以總結(jié)出大語言模型（LLM）取得驚艷效果的要點（重要性從高到低排序）： 愿意燒錢，且接受“燒錢 != 好模型”的現(xiàn)實...

2023-05-25 標簽：3D開源語言模型 2.1k 0

語言模型的弱監(jiān)督視頻異常檢測方法

LGT Adapter由局部關(guān)系Transformer和全局關(guān)系圖卷積串聯(lián)組成?？紤]到常規(guī)的Transformer在長時視頻時序關(guān)系建模時冗余信息較多、...

2024-01-02 標簽：適配器語言模型Clip 2.1k 0

LangChain框架關(guān)鍵組件的使用方法

LangChain是一個強大的框架，旨在幫助開發(fā)人員使用語言模型構(gòu)建端到端的應(yīng)用程序。它提供了一套工具、組件和接口，可簡化創(chuàng)建由大型語言模型 (LLM)...

2024-08-30 標簽：應(yīng)用程序語言模型LLM 2.1k 0

DISC-LawLLM：復(fù)旦大學(xué)團隊發(fā)布中文智慧法律系統(tǒng)，構(gòu)建司法評測基準，開源30萬微調(diào)數(shù)據(jù)

DISC-LawLLM是基于我們構(gòu)建的高質(zhì)量數(shù)據(jù)集DISC-Law-SFT在通用領(lǐng)域中文大模型Baichuan-13B上進行全參指令微調(diào)得到的法律大模型...

2023-09-28 標簽：算法智能化語言模型 2k 0

專補大模型短板的RAG有哪些新進展？這篇綜述講明白了

然而，盡管它們的能力令人印象深刻，但它們并非無懈可擊。這些模型可能會產(chǎn)生誤導(dǎo)性的 “幻覺”，依賴的信息可能過時，處理特定知識時效率不高，缺乏專業(yè)領(lǐng)域的深...

2024-01-17 標簽：人工智能語言模型大模型 2k 0

中科大提出：LLMs的個性化綜述，詳述大模型與個性化的挑戰(zhàn)與機遇

因此，我們認為現(xiàn)在是時候?qū)徱晜€性化服務(wù)的挑戰(zhàn)以及用大型語言模型來解決它們的機會了。特別是，我們在這篇展望性論文中專門討論了以下幾個方面：現(xiàn)有個性化系統(tǒng)的...

2023-08-21 標簽：人工智能語言模型大模型 2k 0

GPT-4已經(jīng)會自己設(shè)計芯片了嗎？

? GPT-4已經(jīng)會自己設(shè)計芯片了！芯片設(shè)計行業(yè)的一個老大難問題HDL，已經(jīng)被GPT-4順利解決。并且，它設(shè)計的130nm芯片，已經(jīng)成功流片。 GPT-...

2023-06-20 標簽：芯片語言模型GPT 2k 0

基于顯式證據(jù)推理的few-shot關(guān)系抽取CoT

最近，上下文學(xué)習(xí)策略已被證明在沒有訓(xùn)練的情況下顯示出顯著的結(jié)果。很少有研究利用上下文學(xué)習(xí)進行zero-shot信息提取。不幸的是，推理的證據(jù)在思維鏈提示...

2023-11-20 標簽：語言模型nlpLLM 2k 0

谷歌新作SPAE：GPT等大語言模型可以通過上下文學(xué)習(xí)解決視覺任務(wù)

這篇論文揭示了 PaLM 或 GPT 在通過上下文學(xué)習(xí)解決視覺任務(wù)方面的能力，并提出了新方法 SPAE（Semantic Pyramid AutoEnc...

2023-07-09 標簽：語言模型GPTnlp 2k 0

ChatGPT是怎么實現(xiàn)的

ChatGPT 能夠自動生成類似于人類寫作的文本，這一點非常引人注目，也令人意外。但它是如何實現(xiàn)的？為什么它能夠如此出色地生成我們認為有意義的文本？我的...

2023-10-16 標簽：神經(jīng)網(wǎng)絡(luò)語言模型ChatGPT 1.9k 0

Hugging Face LLM部署大語言模型到亞馬遜云科技Amazon SageMaker推理示例

?本篇文章主要介紹如何使用新的Hugging Face LLM推理容器將開源LLMs，比如BLOOM大型語言模型部署到亞馬遜云科技Amazon Sage...

2023-11-01 標簽：語言模型亞馬遜LLM 1.9k 0