介紹事件正在迅速展開，新的大型語言模型 (LLM) 正在以越來越快的速度開發(fā) 。就在過去幾個月，我們有了顛覆性的ChatGPT和現在的GPT-4 。明確定義，GPT代表（Generative Pre-trained Transformer），是底層語言模型 ， 而ChatGPT是為會話設計的具體實現 。比爾·蓋茨 (Bill Gates) 回顧 OpenAI 的工作時說，“人工智能時代已經開始” 。如果您感到難以跟上快速變化的步伐 ， 那么您并不孤單 。就在剛才，超過 1000 名研究人員簽署了一份請愿書，要求在未來六個月內暫停訓練比 GPT-4 更強大的 AI 系統(tǒng) 。
盡管技術成就顯著，但它們仍然是閉門造車 。盡管它的名字，OpenAI 長期以來一直受到一些人的批評，因為它沒有發(fā)布他們的模型，甚至被一些人稱為ClosedAI 。研究人員和愛好者都在努力尋找開源替代品 。
如果您錯過了最近的發(fā)展，您應該查看 Meta 的LLaMA ( GitHub )，它應該優(yōu)于 GPT-3 。它是在 GNU 許可下獲得許可的，雖然它不是嚴格開源的，但您可以在注冊后獲得權重 。這種開放顯然是為了 LLaMA 的利益，社區(qū)很快就繼續(xù)開發(fā)它 。它很快以llama.cpp的形式移植到 C/C++ ， 斯坦福大學的研究人員將其擴展到一個指令跟隨模型，例如 ChatGPT，并將其命名為Alpaca 。還有GPT4All，這篇博文是關于它的 。我將很快介紹它，最后，您將了解如何在本地運行它以及會發(fā)生什么 。
但首先，讓我們反思一下社區(qū)在短時間內開發(fā)開放版本的速度有多快 。為了了解這些技術的變革性，下面是各個 GitHub 存儲庫的 GitHub 星數（衡量受歡迎程度） 。作為參考，流行的PyTorch 框架在六年內收集了大約 65,000 顆星 。下面的圖表是大約 。一個月 。
文章插圖
【國產開源版ChatGPT插件 chatgpt的創(chuàng)始人的故事】GPT4全部但是現在，讓我們更深入地介紹GPT4All 。這是Nomic AI的助手式聊天機器人，剛剛公開發(fā)布 。如何基于現有的語言模型（如 LLaMA）創(chuàng)建類似 ChatGPT 的助手式聊天機器人？答案可能會讓您大吃一驚：您與聊天機器人互動并嘗試了解它的行為 。就 gpt4all 而言，這意味著從公開可用的數據源收集各種問題和提示樣本 ， 然后將它們交給 ChatGPT（更具體地說是 GPT-3.5-Turbo）已生成 806,199 個高質量的提示生成對 。接下來，整理數據并刪除低多樣性響應 ， 并確保數據涵蓋廣泛的主題 。訓練數據后，他們發(fā)現他們的模型比同類產品表現更好 。
對我來說 ， 其中一個主要吸引力在于作者發(fā)布了模型的量化 4 位版本 。這是什么意思？實際上，您在模型中以較低的精度而不是全精度執(zhí)行某些操作，因此可以擁有更緊湊的模型 。雖然像 ChatGPT 這樣的模型在 Nvidia 的A100等專用硬件上運行，這是一款配備高達 80 GB RAM 的硬件怪獸 ， 價格為 15,000 美元，但對于 GPT4All，這意味著您可以在消費級硬件上執(zhí)行該模型 。現在，讓我們開始運行您自己的：
設置東西運行 GPT4All 的說明很簡單 ， 只要您安裝了正在運行的 Python 。只需按照GitHub 存儲庫上的設置說明進行操作即可 。
- 下載量化檢查點（請參閱自己嘗試） 。這是 4.2 Gb 的大小，我以 1.4 Mb/s 的速度下載它，所以這需要一段時間
- 克隆環(huán)境
- 將檢查點復制到chat
- 設置環(huán)境并安裝要求
- 跑步
./gpt4all-lora-quantized-OSX-m1.
文章插圖
這一切應該只花你幾分鐘 。就我而言，下載是最慢的部分 。在我的機器上，結果是實時返回的 。
結果現在，準備運行的 GPT4All 量化模型在基準測試時表現如何？雖然有詳盡的基準測試集，但以下是您可以預期的一些快速見解：
文章插圖
雖然有一些明顯的錯誤（NLP-> NLU），但實際上我對輸出感到非常驚訝 。
讓我們嘗試一些更有創(chuàng)意的東西，比如詩歌：
文章插圖
我發(fā)現這確實非常有用——同樣 ， 考慮到這是在 MacBook Pro 筆記本電腦上運行的 。雖然它可能不在 GPT-3.5 甚至 GPT-4 級別，但它肯定有一些魔力 。
使用注意事項使用 GPT4All 時 ， 請牢記作者的使用注意事項：
以上關于本文的內容，僅作參考！溫馨提示：如遇健康、疾病相關的問題，請您及時就醫(yī)或請專業(yè)人士給予相關指導!
「愛刨根生活網」www.malaban59.cn小編還為您精選了以下內容，希望對您有所幫助：
- PR軟件中的“橢圓形蒙版”使用指南
- 如何驗證Java版本是否升級到最新版
- 普陀山旅游攻略完整版 普陀山旅游攻略
- 新版電腦釘釘AI事實翻譯功能如何開啟
- 提升人像魅力的秘密武器：美圖秀秀在線版腮紅功能
- 如何在電腦版QQ興趣部落中進入
- 電腦版微信文件傳輸操作指南
- 如何下載并安裝PC版微信
- 如何使用驅動精靈萬能網卡版安裝網卡驅動
- SAP CO模塊評估方法版本創(chuàng)建步驟