2023-03-23

免費離線 ChatGPT 軟體

嗯 ... 阿舍的這個標題是真的有點在騙流量喔! 其實那個可以離線使用的 AI 對談機器是一隻草泥馬來的,因為這套軟體名字叫「LLama」而中文就是「大羊駝」來的,但實際說來,「LLaMA」是一種 AI 模型的縮寫,是 Meta 公司最近開放原始碼出來的一種 AI 模型,所需要的運算資源,只要 PC 等級就可以達到接近 GPT-3.5 的能力,因此,安裝在電腦或筆電就可以用小型的運算資源,就可以在自己的電腦上跑出 ChatGPT 了 ... 真的嗎 ? ... 聽說,還有人安裝在手機和 Raspberry Pi 上跑,只是慢、慢、慢、慢了一點。🫢



LLaMA 生出 Alpaca

其實,Meta 公開的那個東西,我們一般人是弄不太起來的,因為,那個只是一個 AI 模型,主要用途是讓 AI 相關領域的研究人員可以用很少的運算資源就可以進行 AI 的訓練,所以,直接去下載安裝後的東西,阿舍根本就不會用,還好,史丹佛大學用這個「大羊駝 (LLaMA)」生出一個叫「羊駝 (Alpaca)」的版本,是透過 GTP 完成訓練的,所以,只要直接問羊駝就可以和 ChatGPT 一樣,得到答案,但是,阿舍還是弄不起來啊 ...


達賴 (dalai) 降臨


但是,這個世界的變化越來越快,高手和高高手的腳也越來越快,阿舍就睡個覺醒來,就有一個以史丹佛大學的羊駝(Alpaca) 為版本的東西叫來,但這次的名字和動物沒有關係了,這個軟體叫做「達賴 (dalai)」,這個高手做的最棒的是,阿舍只要下二個指令就可以在 Macbook Pro 上完成安裝和下載模型,然後,一個指令就可以啟動 Web 界面來操作了。 


真的可離線,真的有用


這個「大羊駝 (LLaMA)」(還是該叫「羊駝 (Alpaca)」或是 「達賴 (dalai)」??🙄),可以和 Chat GPT 一樣輸入指令,但是界面比較陽春,然後,阿舍試了一下,懂的東西比較少,像是問個 Smart Contract 的程式碼,它就說他不知道 ... 😥,不過,知識類的,就還好,可是真的要用,就感覺和 ChatGPT 在使用上,差的有點距離,果然是真的給研究人員用的,像阿舍這樣的開發人員,大概就那個 dalai 有開出來的 API 比較使用吧! 透過,這些 API 就可取到輸入的字串所解析出來的 Token 和一些參數值,也就是說,如果想要方便去取字串的 Token 並預測的話,用這個東西應該可以省一些呼叫 GPT API 的錢吧 ! ....


結語 :  繁體中文能不能 ?


繁體中文支不支援呢 ? 阿舍有用中文問了問題,打開 Debug 來看,其實是有解出 Token 的,只是編碼的關係,在 Debug 訊息上,就出現亂碼了,但是,它還是有懂的啦! 因為,它還是有用英文回答了阿舍的問題,而且,內容也沒有錯 ... 可是啊! 要注意,由於這個東西有 Meta 釋出來時的非商用限制,然後,用 GPT 訓練成 羊駝 (Alpaca) 時,有受到 OpenAI 要求不可以用 GPT 訓練出來的東西做成和 GPT 競爭產品的限制,因此,就真的適合拿來自己玩玩或做研究使用了 .... 😐

(續) 免費離線聊天的 GPT4All 好不好用 ?


推薦閱讀


有疑問? 問題還是沒解決嗎? 歡迎下方留言提問和討論 😁

1 則留言 :

Arthur 提到...

Hello!

在 Alpaca 推出不到一個月之間,已經有近十套開放使用的模型,如果有興趣,可以安裝下面這套支援多種模型的版本 ...

https://github.com/lm-sys/FastChat

張貼留言

歡迎留言提問和討論 .... 😁