動(dòng)手蒸餾自己的DeepSeek-R1大模型

大家好，公眾號(hào)停更了幾個(gè)月了，這幾個(gè)月一直有計(jì)劃寫文章的，現(xiàn)在草稿里還躺著幾篇未完結(jié)的文章，待后面有時(shí)間了完善以后再發(fā)出。

要說(shuō)這個(gè)春節(jié)最火的非DeepSeek莫屬了，各種朋友圈、公眾號(hào)全是有關(guān)deepseek的消息。我自己也試了官方的網(wǎng)頁(yè)版本和APP,但重試率太高，沒辦法官方的計(jì)算資源抗不住大家伙的熱情。

今天給大家介紹一個(gè)工具，可以零代碼訓(xùn)練出自己的任意大模型，也支持了deepseek（我本地ollama部署了一個(gè)deepseek-r1:14b）進(jìn)行了小測(cè)試；它就是Kiln AI.

項(xiàng)目地址

軟件特點(diǎn)

?? 直觀的桌面應(yīng)用程序：適用于 Windows、MacOS 和 Linux 的一鍵式應(yīng)用程序。真正直觀的設(shè)計(jì)。

??? 微調(diào)：Llama、GPT4o 和 Mixtral 的零代碼微調(diào)。自動(dòng)無(wú)服務(wù)器部署模型。

?? 合成數(shù)據(jù)生成：使用我們的交互式可視化工具生成訓(xùn)練數(shù)據(jù)。

?? 推理模型：訓(xùn)練或提煉您自己的自定義推理模型。

?? 團(tuán)隊(duì)協(xié)作：基于 Git 的 AI 數(shù)據(jù)集版本控制。直觀的用戶界面讓您可以輕松地與 QA、PM 和主題專家就結(jié)構(gòu)化數(shù)據(jù)（示例、提示、評(píng)分、反饋、問題等）進(jìn)行協(xié)作。

?? 提示詞生成：自動(dòng)從您的數(shù)據(jù)中生成提示，包括思路鏈、小樣本和多樣本等。

?? 廣泛的模型和提供商支持：通過 Ollama、OpenAI、OpenRouter、Fireworks、Groq、AWS 或任何與 OpenAI 兼容的 API 使用任何模型。

????? 開源庫(kù)和 API：我們的 Python 庫(kù)和 OpenAPI REST API 是 MIT 開源的。

?? 隱私優(yōu)先：我們看不到您的數(shù)據(jù)。自帶 API 密鑰或使用 Ollama 在本地運(yùn)行。

??? 結(jié)構(gòu)化數(shù)據(jù)：構(gòu)建使用 JSON 的 AI 任務(wù)。

?? 免費(fèi)：我們的應(yīng)用程序是免費(fèi)的，我們的庫(kù)是開源的。

（以上內(nèi)容基于官方文檔google翻譯）

使用體驗(yàn)

使用起來(lái)也很簡(jiǎn)單，官方有支持各平臺(tái)的安裝包，只要下載運(yùn)行就好，會(huì)自動(dòng)打開瀏覽器并訪問 http://localhost:8757/

根據(jù)提示一步步往后走就行了

如果ollama不在本地機(jī)器上，先點(diǎn)一次“Connect”后會(huì)彈出配置ollama配置.

使用中有些框的數(shù)據(jù)也不需要自己填寫，如下圖

只要點(diǎn)擊'Create an example' 就自動(dòng)把表單填上了。

創(chuàng)建任務(wù)這里也是，對(duì)新手來(lái)說(shuō)相當(dāng)友好了；不了解每個(gè)參數(shù)意義的，先自動(dòng)填充跑一遍看看流程，也不需要自己胡亂填寫。

任務(wù)主要界面

成本

由于我是在一個(gè)只有12G的顯卡上跑的測(cè)試(就是慢.....)，ollama部署不需要其它額外成本，官方文檔上有一個(gè)18分鐘（不包括等待訓(xùn)練和數(shù)據(jù)生成的時(shí)間）微調(diào)9個(gè)大模型的說(shuō)明，里面有提到成本。

生成訓(xùn)練數(shù)據(jù)：OpenRouter 上 2.06 美元
在 Fireworks 上微調(diào) 5 個(gè)模型（Llama 3.2 1b、Llama 3.2 3b、Llama 3.1 8b、Llama 3.1 70b 和 Mixtral 8x7b）：1.47 美元
在 OpenAI 上微調(diào) GPT 4o-Mini：2.03 美元
在 OpenAI 上微調(diào) GPT 4o：16.91 美元
在 Unsloth 上對(duì) Llama 3.2 1b 和 3b 進(jìn)行微調(diào)：0.00 美元（免費(fèi) Google Colab T4）

如果沒有 GPT-4o，整個(gè)項(xiàng)目的成本將不到 6 美元！

同時(shí)，我們最快的微調(diào)（Llama 3.2 1b）比我們?cè)诤铣蓴?shù)據(jù)生成期間使用的模型快 10 倍，便宜 150 倍（來(lái)源：OpenRouter 性能統(tǒng)計(jì)和價(jià)格）。

文檔連接：https://docs.getkiln.ai/docs/fine-tuning-guide

結(jié)束語(yǔ)

這只是一個(gè)小的測(cè)試，后面會(huì)結(jié)合業(yè)務(wù)場(chǎng)景做深入的測(cè)試，看是否能訓(xùn)練一個(gè)專用的模型為自己所用。

大家有這方面經(jīng)驗(yàn)或者有其它更好工具的可以互相交流！?。?/span>

謝謝關(guān)注、轉(zhuǎn)發(fā)、收藏

本站僅提供存儲(chǔ)服務(wù)，所有內(nèi)容均由用戶發(fā)布，如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊舉報(bào)。

开心六月综合激情婷婷|欧美精品成人动漫二区|国产中文字幕综合色|亚洲人在线成视频