譯者 | 布加迪
審校 | 重樓
Khoj是你的AI第二大腦,旨在增強大語言模型(LLM)的能力。它便于你構(gòu)建自定義代理、調(diào)度自動化以及進行深入研究。有了Khoj,你可以把任何在線或本地托管的LLM變成個人的自主AI助手,并確保隱私和安全。
我們在本教程中將探究Khoj及其主要功能、搭建環(huán)境,并使用Docker Compose在本地運行Khoj。此外,我們將它與Ollama集成起來,以訪問本地運行的LLM,確保你的數(shù)據(jù)隱私和安全。
Khoj簡介
Khoj是一款個人AI應(yīng)用程序,旨在提高你的能力和生產(chǎn)力。它使用在線LLM和離線LLM,并與你的個人文檔或網(wǎng)絡(luò)資源集成,以生成上下文感知的響應(yīng)。這款聊天應(yīng)用程序很容易自托管或部署在云端。
Khoj提供了大量的特性和集成。作為一款開源、自托管的應(yīng)用程序,它確保了透明度,并為用戶提供了完全的控制權(quán)。
Khoj的主要功能
1.與任何本地或在線LLM聊天:Khoj允許你與各種本地和在線LLM進行交互,如Llama 3.2、Claude和GPT 40。
2.來自互聯(lián)網(wǎng)和文檔的答案:Khoj使你不僅可以從互聯(lián)網(wǎng)檢索答案,還可以從你的個人文檔檢索答案,這些文檔包括圖像、PDF、Markdown文件和Word文檔等。
3.從任何地方訪問:可以在你青睞的平臺上使用Khoj。它可以從瀏覽器、Obsidian、Emacs、桌面或手機和WhatsApp來訪問。
4.自定義AI代理:可以根據(jù)你的需求創(chuàng)建自定義代理。你可以定義知識庫、角色、聊天模式和工具。
5.自動化和智能通知:Khoj可以自動執(zhí)行重復(fù)性的研究任務(wù),簡化工作流程。此外,你還可以直接在收件箱中接收個性化的時事通訊和智能通知。
6.高級語義搜索:可以使用Khoj的高級語義搜索快速輕松地找到最密切相關(guān)的文檔,節(jié)省時間和精力。
7.多媒體功能:可以生成圖像,大聲朗讀,甚至播放你的消息,以獲得更具互動性和吸引力的體驗。
為Khoj搭建環(huán)境
在執(zhí)行Docker Compose命令之前,請確保已安裝了必要的工具。如果你在Windows上使用Khoj,請安裝WSL,并重新啟動計算機。
在終端中輸入以下命令來安裝WSL。
$ wsl --install
之后,安裝Docker Desktop應(yīng)用程序。你可以在官方網(wǎng)站上找到安裝文件。
使用Docker Compose運行Khoj
要運行Khoj,我們需要從Khoj代碼庫下載Docker Compose文件。在終端中輸入“wsl”,然后使用以下命令創(chuàng)建文件夾,并下載“docker-compose.yml”文件。
$ mkdir ~/.khoj_app && cd ~/.khoj_app
$ wget https://raw.githubusercontent.com/khoj-ai/khoj/master/docker-compose.yml
打開“docker-compose.yml”文件,為“OPENAI_API_BASE”取消注釋,以訪問在Windows上運行的Ollama。
打開Docker Desktop應(yīng)用程序,然后在終端中輸入以下命令,以提取Docker映像,并運行多個容器。
$ cd ~/.khoj_app
$ docker-compose up
在提取映像之后,將為你提供該Web應(yīng)用程序的URL。復(fù)制URL并將其粘貼到瀏覽器中,以訪問Khoj用戶界面。
使用Khoj界面
要使用Khoj推理,必須啟動Ollama應(yīng)用程序,啟動新終端,鍵入以下命令以提供Gemma 2b模型。
$ ollama serve
之后與Khoj聊天,就像與ChatGPT聊天一樣。它將在線搜索結(jié)果,然后將它們與問題結(jié)合起來,生成上下文感知和最新的回應(yīng)。
你甚至可以嘗試自定義代理及其他集成來改善AI體驗,并幫助你自動執(zhí)行重復(fù)性任務(wù)。
結(jié)語
Khoj是一款出色的工具,非常容易搭建,即使對于非技術(shù)人員也是如此。它自帶功能強大的檢索工具,便于你無縫訪問Web內(nèi)容和本地文檔。你甚至可以將Khoj與WhatsApp等平臺集成起來,或創(chuàng)建自定義AI代理,輕松地自動執(zhí)行重復(fù)性任務(wù)。
有了Khoj,無異于有了你一直想要的AI助手,旨在簡化工作流程,并提高工作效率。無論是管理文檔、自動執(zhí)行任務(wù)還是構(gòu)建個性化的AI代理,Khoj都是數(shù)字生活的完美伴侶。
原文標題:Hosting Khoj for Free: Your Personal Autonomous AI App,作者:Abid Ali Awan