希望增加本地ai知識庫問答系統(tǒng) 圖片
現(xiàn)在也有小型AI大模型,其體積之小已能在手機上運行。
然而,當(dāng)前的手機AI均需依賴服務(wù)器方能實現(xiàn)功能,且對本地文件的支持尚不夠友好,用戶需上傳文件,系統(tǒng)無法自動識別本機存儲的所有文檔。
如果能夠開發(fā)一個手機本地的RAG(Retrieval Augmented Generation,檢索增強生成)模型,其推理能力不必過于強大,主要依賴于本地文件構(gòu)建知識庫,那么這將實現(xiàn)一個在電腦中運行的本地大模型所具備的效果。
模型可以設(shè)定兩個選項,一個是小型版本,其大小可能為幾百兆,主要特點是運行流暢;另一個則是較大版本,主要特點是能夠充分發(fā)揮手機性能。當(dāng)然,最理想的情況是用戶能夠同時下載這兩個版本,但在使用時系統(tǒng)會提示用戶選擇使用哪一種。
最好是能夠識別手機中的多種文件類型,不僅限于文檔,還應(yīng)包括圖片等。
如果條件允許,可以開發(fā)一款電腦軟件,該軟件僅作為手機的額外計算設(shè)備使用,負(fù)責(zé)調(diào)用電腦的計算資源來處理手機需要整理計算的數(shù)據(jù),并將處理后的數(shù)據(jù)返回給手機。
當(dāng)一個福利圖片,與內(nèi)容無關(guān)
然而,當(dāng)前的手機AI均需依賴服務(wù)器方能實現(xiàn)功能,且對本地文件的支持尚不夠友好,用戶需上傳文件,系統(tǒng)無法自動識別本機存儲的所有文檔。
如果能夠開發(fā)一個手機本地的RAG(Retrieval Augmented Generation,檢索增強生成)模型,其推理能力不必過于強大,主要依賴于本地文件構(gòu)建知識庫,那么這將實現(xiàn)一個在電腦中運行的本地大模型所具備的效果。
模型可以設(shè)定兩個選項,一個是小型版本,其大小可能為幾百兆,主要特點是運行流暢;另一個則是較大版本,主要特點是能夠充分發(fā)揮手機性能。當(dāng)然,最理想的情況是用戶能夠同時下載這兩個版本,但在使用時系統(tǒng)會提示用戶選擇使用哪一種。
最好是能夠識別手機中的多種文件類型,不僅限于文檔,還應(yīng)包括圖片等。
如果條件允許,可以開發(fā)一款電腦軟件,該軟件僅作為手機的額外計算設(shè)備使用,負(fù)責(zé)調(diào)用電腦的計算資源來處理手機需要整理計算的數(shù)據(jù),并將處理后的數(shù)據(jù)返回給手機。
當(dāng)一個福利圖片,與內(nèi)容無關(guān)



