低代碼與大語(yǔ)言模型的探索實(shí)踐
前言
ChatGPT，作為一個(gè)先進(jìn)的自然語(yǔ)言處理工具，可以理解和生成人類語(yǔ)言，提供智能編程建議，自動(dòng)化代碼生成，以及提供交互式編程教學(xué)。這些功能為開(kāi)發(fā)者提供了前所未有的便利，大大減少了編程的時(shí)間和復(fù)雜性。
低代碼平臺(tái)則允許用戶通過(guò)圖形界面來(lái)構(gòu)建應(yīng)用，減少了對(duì)專業(yè)編程知識(shí)的依賴，在特定業(yè)務(wù)場(chǎng)景下能夠提升開(kāi)發(fā)效率。用戶可以通過(guò)拖放組件和模型驅(qū)動(dòng)的邏輯來(lái)快速地創(chuàng)建應(yīng)用程序，而無(wú)需編寫(xiě)大量代碼。
如果可以把 ChatGPT 和低代碼平臺(tái)結(jié)合起來(lái)使用，那么用戶就可以通過(guò)對(duì)話來(lái)快速地創(chuàng)建應(yīng)用程序，從而簡(jiǎn)化了搭建應(yīng)用程序的過(guò)程，并且提升了用戶體驗(yàn)。
可行性
低代碼平臺(tái)通常使用 JSON 格式的 DSL（領(lǐng)域特定語(yǔ)言 domain-specific language 指的是專注于某個(gè)應(yīng)用程序領(lǐng)域的計(jì)算機(jī)語(yǔ)言） 來(lái)描述一個(gè)頁(yè)面。用戶拖拽組件、編輯頁(yè)面，實(shí)際上是在和頁(yè)面的 JSON 在進(jìn)行交互。低代碼平臺(tái)通過(guò)渲染引擎把 JSON 數(shù)據(jù)渲染成為頁(yè)面，至于頁(yè)面要渲染成為 Vue、React 或者是純粹的 HTML 頁(yè)面，就得看各個(gè)低代碼平臺(tái)自己的實(shí)現(xiàn)了。一個(gè)應(yīng)用程序一般會(huì)包含多個(gè)頁(yè)面，然后通過(guò)路由來(lái)決定各個(gè)頁(yè)面的跳轉(zhuǎn)邏輯。
因此，我們可以向 ChatGPT 提出生成頁(yè)面的需求，ChatGPT 再根據(jù)我們提供的 prompt 來(lái)生成一份符合低代碼平臺(tái)數(shù)據(jù)格式的 JSON。理論上，這是可行的，現(xiàn)在來(lái)看一下怎么實(shí)現(xiàn)這個(gè)功能。
使用 ChatGPT 進(jìn)行頁(yè)面生成
首先，我們需要注冊(cè)一個(gè) openai 或者 azure 賬號(hào)，在上面開(kāi)通 api 服務(wù)（如何申請(qǐng)賬號(hào)請(qǐng)自行搜索，網(wǎng)上有很多教程）。然后就可以使用這個(gè) api 來(lái)和 ChatGPT 進(jìn)行交互了。
另外，我們還需要一個(gè)低代碼平臺(tái)，因?yàn)樯傻?JSON 需要一個(gè)低代碼平臺(tái)來(lái)驗(yàn)證生成 JSON 是否真實(shí)可用。剛好前幾年我寫(xiě)了一個(gè)低代碼平臺(tái)教學(xué)項(xiàng)目[8]，現(xiàn)在剛好可以用上。
低代碼平臺(tái)組件 DSL
首先，我們要知道每一個(gè)組件的 DSL 描述，下面的代碼是一個(gè)文本組件的 DSL 描述：
{
"animations": [], // 動(dòng)畫(huà)屬性
"events": {}, // 事件
"groupStyle": {}, // 組合組件樣式
"isLock": false, // 是否鎖定
"collapseName": "style",
"linkage": { // 聯(lián)動(dòng)組件
"duration": 0,
"data": [
{
"id": "",
"label": "",
"event": "",
"style": [
{
"key": "",
"value": ""
}
]
}
]
},
"component": "VText", // 組件類型
"label": "文字", // 組件名稱
"propValue": "雙擊編輯文字", // 組件值
"icon": "wenben", // 組件圖標(biāo)
"request": { // 組件 API 請(qǐng)求
"method": "GET",
"data": [],
"url": "",
"series": false,
"time": 1000,
"paramType": "",
"requestCount": 0
},
"style": { // 組件樣式
"rotate": 0,
"opacity": 1,
"width": 200,
"height": 28,
"fontSize": "",
"fontWeight": 400,
"lineHeight": "",
"letterSpacing": 0,
"textAlign": "",
"color": "",
"top": 157,
"left": 272
},
"id": "07l4byRWvsphAPo2uatxy" // 組件唯一 id
}每一個(gè)組件就是一個(gè) JSON 數(shù)據(jù)，那么整個(gè)頁(yè)面就是一個(gè) JSON 數(shù)組，里面包含了多個(gè)組件：
// 頁(yè)面 JSON
[
{ ... }, // 組件1
{ ... }, // 組件2
{ ... }, // 組件3
]prompt 編寫(xiě)
要讓 ChatGPT 來(lái)生成頁(yè)面，那么我們要讓 ChatGPT 知道頁(yè)面、組件的數(shù)據(jù)結(jié)構(gòu)，并且要給它提供示例。然后再向它提出頁(yè)面生成的需求，從而為我們生成符合要求的頁(yè)面。這個(gè) prompt 的格式如下：
我有一個(gè)低代碼平臺(tái)項(xiàng)目，它可以根據(jù)符合規(guī)范的 JSON 數(shù)據(jù)生成頁(yè)面，這個(gè) JSON 數(shù)據(jù)是一個(gè)數(shù)組，里面的每一項(xiàng)都是一個(gè) JSON 對(duì)象，每個(gè) JSON 對(duì)象都對(duì)應(yīng)著一個(gè)組件。
下面用 ### 包括起來(lái)的代碼就是所有的組件列表。
###
---所有組件的 JSON 數(shù)據(jù)結(jié)構(gòu)---
###
如果一個(gè)頁(yè)面包含了一個(gè)文本和按鈕組件，那么這個(gè)頁(yè)面的 JSON 代碼如下：
###
---示例頁(yè)面 JSON 數(shù)據(jù)結(jié)構(gòu)---
###
你作為一個(gè)技術(shù)專家，現(xiàn)在需要按照上面的規(guī)則來(lái)為我生成頁(yè)面，并且生成的頁(yè)面中每一個(gè)組件的屬性都不能忽略，也不需要解釋，只需要返回 JSON 數(shù)據(jù)即可。要注意的是，有些數(shù)值的單位是沒(méi)有 px 的。
現(xiàn)在我需要生成一個(gè)海報(bào)頁(yè)面，主要用于宣傳編程有什么用。由于篇幅有限，上面只展示了這個(gè) prompt 的大綱，JSON 數(shù)據(jù)都省略了。完整的 prompt 請(qǐng)?jiān)?nbsp;lowcode-llm-demo[9] 上查看。
prompt 準(zhǔn)備好了，現(xiàn)在我們需要調(diào)用 ChatGPT 的 api 來(lái)生成頁(yè)面，示例代碼如下：
import { AzureChatOpenAI } from '@langchain/azure-openai'
import 'dotenv/config'
import { readFileSync } from 'fs'
import { resolve, dirname } from 'path'
import { fileURLToPath } from 'url'
const model = new AzureChatOpenAI({
modelName: process.env.AZURE_OPENAI_API_MODEL_NAME,
azureOpenAIEndpoint: process.env.AZURE_OPENAI_API_ENDPOINT,
azureOpenAIApiKey: process.env.AZURE_OPENAI_API_KEY,
azureOpenAIEmbeddingsApiDeploymentName: process.env.AZURE_OPENAI_API_EMBEDDING_DEPLOYMENT_NAME,
azureOpenAIApiVersion: process.env.AZURE_OPENAI_API_VERSION,
})
const dirName = dirname(fileURLToPath(import.meta.url))
const prompt = readFileSync(resolve(dirName, '../prompts/prompt-compress.md'), 'utf-8')
const response = await model.invoke(prompt)
console.log(JSON.stringify(response)) // 返回 ChatGPT 的結(jié)果上面的代碼執(zhí)行后就能得到 ChatGPT 返回來(lái)的頁(yè)面 JSON 數(shù)據(jù)。不過(guò)這個(gè)數(shù)據(jù)不能直接使用，還需要額外寫(xiě)點(diǎn)代碼處理一下才能使用。下面的代碼就是處理后的頁(yè)面 JSON 數(shù)據(jù)結(jié)構(gòu)：
[
{
"animations": [],
"events": {},
"groupStyle": {},
"isLock": false,
"collapseName": "style",
"linkage": {
"duration": 0,
"data": [
{
"id": "",
"label": "",
"event": "",
"style": [
{
"key": "",
"value": ""
}
]
}
]
},
"component": "Picture",
"label": "背景圖片",
"propValue": {
"url": "img/programming_poster_bg.jpg" // 替換為自己的圖片
},
"style": {
"rotate": 0,
"opacity": 1,
"width": 500,
"height": 700,
"top": 0,
"left": 0,
"position": "absolute",
"zIndex": 0
},
"id": "backgroundImage"
},
{
"animations": [],
"events": {},
"groupStyle": {},
"isLock": false,
"collapseName": "style",
"linkage": {
"duration": 0,
"data": [
{
"id": "",
"label": "",
"event": "",
"style": [
{
"key": "",
"value": ""
}
]
}
]
},
"component": "VText",
"label": "標(biāo)題文字",
"propValue": "編程改變世界",
"icon": "wenben",
"style": {
"rotate": 0,
"opacity": 1,
"width": 450,
"height": 100,
"fontSize": "32px",
"fontWeight": 700,
"textAlign": "center",
"color": "rgba(16, 15, 15, 1)",
"top": 50,
"left": 25,
"position": "absolute",
"zIndex": 10
},
"id": "titleText"
},
{
"animations": [],
"events": {},
"groupStyle": {},
"isLock": false,
"collapseName": "style",
"linkage": {
"duration": 0,
"data": [
{
"id": "",
"label": "",
"event": "",
"style": [
{
"key": "",
"value": ""
}
]
}
]
},
"component": "VText",
"label": "描述文字",
"propValue": "通過(guò)編程，我們可以創(chuàng)建軟件來(lái)解決問(wèn)題、分析數(shù)據(jù)，甚至改善人們的生活。",
"icon": "wenben",
"style": {
"rotate": 0,
"opacity": 1,
"width": 400,
"height": 200,
"fontSize": "18px",
"fontWeight": 400,
"lineHeight": "1.5",
"textAlign": "center",
"color": "rgba(33, 31, 31, 1)",
"top": 180,
"left": 50,
"position": "absolute",
"zIndex": 10
},
"id": "descriptionText"
},
{
"animations": [],
"events": {},
"groupStyle": {},
"isLock": false,
"collapseName": "style",
"linkage": {
"duration": 0,
"data": [
{
"id": "",
"label": "",
"event": "",
"style": [
{
"key": "",
"value": ""
}
]
}
]
},
"component": "VButton",
"label": "行動(dòng)按鈕",
"propValue": "開(kāi)始學(xué)習(xí)編程",
"icon": "button",
"style": {
"rotate": 0,
"opacity": 1,
"width": 200,
"height": 50,
"borderRadius": "25px",
"fontSize": "20px",
"fontWeight": 500,
"textAlign": "center",
"color": "#FFF",
"backgroundColor": "#f44336",
"top": 420,
"left": 150,
"position": "absolute",
"zIndex": 10
},
"id": "actionButton"
}
]將 JSON 導(dǎo)入到低代碼平臺(tái)[10]后，生成的頁(yè)面如下所示：
可以看到 ChatGPT 輸出了一個(gè)半成品頁(yè)面，背景圖片的地址需要我們手動(dòng)修改。ChatGPT 每次輸出的頁(yè)面都是隨機(jī)的，下面是生成的另外一個(gè)頁(yè)面。
節(jié)省成本
ChatGPT 很好用，但是有一個(gè)缺點(diǎn)，太貴了。所以我們需要想一些辦法來(lái)降低成本，下面是幾個(gè)比較可行的辦法：
1.精簡(jiǎn) prompt2.微調(diào)（Fine-tuning）3.使用模板、分類標(biāo)簽
精簡(jiǎn) prompt
ChatGPT 的 api 是通過(guò) token 來(lái)收費(fèi)的，所以最簡(jiǎn)單直接的方法就是優(yōu)化 prompt。下面是一個(gè)未優(yōu)化的 prompt 示例：
我需要一個(gè)用戶管理系統(tǒng)的頁(yè)面。在頁(yè)面頂部，我需要一個(gè)添加用戶的按鈕。下面是一個(gè)表格，列出了所有用戶的姓名、郵箱和注冊(cè)日期。點(diǎn)擊任何一個(gè)用戶，將會(huì)打開(kāi)一個(gè)包含完整用戶信息的新頁(yè)面，其中包含姓名、郵箱、注冊(cè)日期、最后登錄時(shí)間和用戶角色。還需要有一個(gè)搜索欄，可以通過(guò)姓名或郵箱搜索用戶。請(qǐng)基于這些要求為我的低代碼平臺(tái)生成代碼。
現(xiàn)在將這個(gè) prompt 優(yōu)化一下：
生成頁(yè)面：用戶管理 組件：添加按鈕，用戶表格（姓名，郵箱，注冊(cè)日期），用戶詳情（姓名，郵箱，注冊(cè)日期，最后登錄，角色），搜索欄（姓名，郵箱）
在這個(gè)例子中，我們簡(jiǎn)化了描述頁(yè)面的需求，從而減少了 token 的數(shù)量。
微調(diào)（Fine-tuning）
在文章的開(kāi)頭，我展示了一個(gè)生成頁(yè)面的 prompt 示例，并且可以看到這個(gè) prompt 消耗的 token 數(shù)量非常大，因?yàn)樗枰嬖V ChatGPT 每個(gè)組件的 JSON 數(shù)據(jù)結(jié)構(gòu)是什么，以及一個(gè)完整的示例頁(yè)面 JSON 數(shù)據(jù)結(jié)構(gòu)是什么樣的，這些示例都需要消耗大量的 token。
為了精簡(jiǎn) prompt，同時(shí)又能達(dá)到未精簡(jiǎn)前的效果，這可以使用微調(diào)來(lái)實(shí)現(xiàn)。
微調(diào)是一種機(jī)器學(xué)習(xí)技術(shù)，它可以讓你自定義機(jī)器學(xué)習(xí)模型以適應(yīng)特定的任務(wù)或數(shù)據(jù)集。通過(guò)微調(diào)，您可以在一個(gè)預(yù)訓(xùn)練的模型（如ChatGPT）的基礎(chǔ)上進(jìn)一步訓(xùn)練它，使其更好地理解和執(zhí)行特定的任務(wù)。這樣，您可以創(chuàng)建一個(gè)專門為您的低代碼平臺(tái)生成頁(yè)面的模型。
我們可以給 ChatGPT 提供大量的數(shù)據(jù)集進(jìn)行微調(diào)訓(xùn)練，比如大量的低代碼頁(yè)面示例。這樣你再讓它生成一個(gè)“用于宣傳編程的海報(bào)頁(yè)面”，就不需要提供每個(gè)組件的數(shù)據(jù)結(jié)構(gòu)了，因?yàn)檫@些數(shù)據(jù) ChatGPT 已經(jīng)通過(guò)微調(diào)學(xué)會(huì)了。
現(xiàn)在來(lái)看一下用于微調(diào)訓(xùn)練的數(shù)據(jù)集是什么樣的：
{"prompt": "<prompt text>", "completion": "<ideal generated text>"}
{"prompt": "<prompt text>", "completion": "<ideal generated text>"}
{"prompt": "<prompt text>", "completion": "<ideal generated text>"}上面是數(shù)據(jù)集的格式，現(xiàn)在我要提供大量的低代碼平臺(tái)數(shù)據(jù)集：
{"prompt":"生成一個(gè)帶有矩形組件的頁(yè)面","completion": "[{\"animations\":[],\"events\":{},\"groupStyle\":{},\"isLock\":false,\"collapseName\":\"style\",\"linkage\":{\"duration\":0,\"data\":[{\"id\":\"\",\"label\":\"\",\"event\":\"\",\"style\":[{\"key\":\"\",\"value\":\"\"}]}]},\"component\":\"RectShape\",\"label\":\"矩形\",\"propValue\":\"矩形\",\"icon\":\"juxing\",\"style\":{\"rotate\":0,\"opacity\":1,\"width\":200,\"height\":200,\"fontSize\":\"\",\"fontWeight\":400,\"lineHeight\":\"\",\"letterSpacing\":0,\"textAlign\":\"center\",\"color\":\"\",\"borderColor\":\"#000\",\"borderWidth\":1,\"backgroundColor\":\"\",\"borderStyle\":\"solid\",\"borderRadius\":\"\",\"verticalAlign\":\"middle\",\"top\":143,\"left\":379},\"id\":\"j3i41NnZw8Zcxu3BfbXwv\"}]"}
{"prompt":"生成一個(gè)帶有文本組件的頁(yè)面","completion": "[{\"animations\":[],\"events\":{},\"groupStyle\":{},\"isLock\":false,\"collapseName\":\"style\",\"linkage\":{\"duration\":0,\"data\":[{\"id\":\"\",\"label\":\"\",\"event\":\"\",\"style\":[{\"key\":\"\",\"value\":\"\"}]}]},\"component\":\"VText\",\"label\":\"文字\",\"propValue\":\"雙擊編輯文字\",\"icon\":\"wenben\",\"request\":{\"method\":\"GET\",\"data\":[],\"url\":\"\",\"series\":false,\"time\":1000,\"paramType\":\"\",\"requestCount\":0},\"style\":{\"rotate\":0,\"opacity\":1,\"width\":200,\"height\":28,\"fontSize\":\"\",\"fontWeight\":400,\"lineHeight\":\"\",\"letterSpacing\":0,\"textAlign\":\"\",\"color\":\"\",\"top\":145.3333282470703,\"left\":195},\"id\":\"WKqULBX4bKcmREgPJef3D\"}]"}
{"prompt":"生成一個(gè)帶有按鈕組件的頁(yè)面","completion": "[{\"animations\":[],\"events\":{},\"groupStyle\":{},\"isLock\":false,\"collapseName\":\"style\",\"linkage\":{\"duration\":0,\"data\":[{\"id\":\"\",\"label\":\"\",\"event\":\"\",\"style\":[{\"key\":\"\",\"value\":\"\"}]}]},\"component\":\"VButton\",\"label\":\"按鈕\",\"propValue\":\"按鈕\",\"icon\":\"button\",\"style\":{\"rotate\":0,\"opacity\":1,\"width\":100,\"height\":34,\"borderWidth\":1,\"borderColor\":\"\",\"borderRadius\":\"\",\"fontSize\":\"\",\"fontWeight\":400,\"lineHeight\":\"\",\"letterSpacing\":0,\"textAlign\":\"\",\"color\":\"\",\"backgroundColor\":\"\",\"top\":126.33332824707031,\"left\":224},\"id\":\"6wgvR1wyRyNqIl37qs1iS\"}]"}
...通過(guò)微調(diào)訓(xùn)練后，ChatGPT 就變成了一個(gè)專門的低代碼模型，它會(huì)更好地理解低代碼的需求。后面我們?cè)僮?ChatGPT 生成頁(yè)面就不需要大量的 prompt 了，可以直接讓它生成一個(gè)“用于宣傳編程的海報(bào)頁(yè)面”。記住，微調(diào)是一個(gè)需要精心設(shè)計(jì)和執(zhí)行的過(guò)程，需要我們不停的校正，才能達(dá)到最好的效果。
使用模板、分類標(biāo)簽
一個(gè)成功的低代碼平臺(tái)，一定會(huì)內(nèi)置大量的模板，包括但不限于頁(yè)面模板、應(yīng)用模板等等。其實(shí)在大多數(shù)時(shí)候，用戶提出生成頁(yè)面的需求時(shí)，我們可以提取關(guān)鍵詞，根據(jù)關(guān)鍵詞找到符合用戶需求的模板，再展示給用戶選擇。如果沒(méi)有找到符合要求的模板，才使用 ChatGPT 來(lái)生成頁(yè)面，這樣不僅能節(jié)省成本，還避免了 ChatGPT 隨機(jī)生成頁(yè)面并且有可能生成錯(cuò)誤頁(yè)面的弊端。
現(xiàn)在我們來(lái)看看怎么做。首先，除了給模板命名，還需要給模板歸類，比如打上幾個(gè)類似于“醫(yī)療”、“后臺(tái)管理系統(tǒng)”之類的標(biāo)簽。
當(dāng)用戶提出一個(gè)”生成用于宣傳編程的頁(yè)面“需求時(shí)，我們可以使用自然語(yǔ)言處理（NLP）庫(kù)，如 natural 或者 compromise 進(jìn)行關(guān)鍵詞提取，然后再通過(guò) Elasticsearch 來(lái)進(jìn)行搜索，最后把搜索到的模板返回給用戶。下面是代碼示例：
const { Client } = require('@elastic/elasticsearch');
const { NlpManager } = require('node-nlp');
// 初始化Elasticsearch客戶端
const client = new Client({ node: 'http://localhost:9200' });
// 初始化NLP管理器
const nlpManager = new NlpManager({ languages: ['en'], nlu: { useNoneFeature: false } });
// 假設(shè)我們有一些模板數(shù)據(jù)
const templates = [
{ name: 'Medical Service Promotion Page', tags: ['medical', 'promotion'] },
{ name: 'Programming Education Poster', tags: ['education', 'programming', 'poster'] },
{ name: 'Backend Management System Dashboard', tags: ['backend', 'management', 'system'] }
];
// 創(chuàng)建Elasticsearch索引
async function createIndex(indexName) {
// 省略創(chuàng)建索引代碼
}
// 索引模板數(shù)據(jù)到Elasticsearch
async function indexTemplates(indexName, templates) {
// 省略索引數(shù)據(jù)代碼
}
// 提取關(guān)鍵詞
async function extractKeywords(text) {
const result = await nlpManager.extractEntities(text);
const keywords = result.entities.map(entity => entity.option || entity.utteranceText);
return keywords;
}
// 使用Elasticsearch進(jìn)行搜索
async function searchTemplates(indexName, keywords) {
const { body } = await client.search({
index: indexName,
body: {
query: {
bool: {
should: [
{ match: { name: { query: keywords.join(' '), boost: 2 } } },
{ terms: { tags: keywords } }
]
}
}
}
});
return body.hits.hits.map(hit => hit._source);
}
// 主程序
async function main() {
const indexName = 'templates';
// 創(chuàng)建索引并索引數(shù)據(jù)
await createIndex(indexName);
await indexTemplates(indexName, templates);
// 用戶輸入
const userInput = "I want to create a poster page for programming promotion";
// 提取關(guān)鍵詞
const keywords = await extractKeywords(userInput);
// 執(zhí)行搜索
const results = await searchTemplates(indexName, keywords);
// 輸出結(jié)果
console.log(results);
}
main().catch(console.error);使用開(kāi)源大語(yǔ)言模型 ChatGLM-6B 進(jìn)行頁(yè)面生成
對(duì)于無(wú)法使用外網(wǎng)或預(yù)算有限的項(xiàng)目，我們可以考慮使用開(kāi)源的大語(yǔ)言模型。本文選了 ChatGLM-6B[11] 開(kāi)源模型來(lái)做演示。
安裝
ChatGLM-6B 本地部署的教程網(wǎng)上有很多，由于我的電腦是 Windows，并且沒(méi)有 N 卡，所以我參考了這篇文章手把手教你本地部署清華大學(xué)KEG的ChatGLM-6B模型[12]來(lái)部署 ChatGLM-6B。
這篇文章講得很細(xì)致，按照流程走下來(lái)只出現(xiàn)了兩個(gè)小問(wèn)題，解決后就跑通了。這里也記錄一下這兩個(gè)問(wèn)題及相應(yīng)的解決辦法。
TDM-GCC 編譯錯(cuò)誤
按照文章中的要求安裝了 TDM-GCC 后發(fā)現(xiàn)編譯 quantization_kernels_parallel.c 文件錯(cuò)誤，卸載 TDM-GCC 后換了 MinGW-w64[13] 就好了，編譯順利通過(guò)。
執(zhí)行 python 腳本偶爾沒(méi)反應(yīng)
這個(gè)問(wèn)題排查了很久，經(jīng)過(guò)不斷的調(diào)試和重啟，最后發(fā)現(xiàn)是系統(tǒng)資源不足（我的電腦 CPU 是 6800H，32G 內(nèi)存，沒(méi)有顯卡）。在關(guān)掉無(wú)關(guān)程序后，只保留一個(gè)終端用于啟動(dòng)腳本后，就沒(méi)有問(wèn)題了。
使用
ChatGLM-6B 的相關(guān)代碼已經(jīng)上傳到了 Github [14]，大家可以把項(xiàng)目下載下來(lái)，然后按照倉(cāng)庫(kù)文檔中的說(shuō)明修改目錄位置后，就可以執(zhí)行 cli-demo.py 或者 web-demo.py 腳本和 ChatGLM-6B 進(jìn)行交互了。下面的幾張圖片就是部署在我電腦上的 ChatGLM-6B 使用示例：
由于電腦配置不是特別好，ChatGLM-6B 在我電腦上運(yùn)行起來(lái)比較慢，一個(gè)問(wèn)題回答起來(lái)要花幾分鐘。像生成低代碼頁(yè)面的這個(gè)需求，就跑了十幾分鐘，最后程序直接崩了，只給我輸出了一半的 JSON，不過(guò)數(shù)據(jù)結(jié)構(gòu)是對(duì)的，所以換個(gè)好點(diǎn)的顯卡后應(yīng)該不是問(wèn)題。
總結(jié)
其實(shí)，大語(yǔ)言模型不僅能和低代碼領(lǐng)域配合使用，經(jīng)過(guò)訓(xùn)練后的模型可以和任何領(lǐng)域結(jié)合，從而生成該領(lǐng)域的專門模型。例如 Figma、即時(shí)設(shè)計(jì)、MasterGo 這種設(shè)計(jì)工具，它們存儲(chǔ)的也是一份 JSON 數(shù)據(jù)。所以理論上也可以通過(guò)對(duì)話來(lái)生成設(shè)計(jì)頁(yè)面。
還有其他的類似于 AI 客服、催收機(jī)器人都可以通過(guò)這種方法訓(xùn)練出來(lái)。
參考資料
?手把手教你本地部署清華大學(xué)KEG的ChatGLM-6B模型[15]?ChatGLM-6B[16]
