手把手教你快速搭建一個屬于自己的大模型聊天軟件(聊天app搭建)
在當前AI大模型的熱潮中,零基礎的編程新手可能會覺得學習成本過高。然而,本文將打破這個障礙,無需任何編程基礎,無需特殊網絡,更無需花費一分錢。我將手把手地教你構建自己的國內聊天大模型。讓我們一起探索這個令人興奮的AI世界,你準備好了嗎?
第一步:python環境準備
下載并安裝python環境
https://www.python.org/ftp/python/3.12.0/python-3.12.0-amd64.exe
安裝成功
安裝成功! 測試一下,能否調用,同時按下win R(win就是開始菜單的那個鍵)
進入命令行,輸入python –version,出現這樣的界面則表示成功安裝
查看python版本
第二步:安裝依賴
繼續在剛才打開的窗口執行一下命令安裝依賴包
pip install gradio dashscope langchain –default-timeout=100 -i https://pypi.tuna.tsinghua.edu.cn/simple/ –trusted-host pypi.tuna.tsinghua.edu.cn
預計要運行個一兩分鐘
安裝依賴
第三步:創建一個請求的私有key
使用阿里賬號登錄以下地址https://dashscope.console.aliyun.com/apiKey
在API-KEY管理中創建一個API-KEY
創建key
因為當前阿里的大模型“qwen-72b-chat”剛出不久,目前使用并不收費,所以不用擔心費用問題
第四步:執行代碼
隨便找一個目錄創建一個txt文件,如我創建在D:dataai新建 文本文檔.txt,打開后將以下文本粘貼進去
import os
import gradio as gr
from langchain_community.llms.tongyi import Tongyi
os.environ["DASHSCOPE_API_KEY"] = "申請一個自己的key"
llm = Tongyi()
llm.model_name = "qwen-72b-chat"
def echo(message, history, system_prompt, tokens):
str = llm.invoke(message)
yield str
with gr.Blocks() as demo:
gr.ChatInterface(
echo,
title="聊天機器人",
theme="soft",
retry_btn=None,
undo_btn="Delete Previous",
clear_btn="清除"
)
demo.queue().launch(server_name="0.0.0.0", server_port=8888)
注意:其中"申請一個自己的key"請改成第三步中你自己創建的私有key
將txt文件重命名成server.py
之后在剛才打開的管理臺運行命令
python D:dataaiserver.py
執行命令
第五步: 開始聊天
瀏覽器請求以下地址http://localhost:8888/
就可以在顯示出來的窗口中聊天啦
大模型聊天界面
注意:建議使用google瀏覽器訪問效果更佳,不確定其他瀏覽器有沒有存在兼容問題
至此,一個最簡單的聊天大模型就部署好了!