首页 » 软件优化 » 手把手教你快速搭建一个属于自己的大模型聊天软件(自己的模型搭建手把手教你聊天软件)

手把手教你快速搭建一个属于自己的大模型聊天软件(自己的模型搭建手把手教你聊天软件)

神尊大人 2024-11-25 09:46:07 0

扫一扫用手机浏览

文章目录 [+]

第一步:python环境准备

下载并安装python环境

https://www.python.org/ftp/python/3.12.0/python-3.12.0-amd64.exe

手把手教你快速搭建一个属于自己的大模型聊天软件(自己的模型搭建手把手教你聊天软件) 软件优化
(图片来自网络侵删)

安装成功

安装成功!
测试一下,能否调用,同时按下win+R(win就是开始菜单的那个键)

进入命令行,输入python --version,出现这样的界面则表示成功安装

查看python版本

第二步:安装依赖

继续在刚才打开的窗口执行一下命令安装依赖包

pip install gradio dashscope langchain --default-timeout=100 -i https://pypi.tuna.tsinghua.edu.cn/simple/ --trusted-host pypi.tuna.tsinghua.edu.cn

预计要运行个一两分钟

安装依赖

第三步:创建一个请求的私有key

使用阿里账号登录以下地址https://dashscope.console.aliyun.com/apiKey

在API-KEY管理中创建一个API-KEY

创建key

因为当前阿里的大模型“qwen-72b-chat”刚出不久,目前使用并不收费,所以不用担心费用问题

第四步:执行代码

随便找一个目录创建一个txt文件,如我创建在D:\data\ai\新建 文本文档.txt,打开后将以下文本粘贴进去

import os

import gradio as gr

from langchain_community.llms.tongyi import Tongyi

os.environ["DASHSCOPE_API_KEY"] = "申请一个自己的key"

llm = Tongyi()

llm.model_name = "qwen-72b-chat"

def echo(message, history, system_prompt, tokens):

str = llm.invoke(message)

yield str

with gr.Blocks() as demo:

gr.ChatInterface(

echo,

title="聊天机器人",

theme="soft",

retry_btn=None,

undo_btn="Delete Previous",

clear_btn="清除"

)

demo.queue().launch(server_name="0.0.0.0", server_port=8888)

注意:其中"申请一个自己的key"请改成第三步中你自己创建的私有key

将txt文件重命名成server.py

之后在刚才打开的管理台运行命令

python D:\data\ai\server.py

执行命令

第五步: 开始聊天

浏览器请求以下地址http://localhost:8888/

就可以在显示出来的窗口中聊天啦

大模型聊天界面

注意:建议使用google浏览器访问效果更佳,不确定其他浏览器有没有存在兼容问题

至此,一个最简单的聊天大模型就部署好了!

#大模型##OpenAI##chat GPT##通义#

标签:

相关文章

微商城定制开发(开发商城定制团队企业)

二、微商城定制开发的优劣势1. 优势(1 低成本、高效率:相对于传统电商平台,微商城定制开发的成本更低,开发周期更短,能够快速满...

软件优化 2025-02-17 阅读1011 评论0