基于DashScope+Streamlit构建你的机器学习助手(入门级)

2024-08-29 11:28

本文主要是介绍基于DashScope+Streamlit构建你的机器学习助手(入门级),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

前言

在LLM(大语言模型)盛行的今天,博主越来越感觉到AI(人工智能)的潜力被“无限”激发了。它为什么会突然间完成“鱼跃龙门”呢? 博主认为基础设施(也可以称为算力)的完善和“天才”式的构思,是本次“盛宴”的幕后功臣。一个点子,可以改变一个领域,甚至重塑我们的工作习惯和生活方式。我想LLM作为AI新势力,有可能改变整个AI的生态。

今天,博主通过一个示例,带领各位亲自构建一个大模型应用。说起应用,我想各位应该能够理解了。比如一个聊天机器人、一个翻译助手,一个问答助手、又比如是一个创作助手等。那么本文就以一个简单的大模型为基础,构建一个属于你自己的机器学习助手。

首先来看这个小助手的“五脏六腑”是什么,跟着博主来一趟揭秘之旅吧。

一、DashScope入门

DashScope(模型服务灵积)是阿里推出的一款模型服务:

它通过围绕模型为中心,致力于为AI应用开发者提供品类丰富、数量众多的模型选择,并通过API接口为其提供开箱即用、能力卓越、成本经济的模型服务。各领域模型的能力均可通过DashScope统一的API和SDK来实现被不同业务系统集成,AI应用开发和模型效果调优的效率将因此得以激发,助力开发者释放灵感、创造价值。

一句话总结:这是一款模型框架,你可以通过它的API或SDK调用已内置的模型,创建自己的大模型应用。

博主曾经有一篇文章(基于Python的大模型学习手册(入门级))对DashScope SDK方式进行了介绍,可以参考它快速完成安装调试,这里不再赘述了。

接下来小助手需要一个face(门面),我们就选择Streamlit吧。

二、Streamlit入门

在这里插入图片描述

1. 简介

Streamlit is an open-source Python framework for data scientists and AI/ML engineers to deliver dynamic data apps with only a few lines of code.

一句话总结:Streamlit是一个开源的python框架,你通过几行代码就可以快速构建一个基于动态数据的应用,常用于数据科学和AI/ML工程领域。

2. 安装

pip3 install -i https://pypi.tuna.tsinghua.edu.cn/simple streamlit 

安装完成后,可在pycharm的terminal窗口,输入: streamlit hello,回车后,根据提示打开浏览器,访问默认demo:
在这里插入图片描述
打开页面如下,我们可以点击左侧导航,体验一番:
Hello
在这里插入图片描述
Animation_Demo
在这里插入图片描述
Plotting_Demo
在这里插入图片描述

至此,我们已备齐所有的必需工具,开始构建你的专属助手吧。

三、构建一个专属的问答助手

1. 设计前端

基于Streamlit组件,我们先简单设计一下前端的页面,一个输入框,一个提交按钮。效果如下:
在这里插入图片描述
核心代码:

    st.title('机器学习助手')with st.form('问答form'):text = st.text_area('请输入问题:')submitted = st.form_submit_button('提交')

2. 嵌入模型

博主选择阿里的通义千问大模型qwen-turbo,作为小助手的“知识引擎”。核心代码如下:

messages = [{'role': 'system', 'content': '你是一个优秀的机器学习专家'},{'role': 'user', 'content': input}]
responses = Generation.call(model="qwen-turbo",messages=messages,temperature=0.5,stream=True, # 支持流式输出incremental_output=True,# 设置为True,将开启增量输出模式,后面输出不会包含已经输出的内容result_format='message')

3. 流式输出

支持小助手像打字机一样,逐字输出,提高使用体验。当然前提是完成模型设置。输出的核心代码:

ans = st.empty()
full_content = ''
for response in responses:if response.status_code == HTTPStatus.OK:full_content += response.output.choices[0]['message']['content']ans.info(full_content)# yield full_contentelse:print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (response.request_id, response.status_code,response.code, response.message))

4. 部署运行

我们通过pycharm—Terminal窗口,只需输入 streamlit run [绝对路径]/xx.py,回车就能访问了,如下图所示:
在这里插入图片描述
在这里插入图片描述

5. 问答演示

在这里插入图片描述
至此,你轻松收获了一个属于你自己的大模型应用,一个简易版的机器学习问答助手。

6. 完整代码

import dashscope
from http import HTTPStatus
from dashscope import Generation
import streamlit as stdashscope.api_key = "你的dashscope api key"def call_with_messages(input):messages = [{'role': 'system', 'content': '你是一个优秀的机器学习专家'},{'role': 'user', 'content': input}]responses = Generation.call(model="qwen-turbo",messages=messages,temperature=0.5,stream=True, # 支持流式输出incremental_output=True,# 设置为True,将开启增量输出模式,后面输出不会包含已经输出的内容result_format='message')ans = st.empty()full_content = ''for response in responses:if response.status_code == HTTPStatus.OK:full_content += response.output.choices[0]['message']['content']ans.info(full_content)# yield full_contentelse:print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (response.request_id, response.status_code,response.code, response.message))if __name__ == '__main__':st.title('机器学习助手')with st.form('问答form'):text = st.text_area('请输入问题:')submitted = st.form_submit_button('提交')if submitted:# st.write_stream(call_with_messages(text))call_with_messages(text)

结语

通过DashScope+Streamlit组合,我们可以轻松create一个大模型应用。相信通过此文,你可以get人生第一个大模型之体验!

走过的,路过的,点点赞,收收藏哦,欢迎指导!


精彩回顾

基于LangChain的大模型学习手册(入门级)
基于Python的大模型学习手册(入门级)


在这里插入图片描述

这篇关于基于DashScope+Streamlit构建你的机器学习助手(入门级)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1117726

相关文章

Go学习记录之runtime包深入解析

《Go学习记录之runtime包深入解析》Go语言runtime包管理运行时环境,涵盖goroutine调度、内存分配、垃圾回收、类型信息等核心功能,:本文主要介绍Go学习记录之runtime包的... 目录前言:一、runtime包内容学习1、作用:① Goroutine和并发控制:② 垃圾回收:③ 栈和

基于Python构建一个高效词汇表

《基于Python构建一个高效词汇表》在自然语言处理(NLP)领域,构建高效的词汇表是文本预处理的关键步骤,本文将解析一个使用Python实现的n-gram词频统计工具,感兴趣的可以了解下... 目录一、项目背景与目标1.1 技术需求1.2 核心技术栈二、核心代码解析2.1 数据处理函数2.2 数据处理流程

Python FastMCP构建MCP服务端与客户端的详细步骤

《PythonFastMCP构建MCP服务端与客户端的详细步骤》MCP(Multi-ClientProtocol)是一种用于构建可扩展服务的通信协议框架,本文将使用FastMCP搭建一个支持St... 目录简介环境准备服务端实现(server.py)客户端实现(client.py)运行效果扩展方向常见问题结

详解如何使用Python构建从数据到文档的自动化工作流

《详解如何使用Python构建从数据到文档的自动化工作流》这篇文章将通过真实工作场景拆解,为大家展示如何用Python构建自动化工作流,让工具代替人力完成这些数字苦力活,感兴趣的小伙伴可以跟随小编一起... 目录一、Excel处理:从数据搬运工到智能分析师二、PDF处理:文档工厂的智能生产线三、邮件自动化:

Android学习总结之Java和kotlin区别超详细分析

《Android学习总结之Java和kotlin区别超详细分析》Java和Kotlin都是用于Android开发的编程语言,它们各自具有独特的特点和优势,:本文主要介绍Android学习总结之Ja... 目录一、空安全机制真题 1:Kotlin 如何解决 Java 的 NullPointerExceptio

详解如何使用Python从零开始构建文本统计模型

《详解如何使用Python从零开始构建文本统计模型》在自然语言处理领域,词汇表构建是文本预处理的关键环节,本文通过Python代码实践,演示如何从原始文本中提取多尺度特征,并通过动态调整机制构建更精确... 目录一、项目背景与核心思想二、核心代码解析1. 数据加载与预处理2. 多尺度字符统计3. 统计结果可

基于Python实现智能天气提醒助手

《基于Python实现智能天气提醒助手》这篇文章主要来和大家分享一个实用的Python天气提醒助手开发方案,这个工具可以方便地集成到青龙面板或其他调度框架中使用,有需要的小伙伴可以参考一下... 目录项目概述核心功能技术实现1. 天气API集成2. AI建议生成3. 消息推送环境配置使用方法完整代码项目特点

一文教你Java如何快速构建项目骨架

《一文教你Java如何快速构建项目骨架》在Java项目开发过程中,构建项目骨架是一项繁琐但又基础重要的工作,Java领域有许多代码生成工具可以帮助我们快速完成这一任务,下面就跟随小编一起来了解下... 目录一、代码生成工具概述常用 Java 代码生成工具简介代码生成工具的优势二、使用 MyBATis Gen

Python使用Reflex构建现代Web应用的完全指南

《Python使用Reflex构建现代Web应用的完全指南》这篇文章为大家深入介绍了Reflex框架的设计理念,技术特性,项目结构,核心API,实际开发流程以及与其他框架的对比和部署建议,感兴趣的小伙... 目录什么是 ReFlex?为什么选择 Reflex?安装与环境配置构建你的第一个应用核心概念解析组件

重新对Java的类加载器的学习方式

《重新对Java的类加载器的学习方式》:本文主要介绍重新对Java的类加载器的学习方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、介绍1.1、简介1.2、符号引用和直接引用1、符号引用2、直接引用3、符号转直接的过程2、加载流程3、类加载的分类3.1、显示