SSE介绍(实现流式响应)

2024-05-09 19:28
文章标签 实现 介绍 响应 sse 流式

本文主要是介绍SSE介绍(实现流式响应),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

写在前面

本文一起来看下SSE相关内容。

1:SSE是什么

全称,server-send events,基于http协议,一次http请求,server端可以分批推送数据, 不同于websocket的全双工通信,SSM单向通信,一般应用于需要返回的内容较多场景中,比如大模型问答场景,答案可能比较长,就可以使用SSM来实现流式的响应。

2:例子

  • pom
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"><modelVersion>4.0.0</modelVersion><groupId>org.example</groupId><artifactId>sse-test</artifactId><version>1.0-SNAPSHOT</version><properties><maven.compiler.source>8</maven.compiler.source><maven.compiler.target>8</maven.compiler.target></properties><parent><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-parent</artifactId><version>2.6.0</version><relativePath/> <!-- lookup parent from repository --></parent><dependencies><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><dependency><groupId>com.squareup.okhttp3</groupId><artifactId>okhttp</artifactId>
<!--            <version>4.10.0</version>--><version>3.14.9</version></dependency><dependency><groupId>com.squareup.okhttp3</groupId><artifactId>okhttp-sse</artifactId>
<!--            <version>4.10.0</version>--><version>3.14.9</version></dependency><dependency><groupId>junit</groupId><artifactId>junit</artifactId><version>4.13.2</version><scope>test</scope></dependency></dependencies></project>
  • SSM server
@RestController
@RequestMapping("/sse")
public class SseController {@RequestMapping("/emitter")public SseEmitter sse(@RequestBody String inputParameter, HttpServletResponse response) {response.setContentType("text/event-stream");response.setCharacterEncoding("UTF-8");SseEmitter emitter = new SseEmitter();// Simulate asynchronous data retrieval from the databasenew Thread(() -> {try {// Query the database based on the input parameter and send data in batchesfor (int i = 0; i < 10; i++) {String data = "Data batch " + i + " for parameter: " + inputParameter;emitter.send(data);Thread.sleep(1000); // Simulate delay between batches}emitter.complete(); // Complete the SSE connection} catch (Exception e) {emitter.completeWithError(e); // Handle errors}}).start();return emitter;}
}
  • SSM client
package sse;import okhttp3.*;
import okhttp3.sse.EventSource;
import okhttp3.sse.EventSourceListener;
import okhttp3.sse.EventSources;
import org.junit.Test;import java.util.Date;
import java.util.HashMap;
import java.util.Map;
import java.util.concurrent.CountDownLatch;
import java.util.concurrent.TimeUnit;public class TTT {CountDownLatch c = new CountDownLatch(1);@Testpublic void aaa() throws InterruptedException {String json = "{\"inputParameter\": \"1234\"}";stream("http://localhost:8080/sse/emitter", new HashMap<>(), json, new EventSourceListener() {/*@Overridepublic void onClosed(@NotNull EventSource eventSource) {System.out.println("closed");}@Overridepublic void onOpen(@NotNull EventSource eventSource, @NotNull Response response) {System.out.println("open");}@Overridepublic void onEvent(@NotNull EventSource eventSource, @Nullable String id, @Nullable String type, @NotNull String data) {System.out.println(data);}*/@Overridepublic void onClosed(EventSource eventSource) {System.out.println("closed");}@Overridepublic void onOpen(EventSource eventSource, Response response) {System.out.println("open");}@Overridepublic void onEvent(EventSource eventSource, String id, String type, String data) {System.out.println("receive data: [ " + data + " ], time:" + new Date().getTime() / 1000);}});c.await();}public static final MediaType MEDIA_TYPE_JSON = MediaType.parse("application/json; charset=utf-8");public final static int MAX_IDLE_CONNECTIONS = 20;public final static long KEEP_ALIVE_DURATION = 30L;public final static int CONNECT_TIME_OUT = 6;public final static int WRITE_TIME_OUT = 10;public final static int READ_TIME_OUT = 40;private final static OkHttpClient HTTP_CLIENT = new OkHttpClient.Builder().connectTimeout(CONNECT_TIME_OUT, TimeUnit.SECONDS).writeTimeout(WRITE_TIME_OUT, TimeUnit.SECONDS).readTimeout(READ_TIME_OUT, TimeUnit.SECONDS).connectionPool(new ConnectionPool(MAX_IDLE_CONNECTIONS, KEEP_ALIVE_DURATION, TimeUnit.MINUTES)).build();public static boolean stream(String url, Map<String, String> headers, String json, EventSourceListener eventSourceListener) {try {RequestBody body = RequestBody.create(MEDIA_TYPE_JSON, json);Request.Builder builder = new Request.Builder();
//            buildHeader(builder, headers);Request request = builder.url(url).post(body).build();EventSource.Factory factory = EventSources.createFactory(HTTP_CLIENT);//创建事件
//            log.info("http stream请求,url: {},参数: {}", url, json);factory.newEventSource(request, eventSourceListener);return true;} catch (Exception e) {
//            log.error("http stream请求,url: {} 失败 ,参数: {}", url, json, e);}return false;}}
  • 测试
    启动server后运行client:
    在这里插入图片描述
    可以看到一点一点往外蹦。

写在后面

参考文章列表

springboot整合sse 。

springboot搭建流式响应服务,SSE服务端实现 。

这篇关于SSE介绍(实现流式响应)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/974288

相关文章

使用Python实现IP地址和端口状态检测与监控

《使用Python实现IP地址和端口状态检测与监控》在网络运维和服务器管理中,IP地址和端口的可用性监控是保障业务连续性的基础需求,本文将带你用Python从零打造一个高可用IP监控系统,感兴趣的小伙... 目录概述:为什么需要IP监控系统使用步骤说明1. 环境准备2. 系统部署3. 核心功能配置系统效果展

Python实现微信自动锁定工具

《Python实现微信自动锁定工具》在数字化办公时代,微信已成为职场沟通的重要工具,但临时离开时忘记锁屏可能导致敏感信息泄露,下面我们就来看看如何使用Python打造一个微信自动锁定工具吧... 目录引言:当微信隐私遇到自动化守护效果展示核心功能全景图技术亮点深度解析1. 无操作检测引擎2. 微信路径智能获

Python中pywin32 常用窗口操作的实现

《Python中pywin32常用窗口操作的实现》本文主要介绍了Python中pywin32常用窗口操作的实现,pywin32主要的作用是供Python开发者快速调用WindowsAPI的一个... 目录获取窗口句柄获取最前端窗口句柄获取指定坐标处的窗口根据窗口的完整标题匹配获取句柄根据窗口的类别匹配获取句

在 Spring Boot 中实现异常处理最佳实践

《在SpringBoot中实现异常处理最佳实践》本文介绍如何在SpringBoot中实现异常处理,涵盖核心概念、实现方法、与先前查询的集成、性能分析、常见问题和最佳实践,感兴趣的朋友一起看看吧... 目录一、Spring Boot 异常处理的背景与核心概念1.1 为什么需要异常处理?1.2 Spring B

Python位移操作和位运算的实现示例

《Python位移操作和位运算的实现示例》本文主要介绍了Python位移操作和位运算的实现示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一... 目录1. 位移操作1.1 左移操作 (<<)1.2 右移操作 (>>)注意事项:2. 位运算2.1

如何在 Spring Boot 中实现 FreeMarker 模板

《如何在SpringBoot中实现FreeMarker模板》FreeMarker是一种功能强大、轻量级的模板引擎,用于在Java应用中生成动态文本输出(如HTML、XML、邮件内容等),本文... 目录什么是 FreeMarker 模板?在 Spring Boot 中实现 FreeMarker 模板1. 环

Qt实现网络数据解析的方法总结

《Qt实现网络数据解析的方法总结》在Qt中解析网络数据通常涉及接收原始字节流,并将其转换为有意义的应用层数据,这篇文章为大家介绍了详细步骤和示例,感兴趣的小伙伴可以了解下... 目录1. 网络数据接收2. 缓冲区管理(处理粘包/拆包)3. 常见数据格式解析3.1 jsON解析3.2 XML解析3.3 自定义

SpringMVC 通过ajax 前后端数据交互的实现方法

《SpringMVC通过ajax前后端数据交互的实现方法》:本文主要介绍SpringMVC通过ajax前后端数据交互的实现方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价... 在前端的开发过程中,经常在html页面通过AJAX进行前后端数据的交互,SpringMVC的controll

Spring Security自定义身份认证的实现方法

《SpringSecurity自定义身份认证的实现方法》:本文主要介绍SpringSecurity自定义身份认证的实现方法,下面对SpringSecurity的这三种自定义身份认证进行详细讲解,... 目录1.内存身份认证(1)创建配置类(2)验证内存身份认证2.JDBC身份认证(1)数据准备 (2)配置依

利用python实现对excel文件进行加密

《利用python实现对excel文件进行加密》由于文件内容的私密性,需要对Excel文件进行加密,保护文件以免给第三方看到,本文将以Python语言为例,和大家讲讲如何对Excel文件进行加密,感兴... 目录前言方法一:使用pywin32库(仅限Windows)方法二:使用msoffcrypto-too