Java8对接三方流式接口,并实时输出(GPT)

2024-09-06 06:52

本文主要是介绍Java8对接三方流式接口,并实时输出(GPT),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Java对接模型流式接口,并流式输出

核心依赖

  		<dependency><groupId>com.alibaba</groupId><artifactId>fastjson</artifactId><version>2.0.33</version></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency>

Demo代码

@GetMapping(value = "/test", produces = MediaType.APPLICATION_OCTET_STREAM_VALUE)public DeferredResult<ResponseBodyEmitter> proxyModel22() throws IOException {DeferredResult<ResponseBodyEmitter> deferredResult = new DeferredResult<>();// 创建 URLURL url = new URL("Third-party API");// 打开连接HttpURLConnection connection = (HttpURLConnection) url.openConnection();connection.setRequestMethod("POST");connection.setRequestProperty("Content-Type", "application/json; charset=utf-8");connection.setDoOutput(true); // 设置为 POST 请求connection.setDoInput(true); // 允许读取响应// 构建请求体String bodyJSON = "{\n" +"    \"input\": \"Who are you?\",\n" +"    \"user\": \"guest\",\n" +"    \"stream\": true,\n" +"    \"increase\": true,\n" +"    \"sessionId\": \"9xxxxxx\",\n" +"    \"history\": []\n" +"}";JSONObject jsonObject = JSON.parseObject(bodyJSON);try (OutputStream os = connection.getOutputStream()) {os.write(jsonObject.toString().getBytes(StandardCharsets.UTF_8)); // 写入请求体os.flush();}// 检查响应状态码int responseCode = connection.getResponseCode();if (responseCode == HttpURLConnection.HTTP_OK) {ResponseBodyEmitter emitter = new ResponseBodyEmitter();InputStream inputStream = connection.getInputStream();Thread thread = new Thread(() -> {byte[] buffer = new byte[4096]; // 缓冲区大小int length;try {while ((length = inputStream.read(buffer)) != -1) {// 只发送实际读取的数据长度byte[] dataToSend = new byte[length];System.arraycopy(buffer, 0, dataToSend, 0, length);emitter.send(dataToSend);}inputStream.close();emitter.complete(); // 完成发送} catch (IOException e) {log.error("错误信息为: " + e);}});thread.start();deferredResult.setResult(emitter);} else {// 如果第三方服务返回错误状态码deferredResult.setErrorResult(new RuntimeException("Third-party API returned an error: " + responseCode));}return deferredResult;}

这篇关于Java8对接三方流式接口,并实时输出(GPT)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1141310

相关文章

SpringBoot多环境配置数据读取方式

《SpringBoot多环境配置数据读取方式》SpringBoot通过环境隔离机制,支持properties/yaml/yml多格式配置,结合@Value、Environment和@Configura... 目录一、多环境配置的核心思路二、3种配置文件格式详解2.1 properties格式(传统格式)1.

Apache Ignite 与 Spring Boot 集成详细指南

《ApacheIgnite与SpringBoot集成详细指南》ApacheIgnite官方指南详解如何通过SpringBootStarter扩展实现自动配置,支持厚/轻客户端模式,简化Ign... 目录 一、背景:为什么需要这个集成? 二、两种集成方式(对应两种客户端模型) 三、方式一:自动配置 Thick

Spring WebClient从入门到精通

《SpringWebClient从入门到精通》本文详解SpringWebClient非阻塞响应式特性及优势,涵盖核心API、实战应用与性能优化,对比RestTemplate,为微服务通信提供高效解决... 目录一、WebClient 概述1.1 为什么选择 WebClient?1.2 WebClient 与

Java.lang.InterruptedException被中止异常的原因及解决方案

《Java.lang.InterruptedException被中止异常的原因及解决方案》Java.lang.InterruptedException是线程被中断时抛出的异常,用于协作停止执行,常见于... 目录报错问题报错原因解决方法Java.lang.InterruptedException 是 Jav

深入浅出SpringBoot WebSocket构建实时应用全面指南

《深入浅出SpringBootWebSocket构建实时应用全面指南》WebSocket是一种在单个TCP连接上进行全双工通信的协议,这篇文章主要为大家详细介绍了SpringBoot如何集成WebS... 目录前言为什么需要 WebSocketWebSocket 是什么Spring Boot 如何简化 We

java中pdf模版填充表单踩坑实战记录(itextPdf、openPdf、pdfbox)

《java中pdf模版填充表单踩坑实战记录(itextPdf、openPdf、pdfbox)》:本文主要介绍java中pdf模版填充表单踩坑的相关资料,OpenPDF、iText、PDFBox是三... 目录准备Pdf模版方法1:itextpdf7填充表单(1)加入依赖(2)代码(3)遇到的问题方法2:pd

Java Stream流之GroupBy的用法及应用场景

《JavaStream流之GroupBy的用法及应用场景》本教程将详细介绍如何在Java中使用Stream流的groupby方法,包括基本用法和一些常见的实际应用场景,感兴趣的朋友一起看看吧... 目录Java Stream流之GroupBy的用法1. 前言2. 基础概念什么是 GroupBy?Stream

SpringBoot监控API请求耗时的6中解决解决方案

《SpringBoot监控API请求耗时的6中解决解决方案》本文介绍SpringBoot中记录API请求耗时的6种方案,包括手动埋点、AOP切面、拦截器、Filter、事件监听、Micrometer+... 目录1. 简介2.实战案例2.1 手动记录2.2 自定义AOP记录2.3 拦截器技术2.4 使用Fi

最新Spring Security的基于内存用户认证方式

《最新SpringSecurity的基于内存用户认证方式》本文讲解SpringSecurity内存认证配置,适用于开发、测试等场景,通过代码创建用户及权限管理,支持密码加密,虽简单但不持久化,生产环... 目录1. 前言2. 因何选择内存认证?3. 基础配置实战❶ 创建Spring Security配置文件

Python对接支付宝支付之使用AliPay实现的详细操作指南

《Python对接支付宝支付之使用AliPay实现的详细操作指南》支付宝没有提供PythonSDK,但是强大的github就有提供python-alipay-sdk,封装里很多复杂操作,使用这个我们就... 目录一、引言二、准备工作2.1 支付宝开放平台入驻与应用创建2.2 密钥生成与配置2.3 安装ali