当前位置:首页 » 《我的小黑屋》 » 正文

使用spring-ai快速对接ChatGpt

11 人参与  2024年05月04日 11:45  分类 : 《我的小黑屋》  评论

点击全文阅读


什么是spring-ai

该Spring AI项目旨在简化包含人工智能功能的应用程序的开发,避免不必要的复杂性。

该项目从著名的 Python 项目(例如 LangChain 和 LlamaIndex)中汲取灵感,但 Spring AI 并不是这些项目的直接移植。该项目的成立相信下一波生成式人工智能应用程序不仅适用于 Python 开发人员,而且将在许多编程语言中普遍存在。

Spring AI 的核心提供了抽象,作为开发 AI 应用程序的基础。这些抽象有多种实现,可以通过最少的代码更改轻松进行组件交换。

Spring AI 提供以下功能:

支持所有主要模型提供商,例如 OpenAI、Microsoft、Amazon、Google 和 Huggingface。支持的模型类型包括“聊天”和“文本到图像”,还有更多模型类型正在开发中。跨 AI 提供商的可移植 API,用于聊天和嵌入模型。支持同步和流 API 选项。还支持下拉访问模型特定功能。AI 模型输出到 POJO 的映射。支持所有主要矢量数据库提供商,例如 Azure 矢量搜索、Chroma、Milvus、Neo4j、PostgreSQL/PGVector、PineCone、Qdrant、Redis 和 Weaviate跨 Vector Store 提供商的可移植 API,包括同样可移植的新颖的类似 SQL 的元数据过滤器 API。函数调用AI 模型和向量存储的 Spring Boot 自动配置和启动器。数据工程的 ETL 框架

OpenAI 聊天

Spring AI 支持 OpenAI 的 AI 语言模型 ChatGPT。由于创建了行业领先的文本生成模型和嵌入,ChatGPT 在激发人们对人工智能驱动的文本生成的兴趣方面发挥了重要作用。

先决条件

需要使用 OpenAI 创建 API (访问此网址需要魔法)来访问 ChatGPT 模型。在OpenAI 注册页面创建帐户并在API 密钥页面生成令牌(生成令牌需要国外手机号验证码:国外免费接码平台推荐_国外手机号短信验证码平台-CSDN博客)。 Spring AI 项目定义了一个名为的配置属性,应该将其设置为从 openai.com 获取spring.ai.openai.api-key的值。

第一步:打开专业版idea并新建项目

第二步:添加这二个依赖项后点击创建

第三步:在application.properties配置相关东西

spring.application.name=demo_aispring.ai.openai.api-key=这里写自己申请的gpt的apispring.ai.openai.chat.options.model=gpt-3.5-turbospring.ai.openai.chat.options.temperature=0.7

第四步:新建个 ChatController的Java类

package org.example.demo_ai;import org.springframework.ai.chat.ChatResponse;import org.springframework.ai.chat.messages.UserMessage;import org.springframework.ai.chat.prompt.Prompt;import org.springframework.ai.openai.OpenAiChatClient;import org.springframework.beans.factory.annotation.Autowired;import org.springframework.web.bind.annotation.GetMapping;import org.springframework.web.bind.annotation.RequestParam;import org.springframework.web.bind.annotation.RestController;import reactor.core.publisher.Flux;import java.util.Map;@RestControllerpublic class ChatController {    private final OpenAiChatClient chatClient;    @Autowired    public ChatController(OpenAiChatClient chatClient) {        this.chatClient = chatClient;    }    @GetMapping("/ai/generate")    public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {        return Map.of("generation", chatClient.call(message));    }    @GetMapping("/ai/generateStream")    public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {        Prompt prompt = new Prompt(new UserMessage(message));        return chatClient.stream(prompt);    }}

第五步:运行springboot项目,并在Postman测试接口

注意

还有更多的属性可以自行前往官网查看


点击全文阅读


本文链接:http://zhangshiyu.com/post/103482.html

<< 上一篇 下一篇 >>

  • 评论(0)
  • 赞助本站

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

关于我们 | 我要投稿 | 免责申明

Copyright © 2020-2022 ZhangShiYu.com Rights Reserved.豫ICP备2022013469号-1