近年来,人工智能技术的迅猛发展改变了我们对科技的看法,并在各个领域引发了巨大的变革。每个人都希望在自己的项目上能够使用人工智能。Spring 框架提供了一个名为 “Spring AI” 的项目,Spring AI 项目旨在简化包含人工智能功能的应用程序的开发,避免不必要的复杂性。目前还处于预测试版,也就意味着将来可能发生变化,不过事实上现在已经可以和OpenAI、Azure OpenAI、Hugging Face、Ollama进行API交互。
让我们看看如何在 Spring 应用程序中实现生成式AI吧。
创建一个Spirng项目
首先我们创建一个全新的Spring项目,引入Spring AI依赖。
<dependencies> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> <version>3.2.0</version> </dependency> <dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-openai-spring-boot-starter</artifactId> <version>0.8.0-SNAPSHOT</version> </dependency></dependencies><repositories> <repository> <id>spring-snapshots</id> <name>Spring Snapshots</name> <url>https://repo.spring.io/snapshot</url> <releases> <enabled>false</enabled> </releases> </repository></repositories>
在 application.yml 中设置OpenAI的API Key。具体如何获取可以参考如何获取Api Key。
spring: ai: openai: api-key: {OPENAI_API_KEY}
添加完成OpenAI API Key 我们就可以使用ChatClient
与AI模型进行交互了,ChatClient
简化了与各种人工智能模型的连接,针对各模型有自己的实现类。我们先看下基础用法,这里我创建一个接口,要求OpenAI生成一个答案给我,此时ChatClient
将调用OpenAI独有的API接口向OpenAI发起请求,我们可以通过测试来看看OpenAI给我们的答案是什么吧。
@GetMapping("/top/code/language")public String topCodeLanguage() { String message = "2023最受欢迎编程语言是什么"; return chatClient.generate(message);}
提示模板
我们稍微对上面的接口做些更改,我首先将一个路径变量放入请求,这样我们就可以将年份模板化。PromptTemplate
旨在帮助创建结构化提示,我们通过add()方法插入动态内容,render()会渲染为最终字符串格式。
@GetMapping("/top/code/language/{year}")public String topCodeLanguageByYear(@PathVariable("year") Integer year) { String message = "{year}最受欢迎编程语言是什么"; PromptTemplate promptTemplate = new PromptTemplate(message); promptTemplate.add("year", year); return chatClient.generate(promptTemplate.render());}
输出解析器
也许我们不希望它返回的是一个字符串,我们希望它作为一个对象,所以让我们看看如何做到这一点。首先我们创建一个TopLanguage
类。
public class TopLanguage { private Integer ranking; private String languageName; private String introduction;}
然后我们先创建一个输出解析器,BeanOutputParser
是指定 Java 类转换为 JSON 模式,然后,AI 模型的 JSON 输出被反序列化为 Java 对象。同样我们通过占位符{format}插入动态内容。
@GetMapping("/top/code/language/{year}/json")public TopLanguage topCodeLanguageByYearForFormat(@PathVariable("year") Integer year) { BeanOutputParser<TopLanguage> parser = new BeanOutputParser<>(TopLanguage.class); String message = "What is the most popular programming language in {year}? {format}"; PromptTemplate promptTemplate = new PromptTemplate(message); promptTemplate.add("year", year); promptTemplate.add("format", parser.getFormat()); promptTemplate.setOutputParser(parser); log.info("FORMAT STRING: " + parser.getFormat()); Prompt prompt = promptTemplate.create(); ChatResponse chatResponse = chatClient.generate(prompt); String content = chatResponse.getGeneration().getContent(); return parser.parse(content);}
结论
我们已经完成了Spring AI的基本示例,与往常一样,本文中使用的源代码可在 GitHub 上获得。
一起学习的小伙伴可以关注下我的公众号,我会经常更新技术实践类文章,所有文章都会有相应源码供大家学习交流!