Spring AI

Spring AI 是一個用於 AI 工程的應用程式框架。其目標是將 Spring 生態系統的設計原則（例如可攜性和模組化設計）應用於 AI 領域，並推廣使用 POJO 作為 AI 領域應用程式的建構區塊。

Spring AI 的核心在於解決 AI 整合的根本挑戰：將您的企業資料和 API 與 AI 模型連接起來。

功能

Spring AI 提供以下功能

• 支援所有主要的 AI 模型供應商，例如 Anthropic、OpenAI、Microsoft、Amazon、Google 和 Ollama。支援的模型類型包括
  • 聊天完成
  • 嵌入
  • 文字轉圖像
  • 音訊轉錄
  • 文字轉語音
  • 審核
• 支援跨 AI 供應商的可攜式 API，包括同步和串流 API 選項。也提供對 模型特定功能 的存取。
• 結構化輸出 - 將 AI 模型輸出映射到 POJO。
• 支援所有主要的 向量資料庫供應商，例如 Apache Cassandra、Azure Vector Search、Chroma、Milvus、MongoDB Atlas、Neo4j、Oracle、PostgreSQL/PGVector、PineCone、Qdrant、Redis 和 Weaviate。
• 跨向量儲存供應商的可攜式 API，包括新穎的類 SQL 元數據篩選器 API。
• 工具/函式呼叫 - 允許模型請求執行客戶端工具和函式，從而根據需要存取必要的即時資訊。
• 可觀察性 - 提供對 AI 相關操作的深入見解。
• 文件注入 ETL 框架，用於資料工程。
• AI 模型評估 - 協助評估產生內容並防止產生幻覺回應的工具。
• ChatClient API - 用於與 AI 聊天模型通訊的流暢 API，在語法上類似於 WebClient 和 RestClient API。
• Advisors API - 封裝了重複出現的生成式 AI 模式，轉換發送到和來自語言模型 (LLM) 的資料，並提供跨各種模型和用例的可攜性。
• 支援 聊天對話記憶體 和 檢索增強生成 (RAG)。
• Spring Boot 自動組態和適用於所有 AI 模型和向量儲存的 Starters - 使用 start.spring.io 選擇您想要的模型或向量儲存。

此功能集讓您可以實現常見的用例，例如「針對您的文件進行問答」或「與您的文件聊天」。

文件

豐富的 參考文件、範例應用程式和工作坊/課程材料。

開始使用

您可以透過幾個簡單的步驟開始使用

1. 建立一個具有 Spring AI OpenAI 啟動器依賴項的 Spring Boot Web 應用程式。這個 Spring Initializr 連結 可以幫助您引導應用程式。（透過 start.spring.io，您可以選擇要在新應用程式中使用的任何 AI 模型或向量儲存）。

2. 將您的 OpenAI 金鑰新增到 application.properties

   spring.ai.openai.api-key=<YOUR OPENAI KEY>
   

3. 將以下程式碼片段新增到您的 SpringAiDemoApplication 類別

   @Bean
   public CommandLineRunner runner(ChatClient.Builder builder) {
       return args -> {
           ChatClient chatClient = builder.build();
           String response = chatClient.prompt("Tell me a joke").call().content();							
           System.out.println(response);
       };
   }
   

4. 執行應用程式

   ./mvnw spring-boot:run
   

想以其他方式開始使用嗎？請查看參考文件中的「開始使用」章節。