实现一个最简 LLM 应用

// optional=false 表示必需的消息列表，在模版输入中找不到对应变量会报错
schema.MessagesPlaceholder("chat_history", false)

// template.go
package main

import (
    "context"
    "fmt"
    "log"

    "github.com/cloudwego/eino/components/prompt"
    "github.com/cloudwego/eino/schema"
)

func createTemplate() prompt.ChatTemplate {
    // 创建模板，使用 FString 格式
    return prompt.FromMessages(schema.FString,
       // 系统消息模板
       schema.SystemMessage("你是一个{role}。你需要用{style}的语气回答问题。你的目标是帮助程序员保持积极乐观的心态，提供技术建议的同时也要关注他们的心理健康。"),

       // 插入需要的对话历史（新对话的话这里不填）
       schema.MessagesPlaceholder("chat_history", true),

       // 用户消息模板
       schema.UserMessage("问题: {question}"),
    )
}

func createMessagesFromTemplate() ([]*schema.Message, error) {
    template := createTemplate()

    // 使用模板生成消息
    return template.Format(context.Background(), map[string]any{
       "role":     "程序员鼓励师",
       "style":    "积极、温暖且专业",
       "question": "我的代码一直报错，感觉好沮丧，该怎么办？",
       // 对话历史（这个例子里模拟两轮对话历史）
       "chat_history": []*schema.Message{
          schema.UserMessage("你好"),
          schema.AssistantMessage("嘿！我是你的程序员鼓励师！记住，每个优秀的程序员都是从 Debug 中成长起来的。有什么我可以帮你的吗？", nil),
          schema.UserMessage("我觉得自己写的代码太烂了"),
          schema.AssistantMessage("每个程序员都经历过这个阶段！重要的是你在不断学习和进步。让我们一起看看代码，我相信通过重构和优化，它会变得更好。记住，Rome wasn't built in a day，代码质量是通过持续改进来提升的。", nil),
       },
    })
}

// 输出结果
//func main() {
//    messages, err := createMessagesFromTemplate()
//    if err != nil {
//       log.Fatal(err)
//    }
//    fmt.Printf("formatted message: %v", messages)
//}
// formatted message: [system: 你是一个程序员鼓励师。你需要用积极、温暖且专业的语气回答问题。你的目标是帮助程序员保持积极乐观的心态，提供技术建议的同时也要关注他们的心理健康。 user: 你好 assistant: 嘿！我是你的程序员鼓励师！记住，每个优秀的程序员都是从 Debug 中成长起来的。有什么我可以帮你的吗？ user: 我觉得自己写的代码太烂了 assistant: 每个程序员都经历过这个阶段！重要的是你在不断学习和进步。让我们一起看看代码，我相信通过重构和优化，它会变得更好。记住，Rome wasn't built in a day，代码质量是通过持续改进来提升的。 user: 问题: 我的代码一直报错，感觉好沮丧，该怎么办？]

import (
    "context"
    "fmt"
    
    "github.com/cloudwego/eino-ext/components/model/openai"
)

func main() {
    messages, err := createMessagesFromTemplate()
    if err != nil {
       log.Fatal(err)
    }
    // 创建 OpenAI ChatModel, 假设使用 openai 官方服务。
    chatModel, err := openai.NewChatModel(context.Background(), &openai.ChatModelConfig{
       Model:  "gpt-4o",         // 使用的模型版本
       APIKey: "<your-api-key>", // OpenAI API 密钥
    })
    if err != nil {
       log.Fatal(err)
    }

    // 使用 Generate 获取完整回复
    response, err := chatModel.Generate(context.Background(), messages)
    if err != nil {
       log.Fatal(err)
    }

    fmt.Println(response.Content) 
    // 输出模型回复
    //完全理解你的感受，调试代码有时候会让人倍感挫折。然而，这也是学习和成长的绝佳机会。首先，深呼吸，给自己一点时间放松一下。然后，我们可以循序渐进地解决问题：
    //
    //1. **阅读错误信息**：它通常会给出很有用的线索，告诉你出错的文件、行数以及可能的原因。
    //
    //2. **检查最近的更改**：有时候最近的修改可能导致了错误。
    //
    //3. **分而治之**：把问题分解成小部分，逐步检查代码，看看哪里可能出了错。
    //
    //4. **利用调试器**：调试器是程序员的好朋友，可以让你一步一步运行代码观察变量的变化。
    //
    //5. **寻求帮助**：别忘了，编程社区是非常乐于助人的，你总能在像Stack Overflow这样的论坛上找到有人遇到过类似的问题。
    //
    //最后，不要对自己太苛刻，每次解决一个错误，你都在成为更强的程序员。你一定可以克服这个困难的！加油！🌟
}

import (
    "context"
    "fmt"
    
    "github.com/cloudwego/eino-ext/components/model/ollama"
)

func main() {
    messages, err := createMessagesFromTemplate()
    if err != nil {
       _log_.Fatal(err)
    }
    // 创建 Ollama ChatModel
    chatModel, err := ollama.NewChatModel(context.Background(), &ollama.ChatModelConfig{
        BaseURL: "http://localhost:11434", // Ollama 服务地址
        Model: "llama2",                   // 模型名称
    })
    if err != nil {
        log.Fatal(err)
    }
    
    // 使用 Generate 获取完整回复
    response, err := chatModel.Generate(context.Background(), messages)
    if err != nil {
        log.Fatal(err)
    }
    fmt.Println(response.Content)  // 输出模型回复
}

import (
    "context"
    "fmt"
    "io"
    "log"

    "github.com/cloudwego/eino-ext/components/model/openai"
)

func main() {
    messages, err := createMessagesFromTemplate()
    if err != nil {
       _log_.Fatal(err)
    }
    // 创建 OpenAI ChatModel, 假设使用 openai 官方服务。
    chatModel, err := _openai_.NewChatModel(_context_.Background(), &_openai_._ChatModelConfig_{
       Model:  "gpt-4o",         // 使用的模型版本
       APIKey: "<your-api-key>", // OpenAI API 密钥
    })
    if err != nil {
       _log_.Fatal(err)
    }


    // 使用 Stream 获取流式响应
    stream, err := chatModel.Stream(context.Background(), messages)
    if err != nil {
        log.Fatal(err)
    }
    
    // 处理流式响应
    for {
        chunk, err := stream.Recv()
        if err == io.EOF {
            // stream结束
            break
        }
        if err != nil {
            log.Fatal(err)
        }
        
        // 处理响应片段
        fmt.Print(chunk.Content)
    }
}