1-Dify 如何使用大模型

发表于 更新于 分类于 ， ， 阅读次数： 本文字数： 703 阅读时长 ≈ 1 分钟

Dify 创建应用非常简单，直接在 工作室 新建即可，下面就 dify 新建应用过程的关键步骤进行记录

基础应用

Dify 支持自动生成提示词、变量及开场白
1-Dify如何使用大模型-20241106090702

  • 所谓变量，是指用户输入前设置的环境变量，如编程助手，可让用户选择是那种语言，面试助手，可以让用户选择那个领域
  • 所谓开场白，是用户未提问前，给你用户几个可问问题，降低用户交流门槛

1-Dify如何使用大模型-20241106091233

除了开场白，还可以开启以下功能：

  • 下一步问题建议：DIfy 根据上下文生成下一步可能的提问
  • 引用与归属：Dify 在使用知识库时，会在生成答案后，引用知识库检索到的内容
  • 内容审查：Dify 支持审查模型输出
  • 标注回复：对用户特定输入进行固定式回答

工作流应用

进一步地，可以在 dify 上搭建更为复杂的应用，如搭建有 "工作流编排" 的任务，以下是用来搭建 RAG 过程的工作流

1-Dify如何使用大模型-20241106092318

  • 上分支：输入 -> 增强检索节点 -> 检查是否检索到上下文
    • 检索到：使用 LLM 匹配上下文记录 (可能多条)-> 使用 python 整理为数组 -> 判断数组是否 > 1
      • >1：说明有多条记录匹配到 -> 使用 LLM 进行总结性发言
      • =1：说明匹配到 1 条记录 -> 直接使用 LLM 整理输出
    • 未检索到：直接输出固定内容
  • 下分支：输入 -> 增强检索节点 ->LLM 根据上下文及提问生成下一步可能提问的问题 -> 使用 python 将生成的推荐问题整理为界面的可点击连接，点击后会生成下一次提问

以上工作量使用了 DIfy 以下功能：

  • 在 Dify 进行 Python 编程
  • 在 DIfy 使用全局变量，比如这次检索到空内容时，下分支就直接使用上一次的推荐问题即可
  • 将文本生成为可点击，点击后会发出下一次提问的按钮
  • 使用了条件分支、合并分支