06 创建文本生成应用⚓︎
什么是文本生成应用⚓︎
一般来说当您构建应用程序时,它具有某种界面,如下所示:
- 基于命令。 控制台应用程序是典型的应用程序,您可以在其中键入命令并执行任务。 例如,“git”是一个基于命令的应用程序。
- 用户界面(UI)。 某些应用程序具有图形用户界面 (GUI),您可以在其中单击按钮、输入文本、选择选项等。
传统控制台和 UI 应用程序的局限性⚓︎
将其与输入命令的传统应用程序进行比较:
- 存在局限性。 您不能输入任意命令,只能键入该应用程序支持的命令。
- 特定于某种语言。 某些应用程序支持多种语言,但默认情况下,即使可以添加更多语言支持,该应用程序也是针对有限的语言构建的。
文本生成应用程序的优势⚓︎
文本生成应用程序有何不同呢?
在文本生成应用程序中,您拥有更大的灵活性,不再局限于一组特定的命令或特定的输入语言。 相反,您可以使用自然语言与应用程序交互。 另一个好处是,因为您已经在与经过大量信息库训练的数据源进行交互,而传统应用程序可能仅限于在数据库中存储的有限内容。
使用文本生成应用程序构建什么?⚓︎
您可以创建很多东西。 例如:
- 聊天机器人 回答有关您的公司及其产品等主题的问题的聊天机器人可能是一个不错的选择。
- 协同助手 LLMs 擅长总结文本、从文本中获取见解、生成简历等文本等。
- 代码助手 根据您使用的编程语言模型,您可以构建一个代码助手来帮助您编写代码。 例如,您可以使用 GitHub Copilot 和 ChatGPT 等产品来帮助您编写代码。
如何入门?⚓︎
您需要找到一种与 LLMs 结合的方法,通常使用以下两种方法:
- 使用API。在这里,您将根据提示构建 Web 请求并返回生成的文本。
- 使用库。库有助于封装 API 调用并使其更易于使用。
Libraries/SDKs⚓︎
有一些比较通用的与 LLMs 整合的 librarys,例如:
- openai,这个 librarys 可以轻松连接到您的模型并发送提示。
还有一些在更高级别的框架运行的 librarys,例如:
- Langchain。 Langchain 支持 Python 比较通用的 library
- Semantic Kernel。 Semantic Kernel 是 Microsoft 提供的一个 library,支持 C#、Python 和 Java 语言。