将 Kobold AI API 与你的APP连接

Kobold AI 是一个功能强大且易于使用的平台，可提供各种基于人工智能的文本生成体验。Kobold API 可用于提供有关此 API 的元数据，模型选项用于提供有关当前文本生成模型的信息。world_info 提供用于在 KoboldAI GUI 中处理世界信息等的端点。

在本文中，我们将介绍如何使用信息、模型、故事、配置、世界信息和其他可调整 AI 设置等功能开始使用 Kobold AI API 应用程序。

如何开始使用 Kobold API

本教程不需要任何技术知识。设置起来非常简单，您将在几分钟内启动并运行您自己的 Kobold AI API。

Colab 是 Google 创建的基于 Jupyter Notebook 的研究工具，可用于部署基于 Python 或 R 的模型或脚本。您还将获得免费的 Nvidia Tesla T4 GPU。在 Google Cloud 中，该 GPU 的成本约为 250 美元。我们现在将在 Google Colab 中设置 Kobold AI。

转到带有 GPU 的 Kobold AI链接。

第 1 步：在 Google Colab 上安装 KoboldAI。

如果您有兴趣，可以访问有关如何安装 Kobold AI API：简单分步指南的文章，以获取有关安装过程的更详细说明。

步骤 2：播放音频文件以保持选项卡打开。如果您在手机上执行此过程，则必须按播放按钮才能生成音频文件。这是因为部署需要时间，并且您必须播放音频才能使选项卡在浏览器中保持打开状态。单击播放图标开始播放音频。

步骤 3： 现在，在下一部分中，您需要选择适合您的所需型号。例如，默认型号为 Nerys-V2-6，版本为官方。如果您想更改 Kobold UI United中新 UI 的选项，您只需在设置中进行一项更改。如果您想更改型号和样式，可以使用给定的型号之一。

步骤 4：单击“播放”按钮开始部署。等待部署完成安装执行 Kobold AI API 所需的所有驱动程序和软件包。

第 5 步：部署完成后，您将获得类似于以下内容的输出。然后您将获得一个 URL，用于在浏览器中测试您的 Kobold AI API。

官方版本的输出：

INIT    | Starting   | LUA bridge
INIT    | OK         | LUA bridge
INIT    | Starting   | LUA Scripts
INIT    | OK         | LUA Scripts
INIT    | OK         | Webserver
MESSAGE | KoboldAI has finished loading and is available at the following link: https://petersburg-source-shark-blade.trycloudflare.com

United 版本的输出：

INFO    | modeling.inference_models.hf:set_input_parameters:191 - {'use_gpu': True, '0_Layers': 32, 'CPU_Layers': 0, 'Disk_Layers': 0, 'id': 'KoboldAI/OPT-6B-nerys-v2', 'model': 'KoboldAI/OPT-6B-nerys-v2', 'path': None, 'menu_path': ''}
INIT    | Starting   | Flask
INIT    | OK         | Flask
INIT    | Starting   | Webserver
INIT    | OK         | Webserver
MESSAGE | KoboldAI has finished loading and is available at the following link for UI 1: https://claimed-g-jokes-undertaken.trycloudflare.com
MESSAGE | KoboldAI has finished loading and is available at the following link for UI 2: https://claimed-g-jokes-undertaken.trycloudflare.com/new_ui
MESSAGE | KoboldAI has finished loading and is available at the following link for KoboldAI Lite: https://claimed-g-jokes-undertaken.trycloudflare.com/lite
MESSAGE | KoboldAI has finished loading and is available at the following link for the API: https://claimed-g-jokes-undertaken.trycloudflare.com/api

然后，在链接列表中选择 API。如果您将 API 复制到新选项卡，它将可用。

探索 Kobold AI API

您现在可以探索 Kobold AI API 和功能信息。

Kobold AI API 应用程序有：

信息
模型
故事
世界资讯
配置

信息：有关此 API 的元数据

在此info选项中，有三个选项用于检查当前、最新和列表 API 版本。

检查当前 API 版本

首先，检查 API 的当前版本。您必须单击“获取”选项。

然后，在右上角单击“尝试”选项，然后单击“执行”选项。

执行过程结束后，会显示如下参数，response、curl、请求的URL。然后 URL 将被复制到新选项卡中以返回当前正在使用的 API 版本。

返回 API 的当前版本。

检查最新的API版本

将重复之前的所有步骤。但是，选择 GET 选项可以获得最新版本信息。

首先，检查API的最新版本。您必须单击第二个 GET 选项。
然后，在右上角单击“尝试”选项，然后单击“执行”选项。
执行过程结束后，会显示如下参数，response、curl、请求的URL。然后 URL 将被复制到新选项卡中以返回最新使用的 API 版本。
返回可用的最新 API 版本。

检查可用 API 版本列表

将重复之前的所有步骤。但是，选择 GET 选项可获取按升序排列的可用 API 版本列表。

首先，检查可用的 API 版本列表。您必须单击第三个 GET 选项。
然后，在右上角单击“尝试”选项，然后单击“执行”选项。
执行过程结束后，会显示如下参数，response、curl、请求的URL。然后 URL 将被复制到新选项卡中以返回可用 API 版本的列表。
返回按升序排序的可用 API 版本列表。

生成：文本生成端点

首先，要生成文本，您必须单击生成选项。

然后，在右上角单击“尝试”选项，然后单击“执行”选项。

执行过程结束后，会显示如下参数，response、curl、请求的URL。然后，URL 将被复制到新选项卡中，以响应提交、采样器设置、软提示和返回序列数生成文本。

模型：当前文本生成模型

应采取前面的步骤来对有关当前文本生成的信息进行建模。该选项有两种类型：GET和PUT。

Get 用于获取当前模型字符串，该字符串显示在 Kobold AI GUI 标题的括号中，例如“Kobold AI API 客户端 (Kobold AI API/fairseq-dense-13B-Nerys-v2)”并使用它。PUT 选项用于根据其 Hugging Face 模型 ID、模型文件夹路径（相对于 Kobold AI API 根文件夹的“models”文件夹）加载模型，或无模型时“只读”。