Kobold AI 是一个功能强大且易于使用的平台,可提供各种基于人工智能的文本生成体验。Kobold API 可用于提供有关此 API 的元数据,模型选项用于提供有关当前文本生成模型的信息。world_info 提供用于在 KoboldAI GUI 中处理世界信息等的端点。
在本文中,我们将介绍如何使用信息、模型、故事、配置、世界信息和其他可调整 AI 设置等功能开始使用 Kobold AI API 应用程序。
如何开始使用 Kobold API
本教程不需要任何技术知识。设置起来非常简单,您将在几分钟内启动并运行您自己的 Kobold AI API。
Colab 是 Google 创建的基于 Jupyter Notebook 的研究工具,可用于部署基于 Python 或 R 的模型或脚本。您还将获得免费的 Nvidia Tesla T4 GPU。在 Google Cloud 中,该 GPU 的成本约为 250 美元。我们现在将在 Google Colab 中设置 Kobold AI。
转到带有 GPU 的 Kobold AI链接。
第 1 步:在 Google Colab 上安装 KoboldAI。
如果您有兴趣,可以访问有关如何安装 Kobold AI API:简单分步指南的文章,以获取有关安装过程的更详细说明。
步骤 2:播放音频文件以保持选项卡打开。如果您在手机上执行此过程,则必须按播放按钮才能生成音频文件。这是因为部署需要时间,并且您必须播放音频才能使选项卡在浏览器中保持打开状态。单击播放图标开始播放音频。
步骤 3: 现在,在下一部分中,您需要选择适合您的所需型号。例如,默认型号为 Nerys-V2-6,版本为官方。如果您想更改 Kobold UI United中新 UI 的选项,您只需在设置中进行一项更改。如果您想更改型号和样式,可以使用给定的型号之一。
步骤 4:单击“播放”按钮开始部署。等待部署完成安装执行 Kobold AI API 所需的所有驱动程序和软件包。
第 5 步:部署完成后,您将获得类似于以下内容的输出。然后您将获得一个 URL,用于在浏览器中测试您的 Kobold AI API。
官方版本的输出:
INIT | Starting | LUA bridge
INIT | OK | LUA bridge
INIT | Starting | LUA Scripts
INIT | OK | LUA Scripts
INIT | OK | Webserver
MESSAGE | KoboldAI has finished loading and is available at the following link: https://petersburg-source-shark-blade.trycloudflare.com
United 版本的输出:
INFO | modeling.inference_models.hf:set_input_parameters:191 - {'use_gpu': True, '0_Layers': 32, 'CPU_Layers': 0, 'Disk_Layers': 0, 'id': 'KoboldAI/OPT-6B-nerys-v2', 'model': 'KoboldAI/OPT-6B-nerys-v2', 'path': None, 'menu_path': ''}
INIT | Starting | Flask
INIT | OK | Flask
INIT | Starting | Webserver
INIT | OK | Webserver
MESSAGE | KoboldAI has finished loading and is available at the following link for UI 1: https://claimed-g-jokes-undertaken.trycloudflare.com
MESSAGE | KoboldAI has finished loading and is available at the following link for UI 2: https://claimed-g-jokes-undertaken.trycloudflare.com/new_ui
MESSAGE | KoboldAI has finished loading and is available at the following link for KoboldAI Lite: https://claimed-g-jokes-undertaken.trycloudflare.com/lite
MESSAGE | KoboldAI has finished loading and is available at the following link for the API: https://claimed-g-jokes-undertaken.trycloudflare.com/api
然后,在链接列表中选择 API。如果您将 API 复制到新选项卡,它将可用。
探索 Kobold AI API
您现在可以探索 Kobold AI API 和功能信息。
Kobold AI API 应用程序有:
- 信息
- 模型
- 故事
- 世界资讯
- 配置
信息:有关此 API 的元数据
在此info
选项中,有三个选项用于检查当前、最新和列表 API 版本。
检查当前 API 版本
- 首先,检查 API 的当前版本。您必须单击“获取”选项。
- 然后,在右上角单击“尝试”选项,然后单击“执行”选项。
- 执行过程结束后,会显示如下参数,response、curl、请求的URL。然后 URL 将被复制到新选项卡中以返回当前正在使用的 API 版本。
- 返回 API 的当前版本。
检查最新的API版本
将重复之前的所有步骤。但是,选择 GET 选项可以获得最新版本信息。
- 首先,检查API的最新版本。您必须单击第二个 GET 选项。
- 然后,在右上角单击“尝试”选项,然后单击“执行”选项。
- 执行过程结束后,会显示如下参数,response、curl、请求的URL。然后 URL 将被复制到新选项卡中以返回最新使用的 API 版本。
- 返回可用的最新 API 版本。
检查可用 API 版本列表
将重复之前的所有步骤。但是,选择 GET 选项可获取按升序排列的可用 API 版本列表。
- 首先,检查可用的 API 版本列表。您必须单击第三个 GET 选项。
- 然后,在右上角单击“尝试”选项,然后单击“执行”选项。
- 执行过程结束后,会显示如下参数,response、curl、请求的URL。然后 URL 将被复制到新选项卡中以返回可用 API 版本的列表。
- 返回按升序排序的可用 API 版本列表。
生成:文本生成端点
- 首先,要生成文本,您必须单击生成选项。
- 然后,在右上角单击“尝试”选项,然后单击“执行”选项。
- 执行过程结束后,会显示如下参数,response、curl、请求的URL。然后,URL 将被复制到新选项卡中,以响应提交、采样器设置、软提示和返回序列数生成文本。
模型:当前文本生成模型
- 应采取前面的步骤来对有关当前文本生成的信息进行建模。该选项有两种类型:GET和PUT。
- Get 用于获取当前模型字符串,该字符串显示在 Kobold AI GUI 标题的括号中,例如“Kobold AI API 客户端 (Kobold AI API/fairseq-dense-13B-Nerys-v2)”并使用它。PUT 选项用于根据其 Hugging Face 模型 ID、模型文件夹路径(相对于 Kobold AI API 根文件夹的“models”文件夹)加载模型,或无模型时“只读”。
故事:在 GUI 中管理故事的端点
- 对于故事和端点,应遵循前面的步骤,以便在 KoboldAI GUI 中管理故事。该选项包括多种类型,包括 GET、DELETE、POST 和 PUT。
- 每个都有不同的目的,但获取请求的 URL 所需的步骤应该类似。
World_info :在 KoboldAI GUI 中管理世界信息的端点
- world_info 应遵循前面的步骤,它在 KoboldAI GUI 中用于管理世界信息。该选项有多种类型,包括 GET、DELETE、POST 和 PUT。每个都有不同的目的,但获取必要 URL 的步骤应该类似。
Config :获取/设置各种设置值
配置应遵循前面的步骤,它允许您检索或设置各种配置值。该选项有两种类型,包括 GET 和 PUT。
- 每个都有多个用途,分别是检索和设置当前作者注释设置值、作者注释深度设置为指定值、模板设置值、gens per action 设置值、采样器顺序设置值、删除当前单个名称、设置软提示名称、模板设置、采样设置、输入格式、输出格式。删除特殊字符、删除空白链接、最大内容设置值、内存设置值等等。
但获取指定URL的方法应该是相同的。
脑震荡
总之,如果您遵循这些简单的步骤,那么开始使用 Kobold AI API 就会很简单。通过创建帐户、获取 API 密钥并将其集成到您的项目中,您可以释放 Kobold 功能的强大功能。浏览其文档以获取更多信息并充分利用这个强大的工具。
请随时在下面的评论部分分享您的想法和反馈。
原创文章,作者:网贝WebBay,如若转载,请注明出处:https://www.webbay.cn/connect-kobold-ai-api-with-your-application