当前位置: 欣欣网 > 码农

10.6k星星!用大模型调用1600个API,AGI时代真的来了

2024-06-28码农

AGI 这个概念已经讲了很久了,但是还没有任何一家做的非常完善

想要实现真正的AGI,可能要走的路还是非常远的

今天看到Gorilla,突然想到,这不就是AGI的雏形吗

项目简介

Gorilla是一个为大型语言模型设计的API商店,支持通过自然语言查询调用API,实现语义和语法正确的API调用。它通过整合超过1600个API,首次展示了使用LLM调用API的方法,有效减少了生成假象的问题。此外,Gorilla还发布了APIBench,这是一个庞大的、经过策划且易于训练的API集合。

扫码加入AI交流群

获得更多技术支持和交流

(请注明自己的职业)

解决了哪些问题

Gorilla 项目主要解决了在使用大型语言模型(LLM)时如何更加精确和有效地调用外部API的问题。

它通过自然语言处理技术,允许用户以自然语言的形式查询和调用API,从而提高了开发效率和准确性。

Gorilla 通过其APIBench功能,还提供了一个经过策划的、用于训练的庞大API集合,进一步优化了API调用过程,减少了误操作和错误生成的情况。

体验链接:

https://huggingface.co/spaces/gorilla-llm/gorilla-demo

微调

Gorilla项目提供了两种方法来微调自定义API集的大型语言模型:

一种是使用「text-generation-webui」,它支持完整精度的模型微调,但不支持.k-quantized模型的.ggu文件格式

另一种是通过「Llama.cpp」微调基于llama的k-quantized模型,这种方法目前不支持微调基于falcon或mpt的模型。

用户可以选择适合的方法,按照步骤配置和运行,从而实现自定义API的有效应用。

代码库组织

主要包含几个重要文件夹,如「berkeley-function-call-leaderboard」存放评估模型功能调用的脚本;「data」文件夹含所有API数据和社区贡献的API;「eval」文件夹包含所有评估代码和Gorilla的输出结果;「inference」文件夹则包含本地运行Gorilla的推理代码。

还提供了完整的模型权重,支持多种API调用,并提供了本地运行和托管API的详细说明。

项目链接:

https://github.com/ShishirPatil/gorilla

关注「 开源AI项目落地 」公众号

与AI时代更靠近一点

关注「 向量光年 」公众号

加速全行业向AI转变

关注「 AGI光年 」公众号

获取每日最新资讯