当前位置: 首页 > Web前端 > HTML

在低代码开发平台ILLACloudHuggingFace上使用模型

时间:2023-03-29 11:43:33 HTML

,用AI模型创造更多可能,诚邀您在ILLACloud平台上使用HuggingFace!ILLACloud是一个面向开发人员的开源低代码开发平台。平台专注于帮助开发者快速构建企业内部应用,节省开发者数据调用和页面设计的时间。该平台具有面向开发者、数据集成、协同开发、灵活部署等功能和特点。这种定制化的系统可以通过少量的代码输入和拖拽的方式构建,降低开发人员和工程师的研发成本。今天,我们正式宣布与意来云的这次新合作:意来云正式支持在抱脸宝上集成AI模型库等相关功能!通过此次合作,我们希望共同推动AIGC/GenerativeAI在生产力工具领域的实践与落地,帮助更多团队通过AI提升工作效率,为更具挑战性的任务节省更多时间和精力。从今天开始,您可以在ILLACloud中体验AI!ILLAxHuggingFace在HuggingFace中,可以通过公共API访问超过130,000个机器学习模型,您可以免费使用和测试这些API。另外,如果需要在生产场景中使用,可以使用HuggingFace提供的解决方案Endpoints,部署并使用InferenceEndpoints来访问。ILLACloud提供数十种常用的前端组件,支持根据实际需求快速构建不同的前端接口。同时,意来云还提供了连接抱脸的方法,可以快速连接抱脸API,发起请求,获取返回数据。将API与前端组件对接,实现用户要求通过前端填写内容并提交给API,API返回生成的内容并显示给前端。在ILLACloud中使用HuggingFace第1步:在ILLACloud中使用组件构建UI我们首先根据我们预期的使用场景来构建前端界面。比如你的产品是输入文字,输出生成图片,那么你可以使用输入组件和图片组件;如果你的产品是输入文本输出生成文本,那么你可以使用输入组件或者文本组件。下图是基于文本内容的问答应用界面:Step2:创建抱脸资源并配置动作点击动作列表中的“+新建”,选择抱脸推理API:配置抱脸资源通过填写以下表格:名称:您自定义的此资源在ILLACloud中显示的名称;Token:注册登录HuggingFace,点击右上角头像,通过ProfileSettings下的AccessTokens页面新建并获取Token填写:https://hf.co/settings/tokens接下来我们配置Action。首先是在HuggingFace中确认模型的连接信息。需要进入HuggingFaceHub页面,根据需要选择模型:https://hf.co/models本文以luhua/chinese_pretrain_mrc_roberta_wwm_ext_large模型为例,进入模型详情页面,点击Deployon右上角,选择InferenceAPI:https://hf.co/luhua/chinese_p...这里inputs参数后面的内容就是你需要在ILLACloud中配置的参数内容:接下来,回到ILLACloudAction配置,需要填写ModelID和Parameter。针对上图中Model输入为多个键值对的场景,我们提供了键值对输入和JSON输入,如下图所示:另外,ILLACloud还支持文本和二进制文件的输入,可以满足现有的HuggingFaceModel需求。第3步:连接Action和组件,将用户的前端输入传递给API。使用{{获取组件中的输入数据。例如,input2组件用于输入问题,input1组件用于输入上下文。只有这两个组件需要在Action参数值的位置,填写相关信息即可。以下是使用JSON的示例代码:{"question":{{input2.value}},"context":{{input1.value}}}接下来,我们将在前端显示Action的输出数据成分。我们需要确认不同模型的输出放在哪个字段。仍然以luhua/chinese_pretrain_mrc_roberta_wwm_ext_large模型为例,运行结果如下:所以这里可以使用{{textQuestion.data[0].answer}}要获得答案(其中textQuestion是Action名称),请将{{textQuestion.data[0].answer}}填充到用于显示结果的组件的属性配置中:你完成了!以上是使用ILLACloud在HuggingFace上集成模型快速搭建智能问答机器人的应用界面。在公司内部使用的场景中,类似的模型也可以解决很多具体场景的问题,比如通过模型训练内部信息后的问答客服,也可以应用到更多不同内容输入的场景。此外,HunggingFace上还有很多有趣的模型,一些有趣的功能可以通过ILLACloud的调用快速实现,比如在很短的时间内构建类似于Lite版ChatGPT的应用或者图片生成内容。如果你做过什么有趣的通过AI帮助提升团队效率的应用,欢迎你留言告诉我们,我们迫不及待想看到你用ILLACloud和HuggingFace打造的应用!立即试用ILLACloud:https://www.illacloud.com/