CN117056481A - 基于大模型技术的云服务行业对话帮助***及实现方法 - Google Patents
基于大模型技术的云服务行业对话帮助***及实现方法 Download PDFInfo
- Publication number
- CN117056481A CN117056481A CN202310999412.XA CN202310999412A CN117056481A CN 117056481 A CN117056481 A CN 117056481A CN 202310999412 A CN202310999412 A CN 202310999412A CN 117056481 A CN117056481 A CN 117056481A
- Authority
- CN
- China
- Prior art keywords
- model
- cloud service
- dialogue
- text
- implementation method
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 33
- 238000005516 engineering process Methods 0.000 title claims abstract description 31
- 238000012423 maintenance Methods 0.000 claims abstract description 14
- 238000007781 pre-processing Methods 0.000 claims abstract description 13
- 230000003044 adaptive effect Effects 0.000 claims abstract description 7
- 238000012549 training Methods 0.000 claims description 9
- 230000003213 activating effect Effects 0.000 claims description 4
- 238000007499 fusion processing Methods 0.000 claims description 3
- 238000011161 development Methods 0.000 abstract description 11
- 238000004590 computer program Methods 0.000 description 13
- 238000012545 processing Methods 0.000 description 8
- 238000013461 design Methods 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000003058 natural language processing Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
- G06F16/3329—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/353—Clustering; Classification into predefined classes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- Human Computer Interaction (AREA)
- Computational Linguistics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Machine Translation (AREA)
Abstract
本发明涉及云计算技术领域,具体涉及是基于大模型技术的云服务行业对话帮助***及实现方法,其中先获取用户在前端界面输入的请求信息,然后通过多模态数据预处理模块对前端界面输入的请求信息进行融合,生成问题Q,接着通过意图识别模块获取对应的问题Q的意图label,然后根据意图label从大语言模型模块组中选择适配的模型与用户进行对话,这样实现了基于大语言模型技术构建云服务行业的应用,可帮助云服务开发者,云服务的使用者,和其他合作伙伴更加迅速的掌握云业务的开发和使用;通过构建云服务的行业大语言模型,降低了云服务的开发成本和使用门槛,并在后续的运维等服务中发挥关键作用。
Description
技术领域
本发明属于云计算技术领域,具体涉及基于大模型技术的云服务行业对话帮助***及实现方法。
背景技术
随着自然语言处理(NLP)和大型语言模型领域的发展,大量的潜在应用开始出现。以GPT技术为代表的预训练大语言模型(如 OpenAI 的 ChatGPT 及其衍生品)极大地增强了计算机在语言理解、文本处理,人机交互等各方面的能力。这些模型在多样和广泛的数据集上进行充足的预训练,使模型能够阅读和理解复杂的人类语言。
目前,虽然这些预训练模型在各个NLP任务上都出色完成了人类设定的任务。但是在云服务行业的垂直领域却没有充分利用大语言模型的优势。云服务行业的相关工作需要具有丰富经验的研发人员,尤其是运维工作,往往需要持续的投入资源。
发明内容
为解决上述问题,本发明采取的技术方案是:基于大模型技术的云服务行业对话帮助***,包括多模态数据预处理模块、意图识别模块、大语言模型模块组;
所述多模态数据预处理模块用于接收输入的模态数据,并进行融合,得到问题Q;
所述意图识别模块用于识别问题Q中的文本信息,输出意图识别的标签label;
所述大语言模型模块组用于根据意图识别模块输出的label标签L,选择适配的模型进行对话。
本发明还提供了一种基于大模型技术的云服务行业对话帮助实现方法,包括以下步骤:
S1.用户在前端界面输入请求信息;
S2.将请求信息输入至基于大模型技术的云服务行业对话帮助***,其中多模态数据预处理模块对用户前端界面输入的请求信息进行融合,生成问题Q;
S3.意图识别模块获取对应的问题Q的意图label,且意图为:
0:对话;
1:问答;
2:编码;
以上三个结果中的任一;
S4.大语言模型模块组针对意图识别模块获取问题Q的意图label,选择适配的模型进行对话。
进一步的,S1中,用户在前端界面输入文本数据、语音数据和图像数据中的一种或多种。
进一步的,S1中,对于用户输入的文本数据,接受文本输入流后,将文本进行存储T;
对于用户输入的语音数据,使用语音转文本工具,将语音数据转换成相应的文本数据V;
对于用户输入的图像数据,使用image2word系列开源模型,将图像数据进行分析,并获得相关的文字描述P。
可选的,S1中,用户通过前端界面上的文本框,输入文本数据;
用户通过前端界面上文件上传选项,实时拍照按钮,上传图像数据;
用户通过前端界面上语音按钮,输入语音数据。
进一步的,S2中,通过多模态数据预处理模块将文本数据T,V,P进行融合处理,处理后得到问题Q。
可选的,S3中,通过BERT模型,训练得到一个文本意图判别模型,对问题Q的意图进行判别,输出意图label。
进一步的,S4中,大语言模型模块组包括闲聊模型、问答模型和编码模型;
所述闲聊模型与输出label标签“0:对话”相对应;
所述问答模型与输出label标签“1:问答”相对应;
所述编码模型与输出label标签“2:编码”相对应。
可选的,闲聊模型基座为LLAMA7b,可以进行多轮对话;
所述问答模型基座为LLAMA7b,可以进行单轮对话,指令集来源为论坛的回答,云服务的运维手册,运维日志;
所述编码模型,可以进行多轮对话,训练数据来源于api手册,用户使用手册,和部分源代码。
同时,还包括S5,返回激活大语言模型模块中生成式模型的实时文本数据流,并利用fastapi的websocket模型,实时的将生成的数据流发送到前端界面。
综上所述,由于采用了上述技术方案,本发明的有益效果至少包括以下之一:
1、基于大语言模型技术构建云服务行业的应用,可帮助云服务开发者,云服务的使用者,和其他合作伙伴更加迅速的掌握云业务的开发和使用;
2、通过构建云服务的行业大语言模型,降低了云服务的开发成本和使用门槛,并在后续的运维等服务中发挥关键作用。
附图说明
图1 为基于大模型技术的云服务行业对话帮助实现方法的流程图;
具体实施方式
为使本发明实施方式的目的、技术方案和优点更加清楚,下面将结合本发明实施方式中的附图,对本发明实施方式中的技术方案进行清楚、完整地描述,显然,所描述的实施方式是本发明一部分实施方式,而不是全部的实施方式。通常在此处附图中描述和示出的本发明实施方式的组件可以以各种不同的配置来布置和设计。
因此,以下对在附图中提供的本发明的实施方式的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施方式。基于本发明中的实施方式,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施方式,都属于本发明保护的范围。
需要说明的是,在不冲突的情况下,本发明中的实施方式及实施方式中的特征可以相互组合。
实施例1
本发明公开了基于大模型技术的云服务行业对话帮助***,其特征在于,包括多模态数据预处理模块、意图识别模块、大语言模型模块组;
所述多模态数据预处理模块用于接收输入的模态数据,并进行融合,得到问题Q;
所述意图识别模块用于识别问题Q中的文本信息,输出意图识别的标签label;
所述大语言模型模块组用于根据意图识别模块输出的label标签L,选择适配的模型进行对话。
这样设计的目的在于,基于大语言模型技术构建云服务行业的应用,可帮助云服务开发者,云服务的使用者,和其他合作伙伴更加迅速的掌握云业务的开发和使用;通过构建云服务的行业大语言模型,降低了云服务的开发成本和使用门槛,并在后续的运维等服务中发挥关键作用。
实施例2
如图1所示,本发明公开了基于大模型技术的云服务行业对话帮助实现方法,包括以下步骤:
S1.用户在前端界面输入请求信息;
S2.将请求信息输入至基于大模型技术的云服务行业对话帮助***,其中多模态数据预处理模块对用户前端界面输入的请求信息进行融合,生成问题Q;
S3.意图识别模块获取对应的问题Q的意图label,且意图为:
0:对话;
1:问答;
2:编码;
以上三个结果中的任一;
S4.大语言模型模块组针对意图识别模块获取问题Q的意图label,选择适配的模型进行对话。
同时,在具体实施中,S1中,用户在前端界面输入文本数据、语音数据和图像数据中的一种或多种,对于用户输入的文本数据,接受文本输入流后,将文本进行存储T;
对于用户输入的语音数据,使用语音转文本工具,将语音数据转换成相应的文本数据V;
对于用户输入的图像数据,使用image2word系列开源模型,将图像数据进行分析,并获得相关的文字描述P,用户通过前端界面上的文本框,输入文本数据;
用户通过前端界面上文件上传选项,实时拍照按钮,上传图像数据;
用户通过前端界面上语音按钮,输入语音数据。
而在S2中,通过多模态数据预处理模块将文本数据T,V,P进行融合处理,处理后得到问题Q。
在S3中,通过BERT模型,训练得到一个文本意图判别模型,对问题Q的意图进行判别,输出意图label。
在S4中,大语言模型模块组包括闲聊模型、问答模型和编码模型;
所述闲聊模型与输出label标签“0:对话”相对应;
所述问答模型与输出label标签“1:问答”相对应;
所述编码模型与输出label标签“2:编码”相对应,所述闲聊模型基座为LLAMA7b,可以进行多轮对话;
所述问答模型基座为LLAMA7b,可以进行单轮对话,指令集来源为论坛的回答,云服务的运维手册,运维日志;
所述编码模型,可以进行多轮对话,训练数据来源于api手册,用户使用手册,和部分源代码。
同时,还包括S5,返回激活大语言模型模块中生成式模型的实时文本数据流,并利用fastapi的websocket模型,实时的将生成的数据流发送到前端界面。
这样设计的目的在于,基于大语言模型技术构建云服务行业的应用,可帮助云服务开发者,云服务的使用者,和其他合作伙伴更加迅速的掌握云业务的开发和使用;通过构建云服务的行业大语言模型,降低了云服务的开发成本和使用门槛,并在后续的运维等服务中发挥关键作用。
实施例3
在一个具体的使用场景中:
S1. 对于文本数据,无需进行过多的处理,接受文本输入流后,将文本进行存储T,主要是通过键盘,鼠标等设备进行输入;
对于语音数据,使用目前开源的语音转文本工具,将语音数据转换成相应的文本数据V,主要通过语音按键,基于麦克风等外设音频输入设备进行输入;
对于图像数据,使用image2word系列开源模型,该模型用于对图像进行分析,并获得相关的文字描述P,主要是通过文件上传选项,实时拍照按钮,通过硬盘和摄像头等设备进行输入;
S2. 提示词prompt的模板设计如下:
“1.现有以下多模态数据的描述,
文本描述:T;
语音描述:V;
图像描述:P;
现有以下规则1,确保回答综合考虑T,V,P的文本描述内容;
2.回答的字数在300字左右;
3.所生成的回答需要符合法律法规,请根据多模态数据的描述在现有的规则下,生成回答”;
将S1中的文本数据T,V,P,依据S2中的模板进行使用融合处理,处理之后的问题为Q;
S3. 利用BERT模型,训练得到一个文本意图判别模型,意图判别的标签label定义如下{0:对话;1:问答;2:编码},同时将问题Q的label标签输出;
S4.1 根据S3中的问题label,选择激活不同的模型,并把模型的参数加载到GPU上,以加快计算,label与模型选择的对应关系如下:
标签 | 标签名 | 模型类型 |
0 | 对话 | 闲聊模型 |
1 | 问答 | 云服务(问答模型) |
2 | 编码 | 云服务(编码大模型) |
其中闲聊模型:该模型基座为LLAMA7b,无需进行预训练和指令集合的微调,该模型特点是可以进行多轮对话,属于通用大语言模型;
问答模型:该模型基于专业的云服务行业指令集进行微调训练,基座模型是LLAMA7b。指令集来源为论坛的回答,云服务的运维手册,运维日志等。该模型的特点是可以实现较为专业的云服务帮助***,可以进行单轮对话;
编码大模型,是一个多轮对话模型,在合理的提示词前提下,让模型协助开发人员进行编码。训练数据来源于api手册,用户使用手册,和部分源代码;
S4.2将S2中生成的多模态数据提示词,输入到步骤4.1被激活的模型中;
S4.3返回生成式模型的实时文本数据流;
S5. 利用fastapi的websocket模型,实时的将S4.3所生成的数据流发送到前端界面。
这样设计的目的在于,基于大语言模型技术构建云服务行业的应用,可帮助云服务开发者,云服务的使用者,和其他合作伙伴更加迅速的掌握云业务的开发和使用;通过构建云服务的行业大语言模型,降低了云服务的开发成本和使用门槛,并在后续的运维等服务中发挥关键作用。
本实施例中还提供了一种基于大模型技术的云服务行业对话帮助***,除了上面提到的多个模块外,为了实现其必要的功能,通常还包括:
处理器和存储器,该存储器用于存储计算机程序,所述处理器用于调用并运行所述存储器中存储的计算机程序,执行一种基于大模型技术的云服务行业对话帮助实现方法。
所述处理器可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器﹑数字信号处理器(Digital Signal Processor , DSP)、专用集成电路(Application Specific Integrated Circuit ,ASIC)、现场可编程门阵列(FieldProgrammableGate Array ,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器可以是内部存储单元或外部存储设备,例如插接式硬盘,智能存储卡(Smart Media Card ,SMC),安全数字卡(SecureDigital ,SD),闪存卡(Flash Card)等。进一步地,所述存储器还可以既包括内部存储单元,也包括外部存储设备。所述存储器用于存储所述计算机程序以及其他程序和数据,所述存储器还可以用于暂时地存储己经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述***中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现﹐也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式,对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘﹑磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。
本实施例中,还提供了一种计算机存储介质,其中存储有计算机程序,计算机存储介质可以为磁性随机存取存储器、只读存储器、可编程只读存储器、可擦除可编程只读存储器、电可擦除可编程只读存储器、快闪存储器、磁表面存储器和光盘中的一种,还可以是包括上述存储器之一或任意组合的各种设备,如移动电话、计算机、平板设备等,计算机程序能驱动解决不同格式日志数据冲突的***,同时计算机程序处理器能够执行基于大模型技术的云服务行业对话帮助实现方法。
最后应说明的是:以上仅为本发明的优选实施例而已,并不用于限制本发明,尽管参照前述实施例对本发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.基于大模型技术的云服务行业对话帮助***,其特征在于,包括多模态数据预处理模块、意图识别模块、大语言模型模块组;
所述多模态数据预处理模块用于接收输入的模态数据,并进行融合,得到问题Q;
所述意图识别模块用于识别问题Q中的文本信息,输出意图识别的标签label;
所述大语言模型模块组用于根据意图识别模块输出的label标签L,选择适配的模型进行对话。
2.基于大模型技术的云服务行业对话帮助实现方法,其特征在于:包括以下步骤:
S1.用户在前端界面输入请求信息;
S2.将请求信息输入至基于大模型技术的云服务行业对话帮助***,其中多模态数据预处理模块对用户前端界面输入的请求信息进行融合,生成问题Q;
S3.意图识别模块获取对应的问题Q的意图label,且意图为:
0:对话;
1:问答;
2:编码;
以上三个结果中的任一;
S4.大语言模型模块组针对意图识别模块获取问题Q的意图label,选择适配的模型进行对话。
3.根据权利要求2所述的基于大模型技术的云服务行业对话帮助实现方法,其特征在于:S1中,用户在前端界面输入文本数据、语音数据和图像数据中的一种或多种。
4.根据权利要求3所述的基于大模型技术的云服务行业对话帮助实现方法,其特征在于:S1中,对于用户输入的文本数据,接受文本输入流后,将文本进行存储T;
对于用户输入的语音数据,使用语音转文本工具,将语音数据转换成相应的文本数据V;
对于用户输入的图像数据,使用image2word系列开源模型,将图像数据进行分析,并获得相关的文字描述P。
5.根据权利要求4所述的基于大模型技术的云服务行业对话帮助实现方法,其特征在于:S1中,用户通过前端界面上的文本框,输入文本数据;
用户通过前端界面上文件上传选项,实时拍照按钮,上传图像数据;
用户通过前端界面上语音按钮,输入语音数据。
6.根据权利要求2所述的基于大模型技术的云服务行业对话帮助实现方法,其特征在于:S2中,通过多模态数据预处理模块将文本数据T,V,P进行融合处理,处理后得到问题Q。
7.根据权利要求2所述的基于大模型技术的云服务行业对话帮助实现方法,其特征在于:S3中,通过BERT模型,训练得到一个文本意图判别模型,对问题Q的意图进行判别,输出意图label。
8.根据权利要求2所述的基于大模型技术的云服务行业对话帮助实现方法,其特征在于:S4中,大语言模型模块组包括闲聊模型、问答模型和编码模型;
所述闲聊模型与输出label标签“0:对话”相对应;
所述问答模型与输出label标签“1:问答”相对应;
所述编码模型与输出label标签“2:编码”相对应。
9.根据权利要求8所述的基于大模型技术的云服务行业对话帮助实现方法,其特征在于:所述闲聊模型基座为LLAMA7b,可以进行多轮对话;
所述问答模型基座为LLAMA7b,可以进行单轮对话,指令集来源为论坛的回答,云服务的运维手册,运维日志;
所述编码模型,可以进行多轮对话,训练数据来源于api手册,用户使用手册,和部分源代码。
10.根据权利要求2所述的基于大模型技术的云服务行业对话帮助实现方法,其特征在于:还包括S5,返回激活大语言模型模块中生成式模型的实时文本数据流,并利用fastapi的websocket模型,实时的将生成的数据流发送到前端界面。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310999412.XA CN117056481A (zh) | 2023-08-09 | 2023-08-09 | 基于大模型技术的云服务行业对话帮助***及实现方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310999412.XA CN117056481A (zh) | 2023-08-09 | 2023-08-09 | 基于大模型技术的云服务行业对话帮助***及实现方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117056481A true CN117056481A (zh) | 2023-11-14 |
Family
ID=88660163
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310999412.XA Pending CN117056481A (zh) | 2023-08-09 | 2023-08-09 | 基于大模型技术的云服务行业对话帮助***及实现方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117056481A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117370537A (zh) * | 2023-12-08 | 2024-01-09 | 浙江口碑网络技术有限公司 | 基于aigc的问答应用开发方法和平台 |
CN117951211A (zh) * | 2024-03-26 | 2024-04-30 | 宁算(南京)科技有限公司 | 一种用于云服务行业大语言模型私有化部署装置及方法 |
-
2023
- 2023-08-09 CN CN202310999412.XA patent/CN117056481A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117370537A (zh) * | 2023-12-08 | 2024-01-09 | 浙江口碑网络技术有限公司 | 基于aigc的问答应用开发方法和平台 |
CN117370537B (zh) * | 2023-12-08 | 2024-04-19 | 浙江口碑网络技术有限公司 | 基于aigc的问答应用开发方法和平台 |
CN117951211A (zh) * | 2024-03-26 | 2024-04-30 | 宁算(南京)科技有限公司 | 一种用于云服务行业大语言模型私有化部署装置及方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108847241B (zh) | 将会议语音识别为文本的方法、电子设备及存储介质 | |
WO2022095380A1 (zh) | 基于ai的虚拟交互模型生成方法、装置、计算机设备及存储介质 | |
CN109514586B (zh) | 实现智能客服机器人的方法及*** | |
CN117056481A (zh) | 基于大模型技术的云服务行业对话帮助***及实现方法 | |
CN110853626B (zh) | 基于双向注意力神经网络的对话理解方法、装置及设备 | |
CN109101545A (zh) | 基于人机交互的自然语言处理方法、装置、设备和介质 | |
CN111754985B (zh) | 一种语音识别模型的训练以及语音识别的方法和装置 | |
WO2020253128A1 (zh) | 基于语音识别的通信服务方法、装置、计算机设备及存储介质 | |
CN112101045B (zh) | 一种多模态语义完整性识别方法、装置及电子设备 | |
CN111182162A (zh) | 基于人工智能的电话质检方法、装置、设备和存储介质 | |
CN112527962A (zh) | 基于多模态融合的智能应答方法、装置、机器可读介质及设备 | |
WO2024066920A1 (zh) | 虚拟场景的对话方法、装置、电子设备、计算机程序产品及计算机存储介质 | |
CN111651497A (zh) | 用户标签挖掘方法、装置、存储介质及电子设备 | |
JP2021081713A (ja) | 音声信号を処理するための方法、装置、機器、および媒体 | |
CN114065720A (zh) | 会议纪要生成方法、装置、存储介质及电子设备 | |
CN111581347B (zh) | 语句相似度匹配方法及装置 | |
CN110263346B (zh) | 基于小样本学习的语意分析方法、电子设备及存储介质 | |
WO2021047103A1 (zh) | 一种语音识别方法及装置 | |
CN116681088A (zh) | 一种基于大模型的翻译***、方法及储存介质 | |
CN111046674A (zh) | 语义理解方法、装置、电子设备和存储介质 | |
CN116842143A (zh) | 基于人工智能的对话模拟方法、装置、电子设备及介质 | |
CN113868415A (zh) | 知识库的生成方法、装置、存储介质及电子设备 | |
CN112820292A (zh) | 生成会议纪要的方法、装置、电子装置及存储介质 | |
CN114818644B (zh) | 文本模板生成方法、装置、设备及存储介质 | |
CN113782022B (zh) | 基于意图识别模型的通信方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |