CN118278943A - 基于大模型的信息处理方法、装置、设备、介质和产品 - Google Patents
基于大模型的信息处理方法、装置、设备、介质和产品 Download PDFInfo
- Publication number
- CN118278943A CN118278943A CN202410346356.4A CN202410346356A CN118278943A CN 118278943 A CN118278943 A CN 118278943A CN 202410346356 A CN202410346356 A CN 202410346356A CN 118278943 A CN118278943 A CN 118278943A
- Authority
- CN
- China
- Prior art keywords
- information
- processing
- different
- target
- prompt
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 29
- 238000003672 processing method Methods 0.000 title claims abstract description 15
- 238000012545 processing Methods 0.000 claims abstract description 138
- 238000000034 method Methods 0.000 claims description 37
- 239000013598 vector Substances 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 12
- 230000004044 response Effects 0.000 claims description 9
- 238000013473 artificial intelligence Methods 0.000 abstract description 4
- 238000013135 deep learning Methods 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 17
- 230000008569 process Effects 0.000 description 12
- 238000004891 communication Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 7
- 230000003993 interaction Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000003058 natural language processing Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 230000010354 integration Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Landscapes
- Information Transfer Between Computers (AREA)
Abstract
本公开提供了一种基于大模型的信息处理方法、装置、设备、介质和产品,涉及人工智能技术领域,具体为智能云、深度学习、大模型等技术领域。基于大模型的信息处理方法包括:通过统一入口,接收用户发送的问题信息;基于所述问题信息生成提示语句;基于所述提示语句调用大模型,以获得所述大模型输出的所述问题信息的目标类型;基于所述问题信息和所述目标类型,创建目标任务;采用所述目标类型对应的问题处理对象,基于所述目标任务进行问题处理,以获得问题处理结果;其中,不同目标类型对应不同问题处理对象;将所述问题处理结果反馈给所述用户。本公开可以提高信息处理效率和准确度。
Description
技术领域
本公开涉及人工智能技术领域,具体为云平台、深度学习、大模型等技术领域,尤其涉及一种基于大模型的信息处理方法、装置、设备、介质和产品。
背景技术
目前客服工单***的主要实现步骤包括:客户通过邮件、电话、在线聊天等渠道向客服部门提出问题或需求;客服人员接收客户提出的问题,对问题进行识别和分类,确定问题的性质和所属类别;客服人员根据识别和分类后的问题,在***中创建工单;创建工单后,***根据预设规则将工单分配给相应的处理人员或团队;处理人员根据工单的内容和优先级进行相应处理。
上述方案主要是基于客服人员的人工操作,在效率、准确度等方面都存在问题,影响用户体验。
发明内容
本公开提供了一种基于大模型的信息处理方法、装置、设备、介质和产品。
根据本公开的一方面,提供了一种基于大模型的信息处理方法,包括:通过统一入口,接收用户发送的问题信息;基于所述问题信息生成提示语句;基于所述提示语句调用大模型,以获得所述大模型输出的所述问题信息的目标类型;基于所述问题信息和所述目标类型,创建目标任务;采用所述目标类型对应的问题处理对象,基于所述目标任务进行问题处理,以获得问题处理结果;其中,不同目标类型对应不同问题处理对象;将所述问题处理结果反馈给所述用户。
根据本公开的另一方面,提供了一种基于大模型的信息处理装置,包括:接收模块,用于通过统一入口,接收用户发送的问题信息;生成模块,用于基于所述问题信息生成提示语句;调用模块,用于基于所述提示语句调用大模型,以获得所述大模型输出的所述问题信息的目标类型;创建模块,用于基于所述问题信息和所述目标类型,创建目标任务;处理模块,用于采用所述目标类型对应的问题处理对象,基于所述目标任务进行问题处理,以获得问题处理结果;其中,不同目标类型对应不同问题处理对象;发送模块,用于将所述问题处理结果反馈给所述用户。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上述任一方面的任一项所述的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据上述任一方面的任一项所述的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据上述任一方面的任一项所述的方法。
本公开可以提高信息处理效率和准确度。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开第一实施例的示意图;
图2是用来实现本公开实施例的应用场景的示意图;
图3是根据本公开实施例提供的不同视角的结构组成示意图;
图4是根据本公开实施例提供的用户视角的执行流程示意图;
图5是根据本公开实施例提供的内部***视角的执行流程示意图;
图6是根据本公开第二实施例的示意图;
图7是根据本公开第三实施例的示意图;
图8是根据本公开第四实施例的示意图;
图9是用来实现本公开实施例的基于大模型的信息处理方法的电子设备的示意图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
相关技术中,由于主要通过客服人员人工处理用户提出的问题,在效率和准确度等方面都存在问题。
为了提高信息处理准确度和效率,本公开提供如下实施例。
图1是根据本公开第一实施例的示意图。本实施例提供一种基于大模型的信息处理方法,该方法包括:
101、通过统一入口,接收用户发送的问题信息。
102、基于所述问题信息生成提示语句。
103、基于所述提示语句调用大模型,以获得所述大模型输出的所述问题信息的目标类型。
104、基于所述问题信息和所述目标类型,创建目标任务。
105、采用所述目标类型对应的问题处理对象,基于所述目标任务进行问题处理,以获得问题处理结果;其中,不同目标类型对应不同问题处理对象。
106、将所述问题处理结果反馈给所述用户。
其中,本实施例的执行主体可以称为信息处理***,该***可以对外提供统一入口,不同用户均通过该统一入口向该***反馈问题。
基于交互形式的不同,该统一入口可以是多种形式的入口,例如,该统一入口可以是统一邮箱,不同用户均可以发送邮件给该统一邮箱。除了邮件形式,用户还可以采用其他形式与***交互,例如,在线聊天形式、留言板形式、短信形式等,为此,该统一入口也可以是其他形式的入口,如在线聊天入口、留言板入口、短信入口等。
以统一入口是统一邮箱入口为例,用户可以向该统一邮箱入口发送邮件,邮件中的信息作为问题信息。
问题信息可以分为多种类型。具体类型可以根据实际场景设定。以游戏场景为例,问题信息的类型可以包括:活动类型、支付类型、商城类型。
目标类型,是指当前用户发送的问题信息的类型。例如,当前用户发送的是一条关于活动的问题信息,则目标类型是活动类型。
相关技术中,通常由客服人员对问题信息进行分类,但在效率和准确度等方面都存在一定问题。
本实施例中,采用大模型确定问题信息的目标类型,相对于人工方式,可以提高效率和准确度。
大模型,也可以称为大型语言模型(Large Language Model,LLM)。LLM是近年来人工智能领域的热点问题,LLM是一种预训练语言模型,通过在海量文本数据上进行预训练,学习到了丰富的语言知识和世界知识,从而能够在各种自然语言处理(Natural LanguageProcessing,NLP)、图像生成等任务上取得惊人的效果。文心一言、ChatGPT等都是基于LLM开发的应用,它们可以生成流畅、有逻辑、有创意的文本内容,甚至可以与人类进行自然对话。具体地,大模型可以是基于Transformer的通用预训练(Generative Pre-trainedTransformer,GPT)模型,基于知识集成实现增强型表示(Enhanced Representationthrough Knowledge Integration,ERNIE)模型等。
在使用大模型时,可以向大模型输入提示语句(prompt),大模型根据该提示语句获得输出。具体到本实施例中,大模型的输出是问题信息的目标类型。
具体地,可以预先配置该***与大模型的接口,通过该接口调用大模型,以通过大模型获得目标类型。
目标任务,是指用于处理问题信息的任务,具体可以是目标工单。
创建目标任务后,可以将目标任务分配至对应的问题处理对象进行处理。不同目标类型对应不同问题处理对象。
以游戏场景为例,可以预先配置多种类型的问题处理对象,每种类型的问题处理对象分别用于处理一种类型的问题信息。例如,多种类型的问题处理对象分别称为活动工单模块、支付工单模块、商城工单模块,假设目标类型是活动类型,则将目标工单分配至活动工单模块进行处理。
多种类型的问题处理对象,可以是由信息处理***提供的;或者,也可以是信息处理***之外的***提供的,此时可以通过预配置的接口调用目标类型的问题处理对象进行问题处理。这样通过独立开发,充分利用不同***的优势,提高问题处理效果。
问题处理对象获得问题处理结果,信息处理***将该问题处理结果反馈给用户,如发送反馈邮件给用户。
本实施例中,采用大模型确定问题信息的目标类型,以及基于问题信息和目标类型创建目标任务,并将目标任务分配至问题处理对象进行处理,可以自动确定目标类型,以及自动生成和分发目标任务,相对于人工处理,可以提高信息处理效率和准确度。
为了更好地理解本公开实施例,对本公开实施例可以适用的应用场景进行说明。
图2是用来实现本公开实施例提供的应用场景的示意图。该场景下包括:用户终端201和服务器202,用户终端201可以包括:个人电脑(Personal Computer,PC)、移动设备(如手机)、平板电脑、笔记本电脑、智能穿戴设备等。服务器202可以是云端服务器或者本地服务器,用户终端201与服务器202可以采用通信网络进行通信,通信网络例如包括有线网络和/或无线网络。
服务器202上可以部署信息处理***,本实施例中,以交互形式是邮件为例,信息处理***可以称为邮件客服***。如图2所示,邮件客服***可以对外提供统一的邮件入口,如某一预设的电子邮箱。不同用户均可以向该统一邮箱发送邮件,以反馈问题。邮件客服***接收到用户发送邮件后,采用内部邮件处理***处理邮件,以解决用户反馈的问题,并在获得问题处理结果后,通过该统一的邮件入口将问题处理结果采用邮件反馈给用户。
图3是根据本公开实施例提供的不同视角的结构组成示意图。如图3所示,从用户视角,是邮件客服***对外提供统一入口,即统一的对外门户邮箱。从内部***视角,内部邮件处理***可以具体包括:邮件业务模块、模型推理模块、工单模块和问题处理模块。邮件业务模块主要用于从门户邮件获取问题邮件,基于问题邮件创建提示语句,以及,在获取问题处理结果后,将问题处理结果通过反馈邮件发送给用户。模型推理模块主要用于根据提示语句调用大模型,利用大模型获得问题邮件的目标类型。工单模块主要用于根据问题邮件和目标类型创建目标工单。问题处理模块主要用于根据目标工单处理问题,得到问题问题处理结果。
进一步地,参见图4,图4是根据本公开实施例提供的用户视角的执行流程示意图。如图4所示,用户发送问题反馈邮件,具体地,用户向统一的对外门户邮箱发送邮件,该邮件中包含用户反馈的问题;之后,用户等待回复;在接收到该门户邮箱的反馈邮件后,结束本次反馈。用户可以实际需要,重复多次执行上述的发送邮件-等待反馈-收到反馈邮件的过程。
参见图5,图5是根据本公开实施例提供的内部***视角的执行流程示意图。如图5所示,统一邮件入口(如门户邮箱)收到新邮件后,邮件业务模块可以将该新邮件存储到数据库中,数据库例如为MySQL数据库。MySQL是一种关系型数据库。存储时,可以以表格形式存储邮件内容,该表格可以称为邮件表,邮件表具体可以包括如下字段:发件人、发件时间、邮件主题、邮件内容、邮件处理状态、邮件处理时间等。
邮件业务模块还可以设置定时任务,基于该定时任务轮询每个邮件的邮件内容,获取邮件处理状态,其中该邮件处理状态初始时设置为未处理,如用1表示未处理。针对未处理邮件,即状态=1时,基于定时任务定时处理该新邮件。其中,处理过程可以包括:将邮件主题和邮件内容拼接为提示语句(prompt),并发送至模型推理模块。
模型推理模块接收到提示语句后,调用大模型进行问题类型推断,即,利用大模型基于提示语句确定邮件的目标类型。模型推理模块获得大模型输出的目标类型后,将目标类型发送至工单模块。
工单模块根据目标类型和问题信息创建工单任务。工单任务可以以任务表形式进行存储,具体字段可以包括:邮件主题、邮件内容、提示语句、工单类型(目标类型)、处理进度状态、处理结果。其中,邮件主题、邮件内容可以从邮件内容中获取,提示语句可以从邮件业务模块中获取,工单类型是目标类型,可以从模型推理模块中获取。处理进度状态的初始值和处理结果的初始值是设置的,例如两者均设置初始值为空。
工单模块创建工单任务后,可以将工单任务发送至对应类型的问题处理模块,例如,若目标类型是活动类型,则发送至活动工单模块;或者,若目标类型是支付类型,则发送至支付工单模块;或者,若目标类型是商城类型,则发送至商城工单模块。
问题处理模块,接收到工单任务后,对其进行处理,得到处理结果,并反馈给工单模块。
工单模块在任务表中更新处理进度状态和处理结果;以及,工单模块触发邮件业务模块更新邮件表,记录处理邮件处理状态、邮件处理时间等。
邮件业务模块获得处理结果后,将发送反馈邮件至用户,反馈邮件中包含问题处理结果。
结合上述应用场景,本公开还提供了如下实施例。
图6是根据本公开第二实施例的示意图,本实施例提供了一种基于大模型的信息处理方法,该方法包括:
601、通过统一邮箱入口,接收用户发送的问题邮件,所述问题邮件中包含问题信息。
本实施例中,用户采用邮件形式与***进行交互,可以解决语音交互存在的语音识别困难等问题,另外,相比于其他文本形式,邮件形式更便于用户使用,从而便于用户反映问题。
602、基于所述问题信息生成大模型的提示语句。
例如,问题信息包括:邮件主题和邮件内容,将邮件主题和邮件内容拼接为提示语句。
本实施例中,将邮件主题和邮件内容拼接为提示语句,可以简便高效的生成提示语句。
603、采用本地预置的当前领域的嵌入语料库,将所述提示语句转换为提示向量;其中,不同领域的嵌入语料库是不同的。
其中,嵌入(embedding)语料库中可以记录词语与向量之间的对应关系,获得提示语句后,可以对提示语句进行分词处理,得到分词后的词语,再在嵌入语料库中查询与该词语对应的向量,作为提示向量。
嵌入语料库是当前领域的专用语料库,例如,当前领域是游戏领域,则采用游戏领域的嵌入语料库,或者,若当前领域是政务领域,则采用政务领域的嵌入语料库。
不同领域的嵌入语料库是不同的,具体可以预先创建各个领域的嵌入语料库,在根据当前场景的不同,在本地配置当前领域的嵌入语料库。
本实施例中,通过使用本地预置的当前领域的嵌入语料库,相对于通用语料库,可以使用更为精准的嵌入语料库,从而获得更为精准的提示向量,提高处理效率和准确度。
604、将所述提示向量输入到大模型中,以获得所述大模型输出的所述问题信息的目标类型。
例如,通过预设接口,将提示向量输入到大模型中,大模型对输入的提示向量进行处理后,输出问题信息的目标类型。
605、基于所述问题信息和所述目标类型,创建目标任务。
606、采用所述目标类型对应的问题处理对象,基于所述目标任务进行问题处理,以获得问题处理结果;其中,不同的目标类型对应不同的问题处理对象。
607、将所述问题处理结果反馈给所述用户。
其中,从大模型获取目标类型后,可以根据问题信息和目标类型自动创建目标任务。
一些实施例中,可以获取所述目标类型对应的任务模板;其中,不同目标类型对应的任务模板是不同的;基于所述问题信息和所述任务模板,创建所述目标任务。
其中,任务模板是预先配置的,针对不同类型可以配置不同的任务模板。任务模板中可以记录任务所对应的字段,如主题、内容等字段,之后,可以将问题信息填充到对应字段中,如将邮件主题的具体内容填充到主题字段,将具体的邮件内容填充到内容字段等。
本实施例中,通过不同目标类型对应不同的任务模板,可以生成形式更灵活的目标任务,更好满足用户需求,提升用户体验。
一些实施例中,可以获取所述目标类型对应的反馈模板;其中,不同目标类型对应的反馈模板是不同的;基于所述问题处理结果和所述反馈模板,创建反馈信息;将所述反馈信息发送给所述用户。
其中,反馈信息也可以基于反馈模板生成,这样不同类型的目标任务可以对应不同形式的反馈信息,进一步提升用户体验。
图7是根据本公开第三实施例的示意图,本实施例提供了一种基于大模型的信息处理方法,该方法包括:
701、通过统一入口,接收用户发送的问题信息。
702、存储所述问题信息,并设置所述问题信息的处理状态是未处理。
703、基于定时任务轮询所述问题信息,响应于轮询到所述问题信息,且确定所述处理状态是未处理,基于所述问题信息生成提示语句。
以邮件为例,例如,接收到邮件后,将邮件存储到数据库中,并设置初始状态是未处理,***还启动定时任务,定时任务用于基于设定周期定时轮询数据库中的每个邮件,获取每个邮件的处理状态,针对某个邮件,若其处理状态是未处理,则基于该问题信息生成提示语句,以便基于提示语句进行后续处理。
704、基于所述提示语句调用大模型,以获得所述大模型输出的所述问题信息的目标类型。
705、基于所述问题信息和所述目标类型,创建目标任务。
706、采用所述目标类型对应的问题处理对象,基于所述目标任务进行问题处理,以获得问题处理结果;其中,不同目标类型对应不同问题处理对象。
707、将所述问题处理结果反馈给所述用户。
本实施例中,基于定时任务轮询问题信息,可以及时处理问题信息。
一些实施例中,定时任务轮询到未处理的问题信息后,还可以执行:
响应于轮询到所述问题信息,且确定所述处理状态是未处理,将所述问题信息存储至消息队列;
若所述问题信息是多条,采用多个执行器,并行从所述消息队列中获取所述不同的问题信息,以及,并行基于所述不同的问题信息生成所述提示语句。
其中,执行器是用于处理问题信息的主体,例如可以是进程、线程,或者,协程等。
执行器的数量可以根据问题信息的数量动态调整,例如,初始时,启动一个执行器,在消息队列中存储的问题信息的数量达到第一阈值时,启动两个执行器,类似的,在消息队列中存储的问题信息的数量更多时,可以启动更多的执行器。
假设消息队列中的问题信息的数量是M个,执行器的数量是N个,M和N均为正整数,且一般N小于等于M,则N个执行器可以在M个问题信息中并行获取不同的问题信息。假设两个执行器对两个问题信息进行处理,则第一个执行器可以获取第一个问题信息,基于第一个问题信息生成提示语句,并调用大模型获取目标类型,以及基于目标类型调用对应的问题处理对象进行问题处理;第二个执行器可以获取第二个问题信息,基于第二个问题信息生成提示语句,并调用大模型获取目标类型,以及基于目标类型调用对应的问题处理对象进行问题处理。上述的两个执行器可以并行获取问题信息,以及并行进行后续处理。
另外,每个执行器内部还可以进一步分为多个子执行器,这些子执行器也可以并行处理不同步骤。例如,执行器是线程,子执行器是协程,则针对某个线程,可以采用该线程对应的第一协程从消息队列中获取第一问题信息,采用该线程对应的第二协程基于已经获取的第二问题信息生成提示语句,采用该线程对应的第三协程对已经生成的第三问题信息对应的提示语句进行嵌入处理,得到嵌入向量,上述的第一协程、第二协程、第三协程是并行处理的。
另外,针对某个问题信息,如果该问题信息未被某个执行器成功处理,具体的该问题信息的处理状态在预设时长内未更新为已处理,则可以认为该问题信息未被成功处理,则该执行器还可以将该问题信息重新存储至消息队列,之后,这个问题信息可以被该执行器或者其他执行器重新读取和处理,从而提高处理成功率。以及,若针对某个问题信息,其未被成功处理的次数达到预设数量,如问题信息的未被成功处理的次数的初始值设置为0,其被重新存储至消息队列后,其未被成功处理的次数增加1,在更新后的未被成功处理的次数达到预设次数后,可以丢弃该问题信息不再处理,如在消息队列中删除该问题信息,这样可以避免浪费资源。
本实施例中,采用多个执行器,并行从所述消息队列中获取所述不同的问题信息,以及,并行基于所述不同的问题信息生成所述提示语句,通过并行执行的方式,可以提高处理效率。
图8是根据本公开第四实施例的示意图。本实施例提供一种基于大模型的信息处理装置,如图8所示,该装置800包括:接收模块801、生成模块802、调用模块803、创建模块804、处理模块805和发送模块806。
接收模块801用于通过统一入口,接收用户发送的问题信息;生成模块802用于基于所述问题信息生成提示语句;调用模块803用于基于所述提示语句调用大模型,以获得所述大模型输出的所述问题信息的目标类型;创建模块804用于基于所述问题信息和所述目标类型,创建目标任务;处理模块805用于采用所述目标类型对应的问题处理对象,基于所述目标任务进行问题处理,以获得问题处理结果;其中,不同目标类型对应不同问题处理对象;发送模块806用于将所述问题处理结果反馈给所述用户。
本实施例中,采用大模型确定问题信息的目标类型,以及基于问题信息和目标类型创建目标任务,并将目标任务分配至问题处理对象进行处理,可以自动确定目标类型,以及自动生成和分发目标任务,相对于人工处理,可以提高信息处理效率和准确度。
一些实施例中,所述接收模块801进一步用于:
通过统一邮箱入口,接收用户发送的问题邮件,所述问题邮件中包含问题信息。
本实施例中,用户采用邮件形式与***进行交互,可以解决语音交互存在的语音识别困难等问题,另外,相比于其他文本形式,邮件形式更便于用户使用,从而便于用户反映问题。
一些实施例中,所述问题信息包括:邮件主题和邮件内容;
所述生成模块802进一步用于:
将所述邮件主题和所述邮件内容拼接为提示语句。
本实施例中,将邮件主题和邮件内容拼接为提示语句,可以简便高效的生成提示语句。
一些实施例中,该装置还包括:
存储模块,用于存储所述问题信息,并设置所述问题信息的处理状态是未处理;
所述生成模块802进一步用于:
基于定时任务轮询所述问题信息;
响应于轮询到所述问题信息,且确定所述处理状态是未处理,基于所述问题信息生成提示语句。
本实施例中,基于定时任务轮询问题信息,可以及时处理问题信息。
一些实施例中,所述生成模块802进一步用于:
响应于轮询到所述问题信息,且确定所述处理状态是未处理,将所述问题信息存储至消息队列;
若所述问题信息是多条,采用多个执行器,并行从所述消息队列中获取所述不同的问题信息,以及,并行基于所述不同的问题信息生成所述提示语句。
本实施例中,采用多个执行器,并行从所述消息队列中获取所述不同的问题信息,以及,并行基于所述不同的问题信息生成所述提示语句,通过并行执行的方式,可以提高处理效率。
一些实施例中,所述调用模块803进一步用于:
采用本地预置的当前领域的嵌入语料库,将所述提示语句转换为提示向量;其中,不同领域的嵌入语料库是不同的;
将所述提示向量输入到大模型中,以获得所述大模型输出的所述问题信息的目标类型。
本实施例中,通过使用本地预置的当前领域的嵌入语料库,相对于通用语料库,可以使用更为精准的嵌入语料库,从而获得更为精准的提示向量,提高处理效率和准确度。
一些实施例中,所述创建模块804进一步用于:
获取所述目标类型对应的任务模板;其中,不同目标类型对应的任务模板是不同的;
基于所述问题信息和所述任务模板,创建所述目标任务。
本实施例中,通过不同目标类型对应不同的任务模板,可以生成形式更灵活的目标任务,更好满足用户需求,提升用户体验。
一些实施例中,所述发送模块806进一步用于:
获取所述目标类型对应的反馈模板;其中,不同目标类型对应的反馈模板是不同的;
基于所述问题处理结果和所述反馈模板,创建反馈信息;
将所述反馈信息发送给所述用户。
其中,反馈信息也可以基于反馈模板生成,这样不同类型的目标任务可以对应不同形式的反馈信息,进一步提升用户体验。
可以理解的是,本公开实施例中,不同实施例中的相同或相似内容可以相互参考。
可以理解的是,本公开实施例中的“第一”、“第二”等只是用于区分,不表示重要程度高低、时序先后等。
可以理解的是,流程中涉及步骤的先后顺序如无特殊说明,则表明这些步骤之间的时序关系不限定。
本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图9示出了可以用来实施本公开的实施例的示例电子设备900的示意性框图。电子设备900旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图9所示,电子设备900包括计算单元901,其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序,来执行各种适当的动作和处理。在RAM 903中,还可存储电子设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
电子设备900中的多个部件连接至I/O接口905,包括:输入单元906,例如键盘、鼠标等;输出单元907,例如各种类型的显示器、扬声器等;存储单元908,例如磁盘、光盘等;以及通信单元909,例如网卡、调制解调器、无线通信收发机等。通信单元909允许电子设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理,例如基于大模型的信息处理方法。例如,在一些实施例中,基于大模型的信息处理方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元908。在一些实施例中,计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到电子设备900上。当计算机程序加载到RAM 903并由计算单元901执行时,可以执行上文描述的基于大模型的信息处理方法的一个或多个步骤。备选地,在其他实施例中,计算单元901可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行基于大模型的信息处理方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式***的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (19)
1.一种基于大模型的信息处理方法,包括:
通过统一入口,接收用户发送的问题信息;
基于所述问题信息生成提示语句;
基于所述提示语句调用大模型,以获得所述大模型输出的所述问题信息的目标类型;
基于所述问题信息和所述目标类型,创建目标任务;
采用所述目标类型对应的问题处理对象,基于所述目标任务进行问题处理,以获得问题处理结果;其中,不同目标类型对应不同问题处理对象;
将所述问题处理结果反馈给所述用户。
2.根据权利要求1所述的方法,其中,所述通过统一入口,接收用户发送的问题信息,包括:
通过统一邮箱入口,接收用户发送的问题邮件,所述问题邮件中包含问题信息。
3.根据权利要求2所述的方法,其中,
所述问题信息包括:邮件主题和邮件内容;
所述基于所述问题信息生成提示语句,包括:
将所述邮件主题和所述邮件内容拼接为提示语句。
4.根据权利要求1所述的方法,所述通过统一入口,接收用户发送的问题信息之后,所述方法还包括:
存储所述问题信息,并设置所述问题信息的处理状态是未处理;
所述基于所述问题信息生成提示语句,包括:
基于定时任务轮询所述问题信息;
响应于轮询到所述问题信息,且确定所述处理状态是未处理,基于所述问题信息生成提示语句。
5.根据权利要求4所述的方法,其中,所述响应于轮询到所述问题信息,且确定所述处理状态是未处理,基于所述问题信息生成提示语句,包括:
响应于轮询到所述问题信息,且确定所述处理状态是未处理,将所述问题信息存储至消息队列;
若所述问题信息是多条,采用多个执行器,并行从所述消息队列中获取所述不同的问题信息,以及,并行基于所述不同的问题信息生成所述提示语句。
6.根据权利要求1所述的方法,其中,所述基于所述提示语句调用大模型,以获得所述大模型输出的所述问题信息的目标类型,包括:
采用本地预置的当前领域的嵌入语料库,将所述提示语句转换为提示向量;其中,不同领域的嵌入语料库是不同的;
将所述提示向量输入到大模型中,以获得所述大模型输出的所述问题信息的目标类型。
7.根据权利要求1所述的方法,其中,所述基于所述问题信息和所述目标类型,创建目标任务,包括:
获取所述目标类型对应的任务模板;其中,不同目标类型对应的任务模板是不同的;
基于所述问题信息和所述任务模板,创建所述目标任务。
8.根据权利要求1所述的方法,其中,所述将所述问题处理结果反馈给所述用户,包括:
获取所述目标类型对应的反馈模板;其中,不同目标类型对应的反馈模板是不同的;
基于所述问题处理结果和所述反馈模板,创建反馈信息;
将所述反馈信息发送给所述用户。
9.一种基于大模型的信息处理装置,包括:
接收模块,用于通过统一入口,接收用户发送的问题信息;
生成模块,用于基于所述问题信息生成提示语句;
调用模块,用于基于所述提示语句调用大模型,以获得所述大模型输出的所述问题信息的目标类型;
创建模块,用于基于所述问题信息和所述目标类型,创建目标任务;
处理模块,用于采用所述目标类型对应的问题处理对象,基于所述目标任务进行问题处理,以获得问题处理结果;其中,不同目标类型对应不同问题处理对象;
发送模块,用于将所述问题处理结果反馈给所述用户。
10.根据权利要求9所述的装置,其中,所述接收模块进一步用于:
通过统一邮箱入口,接收用户发送的问题邮件,所述问题邮件中包含问题信息。
11.根据权利要求10所述的装置,其中,
所述问题信息包括:邮件主题和邮件内容;
所述生成模块进一步用于:
将所述邮件主题和所述邮件内容拼接为提示语句。
12.根据权利要求9所述的装置,还包括:
存储模块,用于存储所述问题信息,并设置所述问题信息的处理状态是未处理;
所述生成模块进一步用于:
基于定时任务轮询所述问题信息;
响应于轮询到所述问题信息,且确定所述处理状态是未处理,基于所述问题信息生成提示语句。
13.根据权利要求12所述的装置,其中,所述生成模块进一步用于:
响应于轮询到所述问题信息,且确定所述处理状态是未处理,将所述问题信息存储至消息队列;
若所述问题信息是多条,采用多个执行器,并行从所述消息队列中获取所述不同的问题信息,以及,并行基于所述不同的问题信息生成所述提示语句。
14.根据权利要求9所述的装置,其中,所述调用模块进一步用于:
采用本地预置的当前领域的嵌入语料库,将所述提示语句转换为提示向量;其中,不同领域的嵌入语料库是不同的;
将所述提示向量输入到大模型中,以获得所述大模型输出的所述问题信息的目标类型。
15.根据权利要求9所述的装置,其中,所述创建模块进一步用于:
获取所述目标类型对应的任务模板;其中,不同目标类型对应的任务模板是不同的;
基于所述问题信息和所述任务模板,创建所述目标任务。
16.根据权利要求9所述的装置,其中,所述发送模块进一步用于:
获取所述目标类型对应的反馈模板;其中,不同目标类型对应的反馈模板是不同的;
基于所述问题处理结果和所述反馈模板,创建反馈信息;
将所述反馈信息发送给所述用户。
17.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-8中任一项所述的方法。
19.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-8中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410346356.4A CN118278943A (zh) | 2024-03-25 | 2024-03-25 | 基于大模型的信息处理方法、装置、设备、介质和产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410346356.4A CN118278943A (zh) | 2024-03-25 | 2024-03-25 | 基于大模型的信息处理方法、装置、设备、介质和产品 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN118278943A true CN118278943A (zh) | 2024-07-02 |
Family
ID=91644639
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410346356.4A Pending CN118278943A (zh) | 2024-03-25 | 2024-03-25 | 基于大模型的信息处理方法、装置、设备、介质和产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN118278943A (zh) |
-
2024
- 2024-03-25 CN CN202410346356.4A patent/CN118278943A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112597754B (zh) | 文本纠错方法、装置、电子设备和可读存储介质 | |
EP4113299A2 (en) | Task processing method and device, and electronic device | |
EP3933719A2 (en) | Method, apparatus, device, storage medium and computer program product for labeling data | |
WO2023206889A1 (zh) | 模型推理方法、装置、设备及存储介质 | |
CN114186681A (zh) | 用于生成模型簇的方法、装置及计算机程序产品 | |
CN113365146A (zh) | 用于处理视频的方法、装置、设备、介质和产品 | |
CN114494747A (zh) | 模型的训练方法、图像处理方法、装置、电子设备及介质 | |
CN112948584B (zh) | 短文本分类方法、装置、设备以及存储介质 | |
CN116992000A (zh) | 交互信息处理方法、装置、电子设备、计算机可读介质 | |
CN114118937A (zh) | 基于任务的信息推荐方法、装置、电子设备及存储介质 | |
CN118278943A (zh) | 基于大模型的信息处理方法、装置、设备、介质和产品 | |
CN112559727B (zh) | 用于输出信息的方法、装置、设备、存储介质和程序 | |
CN114997329A (zh) | 用于生成模型的方法、装置、设备、介质和产品 | |
CN113554062A (zh) | 多分类模型的训练方法、设备和存储介质 | |
CN113360672A (zh) | 用于生成知识图谱的方法、装置、设备、介质和产品 | |
CN113239054A (zh) | 信息生成方法、相关装置及计算机程序产品 | |
CN114281981B (zh) | 新闻简报的生成方法、装置和电子设备 | |
CN113344405B (zh) | 基于知识图谱生成信息的方法、装置、设备、介质和产品 | |
CN115002053B (zh) | 互动方法、装置和电子设备 | |
CN116723164A (zh) | Ai创作交互方法、装置及电子设备 | |
CN117785494A (zh) | 异步进程的处理方法、装置、***、电子设备和存储介质 | |
CN113722449A (zh) | 信息处理方法、装置、电子设备和计算机可读介质 | |
CN114582339A (zh) | 语音交互方法、装置、电子设备和介质 | |
CN117806622A (zh) | 应用程序的生成方法、装置、电子设备和存储介质 | |
CN115630630A (zh) | 语言模型处理方法、业务处理方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination |