CN116414567A - 智能汽车操作***的资源调度方法、装置及设备 - Google Patents
智能汽车操作***的资源调度方法、装置及设备 Download PDFInfo
- Publication number
- CN116414567A CN116414567A CN202310542184.3A CN202310542184A CN116414567A CN 116414567 A CN116414567 A CN 116414567A CN 202310542184 A CN202310542184 A CN 202310542184A CN 116414567 A CN116414567 A CN 116414567A
- Authority
- CN
- China
- Prior art keywords
- static
- index
- model
- performance
- artificial intelligent
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 49
- 230000003068 static effect Effects 0.000 claims abstract description 232
- 238000011056 performance test Methods 0.000 claims abstract description 30
- 238000012544 monitoring process Methods 0.000 claims abstract description 10
- 230000002159 abnormal effect Effects 0.000 claims description 71
- 238000012360 testing method Methods 0.000 claims description 63
- 238000013473 artificial intelligence Methods 0.000 claims description 51
- 238000000638 solvent extraction Methods 0.000 claims description 26
- 238000013468 resource allocation Methods 0.000 claims description 16
- 238000004364 calculation method Methods 0.000 claims description 7
- 238000012163 sequencing technique Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 description 7
- 238000012545 processing Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000004590 computer program Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000001174 ascending effect Effects 0.000 description 2
- 238000012512 characterization method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- HPTJABJPZMULFH-UHFFFAOYSA-N 12-[(Cyclohexylcarbamoyl)amino]dodecanoic acid Chemical group OC(=O)CCCCCCCCCCCNC(=O)NC1CCCCC1 HPTJABJPZMULFH-UHFFFAOYSA-N 0.000 description 1
- 102100034112 Alkyldihydroxyacetonephosphate synthase, peroxisomal Human genes 0.000 description 1
- 101000799143 Homo sapiens Alkyldihydroxyacetonephosphate synthase, peroxisomal Proteins 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 238000000848 angular dependent Auger electron spectroscopy Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 239000000969 carrier Substances 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3409—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Quality & Reliability (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请提供一种智能汽车操作***的资源调度方法、装置及设备，包括：对智能汽车操作***中的人工智能模型进行至少一次性能测试，得到至少一个静态性能指标，识别至少一个静态性能指标中的优先静态指标，将优先静态指标对应的静态策略设为静态分配策略；根据所述静态分配策略，为所述智能汽车操作***中的每一人工智能模型分配图形处理器资源；运行智能汽车操作***中的至少一个人工智能模型，并监控运行的人工智能模型的动态性能指标；根据动态性能指标生成动态分配策略，根据动态分配策略调整每一人工智能模型分配到的图形处理器资源。本申请避免了多个请求同时争抢图形处理器中工作线程的情况，确保了图形处理器资源调用的稳定。
Description
技术领域
本申请涉及智能汽车技术领域，尤其涉及一种智能汽车操作***的资源调度方法、装置及设备。
背景技术
随着智能驾驶技术的发展，智能汽车的自动驾驶场景也应运而生，自动驾驶场景是基于图形处理器通过多个人工智能模型生成的推理结论所构建的；其中，人工智能模型是用于解决问题或分析一组数据的一系列计算和规则,它就像一个流程图，其中包含提出问题的分步说明，只不过是以数学和编程代码形式进行编写，因此，人工智能模型通常用于实现雷达感知、视觉感知、路径规划等指定任务；推理结论是基于多个人工智能模型向图形处理器发送推理请求，使图形处理器调用人工智能模型并根据载入人工智能模型中的采集数据所生成的推理结果。
然而，发明人发现，当前的自动驾驶场景中的多个人工智能模型向图形处理器发送推理请求时，很容易出现多个请求同时争抢图形处理器中工作线程的情况，导致图形处理器因工作线程频繁被出现冲突的推理请求调用，造成图形处理器资源调用的不稳定的情况发生。
发明内容
本申请提供一种智能汽车操作***的资源调度方法、装置及设备，用以解决当前的自动驾驶场景中的多个人工智能模型向图形处理器发送推理请求时，很容易出现多个请求同时争抢图形处理器中工作线程的情况，导致图形处理器因工作线程频繁被出现冲突的推理请求调用，造成图形处理器资源调用的不稳定的的问题。
第一方面，本申请提供一种智能汽车操作***的图形处理器的资源调度方法，包括：
对智能汽车操作***中的人工智能模型进行至少一次性能测试，得到至少一个静态性能指标；并识别所述至少一个静态性能指标中的优先静态指标，将所述优先静态指标对应的静态策略设为静态分配策略，其中，智能汽车操作***中具有至少一个人工智能模型，所述人工智能模型用于实现指定任务，所述指定任务用于实现汽车的自动驾驶，所述静态性能指标反映了人工智能模型在性能测试中的性能表现，所述优先静态指标为满足预置的优先规则的静态性能指标，所述静态策略是用于对人工智能模型进行分组，及对分组后的人工智能模型分配工作线程的计算机策略，所述工作线程是用于调度所述图形处理器中的流处理器和/或计算单元的序列图形处理器；
根据所述静态分配策略，为所述智能汽车操作***中的每一人工智能模型分配图形处理器资源；
运行所述智能汽车操作***中的至少一个人工智能模型，并监控运行的人工智能模型的动态性能指标，其中，所述动态性能指标反映了人工智能模型在调用分配到的图形处理器资源进行运算时的性能表现；
根据所述动态性能指标生成动态分配策略，根据所述动态分配策略调整每一人工智能模型分配到的图形处理器资源，其中，所述动态分配策略用于根据所述人工智能模型在运行时的性能表现，对运行的人工智能模型分配图形处理器资源。
上述方案中，智能汽车操作***中的人工智能模型进行至少一次性能测试，得到至少一个静态性能指标，包括：
获取至少一个静态策略，根据每一所述静态策略，分别对所述智能汽车操作***中的人工智能模型进行分组并向每组人工智能模型分配工作线程，得到至少一个静态样本，其中，所述静态策略是用于对人工智能模型进行分组，及对分组后的人工智能模型分配工作线程的计算机策略；
将预置的测试实例录入每一所述静态样本中的人工智能模型中，并通过每一所述静态样本中的人工智能模型分配到的工作线程，运行所述人工智能模型中的测试实例，以对每一所述静态样本进行性能测试，并得到分别与至少一个所述静态策略对应的至少一个静态性能指标，其中，所述测试实例是用于对人工智能模型进行性能测试的测试用例。
上述方案中，根据每一所述静态策略，分别对所述智能汽车操作***中的人工智能模型进行分组并向每组人工智能模型分配工作线程，得到至少一个静态样本，包括：
根据所述静态策略中的划分规则对智能汽车操作***中每一人工智能模型进行分组，得到至少一个测试组，其中，所述测试组中至少具有一个人工智能模型；
获取所述图形处理器中的至少一个工作线程，根据所述静态策略中的资源分配规则向每一所述测试组分配一个工作线程；
汇总至少一个所述测试组及与每一所述测试组对应的工作线程，形成与所述静态策略对应的静态样本。
上述方案中，根据所述静态策略中的划分规则对智能汽车操作***中每一人工智能模型进行分组，得到至少一个测试组，包括：
若确定所述智能汽车操作***中具有至少一个有向无环图，则将属于同一有向无环图中的人工智能模型划分为一个测试组，其中，所述有向无环图反映了智能汽车操作***中的两个或两个以上的人工智能模型之间的逻辑关系；
若确定所述智能汽车操作***中具有不属于所述有向无环图的其他人工智能模型，则根据每一所述其他人工智能模型的模型属性数据对所述其他人工智能模型进行分组，得到至少一个测试组，其中，所述模型属性数据描述了人工智能模型为实现指定任务所消耗的算力；
若确定所述智能汽车操作***中不具有有向无环图，则根据每一人工智能模型的模型属性数据对所述智能汽车操作***中的人工智能模型进行分组，得到至少一个测试组。
上述方案中，识别所述至少一个静态性能指标中的优先静态指标，包括：
提取每一静态性能指标中的第一指标元素，对所述第一指标元素进行排序得到目标序列，其中，所述静态性能指标中具有至少一个静态指标元素，所述静态指标元素反映了人工智能模型在性能测试中的一个性能维度上的性能表现，所述第一指标元素是所述静态性能指标中的一个静态指标元素；
根据每一第一指标元素在所述目标序列中的位次，确定每一第一指标元素的性能值，其中，所述性能值反映了所述第一指标元素的性能优劣程度；
根据每一静态性能指标中各静态指标元素的性能值，得到每一所述静态性能指标的综合性能值；
将综合性能值最高的静态性能指标设为优先静态指标。
上述方案中，根据所述静态分配策略，为所述智能汽车操作***中的每一人工智能模型分配图形处理器资源，包括：
根据所述静态分配策略中的划分规则，对所述智能汽车操作***中的人工智能模型进行分组，得到至少一个运行组；
获取所述图形处理器中的至少一个工作线程，根据所述静态分配策略中的资源分配规则向每一运行组分配分配一个工作线程，以向每一运行组中的每一人工智能模型资源分配图形处理器资源。
上述方案中，根据所述动态性能指标生成动态分配策略，包括：
提取所述动态性能指标中的第二指标元素，并获取与所述第二指标元素对应的指标规则，其中，所述动态性能指标中具有至少一个指标元素，所述第二指标元素是所述动态性能指标中的一个指标元素，所述指标规则是用于定义指标元素正常和异常的计算机规则；
若确定所述第二指标元素符合所述指标规则，则将所述第二指标元素设为正常指标元素；
若确定所述第二指标元素不符合所述指标规则，则将所述第二指标元素设为异常指标元素；
若确定所述动态性能指标中的正常指标元素的数量未达到预置的正常阈值，或异常指标元素的数量达到预置的异常阈值，则确定所述动态性能指标为异常性能指标；
若确定所述动态性能指标中的正常指标元素的数量达到预置的正常阈值，或异常指标元素的数量未达到预置的异常阈值，则确定所述动态性能指标为正常性能指标；
根据所述正常性能指标和所述异常性能指标生成动态分配策略。
上述方案中，根据所述正常性能指标和所述异常性能指标生成动态分配策略，包括：
将所述正常性能指标对应的人工智能模型设为正常模型，将所述异常性能指标对应的人工智能模型设为异常模型，将所述正常模型所在的运行组和所述智能汽车操作***中未运行的人工智能模型所在的运行组设为正常组，将所述异常模型所在的运行组为异常组；
若确定所述异常模型与所述异常组中其他的人工智能模型之间具有逻辑关系；则调整所述静态分配策略或所述动态分配策略中的划分规则，使调整后的划分规则用于将所述异常组中的独立模型调整到一个正常组；和/或调整所述静态分配策略或所述动态分配策略中的资源分配规则，使调整后的资源分配规则用于将所述异常组对应的工作线程，调整为一个正常组对应的工作线程；其中，所述独立模型是异常组中与其他的人工智能模型之间不具有逻辑关系的人工智能模型；
若确定所述异常模型与所述异常组中其他的人工智能模型之间不具有逻辑关系；则调整所述静态分配策略或所述动态分配策略中的划分规则，使调整后的划分规则用于将所述异常模型调整到一个正常组；和/或调整所述静态分配策略或所述动态分配策略中的资源分配规则，使调整后的资源分配规则用于将所述异常组对应的工作线程，调整为一个正常组对应的工作线程；
根据调整后的划分规则和/或调整后的资源分配规则，生成动态分配策略。
第二方面，本申请提供一种智能汽车操作***的图形处理器的资源调度装置，包括：
静态测试模块，用于对智能汽车操作***中的人工智能模型进行至少一次性能测试，得到至少一个静态性能指标；并识别所述至少一个静态性能指标中的优先静态指标，将所述优先静态指标对应的静态策略设为静态分配策略，其中，智能汽车操作***中具有至少一个人工智能模型，所述人工智能模型用于实现指定任务，所述指定任务用于实现汽车的自动驾驶，所述静态性能指标反映了人工智能模型在性能测试中的性能表现，所述优先静态指标为满足预置的优先规则的静态性能指标，所述静态策略是用于对人工智能模型进行分组，及对分组后的人工智能模型分配工作线程的计算机策略，所述工作线程是用于调度所述图形处理器中的流处理器和/或计算单元的序列图形处理器；
静态分配模块，用于根据所述静态分配策略，为所述智能汽车操作***中的每一人工智能模型分配图形处理器资源；
动态监测模块，用于运行所述智能汽车操作***中的至少一个人工智能模型，并监控运行的人工智能模型的动态性能指标，其中，所述动态性能指标反映了人工智能模型在调用分配到的图形处理器资源进行运算时的性能表现；
动态分配模块，用于根据所述动态性能指标生成动态分配策略，根据所述动态分配策略调整每一人工智能模型分配到的图形处理器资源，其中，所述动态分配策略用于根据所述人工智能模型在运行时的性能表现，对运行的人工智能模型分配图形处理器资源。
第三方面，本申请提供一种计算机设备，包括：处理器以及与所述处理器通信连接的存储器；
所述存储器存储计算机执行指令；
所述处理器执行所述存储器存储的计算机执行指令，以实现如权利要求上述的图形处理器的资源调度方法。
第四方面，本申请提供一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，所述计算机执行指令被处理器执行时用于实现上述的图形处理器的资源调度方法。
第五方面，本申请提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现上述的图形处理器的资源调度方法。
本申请提供的一种智能汽车操作***的资源调度方法、装置及设备，通过对智能汽车操作***中的人工智能模型进行至少一次性能测试，以在运行智能汽车操作***之前，对其中的人工智能模型进行静态的性能测试，得到至少一个静态性能指标，以确定智能汽车操作***中每一人工智能模型在不同分组，以及对其分配不同的工作线程时，各人工智能模型的性能表现。
通过识别所述至少一个静态性能指标中的优先静态指标，以识别出性能表现最优的分组方式和工作线程匹配方式，进而在运行智能汽车***之前最大限度的优化图形处理器资源的分配合理性，并将最优的分组方式和工作线程匹配方式设为静态分配策略。
通过优先静态指标对应的静态分配策略，向每一人工智能模型分配图形处理器资源，以实现在智能汽车操作***在运行之前，已为各人工智能模型分配了性能最优配置的图形处理器资源。
通过性能采集模块监控运行的人工智能模型的动态性能指标，动态性能指标中的指标元素包括：CPU使用率、内存占用率、磁盘IO、***平均负载、延迟、帧率；通过根据所述动态性能指标生成动态分配策略，以实现基于当前在运行时的人工智能模型的性能表现对人工智能模型分配图形处理器资源，确保各运行的人工智能模型均有足够的图形处理器资源用于调用，解决了人工智能模型生成的推理请求在图形处理器的工作线程的调用上产生冲突，避免了多个请求同时争抢图形处理器中工作线程的情况，保证了自动驾驶场景中的多个人工智能模型的性能表现，进而确保了图形处理器资源调用的稳定。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本申请的实施例，并与说明书一起用于解释本申请的原理。
图1为本申请实施例提供的一种应用场景示意图；
图2为本申请实施例提供的一种图形处理器的资源调度方法的实施例1的流程图；
图3为本发明提供的一种图形处理器的资源调度装置的程序模块示意图；
图4为本发明计算机设备中计算机设备的硬件结构示意图。
通过上述附图，已示出本申请明确的实施例，后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本申请构思的范围，而是通过参考特定实施例为本领域技术人员说明本申请的概念。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
请参阅图1，本申请具体的应用场景为：
运行有智能汽车操作***的图形处理器的资源调度方法的控制单元11，安装在智能汽车操作***1中，控制单元11与智能汽车操作***1中的人工智能模型12和图形处理器13连接。
控制单元11对智能汽车操作***1中的人工智能模型12进行至少一次性能测试，得到至少一个静态性能指标，识别至少一个静态性能指标中的优先静态指标，将优先静态指标对应的静态策略设为静态分配策略
控制单元11根据静态分配策略向智能汽车操作***1中的每一人工智能模型12分配图形处理器13资源。
控制单元11运行智能汽车操作***1中的至少一个人工智能模型12，并监控运行的人工智能模型12的动态性能指标。
控制单元11根据动态性能指标生成动态分配策略，根据动态分配策略调整每一人工智能模型12分配到的图形处理器资源，其中，动态分配策略用于根据人工智能模型12在运行时的性能表现，对运行的人工智能模型12分配图形处理器资源。
控制单元11安装在具有智能汽车操作***1的电路或芯片中的计算机模块，图形处理器13是安装在该电路或芯片中的图形加速器，以作为智能汽车操作***1的一部分。
下面以具体地实施例对本申请的技术方案以及本申请的技术方案如何解决现有技术问题进行详细说明。下面这几个具体的实施例可以相互结合，对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图，对本申请的实施例进行描述。
实施例1：
请参阅图2，本申请提供一种智能汽车操作***的图形处理器的资源调度方法，包括：
S201：对智能汽车操作***中的人工智能模型进行至少一次性能测试，得到至少一个静态性能指标；并识别至少一个静态性能指标中的优先静态指标，将优先静态指标对应的静态策略设为静态分配策略，其中，智能汽车操作***中具有至少一个人工智能模型，人工智能模型用于实现指定任务，指定任务用于实现汽车的自动驾驶，静态性能指标反映了人工智能模型在性能测试中的性能表现，优先静态指标为满足预置的优先规则的静态性能指标，静态策略是用于对人工智能模型进行分组，及对分组后的人工智能模型分配工作线程的计算机策略，工作线程是用于调度图形处理器中的流处理器和/或计算单元的序列图形处理器。
本步骤中，智能汽车操作***是智能汽车的底层操作***(Operating System，OS)，用来控制和管理整个智能汽车的硬件和软件资源，给用户和其他软件提供接口和环境。当前的智能汽车操作***包括：自动驾驶OS和智能座舱OS。自动驾驶OS对安全性、实时性、稳定性要求非常高，智能座舱OS更加重视开放性、兼容性。
自动驾驶OS主要用于车辆底盘与动力控制，以实现油门、转向、换挡、刹车等基本行驶功能。自动驾驶OS是当前重点研发的L3及以上级别自动驾驶功能的核心，其包含高性能复杂嵌入式***、人工智能芯片及算法、高速网络、海量数据处理、云机协同等多种行业的融合技术。
智能座舱OS是由不同的座舱电子组合成完整的体系。智能座舱主要分为5大部分：车载信息娱乐***、流媒体中央后视镜、抬头显示***HUD、全液晶仪表、车联网模块。智能座舱是通过多屏融合实现人机交互，以液晶仪表、HUD、中控屏及中控车载信息终端、后座HMI娱乐屏、车内外后视镜等为载体，实现语音控制、手势操作等更智能化的交互方式。未来有可能将人工智能、AR、ADAS、VR等技术融入其中。
工作线程用于调度图形处理器中的流处理器(SP，streaming processor，其为图形处理器中的最基本的处理单元，也称为CUDA core)，图形处理器中的具体的指令和任务都是在SP上处理的。
工作线程还用于调度图形处理器中的计算单元(SM，streaming multiprocessor，又称图形处理器大核)。SM是由多个SP加上其他的一些资源组成一个图形处理器大核，其中，其他资源如：warp scheduler，register，shared memory等，SM可以看做图形处理器的心脏(对比CPU核心)，register和shared memory是SM的稀缺资源。
本步骤通过对智能汽车操作***中的人工智能模型进行至少一次性能测试，以在运行智能汽车操作***之前，对其中的人工智能模型进行静态的性能测试，得到至少一个静态性能指标，以确定智能汽车操作***中每一人工智能模型在不同分组，以及对其分配不同的工作线程时，各人工智能模型的性能表现。
通过识别至少一个静态性能指标中的优先静态指标，以识别出性能表现最优的分组方式和工作线程匹配方式，进而在运行智能汽车***之前最大限度的优化图形处理器资源的分配合理性，并将最优的分组方式和工作线程匹配方式设为静态分配策略。
在一个优选的实施例中，对智能汽车操作***中的人工智能模型进行至少一次性能测试，得到至少一个静态性能指标，包括：
获取至少一个静态策略，获取至少一个静态策略，根据每一静态策略，分别对智能汽车操作***中的人工智能模型进行分组并向每组人工智能模型分配工作线程，得到至少一个静态样本，其中，静态策略中包括划分规则和资源分配规则，划分规则用于对智能汽车操作***中的人工智能模型进行分组，资源分配规则用于向每组人工智能模型分配工作线程。
具体地，根据每一静态策略，分别对智能汽车操作***中的人工智能模型进行分组并向每组人工智能模型分配工作线程，得到至少一个静态样本，包括：
根据静态策略中的划分规则对智能汽车操作***中每一人工智能模型进行分组，得到至少一个测试组，其中，测试组中至少具有一个人工智能模型；
获取图形处理器中的至少一个工作线程，根据静态策略中的资源分配规则向每一测试组分配一个工作线程；
汇总至少一个测试组及与每一测试组对应的工作线程，形成与静态策略对应的静态样本。
示例性地，例如：将智能汽车操作***中的人工智能模型包括：模型1、模型2、模型3、模型4、模型5。
如果静态策略1是将模型两两分组，如果有剩余则单独分组，那么将得到：测试组1：模型1、模型2；测试组2：模型3、模型4；测试组3：模型5。
如果静态策略2是将某一指定的模型单独列为一组(例如：模型3)，其他模型两两一组，那么将得到：测试组1：模型3；测试组2：模型1、模型2；测试组3：模型4、模型5。
图形处理器中具有至少一个工作线程，每一工作线程分别调用与其对应的流处理器或计算单元，因此，各工作线程能够调用的图形处理器资源均是不同的。假设图形处理器中的工作线程包括：线程1和线程2；那么，静态策略1将测试组1和测试组2分配给线程1，将测试组3分配给线程2；静态策略2将测试组1分配给线程1，将测试组2和测试组3分配给线程2，以此类推。
因此，基于上述举例，可以得到与静态策略1对应的静态样本：模型1、模型2、模型3、模型4分配线程1，模型5分配线程2，及与静态策略2对应的静态样本：模型3分配线程1，模型1、模型2、模型4和模型5分配线程2的静态样本，以此类推，在此不做赘述。
进一步地，根据静态策略中的划分规则对智能汽车操作***中每一人工智能模型进行分组，得到至少一个测试组，包括：
若确定智能汽车操作***中具有至少一个有向无环图，则将属于同一有向无环图中的人工智能模型划分为一个测试组，其中，有向无环图反映了智能汽车操作***中的两个或两个以上的人工智能模型之间的逻辑关系；
若确定智能汽车操作***中具有不属于有向无环图的其他人工智能模型，则根据每一其他人工智能模型的模型属性数据对其他人工智能模型进行分组，得到至少一个测试组，其中，模型属性数据描述了人工智能模型为完成指定的任务所消耗的算力；
若确定智能汽车操作***中不具有有向无环图，则根据每一人工智能模型的模型属性数据对智能汽车操作***中的人工智能模型进行分组，得到至少一个测试组。
示例性地，如果确定智能汽车操作***中的有向无环图包括：第一图和第二图，第一图表征模型1指向模型2，第二图表征模型3指向模型4，那么，将模型1和模型2划分为一个测试组，将模型3和模型4划分为一个测试组。
如果确定智能汽车操作***中具有不属于有向无环图的其他人工智能模型，如模型5和模型6，模型5和模型6既不属于第一图，也不属于第二图，那么根据模型5和模型6的属性数据对模型5进行分组。
模型属性数据描述了人工智能模型为实现指定任务所消耗的算力；例如：模型5用于实现的指定任务是雷达感知，其所消耗的算力是M1,；模型6是用于实现的指定任务是视觉感知，其所消耗的算力是M2。
需要说明的是，有向无环图是由有限个顶点和“有向边”组成，从任意顶点出发，经过若干条有向边，都无法回到该顶点，这种图就是有向无环图，于本实施例中，人工智能模型为有向无环图中的顶点，有向无环图中的有向边用于描述两个人工智能模型之间的关联关系，例如：依赖关系、关联关系、聚合关系、组合关系等；属于同一有向无环图的人工智能模型相互依赖，以有向无环图中位于上一位人工智能模型实现的指定任务，为位于下一位的人工智能模型的输入，使得各人工智能模型依次执行，并最终实现组合任务，该组合任务是基于有向无环图中各人工智能模型实现的指定任务所完成的总任务。
可选的，根据模型属性信息模型属性数据对人工智能模型进行分组，包括：
若确定两个或两个以上的人工智能模型的模型属性数据之和，未超过预置的算力阈值，则将两个或两个以上的人工智能模型划分为一个测试组；
若确定第一人工智能模型的模型属性数据与智能汽车操作***中其他的人工智能模型的模型属性数据之和超过算力预置，则将第一人工智能模型划为一个测试组，其中个，第一人工智能模型是智能汽车操作***中的一个人工智能模型。
如果模型5和模型6消耗的算力之和超过了预置的算力阈值M3，则将模型5设为一个测试组，模型6设为一个测试组；
如果模型5和模型6消耗的算力之和未超过算力预置M3，则将模型5和模型6共同设为一个测试组。
如果确定智能汽车操作***中不具有有向无环图，那么，根据模型属性信息模型属性数据对人工智能模型进行分组，实现对模型1、模型2、模型3、模型4、模型5和模型6进行分组，得到至少一个测试组。
将预置的测试实例录入每一静态样本中的人工智能模型中，并通过每一静态样本中的人工智能模型分配到的工作线程，运行人工智能模型中的测试实例，以对每一静态样本进行性能测试，并得到分别与至少一个静态策略对应的至少一个静态性能指标，其中，测试实例是用于对人工智能模型进行性能测试的测试用例。
在一个优选的实施例中，识别至少一个静态性能指标中的优先静态指标，包括：
提取每一静态性能指标中的第一指标元素，对第一指标元素进行排序得到目标序列，其中，静态性能指标中具有至少一个静态指标元素，静态指标元素反映了人工智能模型在性能测试中的一个性能维度上的性能表现，第一指标元素是静态性能指标中的一个静态指标元素。
示例性地，静态性能指标中的指标元素包括：运行时间、内存占用、SM利用率、功耗。
假设基于三个静态策略生成了三个静态性能指标：静态性能指标1，静态性能指标2，静态性能指标3，第一指标元素的运行时间，那么将得到目标序列：
| 运行时间的目标序列 | 运行时间 |
| 静态性能指标1 | 0.1s |
| 静态性能指标2 | 0.2s |
| 静态性能指标3 | 0.3s |
根据每一第一指标元素在目标序列中的位次，确定每一第一指标元素的性能值，其中，性能值反映了第一指标元素的性能优劣程度。
于本实施例中，位次越高表征第一指标元素性能越好，位次越低表征第一指标元素的性能越差，因此，运行时间的目标序列为升序排列，其表征运行时间越短，指标元素性能越好；内存占用的目标序列为降序排列，其表征内存占用越小，指标元素性能越好；SM利用率的目标序列为降序排列，其表征SM占用率越高，指标元素性能越好；功耗的目标序列为升序排列，其表征功耗越小，指标元素性能越好。
根据每一静态性能指标中各静态指标元素的性能值，得到每一静态性能指标的综合性能值。
示例性地，基于上述举例：假设第一位次性能值为3，第二位次性能值为2，第三位次性能值为1，将各性能指标中各静态指标元素的性能值带入预置的加权函数中，计算该加权函数得到综合性能值。
加权函数为：S＝a*x+b*y+c*z+d*m
其中，x是运行时间的性能值，a是运行时间的权重；y是内存占用的性能值，b是内存占用的权重；z是SM占用率的性能值，c是SM占用率的权重；m是功耗的性能值，d是功耗的权重；S是综合性能值。
将综合性能值最高的静态性能指标设为优先静态指标。
S202：根据静态分配策略，为智能汽车操作***中的每一人工智能模型分配图形处理器资源。
本步骤中，通过优先静态指标对应的静态分配策略，向每一人工智能模型分配图形处理器资源，以实现在智能汽车操作***在运行之前，已为各人工智能模型分配了性能最优配置的图形处理器资源。
在一个优选的实施例中，根据静态分配策略，为智能汽车操作***中的每一人工智能模型分配图形处理器资源，包括：
根据静态分配策略中的划分规则，对智能汽车操作***中的人工智能模型进行分组，得到至少一个运行组；
获取图形处理器中的至少一个工作线程，根据静态分配策略中的资源分配规则，向每一运行组分配分配一个工作线程，以向每一运行组中的每一人工智能模型资源分配图形处理器资源，其中，工作线程是用于调用图形处理器中的图形处理器资源运行人工智能模型的序列。
S203：运行智能汽车操作***中的至少一个人工智能模型，并监控运行的人工智能模型的动态性能指标，其中，动态性能指标反映了人工智能模型在调用分配到的图形处理器资源进行运算时的性能表现。
本步骤中，通过性能采集模块监控运行的人工智能模型的动态性能指标，动态性能指标中的指标元素包括：CPU使用率、内存占用率、磁盘IO、***平均负载、延迟、帧率。
采用kylinTOP测试与监控平台、或LoadRunner、或kylinPET、或Apache JMeter、或NeoLoad、或WebLOAD、或Loadster、或Loadstorm、或Load impact、或OpenSTA、或Telegraf作为性能采集模块。
S204：根据动态性能指标生成动态分配策略，根据动态分配策略调整每一人工智能模型分配到的图形处理器资源，其中，动态分配策略用于根据人工智能模型在运行时的性能表现，对运行的人工智能模型分配图形处理器资源。
本步骤中，根据动态性能指标生成动态分配策略，以实现基于当前在运行时的人工智能模型的性能表现对人工智能模型分配图形处理器资源，确保各运行的人工智能模型均有足够的图形处理器资源用于调用，解决了人工智能模型生成的推理请求在图形处理器的工作线程的调用上产生冲突，避免了多个请求同时争抢图形处理器中工作线程的情况，保证了自动驾驶场景中的多个人工智能模型的性能表现。
在一个优选的实施例中，根据动态性能指标生成动态分配策略，包括：
提取动态性能指标中的第二指标元素，并获取与第二指标元素对应的指标规则，其中，动态性能指标中具有至少一个指标元素，第二指标元素是动态性能指标中的一个指标元素，指标规则是用于定义指标元素正常和异常的计算机规则。
若确定第二指标元素符合指标规则，则将第二指标元素设为正常指标元素。
若确定第二指标元素不符合指标规则，则将第二指标元素设为异常指标元素。
若确定动态性能指标中的正常指标元素的数量未达到预置的正常阈值，或异常指标元素的数量达到预置的异常阈值，则确定动态性能指标为异常性能指标。
若确定动态性能指标中的正常指标元素的数量达到预置的正常阈值，或异常指标元素的数量未达到预置的异常阈值，则确定动态性能指标为正常性能指标。
根据正常性能指标和异常性能指标生成动态分配策略。
示例性地，获取到的动态性能指标包括：CPU使用率、内存占用率、磁盘IO、***平均负载、延迟、帧率，假设第二指标元素是***平均负载，其中，***平均负载用于描述图形处理器的使用率，当***平均负载等于1.0时，表示图形处理器使用率最高；当***平均负载小于1.0时，表示图形处理器使用率处于空闲状态；当***平均负载大于1.0时，表示图形处理器使用率已经超过负荷。
假设负载的指标规则是：若***平均负载属于【0,1】，则判定***平均负载为正常指标元素；若***平均负载不属于【0,1】，则判定***平均负载为异常指标元素。
假设动态性能指标中具有6个，正常阈值为4，异常阈值为3。
如果动态性能指标具有5个正常指标元素，1个异常指标元素，则判定动态性能指标为正常性能指标。
如果动态性能指标具有2个正常指标元素，4个异常指标元素，则判定动态性能指标为异常性能指标。
具体地，根据正常性能指标和异常性能指标生成动态分配策略，包括：
将正常性能指标对应的人工智能模型设为正常模型，将异常性能指标对应的人工智能模型设为异常模型，将正常模型所在的运行组和智能汽车操作***中未运行的人工智能模型所在的运行组设为正常组，将异常模型所在的运行组为异常组；
若确定异常模型与异常组中其他的人工智能模型之间具有逻辑关系；则调整静态分配策略或动态分配策略中的划分规则，使调整后的划分规则用于将异常组中的独立模型调整到一个正常组；和/或调整静态分配策略或动态分配策略中的资源分配规则，使调整后的资源分配规则用于将异常组对应的工作线程，调整为一个正常组对应的工作线程；其中，独立模型是异常组中与其他的人工智能模型之间不具有逻辑关系的人工智能模型；
若确定异常模型与异常组中其他的人工智能模型之间不具有逻辑关系；则调整静态分配策略或动态分配策略中的划分规则，使调整后的划分规则用于将异常模型调整到一个正常组；和/或调整静态分配策略或动态分配策略中的资源分配规则，使调整后的资源分配规则用于将异常组对应的工作线程，调整为一个正常组对应的工作线程；
根据调整后的划分规则和/或调整后的资源分配规则，生成动态分配策略。
示例性地，异常组中运行的异常模型为模型1，异常组中包括：模型1、模型2和模型3，假设模型1与模型2之间具有逻辑关系，例如：依赖关系、关联关系、聚合关系、组合关系等，因此，此时的模型3为具有独立关系的人工智能模型。
假设异常组对应的工作线程为线程1；正常组1包括：模型4和模型5，其对应的工作线程为线程2；正常组2包括：模型6，其对应的工作线程为线程3，其中，模型6是未运行的人工智能模型。可以将模型3调整到正常组1或正常组2，也可以将线程2或线程3分配给异常组。
异常组中包括：模型1、模型2和模型3，并相互之间不具有逻辑关系，假设异常模型为模型1，基于上述举例，可以将模型2和/或模型3调整到正常组1或正常组2，也可以将线程2或线程3分配给异常组。
实施例2：
请参阅图3，本申请提供一种智能汽车操作***的图形处理器的资源调度装置3，包括：
静态测试模块31，用于对智能汽车操作***中的人工智能模型进行至少一次性能测试，得到至少一个静态性能指标；并识别至少一个静态性能指标中的优先静态指标，将优先静态指标对应的静态策略设为静态分配策略，其中，智能汽车操作***中具有至少一个人工智能模型，人工智能模型用于实现指定任务，指定任务用于实现汽车的自动驾驶，静态性能指标反映了人工智能模型在性能测试中的性能表现，优先静态指标为满足预置的优先规则的静态性能指标，静态策略是用于对人工智能模型进行分组，及对分组后的人工智能模型分配工作线程的计算机策略，工作线程是用于调度图形处理器中的流处理器和/或计算单元的序列图形处理器；
静态分配模块32，用于根据静态分配策略，为智能汽车操作***中的每一人工智能模型分配图形处理器资源；
动态监测模块33，用于运行智能汽车操作***中的至少一个人工智能模型，并监控运行的人工智能模型的动态性能指标，其中，动态性能指标反映了人工智能模型在调用分配到的图形处理器资源进行运算时的性能表现；
动态分配模块34，用于根据动态性能指标生成动态分配策略，根据动态分配策略调整每一人工智能模型分配到的图形处理器资源，其中，动态分配策略用于根据人工智能模型在运行时的性能表现，对运行的人工智能模型分配图形处理器资源。
实施例3：
为实现上述目的，本申请还提供一种计算机设备4，包括：处理器42以及与处理器42通信连接的存储器41；存储器存储计算机执行指令；
处理器执行存储器41存储的计算机执行指令，以实现上述的图形处理器的资源调度方法，其中，图形处理器的资源调度装置的组成部分可分散于不同的计算机设备中，计算机设备4可以是执行程序的智能手机、平板电脑、笔记本电脑、台式计算机、机架式服务器、刀片式服务器、塔式服务器或机柜式服务器(包括独立的服务器，或者多个应用服务器所组成的服务器集群)等。本实施例的计算机设备至少包括但不限于：可通过***总线相互通信连接的存储器41、处理器42，如图4所示。需要指出的是，图4仅示出了具有组件-的计算机设备，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。本实施例中，存储器41(即可读存储介质)包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，存储器41可以是计算机设备的内部存储单元，例如该计算机设备的硬盘或内存。在另一些实施例中，存储器41也可以是计算机设备的外部存储设备，例如该计算机设备上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(SecureDigital,SD)卡，闪存卡(Flash Card)等。当然，存储器41还可以既包括计算机设备的内部存储单元也包括其外部存储设备。本实施例中，存储器41通常用于存储安装于计算机设备的操作***和各类应用软件，例如实施例三的图形处理器的资源调度装置的程序代码等。此外，存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。处理器42在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制计算机设备的总体操作。本实施例中，处理器42用于运行存储器41中存储的程序代码或者处理数据，例如运行图形处理器的资源调度装置，以实现上述实施例的图形处理器的资源调度方法。
上述以软件功能模块的形式实现的集成的模块，可以存储在一个计算机可读取存储介质中。上述软件功能模块存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)或处理器执行本申请各个实施例方法的部分步骤。应理解，上述处理器可以是中央处理单元(Central Processing Unit，简称CPU)，还可以是其它通用处理器、数字信号处理器(Digital Signal Processor，简称DSP)、专用集成电路(Application Specific Integrated Circuit，简称ASIC)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合申请所公开的方法的步骤可以直接体现为硬件处理器执行完成，或者用处理器中的硬件及软件模块组合执行完成。存储器可能包含高速RAM存储器，也可能还包括非易失性存储NVM，例如至少一个磁盘存储器，还可以为U盘、移动硬盘、只读存储器、磁盘或光盘等。
为实现上述目的，本申请还提供一种计算机可读存储介质，如闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘、服务器、App应用商城等等，其上存储有计算机执行指令，程序被处理器42执行时实现相应功能。本实施例的计算机可读存储介质用于存储实现图形处理器的资源调度方法的计算机执行指令，被处理器42执行时实现上述实施例的图形处理器的资源调度方法。
上述存储介质可以是由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。存储介质可以是通用或专用计算机能够存取的任何可用介质。
一种示例性的存储介质耦合至处理器，从而使处理器能够从该存储介质读取信息，且可向该存储介质写入信息。当然，存储介质也可以是处理器的组成部分。处理器和存储介质可以位于专用集成电路(Application Specific Integrated Circuits，简称ASIC)中。当然，处理器和存储介质也可以作为分立组件存在于电子设备或主控设备中。
本申请提供一种计算机程序产品，包括计算机程序，计算机程序被处理器执行时实现上述的图形处理器的资源调度方法。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本申请的真正范围和精神由下面的权利要求书指出。
应当理解的是，本申请并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求书来限制。
Claims (10)
1.一种智能汽车操作***的图形处理器的资源调度方法，其特征在于，包括：
对智能汽车操作***中的人工智能模型进行至少一次性能测试，得到至少一个静态性能指标；并识别所述至少一个静态性能指标中的优先静态指标，将所述优先静态指标对应的静态策略设为静态分配策略，其中，智能汽车操作***中具有至少一个人工智能模型，所述人工智能模型用于实现指定任务，所述指定任务用于实现汽车的自动驾驶，所述静态性能指标反映了人工智能模型在性能测试中的性能表现，所述优先静态指标为满足预置的优先规则的静态性能指标，所述静态策略是用于对人工智能模型进行分组，及对分组后的人工智能模型分配工作线程的计算机策略，所述工作线程是用于调度所述图形处理器中的流处理器和/或计算单元的序列；
根据所述静态分配策略，为所述智能汽车操作***中的每一人工智能模型分配图形处理器资源；
运行所述智能汽车操作***中的至少一个人工智能模型，并监控运行的人工智能模型的动态性能指标，其中，所述动态性能指标反映了人工智能模型在调用分配到的图形处理器资源进行运算时的性能表现；
根据所述动态性能指标生成动态分配策略，根据所述动态分配策略调整每一人工智能模型分配到的图形处理器资源，其中，所述动态分配策略用于根据所述人工智能模型在运行时的性能表现，对运行的人工智能模型分配图形处理器资源。
2.根据权利要求1所述的图形处理器的资源调度方法，其特征在于，对智能汽车操作***中的人工智能模型进行至少一次性能测试，得到至少一个静态性能指标，包括：
获取至少一个静态策略，根据每一所述静态策略，分别对所述智能汽车操作***中的人工智能模型进行分组并向每组人工智能模型分配工作线程，得到至少一个静态样本；
将预置的测试实例录入每一所述静态样本中的人工智能模型中，并通过每一所述静态样本中的人工智能模型分配到的工作线程，运行所述人工智能模型中的测试实例，以对每一所述静态样本进行性能测试，并得到分别与至少一个所述静态策略对应的至少一个静态性能指标，其中，所述测试实例是用于对人工智能模型进行性能测试的测试用例。
3.根据权利要求2所述的图形处理器的资源调度方法，其特征在于，根据每一所述静态策略，分别对所述智能汽车操作***中的人工智能模型进行分组并向每组人工智能模型分配工作线程，得到至少一个静态样本，包括：
根据所述静态策略中的划分规则对智能汽车操作***中每一人工智能模型进行分组，得到至少一个测试组，其中，所述测试组中至少具有一个人工智能模型；
获取所述图形处理器中的至少一个工作线程，根据所述静态策略中的资源分配规则向每一所述测试组分配一个工作线程；
汇总至少一个所述测试组及与每一所述测试组对应的工作线程，形成与所述静态策略对应的静态样本。
4.根据权利要求3所述的图形处理器的资源调度方法，其特征在于，根据所述静态策略中的划分规则对智能汽车操作***中每一人工智能模型进行分组，得到至少一个测试组，包括：
若确定所述智能汽车操作***中具有至少一个有向无环图，则将属于同一有向无环图中的人工智能模型划分为一个测试组，其中，所述有向无环图反映了智能汽车操作***中的两个或两个以上的人工智能模型之间的逻辑关系；
若确定所述智能汽车操作***中具有不属于所述有向无环图的其他人工智能模型，则根据每一所述其他人工智能模型的模型属性数据对所述其他人工智能模型进行分组，得到至少一个测试组，其中，所述模型属性数据描述了人工智能模型为实现指定任务所消耗的算力；
若确定所述智能汽车操作***中不具有有向无环图，则根据每一人工智能模型的模型属性数据对所述智能汽车操作***中的人工智能模型进行分组，得到至少一个测试组。
5.根据权利要求1所述的图形处理器的资源调度方法，其特征在于，识别所述至少一个静态性能指标中的优先静态指标，包括：
提取每一静态性能指标中的第一指标元素，对所述第一指标元素进行排序得到目标序列，其中，所述静态性能指标中具有至少一个静态指标元素，所述静态指标元素反映了人工智能模型在性能测试中的一个性能维度上的性能表现，所述第一指标元素是所述静态性能指标中的一个静态指标元素；
根据每一第一指标元素在所述目标序列中的位次，确定每一第一指标元素的性能值，其中，所述性能值反映了所述第一指标元素的性能优劣程度；
根据每一静态性能指标中各静态指标元素的性能值，得到每一所述静态性能指标的综合性能值；
将综合性能值最高的静态性能指标设为优先静态指标。
6.根据权利要求1所述的图形处理器的资源调度方法，其特征在于，根据所述静态分配策略，为所述智能汽车操作***中的每一人工智能模型分配图形处理器资源，包括：
根据所述静态分配策略中的划分规则，对所述智能汽车操作***中的人工智能模型进行分组，得到至少一个运行组；
获取所述图形处理器中的至少一个工作线程，根据所述静态分配策略中的资源分配规则向每一运行组分配分配一个工作线程，以向每一运行组中的每一人工智能模型资源分配图形处理器资源。
7.根据权利要求6所述的图形处理器的资源调度方法，其特征在于，根据所述动态性能指标生成动态分配策略，包括：
提取所述动态性能指标中的第二指标元素，并获取与所述第二指标元素对应的指标规则，其中，所述动态性能指标中具有至少一个指标元素，所述第二指标元素是所述动态性能指标中的一个指标元素，所述指标规则是用于定义指标元素正常和异常的计算机规则；
若确定所述第二指标元素符合所述指标规则，则将所述第二指标元素设为正常指标元素；
若确定所述第二指标元素不符合所述指标规则，则将所述第二指标元素设为异常指标元素；
若确定所述动态性能指标中的正常指标元素的数量未达到预置的正常阈值，或异常指标元素的数量达到预置的异常阈值，则确定所述动态性能指标为异常性能指标；
若确定所述动态性能指标中的正常指标元素的数量达到预置的正常阈值，或异常指标元素的数量未达到预置的异常阈值，则确定所述动态性能指标为正常性能指标；
根据所述正常性能指标和所述异常性能指标生成动态分配策略。
8.根据权利要求7所述的图形处理器的资源调度方法，其特征在于，根据所述正常性能指标和所述异常性能指标生成动态分配策略，包括：
将所述正常性能指标对应的人工智能模型设为正常模型，将所述异常性能指标对应的人工智能模型设为异常模型，将所述正常模型所在的运行组和所述智能汽车操作***中未运行的人工智能模型所在的运行组设为正常组，将所述异常模型所在的运行组为异常组；
若确定所述异常模型与所述异常组中其他的人工智能模型之间具有逻辑关系；则调整所述静态分配策略或所述动态分配策略中的划分规则，使调整后的划分规则用于将所述异常组中的独立模型调整到一个正常组；和/或调整所述静态分配策略或所述动态分配策略中的资源分配规则，使调整后的资源分配规则用于将所述异常组对应的工作线程，调整为一个正常组对应的工作线程；其中，所述独立模型是异常组中与其他的人工智能模型之间不具有逻辑关系的人工智能模型；
若确定所述异常模型与所述异常组中其他的人工智能模型之间不具有逻辑关系；则调整所述静态分配策略或所述动态分配策略中的划分规则，使调整后的划分规则用于将所述异常模型调整到一个正常组；和/或调整所述静态分配策略或所述动态分配策略中的资源分配规则，使调整后的资源分配规则用于将所述异常组对应的工作线程，调整为一个正常组对应的工作线程；
根据调整后的划分规则和/或调整后的资源分配规则，生成动态分配策略。
9.一种智能汽车操作***的图形处理器的资源调度装置，其特征在于，包括：
静态测试模块，用于对智能汽车操作***中的人工智能模型进行至少一次性能测试，得到至少一个静态性能指标；并识别所述至少一个静态性能指标中的优先静态指标，将所述优先静态指标对应的静态策略设为静态分配策略，其中，智能汽车操作***中具有至少一个人工智能模型，所述人工智能模型用于实现指定任务，所述指定任务用于实现汽车的自动驾驶，所述静态性能指标反映了人工智能模型在性能测试中的性能表现，所述优先静态指标为满足预置的优先规则的静态性能指标，所述静态策略是用于对人工智能模型进行分组，及对分组后的人工智能模型分配工作线程的计算机策略，所述工作线程是用于调度所述图形处理器中的流处理器和/或计算单元的序列图形处理器；
静态分配模块，用于根据所述静态分配策略，为所述智能汽车操作***中的每一人工智能模型分配图形处理器资源；
动态监测模块，用于运行所述智能汽车操作***中的至少一个人工智能模型，并监控运行的人工智能模型的动态性能指标，其中，所述动态性能指标反映了人工智能模型在调用分配到的图形处理器资源进行运算时的性能表现；
动态分配模块，用于根据所述动态性能指标生成动态分配策略，根据所述动态分配策略调整每一人工智能模型分配到的图形处理器资源，其中，所述动态分配策略用于根据所述人工智能模型在运行时的性能表现，对运行的人工智能模型分配图形处理器资源。
10.一种计算机设备，其特征在于，包括：处理器以及与所述处理器通信连接的存储器；
所述存储器存储计算机执行指令；
所述处理器执行所述存储器存储的计算机执行指令，以实现如权利要求1至8任一项所述的图形处理器的资源调度方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310542184.3A CN116414567A (zh) | 2023-05-12 | 2023-05-12 | 智能汽车操作***的资源调度方法、装置及设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310542184.3A CN116414567A (zh) | 2023-05-12 | 2023-05-12 | 智能汽车操作***的资源调度方法、装置及设备 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116414567A true CN116414567A (zh) | 2023-07-11 |
Family
ID=87057968
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310542184.3A Pending CN116414567A (zh) | 2023-05-12 | 2023-05-12 | 智能汽车操作***的资源调度方法、装置及设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116414567A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117132958A (zh) * | 2023-10-27 | 2023-11-28 | 腾讯科技（深圳）有限公司 | 道路要素识别方法及相关装置 |
| CN117522037A (zh) * | 2023-11-14 | 2024-02-06 | 苏州云智度科技服务有限公司 | 多客户多工序数据产品智能感知模型 |
-
2023
- 2023-05-12 CN CN202310542184.3A patent/CN116414567A/zh active Pending
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117132958A (zh) * | 2023-10-27 | 2023-11-28 | 腾讯科技（深圳）有限公司 | 道路要素识别方法及相关装置 |
| CN117132958B (zh) * | 2023-10-27 | 2024-06-11 | 腾讯科技（深圳）有限公司 | 道路要素识别方法及相关装置 |
| CN117522037A (zh) * | 2023-11-14 | 2024-02-06 | 苏州云智度科技服务有限公司 | 多客户多工序数据产品智能感知模型 |
| CN117522037B (zh) * | 2023-11-14 | 2024-06-11 | 苏州云智度科技服务有限公司 | 多客户多工序数据产品智能感知模型 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111176852B (zh) | 资源分配方法、装置、芯片及计算机可读存储介质 | |
| CN116414567A (zh) | 智能汽车操作***的资源调度方法、装置及设备 | |
| CN110413412B (zh) | 一种基于gpu集群资源分配的方法和装置 | |
| CN111352736A (zh) | 大数据资源的调度方法、装置、服务器及存储介质 | |
| CN108845874B (zh) | 资源的动态分配方法及服务器 | |
| CN113515382B (zh) | 云资源的分配方法、装置、电子设备及存储介质 | |
| CN110780991B (zh) | 一种基于优先级的深度学习任务调度方法及装置 | |
| CN111488206A (zh) | 一种深度学习任务调度方法、***、终端及存储介质 | |
| CN113765949A (zh) | 资源分配的方法以及装置 | |
| CN115586961A (zh) | 一种ai平台计算资源任务调度方法、装置及介质 | |
| CN109783236B (zh) | 用于输出信息的方法和装置 | |
| US20200341811A1 (en) | Techniques for increasing the isolation of workloads within a multiprocessor instance | |
| CN114327894A (zh) | 资源分配方法、装置、电子设备及存储介质 | |
| KR101557995B1 (ko) | 다중 운영체제를 지원하는 단말기 및 그 단말기에 대한시스템 자원 할당 방법 | |
| CN112817722A (zh) | 一种基于优先级的分时调度方法、终端及存储介质 | |
| CN112463361A (zh) | 一种分布式计算的弹性资源分配的方法和设备 | |
| CN109086137B (zh) | Gpu并行计算资源配置方法及装置 | |
| CN114816766B (zh) | 一种计算资源分配方法及其相关组件 | |
| CN116244073A (zh) | 混合关键分区实时操作***的资源感知型任务分配方法 | |
| CN107391262B (zh) | 一种作业调度方法及装置 | |
| CN112130977B (zh) | 一种任务调度方法、装置、设备及介质 | |
| CN114661475A (zh) | 一种用于机器学习的分布式资源调度方法及装置 | |
| CN114764371A (zh) | 任务调度方法及管理*** | |
| CN117178257A (zh) | 任务调度架构和方法 | |
| CN113626162A (zh) | 基于动态资源共享的数据中心任务混合部署方法及*** |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |