TWI779626B - 載入人工智慧模組的方法 - Google Patents
載入人工智慧模組的方法 Download PDFInfo
- Publication number
- TWI779626B TWI779626B TW110118871A TW110118871A TWI779626B TW I779626 B TWI779626 B TW I779626B TW 110118871 A TW110118871 A TW 110118871A TW 110118871 A TW110118871 A TW 110118871A TW I779626 B TWI779626 B TW I779626B
- Authority
- TW
- Taiwan
- Prior art keywords
- artificial intelligence
- electronic device
- computing
- module
- intelligence module
- Prior art date
Links
Images
Landscapes
- Circuits Of Receivers In General (AREA)
- Stored Programmes (AREA)
Abstract
本發明提供一種載入人工智慧模組的方法,其包括:取得電子裝置的運算資源,並取得多個人工智慧模組個別的運算速度,其中所述多個人工智慧模組包括N個參考人工智慧模組;基於各運算資源及各參考人工智慧模組的運算速度估計電子裝置的運算能力上限分數;反應於判定所述多個人工智慧中的至少一第一人工智慧模組被選取,基於各第一人工智慧模組的運算能力需求分數及電子裝置的運算能力上限分數判斷電子裝置是否能夠運行至少一第一人工智慧模組;以及反應於判定電子裝置能夠運行至少一第一人工智慧模組,將至少一第一人工智慧模組載入電子裝置。
Description
本發明是有關於一種載入軟體模組的技術,且特別是有關於一種載入人工智慧模組的方法。
由於可攜式裝置(例如筆電、手機、小型可攜帶式電腦)在攜帶上較為方便,因此,若能將其作為用於輔助診斷一或多種疾病的運算裝置,應有助於改善醫療資源不發達的區域的醫療狀況。
然而,由於可攜式裝置的效能多半相當有限,因此若欲在可攜式裝置上同時運行多種疾病診斷模組(其個別例如為一人工智慧模組)的話,可能會導致較差的處理效能,進而導致不佳的使用體驗。
有鑑於此,本發明提供一種載入人工智慧模組的方法,其可用於解決上述技術問題。
本發明提供一種載入人工智慧模組的方法,適於一電子裝置,所述方法包括:取得電子裝置的至少一運算資源,並取得多個人工智慧模組個別的一運算速度,其中所述多個人工智慧模組包括N個參考人工智慧模組,N為正整數;基於各運算資源及各參考人工智慧模組的運算速度估計電子裝置的一運算能力上限分數;反應於判定所述多個人工智慧中的至少一第一人工智慧模組被選取,基於各第一人工智慧模組的一運算能力需求分數及電子裝置的運算能力上限分數判斷電子裝置是否能夠運行至少一第一人工智慧模組;以及反應於判定電子裝置能夠運行至少一第一人工智慧模組,將至少一第一人工智慧模組載入電子裝置。
請參照圖1,其是依據本發明之一實施例繪示的電子裝置示意圖。在不同的實施例中,電子裝置100例如是各式電腦裝置、智慧型裝置及/或可攜式裝置等,但可不限於此。
如圖1所示,電子裝置100可包括儲存電路102及處理器104。儲存電路102例如是任意型式的固定式或可移動式隨機存取記憶體(Random Access Memory,RAM)、唯讀記憶體(Read-Only Memory,ROM)、快閃記憶體(Flash memory)、硬碟或其他類似裝置或這些裝置的組合,而可用以記錄多個程式碼或模組。
處理器104耦接於儲存電路102,並可為一般用途處理器、特殊用途處理器、傳統的處理器、數位訊號處理器、多個微處理器(microprocessor)、一個或多個結合數位訊號處理器核心的微處理器、控制器、微控制器、特殊應用積體電路(Application Specific Integrated Circuit,ASIC)、現場可程式閘陣列電路(Field Programmable Gate Array,FPGA)、任何其他種類的積體電路、狀態機、基於進階精簡指令集機器(Advanced RISC Machine,ARM)的處理器以及類似品。
在本發明的實施例中,處理器104可存取儲存電路102中記錄的模組、程式碼來實現本發明提出的載入人工智慧模組的方法。在一實施例中,電子裝置100上可安裝有一特定應用程式,而當處理器104執行此應用程式時,可相應地執行上述載入人工智慧模組的方法,但可不限於此。
請參照圖2,其是依據本發明之一實施例繪示的載入人工智慧模組的方法流程圖。本實施例的方法可由圖1的電子裝置100執行,以下即搭配圖1所示的元件說明圖2各步驟的細節。
首先,在步驟S210中,處理器104可取得電子裝置100的運算資源,並取得多個人工智慧模組個別的運算速度。在不同的實施例中,電子裝置100的運算資源例如可包括處理器104的運算能力、記憶體的大小、硬碟讀取速度等,但可不限於此。
另外,各人工智慧模組的運算速度可由設計者預先基於各人工智慧模組的相關資訊(例如所需的資料量、運算量、運算複雜度等)而預先決定。一般而言,需要較高資料量及具較高運算量、運算複雜度的人工智慧模組應對應於較低的運算速度,但可不限於此。
在本發明的實施例中,假設所考慮的多個人工智慧模組各自可具有不同的功能。為便於說明,以下假設本發明所考慮的多個人工智慧模組為具有不同疾病診斷功能的疾病診斷模組,但可不限於此。
一般而言,運行人工智慧模組將耗費一定的運算資源。因此,當電子裝置100的運算資源較有限時,可能無法讓電子裝置100將使用者所需的全部人工智慧模組載入至電子裝置100上運行。基此,本發明可透過以下介紹的機制決定電子裝置100是否有能力運行使用者所選取的一或多個人工智慧模組,相關細節詳述如下。
在一實施例中,處理器104例如可預先基於各人工智慧模組的運算速度將這些人工智慧模組進行降冪排序,並將排序在前的N者(N為正整數)取為參考人工智慧模組,但可不限於此。
接著,在步驟S220中,處理器104可基於各運算資源及各參考人工智慧模組的運算速度估計電子裝置100的運算能力上限分數。在一實施例中,處理器104可將電子裝置100的各運算資源轉換為對應的第一參考數值。
以電子裝置100的記憶體大小為例,處理器104可在將此記憶體大小進行相關的縮放(scaling)之後,以對應的浮點數作為對應於記憶體大小的第一參考數值。再以電子裝置100的硬碟讀取速度為例,處理器104可在將此硬碟讀取速度進行相關的縮放之後,以對應的浮點數作為對應於硬碟讀取速度的第一參考數值,但可不限於此。
此外,處理器104可將各參考人工智慧模組的運算速度轉換為對應的N個第二參考數值。舉例而言,處理器104例如可在將任一參考人工智慧模組的運算速度進行相關的縮放之後,以對應的浮點數作為對應於此參考人工智慧模組的第二參考數值,但可不限於此。
之後,處理器104例如可將各運算資源對應的第一參考數值及上述第二參考數值輸入一機器學習模型,而此機器學習模型可因應於各運算資源對應的第一參考數值及上述第二參考數值而輸出電子裝置100的運算能力上限分數。在一實施例中,上述機器學習模型例如是經預訓練的一支持向量機(support vector machine,SVM)或其他類似的模型,但可不限於此。
在不同的實施例中,為讓上述機器學習模型具備上述能力,設計者可在其訓練過程中將各種不同的第一參考數值及第二參考數值的組合及對應的運算能力上限分數作為訓練資料而提供予此機器學習模型。藉此,當此機器學習模型日後取得處理器104對應於電子裝置100的第一/第二參考數值時,此機器學習模型可因應於各運算資源對應的第一參考數值及上述第二參考數值而輸出電子裝置100的運算能力上限分數,但可不限於此。
在一實施例中,上述特定應用程式可提供一使用者介面,而此使用者介面可將全部的人工智慧模組列出,以供使用者從中選擇所需的一或多者。舉例而言,假設使用者欲讓電子裝置100具備某些特定疾病的疾病診斷功能,則使用者例如可在上述使用者介面中選擇對應於這些特定疾病的一部分人工智慧模組,但可不限於此。為便於說明,以下將使用者在使用者介面中選取的上述人工智慧模組中的一或多者稱為第一人工智慧模組,但可不限於此。
在取得電子裝置100的運算能力上限分數之後,在步驟S230中,反應於判定所述多個人工智慧中的至少一第一人工智慧模組被選取,處理器104可基於各第一人工智慧模組的運算能力需求分數及電子裝置100的運算能力上限分數判斷電子裝置100是否能夠運行各第一人工智慧模組。
在一實施例中,設計者例如可預先基於各人工智慧模組的相關資訊(例如所需的資料量、運算量、運算複雜度等)而預先決定各人工智慧模組的運算能力需求分數。一般而言,需要較高資料量及具較高運算量、運算複雜度的人工智慧模組應具有較高的運算能力需求分數,但可不限於此。
基此,在一實施例中,處理器104例如可將各第一人工智慧模組的運算能力需求分數加總為參考分數,並判斷此參考分數是否大於電子裝置100的運算能力上限分數。
反應於判定參考分數不大於電子裝置100的運算能力上限分數,此即代表電子裝置100的運算資源應足以運算各第一人工智慧模組。在此情況下,處理器104可判定電子裝置100能夠運行各第一人工智慧模組,並可接續執行步驟S240,以相應地將第一人工智慧模組載入電子裝置100。
另一方面,反應於判定參考分數大於電子裝置100的運算能力上限分數,此即代表電子裝置100的運算資源可能不足以運算各第一人工智慧模組。在此情況下,處理器104可判定電子裝置100不能夠運行各第一人工智慧模組,並可接續執行步驟S250。
在步驟S250中,處理器104可在上述使用者介面中提供一運算能力不足訊息,以提醒電子裝置100的運算資源可能無法順利地運行使用者所選的各個第一人工智慧模組。在一實施例中,此運算能力不足訊息可包括一強制載入選項及一重選模組選項。
在步驟S260中,反應於判定強制載入選項被選取,處理器104可強制將上述第一人工智慧模組載入電子裝置100。
另一方面,反應於判定重選模組選項被選取,處理器104可在上述使用者介面中再次顯示全部的人工智慧模組供使用者重新選擇所需的一或多者,並可再次依上述教示評估電子裝置100是否具有順利運行使用者所選的一部分人工智慧模組的能力,但可不限於此。
此外,在一實施例中,在將第一人工智慧模組載入電子裝置100之前,處理器104可先判斷電子裝置100先前是否已載入過上述人工智慧模組中的至少一第三人工智慧模組。若是,此即代表使用者先前已挑選過欲載入電子裝置100的一部分人工智慧模組。因此,反應於判定電子裝置100先前已載入過上述第三人工智慧模組,處理器104可不將第一人工智慧模組載入電子裝置100,並載入上述第三人工智慧模組至電子裝置100。另一方面,反應於判定電子裝置100先前未載入過任何人工智慧模組,處理器104可將第一人工智慧模組載入電子裝置100,但可不限於此。
在一實施例中,上述特定應用程序可提供一模組重選功能。當使用者欲調整載入至電子裝置100上的人工智慧模組時,使用者例如可藉由在使用者介面中致能此模組重選功能來進行。基此,反應於判定模組重選功能被致能,處理器104可在上述使用者介面中顯示全部的人工智慧模組供使用者選擇。反應於判定上述人工智慧模組中的至少一第二人工智慧模組在使用者介面中被選取,處理器104可基於各第二人工智慧模組的運算能力需求分數及電子裝置100的運算能力上限分數判斷電子裝置100是否能夠運行上述第二人工智慧模組。反應於判定電子裝置100能夠運行上述第二人工智慧模組,處理器104可相應地將上述第二人工智慧模組載入電子裝置100。以上各步驟的細節可參照先前實施例中的說明,於此不另贅述。
綜上所述,本發明的方法可在取得電子裝置的運算能力上限分數之後,據以判斷電子裝置是否有能力運行使用者所選的第一人工智慧模組。若是,則電子裝置可相應地載入使用者所選的第一人工智慧模組。藉此,可避免電子裝置因載入過多人工智慧模組而出現處理效能不佳的情形,進而改善使用者體驗。
另一方面,若電子裝置經判定為無法運行使用者所選的第一人工智慧模組,則本發明可讓使用者重新選取欲載入電子裝置的一或多個人工智慧模組,或是讓使用者強制將所選的第一人工智慧模組載入電子裝置。
雖然本發明已以實施例揭露如上,然其並非用以限定本發明,任何所屬技術領域中具有通常知識者,在不脫離本發明的精神和範圍內,當可作些許的更動與潤飾,故本發明的保護範圍當視後附的申請專利範圍所界定者為準。
100:電子裝置
102:儲存電路
104:處理器
S210~S260:步驟
圖1是依據本發明之一實施例繪示的電子裝置示意圖。
圖2是依據本發明之一實施例繪示的載入人工智慧模組的方法流程圖。
S210~S260:步驟
Claims (8)
- 一種載入人工智慧模組的方法,適於一電子裝置,所述方法包括:取得該電子裝置的至少一運算資源,並取得多個人工智慧模組個別的一運算速度,其中該些人工智慧模組包括N個參考人工智慧模組,N為正整數,其中該電子裝置的該至少一運算資源包括該電子裝置的處理器運算能力、記憶體的大小、硬碟讀取速度的至少其中之一;基於各該運算資源及各該參考人工智慧模組的該運算速度估計該電子裝置的一運算能力上限分數;反應於判定該些人工智慧中的至少一第一人工智慧模組被選取,基於各該第一人工智慧模組的一運算能力需求分數及該電子裝置的該運算能力上限分數判斷該電子裝置是否能夠運行該至少一第一人工智慧模組;以及反應於判定該電子裝置能夠運行該至少一第一人工智慧模組,將該至少一第一人工智慧模組載入該電子裝置。
- 如請求項1所述的方法,其中基於各該運算資源及各該參考人工智慧模組的該運算速度估計該電子裝置的該運算能力上限分數的步驟包括:將各該運算資源轉換為對應的至少一第一參考數值;將各該參考人工智慧模組的該運算速度轉換為對應的N個第二參考數值; 將該至少一第一參考數值及該些第二參考數值輸入一機器學習模型,其中該機器學習模型因應於該至少一第一參考數值及該些第二參考數值而輸出該電子裝置的該運算能力上限分數。
- 如請求項1所述的方法,更包括依據各該人工智慧模組的該運算速度降冪排序該些人工智慧模組,且該些參考人工智慧模組為該些人工智慧模組中排序在前的N者。
- 如請求項1所述的方法,其中基於各該第一人工智慧模組的該運算能力需求分數及該電子裝置的該運算能力上限分數判斷該電子裝置是否能夠運行該至少一第一人工智慧模組的步驟包括:將各該第一人工智慧模組的該運算能力需求分數加總為一參考分數;反應於判定該參考分數大於該電子裝置的該運算能力上限分數,判定該電子裝置不能夠運行該至少一第一人工智慧模組;反應於判定該參考分數不大於該電子裝置的該運算能力上限分數,判定該電子裝置能夠運行該至少一第一人工智慧模組。
- 如請求項1所述的方法,反應於判定該電子裝置不能夠運行該至少一第一人工智慧模組,所述方法更包括:提供一運算能力不足訊息,其中該運算能力不足訊息包括一強制載入選項;反應於判定該強制載入選項被選取,強制將該至少一第一人工智慧模組載入該電子裝置。
- 如請求項1所述的方法,更包括:反應於判定一模組重選功能被致能,在一使用者介面中顯示該些人工智慧模組;反應於判定該些人工智慧模組中的至少一第二人工智慧模組在該使用者介面中被選取,基於各該第二人工智慧模組的一運算能力需求分數及該電子裝置的該運算能力上限分數判斷該電子裝置是否能夠運行該至少一第二人工智慧模組;以及反應於判定該電子裝置能夠運行該至少一第二人工智慧模組,將該至少一第二人工智慧模組載入該電子裝置。
- 如請求項1所述的方法,更包括:反應於判定該電子裝置先前已載入過該些人工智慧模組中的至少一第三人工智慧模組,不將該至少一第一人工智慧模組載入該電子裝置,並載入該至少一第三人工智慧模組至該電子裝置。
- 如請求項1所述的方法,其中該些人工智慧模組為用於診斷不同疾病的多個疾病診斷模組。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW110118871A TWI779626B (zh) | 2021-05-25 | 2021-05-25 | 載入人工智慧模組的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW110118871A TWI779626B (zh) | 2021-05-25 | 2021-05-25 | 載入人工智慧模組的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
TWI779626B true TWI779626B (zh) | 2022-10-01 |
TW202247045A TW202247045A (zh) | 2022-12-01 |
Family
ID=85475888
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW110118871A TWI779626B (zh) | 2021-05-25 | 2021-05-25 | 載入人工智慧模組的方法 |
Country Status (1)
Country | Link |
---|---|
TW (1) | TWI779626B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190146475A1 (en) * | 2016-05-09 | 2019-05-16 | Strong Force Iot Portfolio 2016, Llc | Methods and systems of chemical or pharmaceutical production line with self organizing data collectors and neural networks |
CN109934341A (zh) * | 2017-11-13 | 2019-06-25 | 埃森哲环球解决方案有限公司 | 训练、验证以及监测人工智能和机器学习的模型 |
TW202026858A (zh) * | 2018-09-28 | 2020-07-16 | 美商高通公司 | 在深度神經網路中利用啟動稀疏性 |
CN112084886A (zh) * | 2020-08-18 | 2020-12-15 | 眸芯科技(上海)有限公司 | 提升检测神经网络目标检测性能的方法及装置 |
CN112561031A (zh) * | 2020-11-17 | 2021-03-26 | 中国科学院信息工程研究所 | 基于人工智能的模型搜索方法、装置及电子设备 |
-
2021
- 2021-05-25 TW TW110118871A patent/TWI779626B/zh active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190146475A1 (en) * | 2016-05-09 | 2019-05-16 | Strong Force Iot Portfolio 2016, Llc | Methods and systems of chemical or pharmaceutical production line with self organizing data collectors and neural networks |
CN109934341A (zh) * | 2017-11-13 | 2019-06-25 | 埃森哲环球解决方案有限公司 | 训练、验证以及监测人工智能和机器学习的模型 |
TW202026858A (zh) * | 2018-09-28 | 2020-07-16 | 美商高通公司 | 在深度神經網路中利用啟動稀疏性 |
CN112084886A (zh) * | 2020-08-18 | 2020-12-15 | 眸芯科技(上海)有限公司 | 提升检测神经网络目标检测性能的方法及装置 |
CN112561031A (zh) * | 2020-11-17 | 2021-03-26 | 中国科学院信息工程研究所 | 基于人工智能的模型搜索方法、装置及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
TW202247045A (zh) | 2022-12-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3430530B1 (en) | Memory reduction method for fixed point matrix multiply | |
US11676004B2 (en) | Architecture optimized training of neural networks | |
KR20190139757A (ko) | 유연한 부동 소수점 텐서들을 이용하는 인공 신경 네트워크 트레이닝 | |
US20160248125A1 (en) | Heterogeneous Battery Cell Switching | |
US11568232B2 (en) | Deep learning FPGA converter | |
JP2022500768A (ja) | 熱負荷予測方法、装置、読み取り可能な媒体及び電子機器 | |
CN111767986A (zh) | 一种基于神经网络的运算方法及装置 | |
US20220164669A1 (en) | Automatic machine learning policy network for parametric binary neural networks | |
WO2023146613A1 (en) | Reduced power consumption analog or hybrid mac neural network | |
CN114461481A (zh) | 电子设备的功耗确定方法、装置、存储介质及电子设备 | |
CN108961260A (zh) | 图像二值化方法及装置、计算机存储介质 | |
TWI779626B (zh) | 載入人工智慧模組的方法 | |
CN103853311A (zh) | 具有低图形引擎利用的数据处理设备上的低功率应用执行 | |
CN108364026A (zh) | 一种簇心更新方法、装置及K-means聚类分析方法、装置 | |
JP7173308B2 (ja) | 検知装置、検知方法および検知プログラム | |
KR20200139909A (ko) | 전자 장치 및 그의 연산 수행 방법 | |
Rinkinen | Low voltage GPU-based AI accelerator | |
WO2020164275A1 (zh) | 基于预测模型的处理结果预测方法、装置及服务器 | |
CN111523657A (zh) | 神经网络加速器创建方法及装置、电子设备和存储介质 | |
CN117873756B (zh) | 内核中断的处理方法、装置、设备、介质及异构加速设备 | |
Aghapour et al. | PELSI: Power-Efficient Layer-Switched Inference | |
US11836589B1 (en) | Performance metrics of run-time predictions of automated machine learning (AutoML) models run on actual hardware processors | |
US20240134439A1 (en) | Analog mac aware dnn improvement | |
US20230054850A1 (en) | Techniques for intuitive machine learning development and optimization | |
US20230419189A1 (en) | Programmatic selector for choosing a well-suited stacked machine learning ensemble pipeline and hyperparameter values |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
GD4A | Issue of patent certificate for granted invention patent |