您现在的位置:首页 >> 农业机械厂家

分析优先模拟解决边缘功耗挑战

2022-04-29 来源:荆州农业机械网

分析优先模拟解决边缘功耗挑战

电池供电的物联网设备的激增和边缘处理的出现正与可用电池功率发生冲突。Fierce Electronics与Aspinity的创始人兼首席执行官Tom Doyle进行了座谈,讨论了该公司的分析优先模拟架构及其如何解决电源挑战。

激烈的电子:什么是进行更多边缘处理的驱动力?边缘处理解决了哪些问题,并且引入了哪些问题?

Doyle:始终在线的设备要求快速响应,保护用户隐私并支持无需始终连接到互联网的便携式智能设备的开发,这推动了向边缘处理的转变中国机械网okmao.com。尽管可以通过将更多处理集成到设备中来解决这些问题,从而减少在设备和云之间传输的数据量,但将更多功能集成到设备中会消耗更多电能。因此,如果我们仅采用与壁供电设备相同的始终在线处理方法,那么最终将获得电池寿命非常短的设备。仅当我们在谈论诸如可听设备之类的小型设备时,这个问题才更加复杂,这些设备首先具有非常小的电池。

FE:边缘处理和机器学习之间有什么关系?

Doyle:边缘设备经常使用声音,运动或触摸作为与用户交互的主要方式。这些设备解释其感觉的能力通常是通过机器学习来实现的。机器学习曾经只能在云中进行处理。但是,随着TinyML的引入,将这种功能集成到小型便携式边缘设备中已经成为可能,机器学习智能的实现以前需要将云的强大处理能力集成到超低功耗的半导体处理器中。没有TinyML处理器,我们将永远无法在设备上进行这种级别的复杂处理,而我们将继续依赖Internet连接和云。

激烈的电子技术:边缘处理应用的一个示例是始终监听和语音优先的设备。为什么当今的系统在电池寿命方面苦苦挣扎?

Doyle:始终监听设备不断分析环境声音以获取数据,它们分为以下几个子类别:

1)语音优先设备(例如启用语音的电视遥控器和无线耳塞)始终在处理和分析声音数据以获取唤醒词和命令

(2)其他声音事件检测设备始终在监听特定的声音事件,例如窗户玻璃破裂,火灾和烟雾或其他类型的警报,枪声或水滴,以便它们可以提醒您任何麻烦的迹象,并使您能够即使您不在,也要立即解决问题。

传统的永远在线架构采用数字优先的方法,其中所有传入的声音数据都以相同的方式处理-立即对它们进行数字化,然后由数字处理器进行分析。由于数字处理器往往是始终监听系统中功率最高的组件,因此节省系统功率的最有效方法是确保在系统启动时,它实际上正在处理可能包含其所需内容的数据。例如,启用语音的电视遥控器中的数字处理器会花费100%的时间来处理所有声音数据,以防其听到唤醒词。但是,如果没有声音,就不会有唤醒的声音。我们估计语音在一天的10%-20%之间出现,因此在其他80%或90%的时间内,

对于玻璃破碎检测设备,即使玻璃破碎仅每十年发生一次,该系统也始终处于打开状态。同样,我们谈论的是不相关的数据,从而导致功耗过大。因此,有更好的方法。

FE:您提倡先使用AnalogML进行分析的想法。那是什么意思?

Doyle:模拟机器学习(我们称为AnalogML)和“分析优先”架构紧密相连。我们的AnalogML核心实现了特征提取,神经网络和数据压缩,并建立在我们已获专利的RAMP技术平台上,该平台使我们能够以超低功耗模拟复制复杂的数字任务,例如推理。可以对AnalogML内核进行编程,以检测许多特定的声音事件,因此它就像始终监听系统前端的智能模拟网守一样工作,除非检测到特定事件,否则它会使系统保持睡眠状态。

首先分析的体系结构解决了我们前面讨论的电源挑战的根源,这是对不重要数据的浪费的高功率处理。因此,使用analogML不仅仅是将一个机器学习处理器替换为另一个。取而代之的是,analogML支持一种全新的体系结构,该体系结构仅花费一点点的前期电源就可以最小化最终由下游处理器进行数字化和分析的数据量。通过确定哪些数据仍然是模拟数据仍然很重要,并使数字系统在大多数时间内保持休眠状态,我们可以显着延长设备的电池寿命-特别是如果重要数据的出现时间少于通常情况的1%休息一下。

Aspinity分析第一个模拟架构

首先分析的体系结构可使数字系统在大多数时间内保持睡眠状态,从而节省了大量系统电源。

FE:确定哪些数据在信号链的早期很重要,这具有挑战性吗?那是领域专家的工作吗?数据科学家?嵌入式开发人员?大家吗

Doyle:您能否提供一个具体的,真实的示例,说明模拟ML芯片如何消除无关数据的数字处理?

当然,这是我使用我们的评估平台之一进行演示的示例。该演示使用的是我们的AnalogML内核,该内核已编程为识别玻璃破裂,以控制数字系统。您会在聆听时看到,analogML内核非常有区别,不会在大声噪音或类似频率的噪音下触发,而是仅在检测到实际玻璃破裂时才触发。

这只是声音事件检测的一个演示。还有其他方法可以检测各种警报声音,当然也可以检测到我们所说的语音。我们能够使用标准的神经网络培训工具为许多声音事件开发机器学习模型,然后将其编程到我们的AnalogML内核中-因此,可能性是无限的。

FE:AnalogML芯片与传统数字架构有何不同?

Doyle: analogML核心在所有其他机器学习处理器中是独一无二的,因为它完成了从传感器接口到特征提取再到推理到模拟域内数据压缩的所有处理。

今天,有一些低功耗的机器学习处理器将模拟功能用于这些功能的某些部分,但它们最终仍需要对所有数据进行数字化处理才能开始任何处理。这些解决方案不会创建更有效的整体系统,而这是您想要真正延长电池寿命的必要条件。那就是Aspinity的解决方案完全不同的地方:analogML实际上消除了不重要的数据的数字化,因此可以使整个系统的功耗更低,甚至需要高功率,高分辨率的数据总量分析被最小化。这就是我们可以实现电池寿命革命性变化的方式。

FE:集成模拟ML的系统注意事项是什么?

Doyle:我们的AnalogML内核旨在轻松地在信号链的最开始(即紧随传感器之后)进入始终在线的系统。一旦集成了硬件,就可以根据应用程序需求将模拟ML模型加载到内核中,甚至在部署之后也可以。借助其灵活的传感器接口,analogML内核可与许多不同类型的传感器(如麦克风或加速度计)的模拟输出接口,并可直接从原始模拟数据中检测事件。如果应用程序需要AnalogML内核来收集和压缩预卷,例如在语音唤醒设备中,那么我们能够与客户合作,以确保他们的首选MCU已正确配置为对唤醒词解压预卷。正如我们最近宣布的那样展示引擎语音活动检测评估套件,该套件使用带有唤醒单词引擎的ST微控制器。

激烈的电子技术:对于大多数嵌入式开发人员来说,模拟不是吓人吗?

Doyle:对于许多新进的开发人员来说,这可能是因为他们接受数字技术培训的频率要高于模拟技术。模拟电路之所以享有盛誉,是因为设计电路以使用连续的模拟信号而不是离散的零和数字中的一个更为复杂。但是,我们并没有要求人们成为模拟设计专家来使用AnalogML,这是我们的专长。取而代之的是,我们的AnalogML开发环境是为没有模拟专业知识的工程师设计的,这使他们可以轻松地通过已经习惯使用的标准编程或培训接口来为AnalogML内核构建算法。

FE:工程师可以使用哪些工具和资源来快速掌握模拟ML,并更轻松地使用该技术?

Doyle:我们有两个评估套件,可加快使用AnalogML进行设计的速度。12月,我们发布了语音优先评估套件(EVK2),其中包括用于快速评估的音频测试文件和用于实时测试的英飞凌高性能MEMS麦克风,以及运行唤醒字引擎的意法半导体集成高性能MCU。EVK2为系统设计师提供了模拟语音活动检测的动手经验,并能够自己测量自己设计中可实现的节能效果以及使用Aspinity预卷解决方案可实现的精度的机会用于关键字检测。

我们还有另一个评估套件(EVK),它更侧重于不需要预卷的声音事件检测。该EVK的Aspinity算法库当前支持语音检测,玻璃破碎和T3烟雾/ T4一氧化碳警报。

正如我之前提到的那样,对analogML开发环境进行了设计,以使其对于可以使用标准培训接口进行开发然后加载到analogML内核的特定于应用程序的算法而言非常简单。

菲:您能给我们公司的最新消息吗?

Doyle:在2020年CES上,我们展示了首款与意法半导体(STMicroelectronics)合作的端到端语音活动检测套件,去年12月,我们推出了EVK2,即语音优先评估套件,其中包括意法半导体(STM)的STM32H743ZI。此外,我们于2020年5月宣布了与英飞凌的合作伙伴关系。然后,在2020年12月,我们推出了使用英飞凌麦克风的EVK2,我们希望很快会有更多新闻与英飞凌接轨。我们还希望在短期内宣布一些其他合作。我们的第一个产品将基于我们的AnalogML内核,我们希望它将在今年晚些时候发布。

FE:您的芯片与imec和Global Foundries以及Mythic的M1108的模拟推理加速器(AnIA)测试芯片有何不同?

Doyle:这两种技术都属于我们先前讨论的类别,在这些类别中,芯片使用较低功率的模拟电路执行选择的功率密集型计算,但在其他所有传感器信息仍首先被数字化的数字范式中执行。因此,与许多其他方法一样,这些方法专注于提高神经网络的效率,而不是依赖于神经网络的整个系统的效率。

FE:您对工程师如何使用AnalogML有什么建议?

Doyle: Aspinity使客户可以轻松使用AnalogML并从其系统中的分析优先架构中受益。我们已经开发了一种算法库,无论是否支持预卷,玻璃破碎检测以及烟雾和一氧化碳警报音检测,它都支持语音活动检测,并且我们将继续定期添加该库。客户可以将运行这些算法之一的AnalogML内核直接放入其现有系统中。

此外,Aspinity可以为客户定制应用程序构建特定的AnalogML模型,并且在将来,我们将发布一个SDK,客户可以使用该SDK使用行业标准工具(例如Pytorch)设计和编译自己的AnalogML模型,而无需任何模拟需要专业知识。

油橄榄小绿灯精华

瑞沛

珂拉琪

银耳子面膜