众所周知,人工神经网络是连续函数的高效近似器,连续函数的值没有突然变化(例如,图形表示中的不连续性,空洞或跳跃)。尽管许多研究已经探索了使用神经网络来逼近连续函数,但是到目前为止,它们对非线性算子的逼近能力很少得到研究。
布朗大学的研究人员最近开发了DeepONet,这是一种基于神经网络的新模型,可以学习线性和非线性算子。该计算模型发表在《自然机器智能》上,该论文的灵感来自于复旦大学一个研究小组过去进行的一系列研究。
进行这项研究的研究人员之一George Em Karniadakis告诉TechXplore:“大约五年前,当我在课堂上教授微积分时,我问自己神经网络是否可以近似一个函数(我们知道它可以近似一个函数)。我四处搜寻,却一无所获,直到有一天我偶然发现了Chen&Chen在1993年发表的一篇论文,研究人员使用单层神经元实现了功能近似,最后,我还阅读了同一小组的另一篇论文。 “算子回归”是我们研究的起点。从那时起,陈T教授通过电子邮件与我联系,并感谢我发现了他被遗忘的论文。”
受复旦大学Chen和Chen论文的启发,Karniadakis决定探索开发一种可以近似线性和非线性算子的神经网络的可能性。他与一位博士讨论了这个想法。学生Lu Lu,他们开始开发DeepONet。
与近似神经网络的近似函数相反,DeepONet近似线性和非线性算子。该模型包括两个深神经网络:一个网络编码离散输入函数空间(即,主干网)和一个编码的输出功能(即,主干网)的域。本质上,DeepONet将函数作为输入(它们是无限维的对象),并将它们映射到输出空间中的其他函数。
Karniadakis说:“使用标准的神经网络,我们可以近似函数,将数据点作为输入并输出数据点。” “因此DeepOnet是查看神经网络的一种全新方法,因为它的网络可以代表所有已知的数学运算符,而且可以代表连续输出空间中的微分方程。”
一旦了解了给定的运算符,DeepONet即可比其他神经网络更快地完成操作并做出预测。在一系列初步评估中,Karniadakis和他的同事发现,它可以在不到一秒的时间内做出预测,即使是与非常复杂的系统有关的预测。
Karniadakis说:“ DeepONet对于自动驾驶汽车非常有用,因为它可以实时进行预测。” “它也可以用作模拟数字孪生,系统系统甚至复杂的社会动力系统的构建块。换句话说,经过大量的离线培训,我们开发的网络可以表示黑匣子复杂的系统。”
作为研究的一部分,研究人员研究了DeepONet输入函数空间的不同公式,并评估了这些公式对16种不同应用的泛化误差的影响。他们的发现很有前途,因为他们的模型可以隐式地获得各种线性和非线性算子。
将来,DeepONet可能具有广泛的应用范围。例如,它可以开发能够解决微积分问题或求解微分方程的机器人,以及响应速度更快和功能更先进的自动驾驶汽车。
“我现在正在与能源部以及许多行业的实验室合作,将DeepONet应用于复杂的应用程序,例如高超音速,气候建模,例如在南极洲的冰融化建模应用程序,以及许多设计应用程序。”
标签:
免责声明:本文由用户上传,如有侵权请联系删除!