卷积的本质及物理意义

   2023-02-12 学习力993
核心提示:提示:对卷积的理解分为三部分讲解1)信号的角度2)数学家的理解(外行)3)与多项式的关系1 来源卷积其实就是为冲击函数诞生的。“冲击函数”是狄拉克为了解决一些瞬间作用的物理现象而提出的符号。古人曰:“说一堆大道理不如举一个好例子”,冲量这一物理

提示:对卷积的理解分为三部分讲解1)信号的角度2)数学家的理解(外行)3)与多项式的关系

1 来源

卷积其实就是为冲击函数诞生的。“冲击函数”是狄拉克为了解决一些瞬间作用的物理现象而提出的符号。古人曰:“说一堆大道理不如举一个好例子”,冲量这一物理现象很能说明“冲击函数”。在t时间内对一物体作用F的力,倘若作用时间t很小,作用力F很大,但让Ft的乘积不变,即冲量不变。于是在用t做横坐标、F做纵坐标的坐标系中,就如同一个面积不变的长方形,底边被挤的窄窄的,高度被挤的高高的,在数学中它可以被挤到无限高,但即使它无限瘦、无限高、但它仍然保持面积不变(它没有被挤没!),为了证实它的存在,可以对它进行积分,积分就是求面积嘛!于是“卷积”这个数学怪物就这样诞生了。

卷积是“信号与系统”中论述系统对输入信号的响应而提出的。

2 意义

信号处理是将一个信号空间映射到另外一个信号空间,通常就是时域到频域,(还有z域,s域),信号的能量就是函数的范数(信号与函数等同的概念),大家都知道有个Paserval定理就是说映射前后范数不变,在数学中就叫保范映射,实际上信号处理中的变换基本都是保范映射,只要Paserval定理成立就是保范映射(就是能量不变的映射)。

信号处理中如何出现卷积的。假设B是一个系统(线性时不变系统),其t时刻的输入为x(t),输出为y(t),系统的响应函数为h(t),按理说,输出与输入的关系应该为

Y(t)=h(t)x(t),

然而,实际的情况是,系统的输出不仅与系统在t时刻的响应有关,还与它在t时刻之前的响应有关,不过系统有个衰减过程,所以t1(<t)时刻的输入对输出的影响通常可以表示为x(t)h(t-t1),这个过程可能是离散的,也可能是连续的,所以t时刻的输出应该为t时刻之前系统响应函数在各个时刻响应的叠加,这就是卷积,用数学公式表示就是

y(s)=∫x(t)h(s-t)dt,

离散情况下就是级数了。

3 计算

卷积是一种积分运算,它可以用来描述线性时不变系统的输入和输出的关系:即输出可以通过输入和一个表征系统特性的函数(冲激响应函数)进行卷积运算得到。(以下用$符号表示从负无穷大到正无穷大的积分)

1)一维卷积:

y(t)=g(k)*x(k)=$g(k)x(t-k)

先把函数x(k)相对于原点反折,然后向右移动距离t,然后两个函数相乘再积分,就得到了在t处的输出。对每个t值重复上述过程,就得到了输出曲线。   

2)二维卷积:

h(x,y)=f(u,v)*g(u,v)=$$f(u,v)g(x-u,y-v)

先将g(u,v)绕其原点旋转180度,然后平移其原点,u轴上像上平移x,   v轴上像上平移y。然后两个函数相乘积分,得到一个点处的输出。

4 幽默笑话——谈卷积的物理意义

有一个七品县令,喜欢用打板子来惩戒那些市井无赖,而且有个惯例:如果没犯大罪,只打一板,释放回家,以示爱民如子。

有一个无赖,想出人头地却没啥指望,心想:既然扬不了善名,出恶名也成啊。怎么出恶名?炒作呗!怎么炒作?找名人呀!他自然想到了他的行政长官——县令。

无赖于是光天化日之下,站在县衙门前撒了一泡尿,后果是可想而知地,自然被请进大堂挨了一板子,然后昂首挺胸回家,躺了一天,嘿!身上啥事也没有!第二天如法炮制,全然不顾行政长管的仁慈和衙门的体面,第三天、第四天......每天去县衙门领一个板子回来,还喜气洋洋地,坚持一个月之久!这无赖的名气已经和衙门口的臭气一样,传遍八方了!

县令大人噤着鼻子,呆呆地盯着案子上的惊堂木,拧着眉头思考一个问题:这三十个大板子怎么不好使捏?......想当初,本老爷金榜题名时,数学可是得了满分,今天好歹要解决这个问题:

 ——人(系统!)挨板子(脉冲!)以后,会有什么表现(输出!)?

 ——费话,疼呗!

——我问的是:会有什么表现?

 ——看疼到啥程度。像这无赖的体格,每天挨一个板子啥事都不会有,连哼一下都不可能,你也看到他那得意洋洋的嘴脸了(输出0);如果一次连揍他十个板子,他可能会皱皱眉头,咬咬牙,硬挺着不哼(输出1);揍到二十个板子,他会疼得脸部扭曲,象猪似地哼哼(输出3);揍到三十个板子,他可能会象驴似地嚎叫,一把鼻涕一把泪地求你饶他一命(输出5);揍到四十个板子,他会大小便失禁,勉强哼出声来(输出1);揍到五十个板子,他连哼一下都不可能(输出0)——死啦!

县令铺开坐标纸,以打板子的个数作为X轴,以哼哼的程度(输出)为Y轴,绘制了一条曲线:

 ——呜呼呀!这曲线像一座高山,弄不懂。为啥那个无赖连挨了三十天大板却不喊绕命呀?

 —— 呵呵,你打一次的时间间隔(Δτ=24小时)太长了,所以那个无赖承受的痛苦程度一天一利索,没有叠加,始终是一个常数;如果缩短打板子的时间间隔(建议Δτ=0.5秒),那他的痛苦程度可就迅速叠加了;等到这无赖挨三十个大板(t=30)时,痛苦程度达到了他能喊叫的极限,会收到最好的惩戒效果,再多打就显示不出您的仁慈了。

——还是不太明白,时间间隔小,为什么痛苦程度会叠加呢?

——这与人(线性时不变系统)对板子(脉冲、输入、激励)的响应有关。什么是响应?人挨一个板子后,疼痛的感觉会在一天(假设的,因人而异)内慢慢消失(衰减),而不可能突然消失。这样一来,只要打板子的时间间隔很小,每一个板子引起的疼痛都来不及完全衰减,都会对最终的痛苦程度有不同的贡献:

t个大板子造成的痛苦程度=Σ(第τ个大板子引起的痛苦*衰减系数)

[衰减系数是(t-τ)的函数,仔细品味]

 数学表达为:y(t)=∫T(τ)H(t-τ)dτ

——拿人的痛苦来说卷积的事,太残忍了。除了人以外,其他事物也符合这条规律吗?

 ——呵呵,县令大人毕竟仁慈。其实除人之外,很多事情也遵循此道。好好想一想,铁丝为什么弯曲一次不折,快速弯曲多次却会轻易折掉呢?

 ——恩,一时还弄不清,容本官慢慢想来——但有一点是明确地——来人啊,将撒尿的那个无赖抓来,狠打40大板!

也可以这样理解:T(τ)即第τ个板子,H(t-τ)就是第τ个板子引起的痛苦到t时刻的痛苦程度,所有板子加起来就是∫T(τ)H(t-τ)dτ

4 卷积在具体学科中的应用

图像处理:用一个模板和一幅图像进行卷积,对于图像上的一个点,让模板的原点和该点重合,然后模板上的点和图像上对应的点相乘,然后各点的积相加,就得到了该点的卷积值。对图像上的每个点都这样处理。由于大多数模板都是对称的,所以模板不旋转。卷积是一种积分运算,用来求两个曲线重叠区域面积。可以看作加权求和,可以用来消除噪声、特征增强。

把一个点的像素值用它周围的点的像素值的加权平均代替。

卷积是一种线性运算,图像处理中常见的mask运算都是卷积,广泛应用于图像滤波。

卷积在数据处理中用来平滑,卷积有平滑效应和展宽效应.

电路学:卷积法的原理是根据线性定常电路的性质(齐次性、叠加性、时不变性、积分性等),借助电路的单位冲激响应h(t),求解系统响应的工具,系统的激励一般都可以表示为冲击函数和激励的函数的卷积,而卷积为高等数学中的积分概念。概念中冲击函数的幅度是由每个矩形微元的面积决定的。

卷积关系最重要的一种情况,就是在信号与线性系统或数字信号处理中的卷积定理。利用该定理,可以将时间域或空间域中的卷积运算等价为频率域的相乘运算,从而利用FFT等快速算法,实现有效的计算,节省运算代价。

信号处理:

1)卷积实质上是对信号进行滤波;

2)卷积就是用冲击函数表示激励函数,然后根据冲击响应求解系统的零状态响应。

卷积是求和(积分)。对于线性时不变的系统,输入可以分解成很多强度不同的冲激的和的形式(对于时域就是积分),那么输出也就是这些冲激分别作用到系统产生的响应的和(或者积分)。所以卷积的物理意义就是表达了时域中输入,系统冲激响应,以及输出之间的关系。

信号角度:卷积代表了线性系统对输入信号的响应方式,其输出就等于系统冲击函数和信号输入的卷积,只有符合叠加原理的系统,才有系统冲击函数的概念,从而卷积成为系统对输入在数学上运算的必然形式,冲击函数实际上是该问题的格林函数解。点激励源作为强加激励,求解某个线性问题的解,得到的格林函数即是系统冲击响应.所以在线性系统中,系统冲击响应与卷积存在着必然的联系。

数学:来说卷积就是定义两个函数的一种乘法,或者是一种反映两个序列或函数之间的运算方法。对离散序列来说就是两个多项式的乘法。物理意义就是冲激响应的线性叠加,所谓冲激响应可以看作是一个函数,另一个函数按冲激信号正交展开。

在现实中:卷积代表的是将一种信号搬移到另一频率中,比如调制,这是频率卷。

物理:卷积可代表某种系统对某个物理量或输入的调制或污染。

在现实中:卷积代表的是将一种信号搬移到另一频率中,比如调制,这是频率卷。

形象比喻:卷积我觉得就象一把锉刀,它主要是把一些非光滑的函数或算子光滑化。

信号处理的任务就是寻找和信号集合对应的一个集合,然后在另外一个集合中分析信号,Fourier变换就是一种,它建立了时域中每个信号函数与频域中的每个频谱函数的一一对应关系,这是元素之间的对应。那么运算之间的对应呢,在时域的加法对应频域中的加法,这就是FT线性性的体现;那么时域的乘法对应什么呢,最后得到的那个表达式我们就把它叫卷积,就是对应的频域的卷积。

简单来说,卷积是一种重叠关系,也就是说,所得到的结果反映了两个卷积函数的重叠部分。所以,用一个已知频段的函数卷积另一个频段很宽的函数,也就是对后者进行了滤波,后者跟前者重叠的频段才能很好地通过这个filter.

5 卷积与多项式

信号处理中的一个重要运算是卷积.初学卷积的时候,往往是在连续的情形,两个函数f(x),g(x)的卷积,是∫f(u)g(x-u)du。当然,证明卷积的一些性质并不困难,比如交换,结合等等,但是对于卷积运算的来处,初学者就不甚了了。

其实,从离散的情形看卷积,或许更加清楚,对于两个序列f[n],g[n],一般可以将其卷积定义为s[x]= ∑f[k]g[x-k]。

卷积的一个典型例子,其实就是初中就学过的多项式相乘的运算。

比如(x*x+3*x+2)(2*x+5)一般计算顺序如下:

(x*x+3*x+2)(2*x+5)

= (x*x+3*x+2)*2*x+(x*x+3*x+2)*5
= 2*x*x*x+3*2*x*x+2*2*x+ 5*x*x+3*5*x+10
然后合并同类项的系数,

2x*x*x

3*2+1*5x*x

2*2+3*5x

2*5
2*x*x*x+11*x*x+19*x+10

实际上,从线性代数可以知道,多项式构成一个向量空间,其基底可选为{1,x,x*x,x*x*x,...}如此,则任何多项式均可与无穷维空间中的一个坐标向量相对应,如,(x*x+3*x+2)对应于(1 3 2),(2*x+5)对应于(2,5)。线性空间中没有定义两个向量间的卷积运算,而只有加法、数乘两种运算,而实际上,多项式的乘法,就无法在线性空间中说明,可见线性空间的理论多么局限了。但如果按照我们上面对向量卷积的定义来处理坐标向量,(1 3 2)*(2 5)则有(1 3 2)*(2 5)=(2 11 19 10)。

回到多项式的表示上来,(x*x+3*x+2)(2*x+5)=2*x*x*x+11*x*x+19*x+10,结果跟我们用传统办法得到的是完全一样的.换句话,多项式相乘,相当于系数向量的卷积.其实道理也很简单,卷积运算实际上是分别求 x*x*x ,x*x,x,1的系数,也就是说,他把加法和求和杂合在一起做了。(传统的办法是先做乘法,然后在合并同类项的时候才作加法)以x*x的系数为例,得到x*x,或者是用x*x乘5,或者是用3x乘2x,也就是

2 3 1
_ 2 5
6+5=11

其实,这正是向量的内积.如此则,卷积运算,可以看作是一串内积运算.既然是一串内积运算,则我们可以试图用矩阵表示上述过程。
[ 2 3 1 0 0 0]
[ 0 2 3 1 0 0]==A
[ 0 0 2 3 1 0]
[ 0 0 0 2 3 1]
[0 0 2 5 0 0]\' == x
b= Ax=[ 2 11 19 10]\'

采用行的观点看Ax,则b的每行都是一个内积。A的每一行都是序列[23 1]的一个移动位置。显然,在这个特定的背景下,我们知道,卷积满足交换,结合等定律,因为,众所周知的,多项式的乘法满足交换律,结合律.在一般情形下,其实也成立.

在这里,我们发现多项式,除了构成特定的线性空间外,基与基之间还存在某种特殊的联系,正是这种联系,给予多项式空间以特殊的性质.

在学向量的时候,一般都会举这个例子,甲有三个苹果,5个橘子,乙有5个苹果,三个橘子,则共有几个苹果,橘子。老师反复告诫,橘子就是橘子,苹果就是苹果,可不能混在一起。所以有(3,5)+(5,3)=(8,8).是的,橘子和苹果无论怎么加,都不会出什么问题的,但是,如果考虑橘子乘橘子,或者橘子乘苹果,这问题就不大容易说清了。

又如复数,如果仅仅定义复数为数对(a,b),仅仅在线性空间的层面看待C2,那就未免太简单了。实际上,只要加上一条(a,b)*(c,d)=(ac-bd,ad+bc)。则情况马上改观,复变函数的内容多么丰富多彩,是众所周知的。另外,回想信号处理里面的一条基本定理,频率域的乘积,相当于时域或空域信号的卷积.恰好和这里的情形完全对等.这后面存在什么样的隐态联系,需要继续参详.

从这里看,高等的卷积运算其实不过是一种初等的运算的抽象而已.中学学过的数学里面,其实还蕴涵着许多高深的内容(比如交换代数)。温故而知新,斯言不谬.其实这道理一点也不复杂,人类繁衍了多少万年了,但过去n多年,人们只知道男女媾精,乃能繁衍后代。精子,卵子的发现,生殖机制的研究,也就是最近多少年的事情。

孔子说,道在人伦日用中,看来我们应该多用审视的眼光看待周围,乃至自身,才能知其然,而知其所以然。

 

 

 

 

数据挖掘中有时需要卷积这一数学工具(例如计算个体适应度、对象间距离,以及干预效果等等),昨天又有同学问到相关问题,借用最近在网上的滚烫的词汇集 { 辐射,服碘,补盐,空袭 },对卷积做了一个直观的解释。反馈还算满意,又在过去讲课的PPT中取些素材,改写成了这篇博文。
  
  幼童背古诗文的感觉,来自数学系的同学觉得卷积是小菜一碟,随手就写出卷积定义
       F(t)= ∫ f(τ)g(t-τ)dτ  (积分限从-∞ 到+∞)
  并指出这是含参积分,t是参数,觉得浅而又显,无须解释。而部分(例如来自工科和医学专业的)选修数据挖掘的学生,还是觉得稍有点难,说:相关公式能默写、能推导、能通过考试,自己还是觉得不踏实,觉得没有真正理解;发明者是怎样想出来的?有何直观背景?用在哪些场合?
  一言以蔽之,在逻辑上认可,而直观上迷茫。好像很小的时候背诵古诗文那种感觉。
  鉴于数学老师已经讲解过理论推导,作为一种补充,这里用生活实例做一些直观解释,给出一个大框架和物理直观,为叙述简单,忽略一些细节。需要说明,直观的解释仅用于辅助理解,不能取代严格的描述和证明。
 
  几个时髦(但可能不很贴切)的例子.
  辐射:设某核电站事故中,某工作人员每天到抢险现场工作T分钟,接受一定剂量的辐射,辐射会自然地衰减,如此工作N天,总的辐射量用什么计算工具来(粗略地)估计?回答:可以用卷积。
  服碘:某人为了防辐射,自己找来碘片,每天口服若干,体内碘残量会随人体代谢衰减,N天后体内积累的碘残量如何(粗略地)估计?还是卷积;(后面科普部分将给出简单的推导过程);
  补盐:某人为了反辐射,抢购来碘盐,每餐口服若干,体内盐残量会随人体代谢衰减。N天后体内积累的盐量和碘残量如何(粗略地)估计?可以用卷积;
  空袭:某多国部队每隔N小时对桀骜不驯的某地区或国家实行间歇性空中打击,每次打击后,其物理破坏和心理震慑作用会随时间衰减(例如,被打方会组织抢修,心里承受度增加等等),如此进行M天后,累积的打击总效果如何(粗略地)估计?还是可以用卷积。
  还有其他例子,如长期服药的血药浓度,长期吸入污染物在人体内的积累,吸烟或喝咖啡的积累效应,多次喷洒农药的残留量,等等,也可以用卷积来估计。
  上面的有些例子可能不很贴切,有几个原因:,
  (a)卷积是积分运算,处理对象要求是可以积分的函数,在工程中,一般对应于连续现象而不是离散对象;把离散对象当做连续的现象处理,只能粗略估计。
  (b)社会问题,政治问题比较复杂,即使加上很多假定,也只是框架性的估算。
  但是,有计算、有依据的估计总比算命先生的神仙数字可信。
  
  难懂之因:为了数学美,拆卸了脚手架。 教科书书常用“定义—定理”的体系,先给出数学定义,然后给出若干性质, 从公式 到 公式,逐步推导。有的教科书采用用信号“反褶、平移、相乘、积分”给出几何解释,属于用数学解释数学,提问者不满足这种解释。
  这不是当年发明卷积的大师们的“需求–猜想—发现—证明—应用”的路径,大师们建设好“卷积”大厦后,为了数学美,拆卸了脚手架,现在人们看到的是炼成的钢铁,看不出钢铁是怎样炼成的。造成了部分非数学专业学生的一个难点。
 
  一次输液引出的班门弄斧 一次偶感风寒,服药未愈,转作静脉滴注,无聊地望着那药液慢腾腾地滴,忽然灵感一闪:
  (1)这是一个可离散观察的连续过程。透明玻璃管构成了可视化的界面,能离散地对药滴计数,而下面是相对稳定的液柱高度,保证了药液连续(有点脉动)地注入静脉,比较适合积分处理;(口服和注射,就相对离散,结果就更粗略一些)。
  (2)药动学有个术语血药浓度,怎样来保证血药浓度在安全阈值之下,又在有效阈值之上呢?
  立刻在草稿本上写划,哇噻,原来可以用卷积!而且只需要简单的积分知识。于是,对此常问难点,有了一个易懂的直观解释。正是:小恙滴注,焉知非福?
  下面将叙述这次双重的(数学与医学)的班门弄斧,疏漏之处,请专家指正。
  
  静脉滴注与体内药物浓度 为简单又不失一般性,给出下列符号和假定:
  从t=0开始,每隔τ秒,输入药物一次(离散化是为了简单);药量随时间变化, 在时刻t时的那次给药量为f(t),关注的时刻点为 t=0, τ,2τ,3τ,…
  
  一滴药液的在体内衰减规律 药物以多种方式代谢(衰减),按假设,在τ1时的那滴药液含药量f(τ1),当时间流逝到t时刻,假设那一滴药物在体内的残量是f(τ1)* g(t,τ1),其中g(t,τ1)称为衰减因子函数,怎么找出衰减因子的具体结构呢? 药动学中有两种衰减方式 :
   (a)零级动力学消除,即恒速消除,如乙醇血浓>0.05 mg/ml时,较简单;
   (b)一级动力学消除,即恒比消除,消除速度与血药浓度成正比,如乙醇血浓<0.05 mg/ml时的衰减规律,这也类似于简单热传导中散热速度与温差成正比。    设在τ时刻 ,输入一滴药,药量为f(τ), 根据一级动力学消除,建立最简单的微分方程 ;
        dg/dt =-kg
    考虑t=τ时不衰减的初始条件,容易求得 g=e-k(t-τ) ,  
   为下面方便,把衰减因子改写为   
       g(t-τ)= e-k(t-τ)
       于是,在τ>0时,给药一次,药量为f(τ), 
       当t为2τ时,血药浓度降到  f(τ)*g(t-τ)= f(τ)*g(τ)= f(τ)(1/ek ) 
               当t为3τ时,血药浓度降到   f(τ)*g(t-τ) = f(τ)*g(2τ)= f(τ)(1/e2k ) 
               当t为4τ时,血药浓度降到   f(τ)*g(t-τ) = f(τ)*g(3τ)= f(τ)(1/e3k )
    可见,只给药一滴,血药浓度衰减很快,难以治疗那种要与病毒或细菌打持久战的疾病。
 
    多次密集给药 或连续给药    用τ置换让上面的T,让τ动起来,令τ依次取τ1, τ2,….. τn  ,则N多次密集给药后,当时间流逝到t时的血药浓度是    
     fj)*g(t-τj)              ( 对 j=1,2,….. n  求和)
 
 前面说过,静脉滴注是一个可离散观察的连续过程。,所以,上面的和式可写为积分形式,即卷积 
     F(t)=  f(τ)g(t-τ)dτ 
 
     曲线光滑工具 当f(τ)是脉冲函数时(例如考察一滴药引发的血药浓度),曲线显得不够光滑,而卷积F(t)是多次脉冲的(平均)累积效应,或可视为是一种加权平均,所以,F(t)的曲线就光滑一些,所以,医生要考察N小时的滴注效果,而不察几分钟或一滴药的效果。选择适当的g(t-τ)函数,(例如,3/2次方衰减型、平方衰减性、指数衰减型、周期兼指数衰减型,...),可用卷积作为突出不同加权方式的曲线光滑工具。
    比较光滑、不是陡升陡降的血药浓度曲线表明,静脉滴注能较好地控制血药浓度;这大概也是有些医生和病人喜欢它的原因;当然,如果过分依赖静脉滴注,则减少了免疫系统的锻炼机会,所以很多医生主张,如果服药能解决问题,就不要滴注。
    
    更多的应用实例  卷积的结果可辅助人们定量地协调脉动式输入 f(τ) 和 衰减g(t-τ) 这一对矛盾,使得累积效应F(t)= ∫ f(τ)g(t-τ)dτ 在控制范围内。
    例如,研究干预规则,(例如,叶酸干预新生儿脑畸形缺陷),干预为f(τ),复杂的衰减g(t-τ),总的干预效果可否用卷积来粗略描述?
  再例如,制定正确的给药剂量和周期,例如照医嘱摄入碘或盐;
  又例如,制定空中打击方案的强度和频度,常识告诉人们,足够的强度和密度才能有效打击。卷积作为工具,或许可定量计算出最经济打击强度和密度。而被打击的一方,可计算出足够的衰减因子,使得能在被轰炸后有效恢复;战争是铁血与智慧的较量,当双方的铁与血差不多时,如《孙子.计篇》所说,“多算胜,少算不胜”,而卷积只不过在众多的计算方法基础上,增加了一个算法,仅此而已,
    最近,在这个不平静的世界上,有一场空袭和反空袭的较量,不知持续多久?10天,100天,还是200天?研究军事的专家或许可用卷积做个模型。
     武侠小说中,有时候看见一方逐步投入兵力,使用添油战术,好像是多次服药,每次都没有服够量,血药浓度低于有效门限。被逐次歼灭。
     卷积并不神秘,它有其退化版,例如水池一面进水,一面放水,求瞬时水量。当进水匀速且放水速度服从零级或一级动力学消除规律时,偶尔也作为中小学生的数学奥赛题,基础好的聪明学生能用初等方法计算。但当进水是1+sin(t)这样的脉动函数,或更复杂的函数时,就只能用卷积了。
     卷积是一个老技术,对某些专业的学生是一个难点,“老技术+新讲法+直观解释”使其容易被初学者接受。这里要强调,直观解释不能取代严格的数学推理,这里的班门弄斧。不能取代数学老师的正规训练。。
 
 
 

卷积

最近总是和卷积打交道,工作需要,每天都要碰到它好几次,不胜烦恼,因为在大学时候学信号与系统的时候就没学会,我于是心想一定要把卷积完全搞明白。正好同办公室的同学也问我什么是卷积,师姐昨天也告诉我说:"我也早就想把这个问题搞明白了!"经过一段时间的思考之后,有一些很有趣的体会和大家分享。

听说卷积这种运算式物理学家发明的,在实际中用得不亦乐乎,而数学家却一直没有把运算的意义彻底搞明白。仔细品以下,还是有那么点滋味的。

下面先看一下剑桥大学的教科书对卷积的定义:

我们都知道这个公式,但是它有什么物理意义呢,平时我们用卷积做过很多事情,信号处理时,输出函数是输入函数和系统函数的卷积,在图像处理时,两组幅分辨率不同的图卷积之后得到的互相平滑的图像可以方便处理。卷积甚至可以用在考试作弊中,为了让照片同时像两个人,只要把两人的图像卷积处理即可,这就是一种平滑的过程,可是我们怎么才能真正把公式和实际建立起一种联系呢,也就是说,我们能不能从生活中找到一种很方便且具体的例子来表达公式的物理意义呢?

有一个七品县令,喜欢用打板子来惩戒那些市井无赖,而且有个惯例:如果没犯大罪,只打一板,释放回家,以示爱民如子。

有一个无赖,想出人头地却没啥指望,心想:既然扬不了善名,出恶名也成啊。怎么出恶名?炒作呗!怎么炒作?找名人呀!他自然想到了他的行政长官——县令。

无赖于是光天化日之下,站在县衙门前撒了一泡尿,后果是可想而知地,自然被请进大堂挨了一板子,然后昂首挺胸回家,躺了一天,嘿!身上啥事也没有!第二天 如法炮制,全然不顾行政长管的仁慈和衙门的体面,第三天、第四天......每天去县衙门领一个板子回来,还喜气洋洋地,坚持一个月之久!这无赖的名气已 经和衙门口的臭气一样,传遍八方了!

县令大人噤着鼻子,呆呆地盯着案子上的惊堂木,拧着眉头思考一个问题:这三十个大板子怎么不好使捏?......想当初,本老爷金榜题名时,数学可是得了满分,今天好歹要解决这个问题:

——人(系统!)挨板子(脉冲!)以后,会有什么表现(输出!)?

——费话,疼呗!

——我问的是:会有什么表现?

——看疼到啥程度。像这无赖的体格,每天挨一个板子啥事都不会有,连哼一下都不可能,你也看到他那得意洋洋的嘴脸了(输出0);如果一次连揍他十个板子, 他可能会皱皱眉头,咬咬牙,硬挺着不哼(输出1);揍到二十个板子,他会疼得脸部扭曲,象猪似地哼哼(输出3);揍到三十个板子,他可能会象驴似地嚎叫, 一把鼻涕一把泪地求你饶他一命(输出5);揍到四十个板子,他会大小便失禁,勉强哼出声来(输出1);揍到五十个板子,他连哼一下都不可能(输出0)——死啦!

县令铺开坐标纸,以打板子的个数作为X轴,以哼哼的程度(输出)为Y轴,绘制了一条曲线:

——呜呼呀!这曲线象一座高山,弄不懂弄不懂。为啥那个无赖连挨了三十天大板却不喊绕命呀?

——呵呵,你打一次的时间间隔(Δτ=24小时)太长了,所以那个无赖承受的痛苦程度一天一利索,没有叠加,始终是一个常数;如果缩短打板子的时间间隔 (建议Δτ=0.5秒),那他的痛苦程度可就迅速叠加了;等到这无赖挨三十个大板(t=30)时,痛苦程度达到了他能喊叫的极限,会收到最好的惩戒效果, 再多打就显示不出您的仁慈了。

——还是不太明白,时间间隔小,为什么痛苦程度会叠加呢?

——这与人(线性时不变系统)对板子(脉冲、输入、激励)的响应有关。什么是响应?人挨一个板子后,疼痛的感觉会在一天(假设的,因人而异)内慢慢消失 (衰减),而不可能突然消失。这样一来,只要打板子的时间间隔很小,每一个板子引起的疼痛都来不及完全衰减,都会对最终的痛苦程度有不同的贡献:

t个大板子造成的痛苦程度=Σ(第τ个大板子引起的痛苦*衰减系数)[衰减系数是(t-τ)的函数,仔细品味]

数学表达为:y(t)=∫T(τ)H(t-τ)

——拿人的痛苦来说卷积的事,太残忍了。除了人以外,其他事物也符合这条规律吗?

——呵呵,县令大人毕竟仁慈。其实除人之外,很多事情也遵循此道。好好想一想,铁丝为什么弯曲一次不折,快速弯曲多次却会轻易折掉呢?

——恩,一时还弄不清,容本官慢慢想来——但有一点是明确地——来人啊,将撒尿的那个无赖抓来,狠打40大板!

 

傅立叶变换和卷积的物理意义

这里没有数学公式,倒不是像费曼那样高风亮节,而是这里输入公式太烦,不然...

突然说这个话题是因为在水房洗衣的时候,一数学系正在刮胡子的哥们突然问我傅立叶变换的物理意义是什么?当时我就死机了,不知怎么答。

傅立叶变换伴随了我四年,从数学分析课上学会计算,然后光学中的夫朗和费衍射,接着信号处理,然后是SRTP中的数字全息都和这个息息相关,可是,课堂上强调的是会算,会用就行了,而对其物理意义,书上语焉不详,老师只字未提。

傅立叶变换的产生,是一个叫约瑟夫.傅立叶的法国人《热的分析理论》中作为一个数学工具而引入的,所以它的发展一直在其工具出身的阴影下,对于其意义不同学科有不同版本的阐释,但更多的是作为一个计算工具辅助计算,所以要我说其有什么物理意义,一时间真的不知怎么回答。

于是我只好举个例子,傅立叶变换在光学上的物理意义。

我们都知道,会聚透镜(简单地说,就是普通的凸透镜啦)除了具有成像性质外,最有用的就是它还具有进行二维傅 立叶变换的本领。由物理光学可知,在单位振幅的平面光波垂直照明下 的夫朗和费衍射,恰好实现衍射屏透过率函数的傅立叶变换。

即一束光通过凸透镜在焦平面上采集到的图像即为这束光的频率空间信息,亦即数学上对这束光进行一次傅立叶变换后的结果。

所以傅立叶变换在这里的物理意义就是将光的空间分布转换为频率分布(相空间),在靠近原点的部分为图像低频部分,远离原点部分为图像高频部分。

这时那哥们就问:那么变换后高频部分对应图像的哪一部分呢?因为有个老师讲课时说,原来原点部分对应变换后距原点无穷远处,而原来的无穷远处则对应变换后的原点。(我突然想起了倒易空间,联想到这个没什么道理)

直觉上我觉得这样说是错误的,因为傅立叶变换并非一一对应的,频率空间上任何一处,哪怕只有一点都与原来的整幅图像有关,也就是说,这是非局域性的。

举个例子,全息图,任取全息图的一部分还原(做一次逆傅立叶变换)成的图像都是原来的整幅图像,但由于高频信息的缺失所以还原图像比原图像要模糊。

而频率空间体现的是什么呢?是原图像的变化程度。举个最简单的例子,一束平行光经过凸透镜后在焦平面(即频率空间)上会聚为一点,在数学上就是平面波函数经过傅立叶变换后得到一个常量(信号处理上又称为直流量),意思是原来的图像(平面波)没有"起伏"(即光强变化,因为是平行光),所以在原点(低频)处有一点强光,数学上是冲击函数,这样搞过信号的人大概会共鸣了吧。

没错!信号书上经典例题,对阶跃函数和冲击函数通过傅立叶变换在物理光学上的对应就是平行光通过凸透镜。

这就是傅立叶变换在光学上的物理意义,至于傅立叶变换在量子力学上的意义...不写公式光靠文字描述的话我讲不清楚。

还有就是卷积了,我只能说,它的图像意义便是两个函数随着自变量的变化不断重叠的面积的叠加,至于其物理意义我就说不清了,因为我接触卷积以来,它都只是计算工具,拉普拉斯变换啊之类的用于计算两个函数叠加的工具,变换之后又做逆变换,然后很方便地得出正确结果。

我知道这肯定是不足的,除了知道怎么算(这是基础!),然后知道图像意义,可是卷积肯定有对应的物理意义。工科老师上课时只是把这个当成一个工具,能用就行,可是这对学物理的我来说,对why有一种近似着魔的obsession,就像Nolan的《The Prestige》里面对决的两个魔术师一样...

P.S.Google卷积的物理意义得到的多数是定义,数学表达,图像意义,或者干脆给个例题:一个系统,其单位冲激响应为h(t),当输入信号为f(t)时,该系统的输出为y(t)。y(t)是f(t)和h(t)的卷积。

这些都不是其物理意义,最好给一个物理过程对应卷积的计算过程。

 

 

 

那片云:看了后有很大的收获,开始主文及回复均非常精彩。对理解卷积的数学物理意义很有帮助。

下面说一下我的理解:

1.卷积是求累积值,就是某一时刻的反应,是多个反应的叠加值。

2.既然如一,就有2.1任何信号可微分成脉冲信号的组合,依次通过系统。

2.1,系统是线性的,某时的响应是可以看成是响应的叠加。

注:关于线性系统,可以理解为:如果一系统,输入为1时,输出为1;那么输入为2时,输出也为2.而不是1.几。

 

3.y(t)=∫T(τ)H(t-τ),这是卷积的公式,要理解这个,首先要有时间的概念,τ,t这两个参数的真正意义,是时间。t是某时,而τ表示从零到某时的这个时间段的某时刻。

    这个公式包括两个部份,前面的表示脉冲强度,τ时刻的脉冲强度;是后面的是单位脉冲响应函数,

或者说是响应的衰减函数,因为响应随着时间的推移而减弱,就像疼痛会减弱一样这样更好理解,而个体表示的是t时刻时,τ时刻的脉冲响应的值。那么整个式子就表示,强度*衰减系数。叠加到一块儿,就是t时刻的响应了。

卷积的物理意义

如上图,脉冲的强度,和些脉冲响应的强度在时间上的关系。而卷积无非就是强度和时间上的关系。

、、、、、、、、、、、、、、、、、、、

最幽默的解释 卷积的物理意义

谈起卷积分当然要先说说冲击函数—-这个倒立的小蝌蚪,卷积其实就是为它诞生的。”冲击函数”是狄拉克为了解决一些瞬间作用的物理现象而提出的符号。

古人曰:”说一堆大道理不如举一个好例子”,冲量这一物理现象很能说明”冲击函数”。在t时间内对一物体作用F的力,我们可以让作用时间t很小,作用力F很大,但让Ft的乘积不变,即冲量不变。于是在用t做横坐标、F做纵坐标的坐标系中,就如同一个面积不变的长方形,底边被挤的窄窄的,高度被挤的高高的,在数学中它可以被挤到无限高,但即使它无限瘦、无限高、但它仍然保持面积不变(它没有被挤没!),为了证实它的存在,可以对它进行积分,积分就是求面积嘛!于是”卷积” 这个数学怪物就这样诞生了。说它是数学怪物是因为追求完美的数学家始终在头脑中转不过来弯,一个能瘦到无限小的家伙,竟能在积分中占有一席之地,必须将这个细高挑清除数学界。但物理学家、工程师们确非常喜欢它,因为它解决了很多当时数学家解决不了的实际问题。最终追求完美的数学家终于想通了,数学是来源于实际的,并最终服务于实际才是真。于是,他们为它量身定做了一套运作规律。于是,妈呀!你我都感觉眩晕的卷积分产生了。

 

例子:

有一个七品县令,喜欢用打板子来惩戒那些市井无赖,而且有个惯例:如果没犯大罪,只打一板,释放回家,以示爱民如子。

有一个无赖,想出人头地却没啥指望,心想:既然扬不了善名,出恶名也成啊。怎么出恶名?炒作呗!怎么炒作?找名人呀!他自然想到了他的行政长官——县令。

无赖于是光天化日之下,站在县衙门前撒了一泡尿,后果是可想而知地,自然被请进大堂挨了一板子,然后昂首挺胸回家,躺了一天,嘿!身上啥事也没有!第二天如法炮制,全然不顾行政长管的仁慈和衙门的体面,第三天、第四天……每天去县衙门领一个板子回来,还喜气洋洋地,坚持一个月之久!这无赖的名气已经和衙门口的臭气一样,传遍八方了!

县令大人噤着鼻子,呆呆地盯着案子上的惊堂木,拧着眉头思考一个问题:这三十个大板子怎么不好使捏?……想当初,本老爷金榜题名时,数学可是得了满分,今天好歹要解决这个问题:

——人(系统!)挨板子(脉冲!)以后,会有什么表现(输出!)?

——费话,疼呗!

——我问的是:会有什么表现?

——看疼到啥程度。像这无赖的体格,每天挨一个板子啥事都不会有,连哼一下都不可能,你也看到他那得意洋洋的嘴脸了(输出0);如果一次连揍他十个板子,他可能会皱皱眉头,咬咬牙,硬挺着不哼

(输出1);揍到二十个板子,他会疼得脸部扭曲,象猪似地哼哼(输出3);揍到三十个板子,他可能会象驴似地嚎叫,一把鼻涕一把泪地求你饶他一命(输出5);揍到四十个板子,他会大小便失禁,勉

强哼出声来(输出1);揍到五十个板子,他连哼一下都不可能(输出0)——死啦!

县令铺开坐标纸,以打板子的个数作为X轴,以哼哼的程度(输出)为Y轴,绘制了一条曲线:

——呜呼呀!这曲线象一座高山,弄不懂弄不懂。为啥那个无赖连挨了三十天大板却不喊绕命呀?

—— 呵呵,你打一次的时间间隔(Δτ=24小时)太长了,所以那个无赖承受的痛苦程度一天一利索,没有叠加,始终是一个常数;如果缩短打板子的时间间隔(建议 Δτ=0.5秒),那他的痛苦程度可就迅速叠加了;等到这无赖挨三十个大板(t=30)时,痛苦程度达到了他能喊叫的极限,会收到最好的惩戒效果,再多打就显示不出您的仁慈了。

——还是不太明白,时间间隔小,为什么痛苦程度会叠加呢?

——这与人(线性时不变系统)对板子(脉冲、输入、激励)的响应有关。什么是响应?人挨一个板子后,疼痛的感觉会在一天(假设的,因人而异)内慢慢消失(衰减),而不可能突然消失。这样一来,只要打板子的时间间隔很小,每一个板子引起的疼痛都来不及完全衰减,都会对最终的痛苦程度有不同的贡献:

t个大板子造成的痛苦程度=Σ(第τ个大板子引起的痛苦*衰减系数)

[衰减系数是(t-τ)的函数,仔细品味]

数学表达为:y(t)=∫T(τ)H(t-τ)

——拿人的痛苦来说卷积的事,太残忍了。除了人以外,其他事物也符合这条规律吗?

——呵呵,县令大人毕竟仁慈。其实除人之外,很多事情也遵循此道。好好想一想,铁丝为什么弯曲一次不折,快速弯曲多次却会轻易折掉呢?

——恩,一时还弄不清,容本官慢慢想来——但有一点是明确地——来人啊,将撒尿的那个无赖抓来,狠打40大板!

 

卷积及拉普拉斯变换的通俗解释–对于我这类没学过信号系统的人来说太需要了

卷积(convolution, 另一个通用名称是德文的Faltung)的名称由来,是在于当初定义它时,定义成 integ(f1(v)*f2(t-v))dv,积分区间在0到t之间。举个简单的例子,大家可以看到,为什么叫”卷积”了。比方说在(0,100)间积分,用简单的辛普生积分公式,积分区间分成100等分,那么看到的是f1(0)和f2(100)相乘,f1(1)和f2(99)相乘,f1(2)和f2 (98)相乘,……… 等等等等,就象是在坐标轴上回卷一样。所以人们就叫它”回卷积分”,或者”卷积”了。

为了理解”卷积”的物理意义,不妨将那个问题”相当于它的时域的信号与系统的单位脉冲响应的卷积”略作变化。这个变化纯粹是为了方便表达和理解,不影响任何其它方面。将这个问题表述成这样一个问题:一个信号通过一个系统,系统的响应是频率响应或波谱响应,且看如何理解卷积的物理意义。

假设信号函数为f, 响应函数为g。f不仅是时间的函数(信号时有时无),还是频率的函数(就算在某一固定时刻,还有的地方大有的地方小);g也是时间的函数(有时候有反应,有时候没反应),同时也是频率的函数(不同的波长其响应程度不一样)。那我们要看某一时刻 t 的响应信号,该怎么办呢?

这就需要卷积了。

要看某一时刻 t 的响应信号,自然是看下面两点:

1。你信号来的时候正赶上人家”系统”的响应时间段吗?

2。就算赶上系统响应时间段,响应有多少?

响 应不响应主要是看 f 和 g 两个函数有没有交叠;响应强度的大小不仅取决于所给的信号的强弱,还取决于在某频率处对单位强度响应率。响应强度是信号强弱和对单位强度信号响应率的乘积。”交叠”体现在f(t1)和g(t-t1)上,g之所以是”(t-t1)”就是看两个函数错开多少。

由于 f 和 g 两个函数都有一定的带宽分布(假若不用开头提到的”表述变化”就是都有一定的时间带宽分布),这个信号响应是在一定”范围”内广泛响应的。算总的响应信号,当然要把所有可能的响应加起来,实际上就是对所有可能t1积分了。积分范围虽然一般在负无穷到正无穷之间;但在没有信号或者没有响应的地方,积也是白积,结果是0,所以往往积分范围可以缩减。

这就是卷积及其物理意义啊。并成一句话来说,就是看一个时有时无(当然作为特例也可以永恒存在)的信号,跟一个响应函数在某一时刻有多大交叠。

*********拉普拉斯*********

拉普拉斯(1729-1827) 是法国数学家,天文学家,物理学家。他提出拉普拉斯变换(Laplace Transform) 的目的是想要解决他当时研究的牛顿引力场和太阳系的问题中涉及的积分微分方程。

拉普拉斯变换其实是一个数学上的简便算法;想要了解其”物理”意义 — 如果有的话 — 请看我举这样一个例子:

问题:请计算十万乘以一千万。

对于没学过指数的人,就只会直接相乘;对于学过指数的人,知道不过是把乘数和被乘数表达成指数形式后,两个指数相加就行了;如果要问究竟是多少,把指数转回来就是。

“拉 普拉斯变换” 就相当于上述例子中把数转换成”指数” 的过程;进行了拉普拉斯变换之后,复杂的微分方程(对应于上例中”复杂”的乘法) 就变成了简单的代数方程,就象上例中”复杂”的乘法变成了简单的加减法。再把简单的代数方程的解反变换回去(就象把指数重新转换会一般的数一样),就解决了原来那个复杂的微分方程。

所以要说拉普拉斯变换真有” 物理意义”的话,其物理意义就相当于人们把一般的有理数用指数形式表达一样。

另外说两句题外话:

1 。拉普拉斯变换之所以现在在电路中广泛应有,根本原因是电路中也广泛涉及了微分方程。

2。拉普拉斯变换与Z变换当然有紧密联系;其本质区别在于拉氏变换处理的是时间上连续的问题,Z变换处理的是时间上分立的问题。

 

[有奖讨论] 卷积运算的实际意义是什么?

卷积运算是信号处理常规的一个运算过程。

 

作为一个重要的基础,请大家讨论,也就是从概念,应用方向等去谈谈它的意义。

 

信号处理对很多朋友来说可能比较难,作为基础,我们不能小看它的作用。

 

欢迎参与讨论。:)

 

-------------------------------------------------------------------------------------------------------------

一个我觉得比较精彩的发言。。。开个头!

 

从数学的角度分析:

 

      信号处理是将一个信号空间映射到另外一个信号空间,通常就是时域到频域,(还有z域,s域),信号的能量就是函数的范数(信号与函数等同的概念),大家都知道有个Paserval定理就是说映射前后范数不变,在数学中就叫保范映射,实际上信号处理中的变换基本都是保范映射,只要Paserval定理成立就是保范映射(就是能量不变的映射)。

 

     前面说的意思就是信号处理的任务就是寻找和信号集合对应的一个集合,然后在另外一个集合中分析信号,Fourier变换就是一种,它建立了时域中每个信号函数与频域中的每个频谱函数的一一对应关系,这是元素之间的对应,那么运算之间的对应呢,在时域的加法对应频域中的加法,这就是FT线性性的体现,那么时域的乘法对应什么呢,最后得到的那个表达式我们就把它叫卷积,就是对应的频域的卷积。

longdi 发表于 2006-11-16 16:11

对于卷积,下面是我的理解,如果错误,敬请指出,谢谢!

 

1。两个时域上的函数做卷积可以这样理解:一个函数表征一个线性系统的

冲激响应,这个系统可以是时变的,但一定要是线性的;另一个函数表征

输入到该系统的信号;卷积的结果表征线性系统的输出。对于非线性系统,

输出信号无法表示为输入信号与系统冲激响应的卷积,所以有些教材是叫作

信号与线性系统,强调系统的线性。

 

2。两个时域上的函数做卷积还可以这样理解:输出表征做卷积的两个函数

在特定时刻看来的相关程度,当然此时其中一个函数已经被看作是y(tao)=x(t-tao)

了,特定时刻的输出越大,这两个函数在这一时刻看来相似程度就越好。

gable 发表于 2006-11-24 12:13

前两天看MATLAB教程中多项式相乘时候忽然想到一点,谈一下自己的看法,有不足之处还请高人指点。

 

拿离散信号开刀

 

卷积的表达式为 y(n)=∑x(k)×h(n-k)或y(n)=∑x(n-k)×h(k)

 

这里的n-k表示h从负无穷移动到正无穷,每移动一个单位都同x相乘,所有的乘积项相加后就得到了y。

 

再看一下多项式的乘法

 

(……x^2+x+1……)×(x^2+3x-3)

=(……x^2+x+1……) ×x^2+(……x^2+x+1……) ×3x-(……x^2+x+1……) ×3

 

由于多项式是固定的,少了反折和平移,但我觉得这样更容易理解卷积的数学表达式

 

物理意义就是:任何一个信号都可以表示成单位冲击信号之和。当这个信号通过一个线性系统时,若系统的冲击响应已知,则只需将表示该信号的每一个单位冲击信号在不同时延后的冲击响应叠加,总和就是输出信号。

liukeke498 发表于 2006-12-11 19:48

很赞同楼上说的多项式的乘法的例子,从时域和z域的关系也可以理解。两个多项式相乘就是

(a(0)+a(1)*z^(-1)+a(2)*z^(-2)......+a(p)z^(-p))*(b(0)+b(1)*z^(-1)+b(2)*z^(-2)+....+b(q)z^(-q))=c(0)+c(1)z^(-1)+c(2)z^(-2)+....+c(p+q)z^(p+q)

z域的乘积对应时域的卷积,因此乘积后的系数序列(c(0),c(1)....c(p+q))即为序列a(0)....a(p)与序列b(0)...b(q)进行线性卷积而得到

jumpyists 发表于 2006-12-29 13:44

一点感想

2。两个时域上的函数做卷积还可以这样理解:输出表征做卷积的两个函数

在特定时刻看来的相关程度,当然此时其中一个函数已经被看作是y(tao)=x(t-tao)

了,特定时刻的输出越大,这两个函数在这一时刻看来相似程度就越好。

 

 

这话好像有问题?相关函数和卷积是不一样的,翻翻信号与系统吧

根据我个人的理解卷积运算之所以对于线形非时变系统如此重要

其原因有两点:

   1 一个线性非时变系统对于单频正弦信号或复指信号的响应仍然是单频正弦信号或复指信号只是幅度上进行了

      加权,可见线性非时变系统对基本信号的响应如此简单就使人想到能否将对复杂信号的响应转化为对简单

      信号的响应的求解?

   2 傅立叶级数傅立叶变换就告诉我们如何将一个信号分解为基本信号

所以对一个信号的响应求解的过程为:

     首先将其分解为基本信号

      然后对每个基本信号求响应

而卷积则正是这一过程的一个综合表示

所以卷积是如此的重要!!!!!

还有一个很重要的原因是实际物理系统通常都可以近似为线性非时变系统或几个线性非时变系统的互联

所以所以卷积更更更重要了!!!!!

dragonkiss 发表于 2006-12-29 15:22

[quote]原帖由 [i]jumpyists[/i] 于 2006-12-29 13:44 发表

2。两个时域上的函数做卷积还可以这样理解:输出表征做卷积的两个函数

在特定时刻看来的相关程度,当然此时其中一个函数已经被看作是y(tao)=x(t-tao)

了,特定时刻的输出越大,这两个函数在这一时刻看来相似程度 ... [/quote]

 

 

这个问题可能是各人理解的不同,可以和原来的朋友PM沟通一下。:)

longdi 发表于 2007-1-1 23:41

我说的相关不完全是严格定义上的相关,不过我觉得可以近似

那样理解卷积。

[quote]原帖由 [i]jumpyists[/i] 于 2006-12-29 13:44 发表

2。两个时域上的函数做卷积还可以这样理解:输出表征做卷积的两个函数

在特定时刻看来的相关程度,当然此时其中一个函数已经被看作是y(tao)=x(t-tao)

了,特定时刻的输出越大,这两个函数在这一时刻看来相似程度 ... [/quote]

ycx198 发表于 2007-1-2 21:01

我比较赞同卷积的相关性的作用  在通信系统中的接收机部分MF匹配滤波器等就是本质上的相关

匹配滤波器最简单的形式就是原信号反转移位相乘积分得到的近似=相关

相关性越好得到的信号越强   这个我们有一次大作业做的  做地做到呕吐  呵呵

还有解调中一些东西本质就是相关  有机会再说哈  偶正在研究这个聂  呵呵

longdi 发表于 2007-1-19 21:44

2。两个时域上的函数做卷积还可以这样理解:输出表征做卷积的两个函数

在特定时刻看来的相关程度,当然此时其中一个函数已经被看作是y(tao)=x(t-tao)

了,特定时刻的输出越大,这两个函数在这一时刻看来相似程度 ...

这话好像有问题?相关函数和卷积是不一样的[/quote]

程乾生老师的《信号数字处理的数学原理》(这本书本网站有的)

Page240有这样的一段话:

“这说明,尽管褶积与相关是从研究不同的问题提出来的,但是二者的实质是相同的,

相关是一种褶积,褶积也是一种相关。”

xiaomifeng134 发表于 2007-1-25 22:52

对于一f(t),把要考虑的从0到t的时间间隔等分成宽度为t1的n个小间隔,各脉冲的宽度都等于着间隔的宽度t1,各脉冲的高度分别等于他左边所在时间[(k-1)*t1]的函数值。当t1甚小时这些脉冲分别用一些冲激函数来近似地表示,各冲激函数的位置就是它所代表的脉冲左侧边所在的时间,各冲激函数的强度就是它所代表的脉冲的面积。此时f(t)=f(0)*t1*delta(t) +...+f(k*t1)*t1*delta(t-k*t1)+...1=<k<=n,而对于一冲激响应为h(t)的线性系统,当输入f(t)时,输出为y(t)=f(0)*t1*h(t)+...+f(k*t1)*t1*h(t-k*t1)+...当t1趋于零时,y(t)就可表示为f(t)与h(t)的卷积。

 

longdi 发表于 2007-2-21 21:49

另外,关于相关和卷积的关系,我前面也说了自己的观点,

后来也在程乾生老师的《信号数字处理的数学原理》看到了他的观点:

程乾生老师的《信号数字处理的数学原理》(这本书本网站有的)

Page240有这样的一段话:

“这说明,尽管褶积与相关是从研究不同的问题提出来的,但是二者的实质是相同的,

相关是一种褶积,褶积也是一种相关。”

网络上每个人都有发表自己观点的权利,也有捍卫自己观点的权利,

当网络上缺乏一个大家公认的权威时,说服别人就成了件比较困难的事。

temp_110 发表于 2008-1-7 21:43

如果看成运算规则,卷积就是乘法的另一种表示。

相关在形式上和卷积一样,但是相关显然有统计学上的含义。

 

[[i] 本帖最后由 temp_110 于 2008-1-7 21:48 编辑 [/i]]

quit2468 发表于 2008-1-17 10:49

根据定义而言卷积和相关根本就不是一个东西,硬要说联系,也就一个信号——比如说x[k]的自相关可以写成x[k]与x[-k]的卷积。

我对卷积的理解没有楼上各位那么深,我觉得单吧卷积隔离开来看什么都不是,卷积无非两个作用,一是将时域与频域的运算联系上,二是信号通过一个系统还有系统的级联就是用卷积来表示的——就像1+1+1可以用1*3表示一样,这里面乘法没有什么意义可言

bluebolt 发表于 2008-1-19 20:06

根据定义而言卷积和相关根本就不是一个东西,硬要说联系,也就一个信号——比如说x[k]的自相关可以写成x[k]与x[-k]的卷积。

我对卷积的理解没有楼上各位那么深,我觉得单吧卷积隔离开来看什么都不是,卷积无非两个作 ...

             

同意楼上的观点 卷积与相关不一样

若要说相同那只是在数学表达形式上类似

从物理意义上说

卷积主要用于求输入信号经过系统后的响应 得出的结果仍然是时域上的函数

相关则是求两个信号的相似程度 得出的结果可用一个归一化的参数表示

obnewux 发表于 2008-1-27 11:29

个人也认为卷积和相关是不同的。刚做了一个项目涉及到相关。假设将信号x(n)和y(n)相关,那么为了利用FFT变换,可以这样实现。

将x(n)倒序,即将x(1),x(2),……,x(n)变为X=[x(n),x(n-1),……,x(1)],将其作FFT为XF。对信号y(n)直接作FFT变为YF。那么相关值就等于z=ifft(XF*YF)。

因此,只有将其中一个信号反序,再与另一个信号卷积,才可以等效于相关。

obnewux 发表于 2008-1-27 11:36

另外,我还想问个问题:

在我们作项目的时候对于卷积处理都是如下进行的,不知道对不对。

假设输入x(i),滤波器系数为h(i),长度分别为m和n。x(i)通过滤波器相当于卷积,那么输出y(i)的长度应该为m+n-1。而我们在仿真中为了保证输入输出长度一致,我们取了y(i)的中间部分作为输出,即i=[1:n/2]以及i=[m+n-1-n/2:m+n-1]这部分的数据就不要了。中间部分长度刚刚是m。

不知道这样处理对不对

请大家指教。

hjihxb 发表于 2008-2-10 17:09

卷积与相关类似在数学上表现为乘积和,但卷积需要反摺,而相关不需要,

因此相同的两个数列卷积与相关是不同的。

asdf229955 发表于 2008-3-25 17:47

卷积是分析数学中一种重要的运算。设: <math> f(x)</math>,<math>g(x)</math>是R1上的两个可积函数,作积分:

 

<math> \int f(\tau) g(x - \tau)\, d\tau</math>

可以证明,关于几乎所有的x∈(-∞,∞) ,上述积分是存在的。这样,随着x的不同取值,这个积分就定义了一个新函数h(x),称为f与g的卷积,记为h(x)=(f *g)(x)。容易验证,(f *g)(x)=(g *f)(x),并且(f *g)(x)仍为可积函数。这就是说,把卷积代替乘法,L1(R1)1空间是一个代数,甚至是巴拿赫代数。

 

卷积与傅里叶变换有着密切的关系。利用一点性质,即两函数的傅里叶变换的乘积等于它们卷积后的傅里叶变换,能使傅里叶分析中许多问题的处理得到简化。

 

由卷积得到的函数(f *g)(x),一般要比f,g都光滑。特别当g为具有紧支集的光滑函数,f 为局部可积时,它们的卷积(f *g)(x)也是光滑函数。利用这一性质,对于任意的可积函数 , 都可以简单地构造出一列逼近于f 的光滑函数列fs(x),这种方法称为函数的光滑化或正则化。

 

卷积的概念还可以推广到数列 、测度以及广义函数上去。

 

定义

函数f 与g 的卷积记作<math>f \star g</math>,它是其中一个函数翻转并平移后与另一个函数的乘积对于平移量的积分。

 

<math>(f \star g )(t) = \int f(\tau) g(t - \tau)\, d\tau</math>

积分区间取决于f 与g 的定义域。

 

对于定义在离散域的函数,卷积定义为

 

<math>(f \star g)[m] = \sum_n {f[n] g[m - n]} </math>

 

[编辑]多元函数卷积

按照翻转、平移、积分的定义,还可以类似的定义多元函数上的积分:

 

<math>(f \star g )(t_1,t_2,\cdots,t_n) = \int\int\cdots\int f(\tau_1,\tau_2,\cdots,\tau_n) g(t_1 - \tau_1,t_2 - \tau_2,\cdots,t_n - \tau_n,)\, d\tau_1 d\tau_2 \cdots d\tau_n</math>

性质

各种卷积算子都满足下列性质

 

交换律

<math>f \star g = g \star f \,</math>

结合律

<math>f \star (g \star h) = (f \star g) \star h \,</math>

分配律

<math>f \star (g + h) = (f \star g) + (f \star h) \,</math>

数乘结合律

<math>a (f \star g) = (a f) \star g = f \star (a g) \,</math>

其中<math>a</math>为任意实数(或复数)。

 

微分定理

<math>\mathcal{D}(f \star g) = \mathcal{D}f \star g = f \star \mathcal{D}g \,</math>

其中Df 表示f的微分,如果在离散域中则是指差分算子,包括前向差分与后向差分两种:

 

前向差分:<math>\mathcal{D}^+f(n) = f(n+1) - f(n)</math>

后向差分:<math>\mathcal{D}^-f(n) = f(n) - f(n-1)</math>

卷积定理

卷积定理指出,函数卷积的傅里叶变换是函数傅里叶变换的乘积。即,一个域中的卷积相当于另一个域中的乘积,例如时域中的卷积就对应于频域中的乘积。

 

<math> \mathcal{F}(f \star g) = \mathcal{F} (f) \cdot \mathcal{F} (g) </math>

其中<math>\mathcal{F}(f)</math>表示f 的傅里叶变换。

 

这一定理对拉普拉斯变换、双边拉普拉斯变换、Z变换、Mellin变换和Hartley变换(参见Mellin inversion theorem)等各种傅里叶变换的变体同样成立。在调和分析中还可以推广到在局部紧致的阿贝尔群上定义的傅里叶变换。

 

利用卷积定理可以简化卷积的运算量。对于长度为<math>n</math>的序列,按照卷积的定义进行计算,需要做<math>2n-1</math>组对位乘法,其计算复杂度为<math>\mathcal{O}(n^2)</math>;而利用傅里叶变换将序列变换到频域上后,只需要一组对位乘法,利用傅里叶变换的快速算法之后,总的计算复杂度为<math>\mathcal{O}(n\log n)</math>。这一结果可以在快速乘法计算中得到应用。

 

在群上的卷积

若G 是有某m测度的群(例如Hausdorff空间上Harr测度下局部紧致的拓扑群),对于G 上m-Lebesgue可积的实数或复数函数f 和g,可定义它们的卷积:

 

<math>(f \star g)(x) = \int_G f(y)g(xy^{-1})\,dm(y) \,</math>

对于这些群上定义的卷积同样可以给出诸如卷积定理等性质,但是这需要对这些群的表示理论(group representation)以及调和分析的Peter-Weyl定理。

 

应用

卷积在工程和数学上都有很多应用:

 

统计学中,加权的滑动平均是一种卷积。

概率论中,两个统计独立变量X与Y的和的概率密度是X和Y的概率密度的卷积。

声学中,回声可以用源声与一个反映各种反射效应的函数的卷积表示。

电子工程与信号处理中,任一个线性系统的输出都可以通过将输入信号与系统函数(系统的冲击响应)做卷积获得。

物理学中,任何一个线性系统(符合叠加原理)都存在卷积。

buzhiyao 发表于 2008-3-27 10:41

卷积可以看作是加权的过程,从这个意义讲就是信号处理中的滤波器,

也可以视为求两个相卷的函数的相似程度的过程,比如数学中的求内积

zbbzyp 发表于 2008-3-27 21:02

另外,我还想问个问题:

在我们作项目的时候对于卷积处理都是如下进行的,不知道对不对。

假设输入x(i),滤波器系数为h(i),长度分别为m和n。x(i)通过滤波器相当于卷积,那么输出y(i)的长度应该为m+n-1。而我们在仿真中为了保证输入输出长度一致,我们取了y(i)的中间部分作为输出,即i=[1:n/2]以及i=[m+n-1-n/2:m+n-1]这部分的数据就不要了。中间部分长度刚刚是m。

不知道这样处理对不对

请大家指教。

 

这样作可能会出问题的。

在数字信号处理中,一个有限长度为m的信号,通过一个长度为n的系统(单位冲激响应);

那么输出也应该取m点。

虽然用卷积运算会得到m+n-1点输出数据,但是需要根据滤波器的延时进行输出信号的截取。

比如滤波器的延时为l,那么应该从第l点开始截取输出信号。

zbbzyp 发表于 2008-3-27 21:09

从连续信号处理来考虑;

卷积是通过简单的脉冲信号的系统响应,来得到复杂信号的系统响应;

连续信号可以看作是无穷多脉冲信号的叠加;

每个脉冲信号的系统响应是已知的,其幅度为脉冲的强度;

这样根据线型系统的可加性,就得到了卷积公式。

 

卷积运算是线型系统分析的基础;

另外,时域卷积对应于频域相乘,这简化了运算。

没用的阿吉 发表于 2008-5-30 11:01

首先,注意卷积运算的前提,它必须针对线性系统。只有在满足这个前提的条件下,才能将输入信号进行分解,将输出进行叠加。

其次,同意xiaomifeng134 的说法,这个也是采用卷积运算的目的所在,是为了求解在任意激励下通过线性系统的零状态相应。至于积分的意义就不用多说了,无非就是面积而已。

最后,想说说卷积和相关。个人认为两者并无联系,纯粹形似而已。就算勉强可以理解为相关性,那也是一个函数与另一个函数的翻转函数之间的相关性。

 

一家之言,望大家批评指正。

farmingyard 发表于 2008-5-30 13:59

卷积运算只适用于LTI(线性时不变)系统,这是总的前提!

在LTI系统中,任何信号都能进行分解,这是最关键的!信号分解是LTI系统分析中最基本的手段,有广泛地应用!

但是从系统响应的求解角度来看,将任意信号分解为冲击函数或冲击序列的线性组合是最为有利的!

将信号分解为冲击函数(冲击序列)的线性组合之后,由于LTI系统满足比例性和叠加性,所以,信号经过该系统之后的响应也可以用函数的线性组合,只不过此时不再是冲击了,而是冲击响应!对于连续信号,该组合为积分形式,即卷积积分;对于离散系统,该组合为求和形式,即卷积和!

由于刚刚学过该课程,所以说说,和大家交流一下!请指正!

SevenGirl 发表于 2008-6-4 22:27

感觉卷积,在信号中就主要是时域、频域转换。利用卷积提取前后序列中蕴含的关系。卷积在其他领域也有很多运用,例如在编码中,有卷积码,就是运用原码中前后序列的码字确定当前编码输出,Turbo码就可以认为是一种卷积码。

farui 发表于 2008-6-15 00:33

卷积与相关类似在数学上表现为乘积和,但卷积需要反摺,而相关不需要,

因此相同的两个数列卷积与相关是不同的。 [/quote]

             

没错,卷积与相关在数学上的不同,也决定了他们的物理意义是不同的

卷积可以表示一个信号通过一个线性时不变系统,而相关是用来反映两个信号的相似程度。

这是我的理解。

handchief581 发表于 2008-6-15 18:05

说到卷积,其意义的前提建立这两个条件之下:一是任意的数字信号都可以表示成单位脉冲之线性组合,二是该系统也是线性的。

如果说的比较通俗一点的意思就是说,如果我给一个系统一个脉冲激励,系统会给你一个相对应的响应;如果是一个由脉冲的线性组合给系统激励,那么该激励的响应就是线性组合的因子与脉冲响应的卷积。

不知道我得认识有没有错误,可能说的不是非常的严谨,可以这样去理解。

frdcmimo 发表于 2008-6-24 20:06

楼上说的不错。实际上当一组信号通过一个器件,或者说传递函数时,它的输出是什么呢。无疑用冲击响应可以很好的描述这一过程。而当这些响应应该是线性可加的,这一过程就被描述为卷积。它绝不仅在信号处理中出现,在自动控制也是最常见的问题。当然也有很多非线性器件,比如限幅器,比如回滞器等。

卷积就不够描述了。

 

 
反对 0举报 0
 

免责声明:本文仅代表作者个人观点,与乐学笔记(本网)无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
    本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们留言联系,本网站将在规定时间内给予删除等相关处理.

  • 【深度学习系列】卷积神经网络CNN原理详解(一)——基本原理(2)
    【深度学习系列】卷积神经网络CNN原理详解(一)
    本文为【深度学习系列】卷积神经网络CNN原理详解(一)——基本原理(2)从上文的计算中我们可以看到,同一层的神经元可以共享卷积核,那么对于高位数据的处理将会变得非常简单。并且使用卷积核后图片的尺寸变小,方便后续计算,并且我们不需要手动去选取特征,
    03-08
  • 技术向:一文读懂卷积神经网络 - 艾斯1213
    技术向:一文读懂卷积神经网络自今年七月份以来,一直在实验室负责卷积神经网络(Convolutional Neural Network,CNN),期间配置和使用过theano和cuda-convnet、cuda-convnet2。为了增进CNN的理解和使用,特写此博文,以其与人交流,互有增益。正文之前,先
    03-08
  • 卷积神经网络CNN理解 卷积神经网络 简书
    自今年七月份以来,一直在实验室负责卷积神经网络(Convolutional Neural Network,CNN),期间配置和使用过theano和cuda-convnet、cuda-convnet2。为了增进CNN的理解和使用,特写此博文,以其与人交流,互有增益。正文之前,先说几点自己对于CNN的感触。先明
    03-08
  • 理解图像的卷积
    转自:https://www.zhihu.com/question/22298352从数学上讲,卷积就是一种运算。某种运算,能被定义出来,至少有以下特征:首先是抽象的、符号化的其次,在生活、科研中,有着广泛的作用比如加法: ,是抽象的,本身只是一个数学符号在现实中,有非常多的意
    03-08
  • 什么是卷积 什么是卷积网络
    什么是卷积 什么是卷积网络
    目录Feature mapsWhy not Linear335k or 1.3MBem...Receptive FieldFully connnectedPartial connectedLocally connectedRethink Linear layerFully VS LovallyWeight sharingWhy call Convolution?2D ConvolutionConvolution in Computer VisionCNN on feat
    03-08
  • Tensorflow--一维离散卷积 tensorflow一维卷积神经网络
    Tensorflow--一维离散卷积 tensorflow一维卷积
    一维离散卷积的运算是一种主要基于向量的计算方式一.一维离散卷积的计算原理一维离散卷积通常有三种卷积类型:full卷积,same卷积和valid卷积1.full卷积full卷积的计算过程如下:K沿着I顺序移动,每移动一个固定位置,对应位置的值相乘,然后对其求和其中K称
    03-08
  • TensorFlow系列专题(十四): 手把手带你搭建卷积神经网络实现冰山图像分类
    TensorFlow系列专题(十四): 手把手带你搭建卷积
    目录:冰山图片识别背景数据介绍数据预处理模型搭建结果分析总结 一、冰山图片识别背景这里我们要解决的任务是来自于Kaggle上的一道赛题(https://www.kaggle.com/c/statoil-iceberg-classifier-challenge),简单介绍一下赛题的背景:在加拿大的东海岸经常
    03-08
  • 卷积神经网络的“卷积”操作不等于数学上定义的卷积操作
    卷积神经网络的“卷积”操作不等于数学上定义的
    在介绍卷积神经网络CNN的时候,大部分教材在介绍“卷积操作”的时候都与下面这张图类似的说明这点让人很困惑,因为在数学上,卷积运算是这么定义的\((f * g )(t) = \int_{0}^{t} f(\tau) g(t - \tau)\, d\tau\)很明显,在与\(f(\tau)\)相乘的是\(g(t-\tau)\)
    03-08
  • 卷积神经网络——池化层学习——最大池化
    卷积神经网络——池化层学习——最大池化
    池化层(Pooling layers)除了卷积层,卷积网络也经常使用池化层来缩减模型的大小,提高计算速度,同时提高所提取特征的鲁棒性,我们来看一下。先举一个池化层的例子,然后我们再讨论池化层的必要性。假如输入是一个4×4矩阵,用到的池化类型是最大池化(max
    03-08
  • opecv 卷积原理、边缘填充方式、卷积操作详解
    opecv 卷积原理、边缘填充方式、卷积操作详解
    什么是二维卷积呢?看下面一张图就一目了然:卷积就是循环对图像跟一个核逐个元素相乘再求和得到另外一副图像的操作,比如结果图中第一个元素5是怎么算的呢?原图中3×3的区域与3×3的核逐个元素相乘再相加:5=1×1+2×0+1×0+0×0+1×0+1×0+3×0+0×0+2×2
    03-08
点击排行