习题 1.如何理解人工神经网络的学习能力和泛化能力？(10分) 2.人工神经网络从哪几个方面描述了生物神经系统的基本特征？(20分) 3.写出至少三种（其中至少包括两个S型）激活函数，并指出什么样的激活函数才能被用 于BP网络之中，为什么？(15分) 4.分别表示出MP神经元模型与感知机神经元模型，并说明它们的联系与区别。(15分) 5.分别说明有导师学习的特征和无导师学习的特征，是否可将这两种学习方法有机结合应 用于训练神经网络，它们各起什么作用，请举例说明。(15分) 6.MP神经元模型是如何模拟生物神经元的一阶特性的？其中激活函数有何作用(15分) 7.计算题： 0.5 X2 图1 其中，输入为05，：隐层的微话函数取回=十心：输出层的激活函数取侧-； W1=1,-1,1;1,0.5,2),w2=(1.5,2,1),计算此时网络输出y=? 8.什么叫线性不可分问题？早期的感知器为什么不能解决线性不可分问题？能否说出至 少两种可以解决线性不可分问题的办法？(15分) 9.能否结合你大作业的完成过程说一下BP算法存在的问题，有何相应的解决办法？ 10.试比较BP网络与RBF网络，说明各自的特点及其优缺点。(15分) 11.如何理解Hopfield网络的联想记忆功能？(10分) 12.根据你的理解，说明BP网络（或RBF网络）的数据压缩功能和模型辨识功能(10分) 13.试说明人工神经网络不确定的训练方法的基本思想(10分) 14.简述模拟退火算法的基本思想（尽可能数学形式表示）(10分) 15.设离散Hopfield网络的权值w是对称正定的，试证明此Hopfield网络是稳定的。 16.试设计一感知机网络，使感知机网络能够实现如下图所示阴影部分的分类。要求详细写 明设计过程。(20分)
习 题 1. 如何理解人工神经网络的学习能力和泛化能力？（10 分） 2. 人工神经网络从哪几个方面描述了生物神经系统的基本特征？（20 分） 3. 写出至少三种（其中至少包括两个 S 型）激活函数，并指出什么样的激活函数才能被用 于 BP 网络之中，为什么？（15 分） 4. 分别表示出 M_P 神经元模型与感知机神经元模型，并说明它们的联系与区别。（15 分） 5. 分别说明有导师学习的特征和无导师学习的特征，是否可将这两种学习方法有机结合应 用于训练神经网络，它们各起什么作用，请举例说明。（15 分） 6. M_P 神经元模型是如何模拟生物神经元的一阶特性的？其中激活函数有何作用（15 分） 7. 计算题： 0.5 0.5 0.5 0.5 x1 x2 y 图 1 其中：输入为 x=(0.5,1)；隐层的激活函数取 ( ) u 1 1 u − + = e f ；输出层的激活函数取 f(u)=u；; W1=(1,-1,1;1,0.5,2), w2=(1.5,2,1)，计算此时网络输出 y=？ 8. 什么叫线性不可分问题？早期的感知器为什么不能解决线性不可分问题? 能否说出至 少两种可以解决线性不可分问题的办法？（15 分） 9. 能否结合你大作业的完成过程说一下 BP 算法存在的问题，有何相应的解决办法？ 10. 试比较 BP 网络与 RBF 网络，说明各自的特点及其优缺点。（15 分） 11. 如何理解 Hopfield 网络的联想记忆功能？（10 分） 12. 根据你的理解，说明 BP 网络（或 RBF 网络）的数据压缩功能和模型辨识功能（10 分） 13. 试说明人工神经网络不确定的训练方法的基本思想（10 分） 14. 简述模拟退火算法的基本思想（尽可能数学形式表示）（10 分） 15. 设离散 Hopfield 网络的权值 w 是对称正定的，试证明此 Hopfield 网络是稳定的。 16. 试设计一感知机网络，使感知机网络能够实现如下图所示阴影部分的分类。要求详细写 明设计过程。(20 分) a
式划 图2 其中各点坐标为： a(4,5)b(6,3)c(5,-2)d(2,1) 17.Hopfield网络权阵的设计与验证：(20分) 18.简述BP算法的基本思想。(10分) 19.以三层BP网为例，试推导基本BP算法。(15分) 20.基本BP算法在具体应用时存在一些什么样的问题？有什么改进措施？(15分) 21.对于一个有三个神经元的离散Hopfield网络，如果其连接权阵和域值阵分别为： 01-1 0 W= -110 请分析该离散Hopfield网络如果按串行运行方式工作的话，其是否稳定？如果稳定的话， 请问对于初始状态： 「17 Y(0)= 0 10 经过多少次运算可以达到稳定状态，其稳定状态是什么？（改梯我还没有试做，必须试 做之后才可以作为考题)。 22.人工神经元的三个基本组成要素是什么？一组权值：一个求和单元：一个非线性转换函 数。 23.通过学习以后，CNN所获得的知识是如何存储的？存储在连接权上。 24.简述有教师学习的学习过程。 25.什么叫BP网络？BP网络与单层感知器有何联系与区别？ 26.RBF网络的权值可用什么方法确定？与BP网络相比其权值学习的特点是什么？ 27.证明：对于连续型Hopfield网络：
图 2 其中各点坐标为： a (4,5) b (6,3) c (5,-2) d (2,1) 17. Hopfield 网络权阵的设计与验证：（20 分） 18. 简述 BP 算法的基本思想。（10 分） 19. 以三层 BP 网为例，试推导基本 BP 算法。（15 分） 20. 基本 BP 算法在具体应用时存在一些什么样的问题？有什么改进措施？（15 分） 21. 对于一个有三个神经元的离散 Hopfield 网络，如果其连接权阵和域值阵分别为： 0 1 -1 W 1 0 1 -1 1 0 = ， 0 b 1 0 = 请分析该离散 Hopfield 网络如果按串行运行方式工作的话，其是否稳定？如果稳定的话， 请问对于初始状态： 1 Y(0) 0 0 = 经过多少次运算可以达到稳定状态，其稳定状态是什么？（改梯我还没有试做，必须试 做之后才可以作为考题）。 22. 人工神经元的三个基本组成要素是什么？一组权值；一个求和单元；一个非线性转换函 数。 23. 通过学习以后，CNN 所获得的知识是如何存储的？存储在连接权上。 24. 简述有教师学习的学习过程。 25. 什么叫 BP 网络？BP 网络与单层感知器有何联系与区别？ 26. RBF 网络的权值可用什么方法确定？与 BP 网络相比其权值学习的特点是什么？ 27. 证明：对于连续型 Hopfield 网络：
S,=∑W,+1 d4+S,a,b,>0 ab di y,=f(4,) 当满足W=WWm=0i,广∈(L,2,…,),∫-是单调上升函数时，网络是稳定的。 28.证明：对于离散型Hopfield网络，若其运行规则是串行的，网络模型为： 4k+1)=2y,陶 y,(k)=f(u,(k) 2m,(≥0 1 f(u,(k)= -1 立W,)<0 当满足W=W,W=0i,j∈(L,2,…,n)时，网络是稳定的。 29.计算题： X2 图3 其中隐层的激活函数取f@)=士。：输出层的激活函数取u:x=0.5,1) W1=(1,1:1,2),w2=(2,1),计算输出Y=? 30.试设计一感知机网络，使感知机网络能够实现如下图所示阴影部分的分类。要求阴影及 边线为1，其它位0，请详细写明设计过程。(20分)
- , 0 ( ) j ij i j i j j j j j j j j j S W v I du u b S a b dt v f u = + = + = 当满足 1 0 , (1,2, , ), W W W i j n f ij ji ii − = = ， 是单调上升函数时，网络是稳定的。 28. 证明：对于离散型 Hopfield 网络，若其运行规则是串行的，网络模型为： 1 1 1 ( 1) ( ) ( ) ( ( )) 1 ( ) 0 ( ( )) 1 ( ) 0 n i ij j j j i i i n ij j j j i i n ij j j j i u k W v k v k f u k W v k f u k W v k = = = + = = = − 当满足 0 , (1,2, , ) W W W i j n ij ji ii = = ， 时，网络是稳定的。 29. 计算题： 2 0.5 1 x1 x2 y 图 3 其中隐层的激活函数取 ( ) u 1 1 u − + = e f ；输出层的激活函数取 f(u)=u；x=(0.5，1)； W1=(1，-1；1，2), w2=(2，1)， 计算输出 Y=？ 30. 试设计一感知机网络，使感知机网络能够实现如下图所示阴影部分的分类。要求阴影及 边线为 1，其它位 0，请详细写明设计过程。(20 分)
a d 型 图4 其中各点坐标为： a(3,5)b(6,4)c(4,-2)d(2,1) 31.(10分)人类对人工智能的研究可以分成 和 两种方式，前 者对应的理论主要有： 等：后者对应的理论主 要有： 等。 32.(4分)人工神经网络的英文单词 缩写词 33.(6分)决定人工神经网络整体性能的三大要素 是： 34.试述智能的含义及智能一般所包含的8个方面。 35.人工智能的三大流派及其主要的代表性理论是什么？ 36.联接主义观点的核心是什么？ANN从哪几个方面去模拟人脑的智能行为？ 37.相对于其它人工智能方法来说，ANN最具有吸引力的地方何在？ 38.人工神经网络的分类如何？ 39.试写出离散型MP神经元的模型。 40.单个（层）离散型MP神经元为何不能实现XOR运算？试用解析法和图解法加以说明。 41.试设计一个MP神经元实现图5所示的分类。图中线及线的下方取1，其余为0。 x2 ↑x2 4 -3.5 2 0 ◆x1 0 2 -3 图5 图6 42.试设计一个MP神经网络实现图6所示的分类。图中阴影及线取1，其余为0
图 4 其中各点坐标为： a (3,5) b (6,4) c (4,-2) d (2,1) 31. (10 分)人类对人工智能的研究可以分成 和 两种方式，前 者对应的理论主要有： 、 、 等；后者对应的理论主 要有： 、 等。 32. (4 分)人工神经网络的英文单词 ，缩写词 。 33. (6 分 ) 决 定 人 工 神 经 网 络 整 体 性 能 的 三 大 要 素 是： 、 、 。 34. 试述智能的含义及智能一般所包含的 8 个方面。 35. 人工智能的三大流派及其主要的代表性理论是什么？ 36. 联接主义观点的核心是什么？ANN 从哪几个方面去模拟人脑的智能行为？ 37. 相对于其它人工智能方法来说，ANN 最具有吸引力的地方何在？ 38. 人工神经网络的分类如何？ 39. 试写出离散型 M_P 神经元的模型。 40. 单个（层）离散型 M_P 神经元为何不能实现 XOR 运算？试用解析法和图解法加以说明。 41. 试设计一个 M_P 神经元实现图 5 所示的分类。图中线及线的下方取 1，其余为 0。 图 5 图 6 42. 试设计一个 M_P 神经网络实现图 6 所示的分类。图中阴影及线取 1，其余为 0。 0 -3 4 2 -3.5 x1 x2 -2 0 1 x2 x1
43.试写出至少三种连续神经元的激励函数，并指出它们的定义域和值域。 44.什么是BP网络，BP算法的核心是什么？ 45.什么是有教师学习？什么是无教师学习？ 46.给出PID神经网络的结构和模型，并给出其一种学习算法。 47.给出Hopfield网络的结构及稳定性定理。 48.给出CMAC网络的结构，CMAC网络是全局逼近网络还是局部逼近网络该网络有什么特 点？ 49.什么叫做神经网络的泛化能力？如何提高BP网络的泛化能力？ 50.CMAC网络中若出现重叠现象会出现什么问题？ 51.BP算法有何不足之处？用什么网络可以避免局部极小点问题(RBF网络和CMAC网络)？ 这些网络又有什么问题？ 52.试比较BP网络与RBF网络的异同。 53.下图是一BP网络，试计算隐层神经元的输出及网络的输出y。 0.5 -1.5 02 X2 0.5 图7 其中隐层的激活函数取f)=:输出层的激活函数取u=u:x=0.5,1。 54.现有两个需要记忆的模式(1，-1,1)和(1，-1,1)，试设计Hopfield网络的权值，并检验上述两 个记忆摸式的记忆情况。 55.BP网络的连接模式属于 (a)层内连接(b)反馈连接(c)全连接(d)前向连接 56.如果不算输入层，BP网络至少需要层才能在理论上逼近任何连续函数？ 57.当Hopfield网络的连接权矩阵是 时，网络稳定。 58.BP网络中一种常用的S型激励函数为 (可以是任意一种)。 59.人工神经网络从哪几个方面试图去模拟人的自然神经网络？ 60.试说明或证明单层的M-P神经网络无法实现非线性分类。 61.试简述模拟退火算法的基本思想，它为什么会限制陷入局部极小点？
43. 试写出至少三种连续神经元的激励函数，并指出它们的定义域和值域。 44. 什么是 BP 网络，BP 算法的核心是什么？ 45. 什么是有教师学习？什么是无教师学习？ 46. 给出 PID 神经网络的结构和模型，并给出其一种学习算法。 47. 给出 Hopfield 网络的结构及稳定性定理。 48. 给出 CMAC 网络的结构，CMAC 网络是全局逼近网络还是局部逼近网络该网络有什么特 点？ 49. 什么叫做神经网络的泛化能力？如何提高 BP 网络的泛化能力？ 50. CMAC 网络中若出现重叠现象会出现什么问题？ 51. BP 算法有何不足之处？用什么网络可以避免局部极小点问题（RBF 网络和 CMAC 网络）？ 这些网络又有什么问题？ 52. 试比较 BP 网络与 RBF 网络的异同。 53. 下图是一 BP 网络，试计算隐层神经元的输出及网络的输出 y。 0.5 -1 0.5 1 x1 x2 y 1 1.5 -1.5 1 0.5 -1 -1 -1 -2 图 7 其中隐层的激活函数取 ( ) u 1 u 1 f e − = + ；输出层的激活函数取 f(u)=u；x=(0.5,1)。 54. 现有两个需要记忆的模式(1,-1,1)和(1,-1,1)，试设计 Hopfield 网络的权值，并检验上述两 个记忆摸式的记忆情况。 55. BP 网络的连接模式属于 。 （a）层内连接 （b）反馈连接 （c）全连接 （d）前向连接 56. 如果不算输入层，BP 网络至少需要 层才能在理论上逼近任何连续函数？ 57. 当 Hopfield 网络的连接权矩阵是 时，网络稳定。 58. BP 网络中一种常用的 S 型激励函数为 （可以是任意一种）。 59. 人工神经网络从哪几个方面试图去模拟人的自然神经网络？ 60. 试说明或证明单层的 M-P 神经网络无法实现非线性分类。 61. 试简述模拟退火算法的基本思想，它为什么会限制陷入局部极小点？