学校主页 / 学校邮箱
学生风采
学生活动
和路辉老师一起走进人工智能
发布时间:2024-03-28   编辑: 访问量:


3月27日下午,北航电子信息工程学院本学期第二次“雏凤轻鸣”活动顺利展开,学院教授、博导路辉老师带来了《从测试的视角看人工智能的鲁棒性》为主题的沙龙活动。

   


首先,路老师讲到要从测试的视角发现问题,分析问题,解决问题。并从智能起源与图灵测试引入,用生动的例子带大家回顾了人工智能的发展所经历的三个高峰,即符号主义浪潮、连接主义浪潮、行为主义浪潮,分析了不同的时期所面对的隐患和问题。

如今,大家正面临着人工智能的可说明性与安全性问题,人工智能的风险真实存在但也是可控的,路老师从工程实例出发,为大家讲述了模型实际运行性能的重要性,以及智能系统可靠性、稳定性、抗干扰性,即智能系统的鲁棒性引发的关注和思考。

接下来,路老师为同学们讲述了面向鲁棒性的黑盒测试方法。鲁棒性是系统在面对内部和外部干扰,异常输入或模型不确定性时,仍能维持其预期性能的能力。路老师先容到,智能系统存在性能边界,在敏感区内加入微小扰动将引起输出的巨大变化,黑盒测试方法能够面向有实际意义的输入和输出,对智能系统做出不同架构、不同精度、不同范数条件下的鲁棒性测试。

                           


在活动的最后,路老师分享了她科研过程中的体悟,并与同学们进行了交流。路老师强调了科研心态的重要性,进行科研的过程也就是自我成长的过程,要经历从浮于表面,到深入思考,再到回归本源的过程,过程是艰苦的,但只要坚持不懈,定能在蓦然回首时找寻到自己想要的答案。科研不易,愿同学们都能坚守初心,砥砺前行!