针对医学人工智能产品的对抗测试技术平台设计 |
| |
作者姓名: | 王光宇 蒋泽宇 杨国兴 石剑宇 刘晓鸿 |
| |
作者单位: | 1. 北京邮电大学信息与通信工程学院网络与交换技术国家重点实验室;2. 清华大学计算机系 |
| |
基金项目: | 国家重点研发计划项目(2019YFB1404804);;国家自然科学基金项目(61906105,62272055); |
| |
摘 要: | 目的:设计针对医学人工智能产品的对抗测试技术平台,以为医学人工智能产品提供对抗测试方法、通用性能评价和不良事件监控。方法:该平台基于浏览器/服务器(Browser/Server,B/S)架构设计,采用MySQL数据库进行搭建。该平台主要包括数据集管理、人工智能产品模型管理和人工智能性能监控3个模块,其中数据集管理模块和人工智能产品模型管理模块均采用React框架进行搭建,人工智能性能监控模块基于Nodejs框架设计,包括对抗测试技术和性能动态追踪与风险预警2个子模块。结果:该平台可实现对不同模态的人工智能产品的对抗测试、通用性能评价和不良事件监控,能够为医学人工智能产品提供全方位的评价与分析。结论:该平台解决了目前医学人工智能产品检测薄弱的问题,能够满足医学人工智能产品检测需求和监管需求。
|
关 键 词: | 医学人工智能产品 对抗测试 对抗攻击 人工智能产品检测 |
|
|