趋势与建议
人工智能技术和安全研究密不可分。AI技术日益成熟,也持续制造出新的安全挑战。
安全研究更加趋向于自动化、细粒度与实效。提高性能、降低开销成为目标。
未来兴趣点:
物理攻击。针对各种物理攻击手段的技术缓解措施有待发掘。
互联的趋势提高了攻击面和风险。物联网、区块链等新技术带来新的攻击手段。
为了填补这一空白,我们提出了XCheck,利用医学成像技术来验证打印的患者特定设备的完整性。XCheck采用深度防御方法,直接比较打印设备的计算机断层扫描与其原始设计。XCheck采用基于体素的方法构建多层防御,涉及3D几何验证和多变量材料分析。为了进一步提高可用性,XCheck还提供了可调整的可视化方案,允许从业人员根据不同应用的需求,使用不同的容差阈值来检查打印出的对象。我们使用47个代表不同医学应用的PSD进行了系统评估,以验证其有效性。
网络安全系统自动化。通过自动化手段提高安全系统的效率和有效性。
热门方向:
深度强化学习安全。DeepRL在安全应用中的应用空间广阔,但相关的安全研究还不够。
恶意软件分析和检测。使用机器学习、模糊测试等技术自动发现和分析恶意软件。
与技术界、政府和行业保持密切合作。通过协助发现缺陷和推广安全理念,促进安全进步。
研究方向
XCheck:VerifyingIntegrityof3DPrintedPatient-SpecificDevicesviaComputingTomography
议题清单
研究员要跨学科学习。AI、计算机安全、人类行为学等领域密切相关。
隐私保护和安全加强。研究通过技术手段如对称加密、同态加密等来增强模型的隐私保护能力。
物联网安全。尽管物联网不断发展,但相关的安全研究仍然不足。
ARM体系结构安全。大部分研究集中在x86架构上,ARM架构相关的安全研究相对较少。
对抗性机器学习和对抗样本。许多研究探索了如何生成对抗样本躲避检测以及如何提升模型鲁棒性。
冷门方向:
文章为作者独立观点,不代表股票交易接口观点