刘广睿的思维实验室
0%

《卡拉马佐夫兄弟》出版于1879年,是陀思妥耶夫斯基创作的最后一部长篇小说,被认为是他文学创作中的巅峰之作。本书根据一桩真实的弑父案写成,作者曾构想将这篇鸿篇巨制作为另一部更加宏大的作品《一个伟大罪人的一生》的铺垫,但未能如愿,在打算撰写第二部时,作者不幸去世了。从表面上看这个作品讲述了一桩弑父案和一次错误的审判,但深层次上,这是一次讨论信仰、理性、道德与自由意志的哲学思辨。自出版以来,这部作品曾被托尔斯泰、爱因斯坦、弗洛伊德以及教宗本笃十六世等不同领域的人物给予极高评价。

阅读全文 »

模型窃取(Model Stealing)指通过黑盒探测来窃取模型甚至恢复模型的训练样本数据。本文首先简要介绍了模型窃取攻击技术,并分析了其对用户的危害以及企业界的需求。然后详细讲解了模型萃取、成员推断与模型逆向三种攻击的具体实现。最后介绍了两种较为有效的防御手段。

阅读全文 »

数据投毒(Data Poisoning Attacks)指通过污染训练样本达到改变分类器边界的目的,数据投毒一般发生在线学习系统中。本文首先简要介绍了数据投毒技术,并分析了真实世界中的数据投毒攻击案例。然后详细说明了反馈化武器、模型偏斜以及后门攻击三种攻击方式的原理。最后简要分析了三种目前较为有效的模型窃取技术。

阅读全文 »

对抗攻击(Adversarial Attacks)指通过特殊构造的输入使分类器结果不可靠。本文首先简要介绍了对抗攻击技术以及其产生的原因。然后从白盒攻击与黑盒攻击两个角度进行了攻击面的分析。最后介绍了现有的一些防御与缓解攻击的方案。

阅读全文 »

人工智能内生安全指的是人工智能系统自身存在的脆弱性。如今越来越多的系统引入AI技术,它的确在传统分类识别问题上显示出强大的能力。但是由于其系统缺乏可解释性,AI在数据、算法、模型等多方面都存在脆弱点。目前工业界对其脆弱性的重视程度和对AI系统的保护远远不够。

阅读全文 »