不法分子盗用人工智能技术,“章鱼博士”给“编写个人信息”！
编辑：admin 日期：2021-01-22 15:08:55 / 人气：
朋友眼中的徐国文
今天，小编将和大家一起了解在人工智能上安装“指纹”的科研专家徐国文。他是同学眼中的“科研老板”和“获奖者”。在5年的研究生生涯中，徐国文先后发表学术论文近30篇，并连续3年获得国家奖学金，各类奖学金共计20万元。”我想我远没有成功。唯一突出的是我的兴趣和执着”，回首往事，徐国文透露了自己在科研道路上乘风破浪的“秘籍”。如今，人工智能已经渗透到我们生活的方方面面，可以帮助我们做很多事情，比如图像识别、语音转录、安全监控等等。为了使人工智能像人类一样聪明，我们需要不断地“学习和训练”，而这样的学习“材料”就是数据集。研究人员通过收集和标注大量数据，编写人工智能的“学习材料”，训练人工智能模型。最后，模型的所有者提供了一个查询接口，使人们可以以较小的代价享受人工智能提供的具体服务，方便了我们的生活。
不法分子的行径
然而，这样的公开查询也给了一些不法分子可乘之机。他们虽然不能直接接触模型，但绞尽脑汁设计样本查询原始模型，以最少的查询次数获取大量模型信息，并编造“假”模型从中牟利。这种行为不尊重模范业主的劳动成果，严重损害了发起人的利益。如何追查这些叛逃者？徐国文提出了一种新的方法：在模型训练过程中，通过密码学中的“编码”技术，将想要购买模型服务的购买者的信息嵌入到模型中。与人类特有的“指纹”一样，徐国文提出的方法可以为每个买家定制一个“密码指纹”，并将“二进制”指纹嵌入到模型的某些参数中。当模型被盗版时，我们可以通过提取模型的“密码指纹”来找出叛逃者是谁。
大家的一些疑惑
有人可能会认为，既然“指纹”只存在于模型的少数参数中，那么我们能否通过与其他买家串通，将这些参数与“指纹”一起去掉，并将模型拼接在一起，从而得到一个没有“指纹”的模型呢？”“这是不可能的，”徐笑着说如果它们相互勾结，我们将从模型的数学分布中观察到一些独特的特征，并找到所有参与的购买者。这就是为什么我的方法也适用于分布式环境。”密码指纹能消除吗？”没有徐国文说，这是深度学习模式与其他模式的区别。通过不断重复的学习和训练过程，整个模型对指纹进行了深度记忆。除非模型的内部参数发生很大变化，否则密码“指纹”无法擦除。即使有人真的把“指纹”擦掉了，在这种情况下，模型基本上已经损坏，不再具有使用价值。徐国文说，他的著作权保护方法有很多应用。除了追踪业务中的盗版，它还可以加密和保护云硬盘中的数据。
内容搜索 Related Stories
推荐内容 Recommended
- 资本热市场冷 智能快递柜遭遇尴尬10-23
- 世界智能网联汽车大会永久落户顺义10-22
- 智能网联汽车千亿市场待拓展 产业链龙头受益10-19
- 大西安正构建无人智能发展新生态10-14
- 信息化和软件服务业司参加2018世界智能制造大会·智领全球嘉年华常州论坛10-12
- 将人工智能等新技术融入教师队伍建设09-29