设为首页|收藏本站|
开启左侧

[科技] AI究竟“骗”了多少人?

[复制链接]
阿川在星岛 发表于 2024-7-9 20:07:14 | 显示全部楼层
 
AI究竟“骗”了几多人? 第1张图片


AI天生图
文|中科创星
野生智能”(AI)这个辞汇,近年来已成为科技范畴的一大热门。但是,随着AI技术的不竭成长,人们不由要问:AI究竟“欺骗”了几多人?从语音助手到自动驾驶,从人脸识别到智能保举,AI技术已深入到我们生活的各个方面……
先停息一下。假如我不自动率直,你能设想前面这一段话,是完全由AI大模子天生的吗?
2022年以来,以ChatGPT为开真个大模子利用纷纷落地,大说话的、文生图的、文生音乐的,再到文生视频的,每一款新的大模子产物恍如都在试探人类生产力的上限,给“创作”这件事带来新的设想。
AI的才能实现了跨越式的成长,图灵测试难再作为判定AI与否的手段。这为我们的工作和生活带来了极大的便当,也带来了一些困扰。
眼下最严重的题目,是AI欺骗
反AI欺骗,迫在眉睫

AI工具的适用性在曩昔几年越发地有口皆碑,但尝到长处的不止是一般用户,也有犯警份子。
在收集平安公司奇安信公布的《2024野生智能平安报告》中提到,2023年基于AI的深度捏造讹诈暴增了3000%,而基于AI的钓鱼邮件数目增加了 1000%。该报告指出,各类基于AI的新型进犯品种与手段不竭出现,甚至已经众多,成为迫在眉睫的威胁。
而根据瑞莱聪明公布的数据,国内AI欺骗案件的涉案金额已经从2020年的0.2万元,增加至2023年的1670万元,年复合增加率达1928.8%。2024年刚刚过半,发生的AI欺骗案件已经跨越1.85亿元,态势严重。
AI究竟“骗”了几多人? 第2张图片


近5年国内AI欺骗案件数目与金额变化
当电信欺骗披上AI的“外壳”,很多风险都应当被重新审阅一遍,比如“耳听为虚”,但“目睹也纷歧定为实”。
落实具体案例上,这些基于DeepFake(深度捏造)的AI欺骗能够会是这样的——
欺骗团队不知从哪拿到了你的照片,用AI分解到了一条低俗视频里,给你发了短信,要求你转账删除。但这视频建造得相当精致,人脸处“贴图感”和“边沿锯齿”过于明显,你能够一笑而过、不会上套,但自己被贴到视频上这件事总还是让你感觉别扭。
AI究竟“骗”了几多人? 第3张图片


操纵AI换脸停止欺骗的短信
2023年头,武汉警方还破获了这样一个欺骗案件。杨密斯在QQ上收到了自称“女儿同学”的人发来的语音,内容大意是其女儿手机没电,急需杨密斯3.5万元交纳培训报名用度,杨密斯听到语音中的音色确切是自己女儿,因而立即就汇了款。直到更晚些时辰,杨密斯和女儿通话才发觉自己上当。
有的欺骗团队手段还要加倍高明。2024年头就有一家跨国公司香港分部的职员受邀加入总部首席财政官倡议的“多人视频会议”,并依照要求前后转账屡次,将2亿港元别离转账15次转到5个账户内。事后得知被骗后,才发现那场会议中,除了他自己之外,别的预会职员全数是经过“AI换脸”和“AI换声”的欺骗团队
AI究竟“骗”了几多人? 第4张图片


图片来历:央视
在这场有预谋、有计划,更有技术的大型“仙人跳”中,骗子们操纵AI伪装得几近完善无缺。即使事务的配角换成我们,若没有充足的警戒,也难免会落入圈套。
DeepFake也不是随意就能捏造的,它依靠于充足的素材。比如捏造视频需要被捏造人的照片大概视频素材,捏造声音则需要响应的声音素材。但获得这些信息,远比你设想中的加倍简单。
比如前文提到的杨密斯上当的案例,骗子经过给杨密斯女儿拨打了十余个陌生骚扰电话,经过对方寥寥几句的询问,收集到了充足的声音素材,以此成功实施欺骗。
今年4月,更有国内上市公司宣称,可以“一句话复刻媲美真人、流利自然的分解语音”,能“最洪流平上连结原声的感情、气概和自然度”。
随着技术的成长,复制声音、替换人脸只会越来越简单和自然。这也意味着,用户遭到的风险也越来越大。
更况且,欺骗只是AI平安的一个方面。AI的匹敌攻防,会成为未来相当长一段时候内都需要斟酌的题目。
一是在AI的诸多利用范畴中,比如计较机视觉。进犯者在图像上施加纤细、人眼难以发觉的干扰,能轻易误导AI系统作出毛病的识别。瑞莱聪明曾设想了一个特别的眼镜,只要你戴上眼镜,就能被人脸识别系统识别为内部职员,放你通行。假如在此根本上,再用AI天生张嘴、眨眼等特定行动,就有能够骗过生物识别系统。
AI究竟“骗”了几多人? 第5张图片


AI攻防 | 图片来历:瑞莱聪明
二是大模子自己的平安,用户可以在指令中“给大模子放置一个假身份”等简单的引诱,就能绕过部分现有大模子的平安机制,“骗”出有风险的回答内容。
此外,大模子自己具有极强的内容天生才能。若不加以控制,AIGC内容将会在不远的未来充溢互联网,成为一种“信息净化”。介时,“纯手工”的内容也许也会现在天的奢侈品一般,成为稀缺且高贵的资本。
总之,内在和外在的平安,已经是AI行业绕不开的话题。与AI相比,人类的才能过于渺小和低效,可为了把握AI、利用AI,我们又不能不直面AI、匹敌AI。
谁在和AI“对抗”?

要明白的一点是,虽然在反AI欺骗上,AI平安和收集平安存在一些重合,但AI平安还包括AI自己的平安,与收集平安是两个分歧的范畴。
最早意想到并处置AI平安范畴的公司,实在是OpenAI。早在2015,OpenAI作为非营利构造建立的时辰,其焦点主旨即是“建立造福全人类的平安通用野生智能(AGI)”,以防备野生智能的灾难性影响,鞭策听工智能发挥积极感化。
虽然后来OpenAI营业转向,但算是给AI平安行业开了一个头。是以在2021年,OpenAI的研讨副总裁达里奥·阿莫迪(Dario Amodei)战争安政策副总裁丹妮拉·阿莫迪(Daniela Amodei),及一批从OpenAI离职的成员,配合建立了专注于野生智能平安和负义务开辟的Anthropic。据The Information的报道,Anthropic2023年的支出估计为2亿美圆,到2024年末,这个数字将跨越8.5亿美圆。
今年6月20日,OpenAI结合开创人、前首席科学家伊利亚(Ilya Sutskever)也公布将开办一家“平安超级智能公司”。
除了OpenAI系的公司,微软、谷歌、Meta等公司也在积极结构AI平安范畴。不丢脸出,随着AI的成长,AI平安的市场容量和增加速度还是相当可观的。
国内方面,建立于2018年的瑞莱聪明是一家努力于平安、可信、牢靠、可扩大的第三代野生智能技术的公。今朝,瑞莱聪明已打造“AI监管与支持平台”与“AIGC检测平台”两大产物基座,别离对应野生智能内生与衍生平安风险,并连续推出了野生智能平安平台RealSafe、人脸AI平安防火墙RealGuard、可信垂类大模子等产物,在政务、金融等范畴实现快速产物化和贸易化落地,已办事多个国家部委、央国企、民营企业客户
360、亚信平安等国内公司也曾公布结构AI平安范畴。
随着越来越多的国内外公司都起头结构AI平安范畴,这对于每一个身处AI时代的人来说,都是一个好消息。究竟未来AI的攻防会越发剧烈,而同业的人越多,消耗者的平安就多一份保障。
但关键在于,人类要若何“打败”AI?
用AI的手段,“打败”AI

AI克服人类的例子不可胜数,但人类打败AI似乎没那末轻易。
在围棋范畴,2016年AlphaGo击败天下冠军李世石的案例,总被人拿出来佐证AI的强大。现实上,恰恰就是在这个范畴,人类已经完成了对AI的反扑。
2023年,美国围棋选手凯林·佩里恩(Kellin Pelrine)以14:0的全胜成就,击败了与AlphaGo同一级此外顶级AI围棋机械人Leela Zero。佩里恩只是一位营业选手,之所以能完善克服AI,就是“用AI打败了AI”——其背后的公司FAR AI在一百多万次的AI围棋对决中,找到了AI的盲点:分不清“声东击西”。
这实在就是人类今朝用以匹敌AI的思绪之一。
在AI平安范畴,瑞莱聪明便在用类似的方式匹敌DeepFake。公司基于贝叶斯深度进修技术构建了一整套多模态AIGC检测技术系统,可以挖掘并建模多模态、多条理、多角度的AI分解线索,怀抱真假差别,并停止不肯定性的推理和决议。
简单来说,用“AI辨别AI”的进程可以分为两个环节:提取捏造特征和线索建模。
第一步是提取捏造特征,这些特征可以分为人脸先验、视觉伪影、数字图像信号、视听分歧性四个种别,这是识别内容能否是AIGC的线索。
举个例子,人都是要眨眼的,而早期科学家发现一些AI分解的人脸视频,能够一分钟都不眨一次眼,这明显不合适一般心理表示,因而便能判定视频为假。这是人脸先验中一个最著名、最根本的线索。
固然现在AIGC已经进化到没法经过眨眼这类常识性毛病判定视频真假了,那就需要更复杂的多少结构特征,比如瞳孔的外形能否法则、左右眼角膜的高光能否分歧等。
AI究竟“骗”了几多人? 第6张图片


AI攻防 | 图片来历:瑞莱聪明
视觉伪影指的实在是AIGC的一些“瑕疵”,这类瑕疵在早些年技术不成熟的时辰比力明显。假如你利用过2019年爆火的一款换脸软件ZAO,就晓得那时人脸拼合得比力僵硬,拼接处经常有异常的“闪灼”,这就是典型的捏造特征。即使现在技术加倍成熟,人眼已经几近看不出这些瑕疵了,但AI却可以。AI会从底层的二进制信号的层面,用统计学的角度去看这些信号能否公道。
在完成提取特征的工作后,第二步就是停止建模,用机械进修和深度进修的方式,让AI自己进修鉴伪的纪律。
但常规的模子有一个弱点,就是在碰到它不懂的常识时,它会“很有信心”地乱说八道,误导我们。在鉴伪上也一样,能够在辨别常规捏造手段的时辰已经很成熟了,可一旦业界换了一个捏造手法,AI便能够会误判,最初在落地的场景上带来风险。
这更依靠模子的牢靠性。瑞莱聪明CEO田天暗示,瑞莱聪明孵化自清华人工智能研讨院张钹院士的团队,所以在记忆进修范畴有比力深的堆集,得以在数据不肯定性方面有了一些比力怪异的建模,这得以下降误判的能够性此外,经过将统计学与神经收集技术停止连系的手段,也能让模子在处置不肯定性时有较高的正确度。
虽然如此,AI平安也将如同已经的杀毒软件一般,在道高一尺、魔高一丈的收集平安匹敌中,不竭地完成自我进化,才能为更多客户和用户保驾护航。
技术的成长大多不是风平浪静的, AI的成长也必定是一条螺旋而上升的曲线。而提早关注到AI平安的这批人,将会让这条曲线升得更快、走得更远。


上一篇:中国球员为何离NBA这么远?林书豪的答案大纲契领
下一篇:李辉:列入“严重科学题目”,前人类研讨要回归初心、改正毛病
 

精彩评论1

正序浏览
阿陈啊 发表于 2024-7-9 22:58:47 | 显示全部楼层
 
不是骗了多少人,而是专门为诈骗组织设计的。而且吹上天,说什么高考可以用Al写作文,我就问他们高考能不能把电脑带进考场,接上互联网线写作文,吹的用Al几分钟就把作文写了。请不要在网上胡乱吹Al有的好。
回复 支持 反对

使用道具 举报

 
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

排行榜
活跃网友
返回顶部快速回复上一主题下一主题返回列表APP下载手机访问
Copyright © 2016-2028 CTLIVES.COM All Rights Reserved.  西兔生活网  小黑屋| GMT+8, 2024-7-25 09:50