近日韩国曝出“Deepfake”(深度伪造技术)事件多个关于“韩国AI深度伪造”的话题词引发网友热议。
据韩媒报道针对女性的深度伪造犯罪在韩国日趋猖獗Deepfakes是利用AI换脸制造色情图频韩国网民在通讯软件“电报”(Telegram)上发现大量聊天群其中有成员创建和分享露骨的性“深度伪造”图像对象涉及未成年女孩,在此过程中加害者还毫不犹豫地公布受害女性的身份威胁受害人,索要钱财。据报道,韩国教育部9日表示今年已发生400多起涉及中小学的相关案件受害者累计超过600人。
9月8日,2024年国家网络安全宣传周在南沙正式拉开帷幕,关于AI换脸、换声等对个人隐私侵害的话题成为大家关注的焦点。一张“人像照片”、一段近距离的人物视频,都有可能成为不法分子犯罪的新手段和新工具。画面中技术人员正在演示的就是“AI换脸”技术,仅需一张目标人物的静态照片,就能让照片中的人物动起来。
中国网络空间安全协会人工智能安全治理专业委员会委员张博介绍,“尽管现在AI换脸、换声等有一定的技术门槛和操作成本,但如果被不法分子获取的情况下,就有可能被用来假冒他人,实施相关的犯罪活动。”
前不久,深圳市民吴先生突然收到一个陌生手机号码发来的彩信,点开一看竟然是他和一名陌生女子在酒店房间内的不雅照片。当事人吴先生:当时我收到一条彩信,里面是我的一张裸照。他当时威胁我,在几点之前要跟他联系、转钱,我当时一想不对劲,就报警了。
深圳警方接到报案后,立即对吴先生提供的线索进行侦查。通过梳理报案记录,警方发现全市有同样遭遇的不止吴先生一人,犯罪嫌疑人的敲诈勒索方式都如出一辙。随着调查的深入,警方发现这是一个以王某为首的犯罪团伙,团伙内分工明确,有人负责修图,有人负责寻找作案目标,有人负责发短信打电话敲诈勒索。在掌握大量线索后,深圳警方展开统一收网行动,成功抓获以王某为首的10多名犯罪嫌疑人。在犯罪嫌疑人的电脑里,警方发现了大量经过合成换脸后的不雅照片。
深圳市公安局坪山分局民警张威:从嫌疑人电脑里面提取的相关证据,这些图片是嫌疑人从各种渠道收集的被害人图片信息,然后进行合成处理用来敲诈被害人。目前,王某等人已被检察机关提起公诉,案件正在进一步审理当中。
据了解目前针对“AI换脸”技术实施各类侵犯个人信息的行为时有发生在灰色领域甚至违法犯罪领域被滥用。张博向记者详细展示了AI换脸过程和原理,“只需要输入一张正面静态图片,借助人工智能技术,便可以实时‘移花接木’。”他进一步介绍,AI换脸的3大步骤原理:面部识别追踪、面部特征提取、面部变化融合。“整体的原理是通过计算机深度学习,精准识别人脸图像,然后提取眼睛,鼻子,嘴巴等重要的面部特征,然后把这些特征与目标人脸图像进行匹配,替换和融合。”
如今“AI 换脸”技术已经比较成熟的甚至能够实现视频通话的实时换脸虽然单凭肉眼很难分辨不过张博指出只要稍加留心“AI换脸”还是有明显破绽“马脚”就在面部轮廓和光线。
日常生活中不少人喜欢在朋友圈、短视频上晒美食、晒美景但是如果不小心的话这些行为很可能间接泄露你的个人信息如果被别有用心的人获取可能会危及自己和家人的财产乃至人身安全哪些照片一定要小心?千万不要随意发到网上呢?
1.不要公布手持身份证或手持白纸照。这些照片中会包含个人姓名、身份证号码、住址等敏感信息,一旦泄露,不法分子可能利用这些信息进行身份盗用,办理信用卡、贷款等金融业务,甚至进行违法活动。另外,手持白纸或手持报纸等照片常被用于验证身份,如果被不法分子获取,可能被用于制作假证件或进行网络诈骗,会给个人带来经济损失和名誉损害。
2.不要发布各种票据类的照片。很多人出差、旅游都喜欢拍火车票或飞机登机牌,发到自己的朋友圈分享。这些票据上不仅会包含姓名、出发地、目的地等信息,而且在条纹码或者二维码中也会含有乘客的个人信息,存在被不法分子破解并窃取的可能。
3.不要晒家门钥匙、车牌等照片。不法者通过大数据等技术手段,通过这些照片会分析出发布者特定时间所处的特定位置,也会获取发布者相关的生活习惯。所以,最好的办法就是不要在照片中出现特征明显的物品,例如家门钥匙、车牌号码等。
保护个人隐私至关重要公众应提高警惕避免在网络上随意发布包含个人敏感信息的照片转发提醒亲朋好友注意~