电影《东谈主工智能》(2001)剧照。
近日,《当然》(Nature)杂志报谈一项最新照看称,照看东谈主员正在使用天文体本领来匡助识别“AI换脸”。该设施的灵感来自于天文体中勘测远方星系的干系扩充,通过测量东谈主眼奈何反射光辉,从而揭示出图像惩处的显着迹象。
7月15日,英国赫尔大学数据科学、东谈主工智能与建模中心主任凯文·皮姆布莱特(Kevin Pimbblet)在英国皇家天文体会寰球天文体会议上初度透露了这项照看的程度。“这项照看提供了一种潜在的设施,大约不错增多一系列测试,匡助东谈主们来判断图像的真假。”他进一步评释说,信得过的像片应该具有“一致的物理特质”,也即是说,东谈主在左眼中看到的反射应该与在右眼中看到的反射出奇相同才对,尽管不一定彻底相通。由于这些相反出奇奥密,因此照看东谈主员需要乞助于成心用于分析天文图像中光辉的本领妙技。
该照看当今尚未发表。其数据撑捏来自英国赫尔大学数据科学家阿德朱莫克·奥沃拉比(Adejumoke Owolabi)的硕士论文。奥沃拉比曾从高质料东谈主脸图像数据集“Flickr-Faces-HQ”中获得信得过图像,并使用图像生成器生成了一些假脸。然后,奥沃拉比使用两种天文测量模式分歧分析了图像中光源在东谈主眼中的反射情况。其中使用到了CAS系统和基尼指数(Gini Index),前者量化了物体光散布的聚合度、不合称性和平滑度,曾匡助天文体家形色星河外恒星的光;后者则计算出星系图像中光散布的不均匀性。
通过相比东谈主眼反射图,奥沃拉比称在图像真假识别中简短能保捏70%的正确率。最终,照看东谈主员发现,该方面基尼指数比CAS系统更实用。
三级片在线深度伪造图片中的眼睛(左)反射图案不一致(右)。图片着手:阿德朱莫克·奥沃拉比的硕士论文内页。
加州大学圣克鲁斯分校的天体物理学家布兰特·罗伯逊(Brant Robertson)确定了这项照看的发现。但他同期辅导说:“淌若你能打算出一个量化深度伪造图像信得过程度的经营,那么你也不错通过优化该经营来考试东谈主工智能模子,使其制作出更好的深度伪子虚品。”
不外,该照看发现也在学界里面遭到质疑。英国南安普顿大学东谈主工智能照看员黄志武(音译,Zhiwu Huang)暗示,他在照看中并未发现深度伪造图像在东谈主眼中的光辉相反。但他暗示:“诚然专揽东谈主眼反射是否一致援助图像识别的本领尚未平淡应用,但这种本领可能有助于分析图像不同部分的光辉、暗影和反命中的幽微很是……检测光的物理特质的不一致可能会补充现存的设施,并留神圣度伪造检测的举座准确性。”
“这不是灵丹仙丹,”皮姆布莱特明确暗示。但他也提议这种设施为检测提供了一种基准和攻略。
参考聚合:
1. AI‘deepfake’ faces detected using astronomy methods
https://www.nature.com/articles/d41586-024-02364-y
2. Astronomers Discover Technique to Detect AI Fraud Using Galaxy-Measuring Tools
https://www.townoflaronge.ca/astronomers-discover-technique-to-detect-ai-fraud-using-galaxy-measuring-tools
编译/申璐
剪辑/罗东
校对/柳宝庆耳光 调教