“1秒生成流畅照片”？ AI怎么可以换衣服呢？

所有版权归中国经济网所有。
中国经济网新媒体矩阵
网络广播视听节目许可证（0107190）（京ICP040090）
“1秒生成流畅照片”？ AI怎么可以换衣服呢？
2025年10月13日07:10 来源：经济参考报记者 刘宇轩
用户只需上传日常生活照片，一键即可生成军装个人照、警察照片……《新华透视》记者发现，一些人工智能工具推出了“易容”功能，吸引了不少军警迷。但时有不法分子利用“AI伪装”功能，伪装成军人或警察身份，迷惑民众，亟需警惕。生成的统一照片被人工智能滥用。记者以“AI替代军装”为关键词，在各短视频平台搜索各类相关应用。这些应用以“穿电子军服很有趣”、“人工智能让童年梦想成真”等亮点吸引用户。有网友表示，只要上传日常生活照片，“秒变军人”。看到坦克和阅兵的背景，他们感觉自己的“参军梦”实现了。目前流行的AI工具提供的AI绘图功能，也可以根据用户请求实现AI改造。然而，有些人可能会欺诈或非法地使用“AI伪装”，这可能会产生负面影响。相关专家在观看多段AI服装视频后指出，不少士兵换装视频不符合《解放军内务条例》规定的着装规范。军事服务的标准、其他美国勋章和不同国家军队制服的其他元素。马国基江苏大学行政学院党委书记和教授，将互联网与军队制服和不同国家的制服结合起来使用。阿尔古纳斯的人物形象结合了男人的照片和视频，包括下巴霍兄弟和持续的雪茄或酒精饮料、军事或警察制服的照片和视频。这违背了我国军队和警察应有的形象，是对警察形象的不当消费。国际个人使用 IA 普通证书为人提供虚假执照和军事任命书。今年3月，安徽省黄山市屯溪区网民姜先生利用人工智能技术合成了一张自己身穿军装的照片，并在社交平台上发布虚假信息，声称自己已被任命为司令员。经军委批准，编入黄山军一个师，企图争取交通。该行为造成不良社会影响，江某受到当地公安机关的处罚。一些犯罪分子利用“AI伪装”技术伪造身份，实施诈骗。今年4月，江苏省江阴市人民法院对一起冒充军人诈骗案作出判决。网友卢某并非现役军人，但他从网上盗取了军事训练的照片，并将其发布到短视频平台上。获得大量点赞后，他利用AI将自己的头像和自己穿军装的照片合成在一起，并花钱伪造了一张军人身份证，将自己变身为“少校”。他以“交通事故”、“我租车去见老板”等借口，骗取了自己信任的6名女子3万多元。法院以非法行为罪判处其有期徒刑两年贿赂士兵并实施欺诈。今年7月，江苏常州的唐阿姨遭遇了一场精心组织的骗局。骗子通过AI视频联系受害人。视频中，受害人身穿印有公共安全标志的制服，并声称“卷入了一起事件”。威胁老年人支付大笔“押金”。幸好警方及时发出警告并劝阻了老人，才避免了他的财产损失。缺少平台审核和更换制服照片的“零门槛”。记者浏览社交平台，看到有网友发布AI变装视频。访问视频下方的小程序链接后，如果需要的话，我上传了三张清晰的脸部照片。经过10多分钟的AI合成，系统生成了一段军装变装视频。在此期间，平台及小程序均无需上传身份信息他们也没有警告合成视频不应在非法领域使用。 9月1日起施行的《人工智能生成的合成内容展示管理办法》要求清晰展示人工智能生成的合成内容。但记者在使用多款AI伪装应用后发现，用户合成发布的视频没有标注，容易造成混乱。 AI变装技术降低了伪造身份的技术门槛。记者在某购物平台使用“AI+军装照片”关键词时，发现有卖家出售各兵种模板素材、军衔警服等。据店老板介绍，这些资料全部可以拍下来，不到1块钱。记者拍下照片后，店家立即发送了网盘链接。该链接包含数十个 P-Pictu 军装模板文件关于。用户可以通过PS或AI根据自己想要的风格和级别更换头像。记者尝试使用多个社交平台官方账号上的军装照片和人工智能生成的肖像，发现查看起来没有任何困难，并且全部更换成功。北京伟恒律师事务所律师王高峰表示，一些第三方软件和内容平台缺乏研究，允许虚假内容传播，这可能会损害公众对军队和执法职业的信任和尊重。江苏省政府咨询室特约研究员丁宏表示，人工智能降低了个人信息造假的技术门槛。一段人工智能生成的警察抓捕视频被发布到网上，并附有一份涉嫌传播违法有害信息的所谓警方报告。这些内容可能会误导公众，造成不必要的恐慌，扰乱正常秩序。社会秩序正常。国家网信办近日公布了一个经典执法案例。该应用程序由浙江省一家公司运营，提供视频换脸、摄影换脸、摄影舞蹈配音等图像处理功能。用户可以更改上传的照片和视频中角色的脸部。但未按照相关法规和标准落实安全评估要求，深度合成内容未明确标注，存在较大安全风险，违反了《互联网信息服务深度合成管理规定》、《生成人工智能服务管理暂行办法》等规定。网信部责令该平台下架该应用。加强筛查和审查，防止“人工智能创可贴”被滥用。合成内容基因标记措施人工智能评级明确指出，如果服务提供商提供下载、复制和导出人工智能生成的合成内容等功能，则必须确保文件包含符合要求的显式标签。任何组织和个人不得恶意删除、篡改、伪造、掩盖按照本办法生成的合成内容的标签。国家网信办等10部门今年发布的《互联网军事信息传播管理办法》规定，互联网军事信息服务提供者和用户应当采用深度合成、生成式人工智能，确保情报等新技术新应用不损害人民军队形象。王高峰等法律专家建议情报开发者人工智能应加强算法合规控制信息安全管理设计，以及警察、军队标志等敏感信息的使用，应在有关部门的指导下进行严格审查和审核。平台应严格执行《人工智能生成合成内容标注办法》，对“人工智能伪装”产品添加明显标签，建立审核机制，及时删除、封禁违法内容。丁洪建议加快相关立法进程，加强刑事司法协调。有关部门应尽快明确涉及军警的人工智能图像的使用限制、责任分工和法律影响。特别是对故意诽谤军人、警官形象、利用机会进行诈骗活动的行为，必须依法严肃查处，形成法律威慑。人工智能工具开发商内容平台必须对可能影响国家安全、造成社会危害的行为承担共同责任。马国建先生曾是一名军人、一名警察。他呼吁公众提高公众对职业形象重要性的认识，普及相关知识，引导公众自觉抵制、举报虚假内容和非法应用。加大对人工智能生成的合成内容识别方法的广告和推广，以降低公众被误导或误导的风险。
（编辑：魔术师丹）