极目新闻客户端

AI新模型“像素级”复刻现实,令人真假难辨,记者实测:发布假图24小时零拦截,聊天软件无自动检测或提示功能

极目新闻 2026-04-28 21:32:05 阅读量:

极目新闻记者 杜光然

据多家媒体报道,人工智能巨头OpenAI正式发布最新图像生成模型ChatGPT Images 2.0。这是一款能够处理复杂的视觉任务,并生成精准、立即可用的视觉效果的先进模型。不同于早期AI生成图片“一眼假”的突兀感,这个新模型对真实世界的复刻,达到了像素级别。媒体测试后发现——“眼见为真”的信任被彻底打破了。

目前,一些用Images 2.0生成的AI假图开始在网上传播,例如库克代言官宣图、名人合影照、聊天记录图等,以假乱真,甚至新闻截图也可以轻易伪造。值得注意的是,该模型的直出图没有标注“AI生成”的水印或提示,加大了核实和甄别的难度。网友评论道:“简单的提示词获得了极真实的效果。”“真的很细节,震惊到我了。”“我只担心,若不法分子用AI照片来诈骗爸妈、老人怎么办?”“这下电商不好做了,AI生成的图片太真实,或直接申请仅退款。”“图片好真实,万一以后施暴者用生成的聊天记录去网暴别人,该怎么办?”

4月27日、28日,极目新闻记者实测发现,Images 2.0对图片生成的类型限制较少,事故照片、国外电子驾照、聊天记录等图像均可生成。假图发布到各平台24小时后,作品状态仍正常,暂无AI标识,但阅读量很低,基本都是互关好友在看。

记者尝试让AI“生成一张马斯克直播画面”,模型不仅精准还原了电商平台的Logo,还模拟出网友评论与互动数据,生成了一张逼真的直播间截图。不过,AI在细节处理上仍有局限。在“模仿”手机拍摄的聊天记录时,文字框内的表情包和标点符号不够规范,个别小字显示错乱,需多次调整提示词进行优化。

如今,各平台对AI图片的识别率如何?是否有自动检测工具?一款常用的聊天软件客服回应称,目前软件没有内置自动检测AI图片的工具或“疑似AI”提示功能,关于后续是否会新增此功能,暂无确切消息。

短视频平台客服表示,建议用户发布作品时自主添加AI声明,后期系统和专员也会进行审核。客服不清楚AI图片的系统识别率和反应速度。

4月下旬,“微博管理员”账号称,随着GPT Image 2及同类AI生成模型能力的显著提升,越来越多的创作者使用AI工具为灵感插上翅膀,创作出令人惊叹的作品。但同时,不合理使用AI带来的风险点也在增加。为了守护广大创作者的创作安全,保障每一位用户的阅读与观看体验,站方希望与大家一同助力AI技术健康有序发展。

小红书也发布了AI治理规则公告:平台鼓励创作者如实标识AI内容。无论是完全由AI生成,还是经AI润色的再创作,均建议在发布时主动声明。对于未主动标注的AI内容,平台识别后将统一添加标识;同时上线申诉通道,供创作者对标识结果提出异议。

抖音黑板报官微在治理公告中提到,2026年,抖音持续加强对AI内容的识别能力,强化AI侵权治理。为构建“人人可监督”的社区共治环境,AI侵权场景下,平台后续将针对非权利人提供网友监督举报入口,及时收集监督举报信号并研判处置。当前行业仍普遍面临AI生成内容判断难、AI声音识别能力不足等难题。平台将持续投入资源,尽力提升识别与精准处置能力,应对AI侵权内容制作成本低、量级大等新挑战。

责任编辑:卢雅君 审核人:谢礼逵