人工智能技术制作“特朗普被捕”照片引发担忧
【本站】4月3日消息，最近一张特朗普被逮捕的照片在社交媒体上引发热议。然而，这张照片并不是真的，而是由荷兰的一家开源调查媒体“响铃猫”网站的创始人艾略特・希金斯用AI技术制作的。据希金斯表示，他想要把有关特朗普可能被捕的消息可视化，于是用文本到图像模型生成了一些看起来很逼真的照片，并在推特上分享。这条推文在两天内被浏览了近500万次，并获得了超过7.9万个点赞。
数字内容分析公司Truepic的穆尼尔・易卜拉欣说，“合成内容正在快速发展，真实和虚假内容之间的差距变得越来越难分辨”。如今各种AI图像生成工具变得触手可及，它们可在用户发出简单指令后，迅速生成海量栩栩如生的图片。例如，Midjourney这款文本到图像模型现在可生成模仿新闻机构照片风格的图像，如此一来，这些AI生成的图片有望在混乱的新闻环境中“浑水摸鱼”，混淆视听。据本站了解，Midjourney近日以滥用为由暂停了免费试用，Midjourney CEO和创始人David Holz在宣布这一决定时表示免费用户流量过大，试用遭滥用。
虚假图片事件引发人们对人工智能技术滥用的担忧。人工智能专家指出，虽然制作和生成虚假图片的技术并不新鲜，但该领域技术的进步速度以及人们对技术的滥用值得关注。希金斯认为，随着合成图像越来越难辨真假，对抗错误视觉信息的最佳方式是提高公众的意识并加强这方面的教育，同时有必要通过立法来规范深度合成技术的使用。《财富》杂志指出，目前缺乏企业标准或政府法规来解决使用AI制造和传播谎言的问题。
相关文章
- OpenAI推出漏洞奖励计划：寻找人工智能系统漏洞有奖
- 诺奖得主：AI从缩短工作时间到提升工作幸福感
- 网络安全公司开发AI工具，1分钟破解大部分常见密码
- 康奈尔大学研究团队开发无声沟通技术，利用声纳眼镜执行任务
- 人工智能芯片性能与功率效率，高通战胜英伟达成最大赢家
- 网络安全公司警告：超过一半常规密码可在1分钟内被破解
- 映宇宙集团接入GPT3.5 turbo和审核中的GPT4，将进一步提升语言处理能力
- 昇思MindSpore：人工智能的创新之源
- 史玉柱：未来游戏公司应重点布局游戏+AI领域
- 海天瑞声：大模型和AIGC领域带来更多机遇和挑战
- 必应聊天中已有广告出现 用户质疑AI中立性
- AI研究人员呼吁暂停研发更先进的AI技术
- 阿里巴巴推广文案生成方法获专利，将提高文案营销效果
- 减少对单一模型依赖成为AI行业新共识
- 微软必应聊天推出数学解答新格式，用户体验更佳
- 人工智能领域再迎重量级创业者 搜狗前CEO王小川成立新公司
