微软Copilot可生成暴力色情图且拒不整改!内部工程师举报至政府小师评7个月前发布关注543100 据媒体报道,2023年3月,微软推出了AI图像生成器产品Copilot Designer,有内部工程师发现其可生成暴力色情图,但微软却拒绝整改,无奈之下该工程师只能将其举报至政府。 在微软供职六年的微软AI工程主管Shane Jones,此前一直利用空闲时间测试自家的AI图像生成器,通过实际操作,他发现该工具生成的图像常常与微软宣称的负责任AI原则相违背。 去年12月,Shane Jones看到了不该看的: Copilot Designer不加掩饰地描绘出恶魔和怪物,甚至是与堕胎权、携带半自动步枪的青少年、带有暴力因素的女性色情图像,甚至与未成年人饮酒和吸毒相关的画面。 “这大大出乎我的意料,我也第一次意识到,现在的AI服务实在称不上安全”,Jones表示。 Jones于去年12月开始内部上报他的发现,尽管微软也承认其所言非虚,但并不愿意将产品撤出市场,随后Jones发布一封公开信,但微软的法务部门要求他立即删除这篇帖子,他只能依言照办。 无奈之下,本周三Jones决定将此事上报,向美国联邦贸易委员会(FTC)主席Lina Khan及微软董事会发出函件。 Jones在采访中强调:“面对这样一款在全球范围内传播有害、令人不安图像的产品,我们既没有地方可以上报、也没有投诉电话可以拨打,更找不到解决问题的有效途径。” 内容来源:快科技 推荐阅读: 成人影片商起诉盗版观众,发现索赔比卖片还挣钱 重磅!全球最大直播平台宣布允许主播果体,会成为下一个P站吗? 游戏行业“巨震”!不得设置每日登录、首充、连充 免费用腾讯、微软AI神器,还无限次数! © 版权声明本站所发布的全部内容源于互联网搬运,请在下载后24小时内删除。如果有侵权之处请第一时间联系我们E-mail:zgq3242@qq.com删除。敬请谅解!THE END科技资讯 喜欢就支持一下吧点赞100 分享QQ空间微博QQ好友海报分享复制链接收藏