Microsoft关闭了创建Taylor Swift裸体Deepfakes的漏洞

人工智能的使用正在稳步增长，许多公司将这项技术整合到他们的服务中。Microsoft是该领域的关键参与者，旨在通过创建文本和图像的生成式AI技术来增强用户体验。然而，谨慎对待人工智能至关重要，因为使用不当会导致重大问题。当最初用于创建人工智能生成图像的工具被滥用于涉及名人的不当内容时，Microsoft面临着挑战。以下是详细信息...

Microsoft 对 Taylor Swift Deepfake 漏洞的迅速行动

想象一下，即使您不是 Photoshop 专家，也可以创建您想要的任何照片。好吧，你真的不需要想象，因为多亏了人工智能，它现在成为可能。然而，并不是每个人都使用这项技术来制作风景壁纸。例如，一些恶意用户利用Microsoft的Azure Face API生成名人的裸照和视频，包括Taylor Swift。该公司宣布，它已经修复了允许创建此类深度伪造内容的安全漏洞。

Microsoft发现了一个安全漏洞，可以让攻击者操纵某些API参数。这个缺陷使他们能够用另一个人的脸替换泰勒斯威夫特的脸。为了解决此问题，Microsoft 发布了一个更新，阻止在 API 中使用无效参数。不幸的是，这项措施无法有效解决不断升级的深度伪造危机。

由于人工智能和技术的进步，制作深度伪造内容变得非常简单。这些纵的照片和视频经常被用于传播假新闻或进行诽谤活动。在上述具体例子中，泰勒·斯威夫特（Taylor Swift）成为这种滥用的受害者。

幸运的是，科技公司正在积极努力解决这些问题。Microsoft正在修复该漏洞，在Elon Musk的领导下，X限制了Taylor Swift搜索的平台，以防止这些视频在社交媒体上传播。重要的是要认识到，共享露骨的图像，无论是否深度伪造，都可能产生严重后果。出于道德原因等，建议避免创建、共享或参与此类内容的传播。

来源：IT之家

IT时代网(关注微信公众号ITtime2000，定时推送，互动有福利惊喜)所有原创文章版权所有，未经授权，转载必究。
创客100创投基金成立于2015年，直通硅谷，专注于TMT领域早期项目投资。LP均来自政府、互联网IT、传媒知名企业和个人。创客100创投基金对IT、通信、互联网、IP等有着自己独特眼光和丰富的资源。决策快、投资快是创客100基金最显著的特点。

相关文章

Microsoft关闭了创建Taylor Swift裸体Deepfakes的漏洞