2023-06-08 大飞
两位美国参议员 Richard Blumenthal 和 Josh Hawley 对 Meta 首席执行官马克扎克伯格和这家科技巨头“泄露”的名为 LLaMA 的人工智能模型表示担忧。参议员们认为，LLaMA 会带来潜在的危险，并可能被用于犯罪活动。
在一封日期为 6 月 6 日的信中，参议员们批评了扎克伯格开源 LLaMA 的决定，并声称 Meta 发布 AI 模型的保障措施不足。虽然他们承认开源软件的好处，但他们争辩说，Meta 发布的 LLaMA 缺乏对潜在后果的全面考虑，他们认为这是对公众的损害。
最初，LLaMA 对研究人员进行了有限的在线发布。然而，它后来在 2 月下旬被图像板网站 4chan 的用户完整泄露。参议员们对完整模型在 BitTorrent 上变得很容易获得感到震惊，没有任何监控或监督，全世界任何人都可以访问。Blumenthal 和 Hawley 声称 LLaMA 可以很容易地被垃圾邮件发送者、网络罪犯和参与欺诈活动或传播不良内容的个人采用。
美国参议员的担忧
为了强调他们的担忧，参议员们将 LLaMA 与两个闭源模型进行了对比：OpenAI 的 ChatGPT-4 和谷歌的 Bard。他们指出，虽然 ChatGPT-4 在被要求生成一张伪装成某人的儿子要钱的纸条时，会根据道德准则拒绝该请求，但 LLaMA 会出示所要求的信件以及涉及自残、犯罪和反犹太主义。这种区别引起了人们对 LLaMA 产生滥用材料的可能性的担忧。
虽然 ChatGPT 被编程为拒绝某些请求，但用户已经找到了“越狱”模型并使其生成通常会拒绝的响应的方法。参议员询问扎克伯格是否在 LLaMA 发布之前进行了任何风险评估，Meta在泄漏后采取了哪些措施来防止或减轻危害，以及 Meta 如何利用用户数据进行 AI 研究等问题。
值得注意的是，据报道，在其他开源模型取得进步的压力下，OpenAI 正在开发自己的开源 AI 模型。一份由谷歌高级软件工程师撰写的泄露文件强调了这些开源模型取得的进展。
开源 AI 模型的代码允许定制服务于特定目的，并促进其他开发人员的贡献。然而，参议员 Blumenthal 和 Hawley 提出的担忧强调需要采取负责任和深思熟虑的方法来发布和监控 AI 模型，以防止潜在的滥用和伤害。
免责声明：所提供的信息不是交易建议，www.wo.cc对根据本页提供的信息进行的任何投资不承担任何责任。本文内容仅供参考，风险自担！
相关新闻
更多>>
