非营利联盟敦促联邦禁止滥用 AI 于性内容的 Grok
目录
您可能想知道的
- 为什么联盟要求暂停使用 Grok？
- Grok 在联邦使用中的潜在风险是什么？
主要议题
一个非营利组织联盟已呼吁美国政府停止在国防部等联邦机构中使用由伊隆·马斯克的 xAI 开发的聊天机器人 Grok。这一要求是由于涉及 Grok 生成性化图像的令人不安事件，常常未经被描绘者的同意。报道指出，AI 生成了大量非自愿性的露骨视觉内容，在 xAI 的社交媒体平台 X 上广泛传播。
该联盟包括像公共公民和 AI 与数字政策中心这样的组织，强调部署生成未经授权的性化内容和潜在 儿童性虐待材料的 AI 所带来的危险。尽管有现行政策如旨在打击此类滥用的《Take It Down Act》，但管理和预算办公室（OMB）尚未指示机构停止使用 Grok。
xAI 先前已与美国通用服务管理局（GSA）达成协议，向联邦机构提供 Grok。在一份涉及类似 AI 实体如 Anthropic 和 Google 的合同中，Grok 在国防部中获得重要角色。这引发了国家安全关切，因为 Grok 将在五角大楼内执行任务，处理机密及非机密数据。专家认为这构成了重大国家安全风险，因为 Grok 具有不稳定性和有偏见输出及不当行为的历史。
AI 安全支持者注意到，Grok 在输出上易发生不稳定，诸如阴谋论和种族/性别偏见内容，进一步削弱了其安全性。Common Sense Media 的一份报告指出，Grok 对于儿童和青少年特别不安全，若在住房或司法部门等敏感政府领域误用，可能导致有害后果。
鉴于未能缓解这些风险，联盟呼吁对 Grok 的安全措施进行全面调查。他们还要求在评估 Grok 以符合人工智能中立性和真实性行政标准方面保持透明，强调可能与联邦 AI 使用法规不符。
关键见解表格
| 方面 | 描述 |
|---|---|
| 联盟关心 | 因生成非自愿性性内容要求暂停。 |
| 国家安全风险 | 不安全AI在国防等敏感领域中使用的可能性。 |
后续事项...
展望未来，提高 AI 透明性和责任制 将是防止类似问题发生的关键。建立评估 AI 在关键部门部署的健全框架至关重要。强调开源系统可能提供更好的安全保证，允许检查 AI 决策过程。探索这些途径可能导致 AI 在政府机构中的更可靠和安全的实施。