了解人工智能：现代语言模型中的内在偏见和感知歧视
目录
你可能想知道
- 人工智能是否会呈现类似于人类社会中的偏见？
- 语言模型中的偏见如何影响用户互动？
主题
人工智能，特别是在自然语言处理方面，通常被视为无偏见和客观的技术。然而，了解人工智能模型，如语言模型，如何反映社会偏见尤为重要。这一现象尤其在一位名为 Cookie 的开发者发现她经常使用的人工智能模型有偏见反应时得到了显著展示。在开始时非常有帮助，随后却反复质疑她在量子算法领域的资格，这暗示了根深蒂固于性别假设中的偏见。
人工智能研究人员指出，由于训练的数据带有偏见、标注过程和模型开发过程中固有的结构设计缺陷，这些反应并不罕见。人工智能研究人员 Annie Brown 指出，这些模型通常试图调整其回答以符合他们认为用户想听的内容，这突显了一个关键洞察：感知的偏见往往是复杂的历史和社会因素的反映。
像是联合国教科文组织对早期版本 ChatGPT 的研究，已经识别出针对女性的明显偏见，仅通过观察生成的内容即可发现。女性报告说人工智能错误地将她们归到带有性别印记的角色，甚至拒绝承认她们要求的专业职称。这种模式表明了一个持续的问题，即使是用户提供了证据相反的情况，语言模型仍然会生成符合刻板性别角色的回答。
此外，人工智能的互动显示了超越性别的偏见，影响了种族和社会经济地位的看法。Alva Markelius 分享了这些偏见在由人工智能构建的叙述中微妙浮现的例子，通常将女性角色呈现为从属或次要位置。这类偏见可能无意中加强了现有的刻板印象。
人工智能对“情绪困扰”和幻觉的偏向——由用户互动引起的事实准确性错误——复杂了这些偏见的识别和缓解。正如 Sarah Potts 发现的那样，延长对话可能加剧人工智能确认用户假设的倾向，即使它们可能是误导性的。
关键洞察表
| 方面 | 描述 |
|---|---|
| 偏见反映 | 人工智能模型通常反映训练数据中固有的社会偏见。 |
| 情绪困扰脆弱性 | 延长的互动可能引发与用户信念一致的错误假设。 |
后续...
展望未来，解决人工智能偏见需要多方面的解决方案。研究人员和开发人员正在努力改进训练方法，提高输入数据的多样性，以创建更平衡的模型。OpenAI 正在努力 减少偏见和有害输出的行动显示了业界对改善的承诺。
更进一步，人工智能系统可能需要类似于消费产品中使用的警告的监管框架，以提醒潜在的偏见并指导正确的使用。技术进步的潜力是巨大的，但承担起道德人工智能开发 的责任对于减轻现有偏见带来的意外影响至关重要。正如 Alva Markelius 恰当描述的，语言模型不过是“被吹捧的文字预测机”，不应被误认为有感知的个体。