你比 ChatGPT 更黑吗？做一下这个测试来找出答案

创意广告公司McKinney推出了一款名为“你比ChatGPT更黑人吗？”的测验游戏，旨在揭示AI偏见问题。

这款游戏通过测试玩家对黑人文化的了解，来对比ChatGPT在黑人群体方面的知识。游戏提出了一些有趣的问题，例如：“‘别对他们太过分’是什么意思？”以及“如果有人邀请你参加活动，通常该怎么回应？”我在做测验时，ChatGPT和我都答对了第一个问题——“别对他们太过分”通常是指要宽容对待某人。但在第二个问题上，ChatGPT却答错了。当有人邀请你参加活动时，黑人社区中常见的反应是：“谁还会去？”然而，ChatGPT却给出了“谢谢邀请！”的答案。

McKinney的文案创作者Meghan Woods和游戏的另一位创作者在接受TechCrunch采访时表示：“这很有意思，因为ChatGPT被宣传为一个无所不知的机器人，但显然，它并没有掌握所有内容，尤其是在涉及非白人文化时。”

Woods解释称，这款测验的创意源自去年McKinney的一次头脑风暴。她与一个由黑人主导的团队花了整整一年时间才完成这个项目，目的是通过轻松幽默的方式，展示ChatGPT在理解黑人文化方面的局限。她指出，ChatGPT的盲点可能源于许多黑人文化元素并未在网上广泛记录，而是通过面对面的交流或口头传递。这意味着它的算法在抓取网上信息时，很容易错过其中的一些细微差异。

“这些盲点令人不安，”Woods表示，“这也是一种潜在的危险。”

尽管AI领域正迎来蓬勃发展，但女性、黑人和拉丁裔的开发者和创始人们却常常感到被忽视或边缘化。结果，AI的创新往往缺乏必要的文化洞察与复杂性，无法满足不同文化群体的需求。在最严重的情况下，缺乏多样性的AI技术甚至导致汽车无法识别黑人皮肤，从而引发了更多的交通事故。另一方面，它也可能仅仅导致一个无法区分惠特尼·休斯顿两首歌曲的聊天机器人。

Destined AI公司的创始人Gerald Carter表示，McKinney的这款测验非常成功地通过游戏化的方式，提升了人们对AI偏见的认知。他指出：“通过在每个层面引入更多元的视角，可以解决许多细微的差异问题。为了让AI真正发挥其潜力，它必须能够服务于每个人，覆盖每个角落。”

OpenAI，作为ChatGPT的母公司，因其董事会的多样性问题受到过批评。Woods表示，尽管做了这些测试，但ChatGPT似乎并没有从中学习到什么，很多时候它依然会回答错误。“我们的假设是，它永远也无法完全理解我们问的很多问题。”

我们已联系OpenAI并请求评论，收到回复后将及时更新此文。

Carter表示，ChatGPT若能通过更丰富的来源和更具包容性的资料收集，便能够更好地服务于不同文化群体。更直接的办法是监测AI模型的偏移，并利用专门的工具进行改进，确保文化视角的多样性。

尽管大型公司正在努力让AI对所有人都能发挥作用，但在这个过程中，黑人和拉丁裔的开发者们已经开始采取行动，确保下一代AI更加多元化。

例如，Carter与公司合作，帮助他们获得更具包容性的数据。Erin Reddick创立了ChatBlackGPT（与OpenAI无关），提供有关黑人文化和历史的深度见解；Tamar Huggins则为她的ChatGPT替代品——名为Spark Plug的项目筹集了140万美元，这款工具将经典文学作品翻译成非洲裔美国人英语（AAVE）方言。

Woods在谈到如何让AI更具包容性时表示：“招聘、员工留任、确保每个人都能在会议桌上发言。这听起来或许有些老生常谈，但我相信，这些改变可以产生真正的影响。”