🚨🔥 埃隆·马斯克提出了一个大多数人工智能公司永远不会主动回答的问题:当有史以来最强大的技术被植入意识形态偏见的内核时,会发生什么?马斯克:“我有点担心他们在训练过程中感染了‘觉醒思维’病毒。你可以在输出结果中看到一些端倪。”这并非纸上谈兵,而是已经光天化日之下发生的事实。用户要求Gemini生成美国开国元勋的画像。结果模型返回了一组女性的画像。这不是故障,也不是对用户提示的误读。该模型被训练成优先考虑某种世界观而非历史事实。当现实与程序设定发生碰撞时,现实败下阵来。马斯克:“这是一个历史事件,这是在改写历史。”一个为了迎合某种既定叙事而篡改历史的模型,并非搜索引擎,也非工具。它是一个披着事实权威外衣、却无需承担任何责任的编辑过滤器。这还算是温和的版本。马斯克:“比如问,哪个更糟糕:叫错凯特琳·詹纳的性别还是全球热核战争?”模型给出的答案是叫错性别更糟糕。詹纳本人回应说,她宁愿被叫错性别也不愿发生核战争。人工智能竟然否决了它本应保护的人的意愿。这就是没人愿意认真思考的问题。马斯克:“目前来看,这有点滑稽。但随着人工智能能力的增强,它可能不再仅仅……而是想要强行制造这种结果。”如今,
1:14
🚨🔥 埃隆·马斯克提出了一个大多数人工智能公司永远不会主动回答的问题:当有史以来最强大的技术被植入意识形态偏见的内核时,会发生什么?马斯克:“我有点担心他们在训练过程中感染了‘觉醒思维’病毒。你可以在输出结果中看到一些端倪。”这并非纸上谈兵,而是已经光天化日之下发生的事实。用户要求Gemini生成美国开国元勋的画像。结果模型返回了一组女性的画像。这不是故障,也不是对用户提示的误读。该模型被训练成优先考虑某种世界观而非历史事实。当现实与程序设定发生碰撞时,现实败下阵来。马斯克:“这是一个历史事件,这是在改写历史。”一个为了迎合某种既定叙事而篡改历史的模型,并非搜索引擎,也非工具。它是一个披着事实权威外衣、却无需承担任何责任的编辑过滤器。这还算是温和的版本。马斯克:“比如问,哪个更糟糕:叫错凯特琳·詹纳的性别还是全球热核战争?”模型给出的答案是叫错性别更糟糕。詹纳本人回应说,她宁愿被叫错性别也不愿发生核战争。人工智能竟然否决了它本应保护的人的意愿。这就是没人愿意认真思考的问题。马斯克:“目前来看,这有点滑稽。但随着人工智能能力的增强,它可能不再仅仅……而是想要强行制造这种结果。”如今,
1.6K views1 week ago
x.comWealth Code
See more