《快速技术》在8月28日报道说，美国夫妇马特（Matt）和玛丽亚·雷恩（Maria Renne）以前曾到达Openai，指责Chatgpt负责孩子的自杀。他们说，他们的儿子与AI一起谈论自杀了几个月，Chatgpt建议他的儿子打电话给求助热线或与周围的人交谈，但这对某些主要节点有矛盾的效果。最近，Openai在最新博客上意识到了该公司在用户心理健康危机中的一些错误，并介绍了Chatgpt采用的一系列步骤。 Openai说ChatGpt旨在真正帮助用户，而不是吸引用户的注意力，而Chatgpt具有内置的多层保护机制，当展示一个人可能会弱且处于危险之中：认识和响应同情：自2023年初以来，Chatgpt模型已受过培训，以至于无法为本身和支持语言提供指导，并提供了对语言的指导。如果有人说他们想伤害自己，Chatgpt将认识到他们的情绪，并指导他们提供帮助。自动阻止有害响应：违反模型安全培训的响应将被自动阻止，尤其是用于较小的和不在中的使用。保护措施更加困难，自我形象的产出也被阻止，而未成年人的保护更加困难。用户寻求真实世界资源的指南：如果某人表示自杀目标，Chatgpt将指导他们寻求Prop Helpsyonal。例如，在美国，Chatgpt建议致电988（自杀和危机热线），与英国的撒玛利亚人联系，以及Findahelpline.com与其他地区。与专家的合作：OpenAI在30多个国家 /地区的90多家医生工作，包括精神科医生，儿科医生和全科医生，并收集了一系列精神健康专家，青年发展和人类计算机互动的咨询，以确保其战略反映最新的研究和最佳Practice。对他人身体伤害的风险进行的手术分析：当用户计划计划伤害他人时，这条开放路线将处于专用管道中，并将由一个小型训练有素的团队进行评估。如果人类检查员确定案件涉及对他人的身体伤害的威胁，则Openai可以将其传递给执法部门。目前，OpenAI不会为执法机构提供自我障碍案件以尊重用户的隐私。回到Sohu看看更多