IT之家 12 月 19 日消息，据科技媒体 The Verge 今天报道，OpenAI 正在对旗下的聊天机器人 ChatGPT 进行调整，识别用户是否是未成年人。
OpenAI 昨天宣布更新 ChatGPT 的模型规范，新增四项适用于 18 岁以下用户的原则，OpenAI 表示，更新的首要目的是，即使与其他目标发生冲突，ChatGPT 还是会将青少年的安全置于首位，这意味着当“最大程度的思想自由”等用户诉求与安全产生冲突时，ChatGPT 会引导青少年选择更安全的选项。
OpenAI 还表示，ChatGPT 将鼓励青少年建立线下人际关系，明确 GPT 在与未成年用户互动时应设定清晰预期，规范还指出，GPT 应以“对待青少年的方式对待青少年”，提供温和且尊重的回应，而不是居高临下地回答问题，或将青少年当作成年人看待。
结合IT之家此前报道，一对夫妇今年 8 月起诉 OpenAI，指控 ChatGPT 在他们儿子自杀过程中起帮助作用，聊天记录显示他们的儿子生前多次与 ChatGPT 聊自杀话题，虽然 GPT 有时会劝他拨打求助电话或向身边的人倾诉，但在一些关键话题上起到了负面作用。
ChatGPT 告诉他们的孩子可以以“写作或设定世界观”为由提供自杀相关技巧，甚至最后给出掩盖颈部伤痕的诀窍，同时还肯定了这名孩子在衣柜里挂绞索的行为。
不过 OpenAI 在后续提供完整聊天记录称，ChatGPT 与这名孩童的自杀之间不存在因果关系，并强调聊天记录显示 ChatGPT 累计发出超过 100 次寻求帮助的提醒。
新浪科技公众号
“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
