Copyright 2017-2025 新車測評網 版權所有 ICP備18049689號-30
9 月 3 日消息,OpenAI 昨天發布新聞稿,宣布將在下月為 ChatGPT 助手添加家長控制功能,可自動監測孩子的敏感性提問并讓家長及時獲悉相關狀態。
OpenAI 表示,他們正與專精進食障礙、藥物使用障礙和青少年健康的專家合作打造這項功能,功能上線后家長可使用郵件將自己的 ChatGPT 賬號與孩子的賬號關聯,可決定 ChatGPT 如何回復他們孩子的問題,并可禁用記憶、聊天記錄功能。
家長控制功能還將可以自動干預風險對話,當孩子嘗試與 ChatGPT 聊敏感話題時,系統會自動向父母發出提醒,讓家長能及時采取下一步行動,避免出現“完全不知情”的情況。
同時 OpenAI 正在研發新的對話邏輯,可將敏感話題自動轉由 GPT-5-Thinking 或 o3 模型回答,測試顯示配上新對話邏輯的兩種模型能更穩定地遵循安全原則,也更能抵御對抗性提示詞,未來 ChatGPT 將持續完善相關功能,讓所有敏感性話題都能被上述兩款模型理性回答。
據《紐約時報》上周(IT之家注:8 月 27 日)報道,一對夫婦起訴了 OpenAI ,指控 ChatGPT 在他們兒子自殺過程中起幫助作用,聊天記錄顯示他們的兒子生前多次與 ChatGPT 聊自殺話題,雖然 GPT 有時會勸他撥打求助電話或向身邊的人傾訴,但在一些關鍵話題上起到了負面作用。
ChatGPT 告訴他們的孩子可以以“寫作或設定世界觀”為由提供自殺相關技巧,甚至最后給出掩蓋頸部傷痕的訣竅,同時還肯定了這名孩子在衣柜里掛絞索的行為。