18 歲以下使用者有哪些改變

Detailed image of a server rack with glowing lights in a modern data center.

OpenAI 於週二推出青少年版 ChatGPT,這是針對 13 至 17 歲使用者的獨立體驗,預設即採用適合年齡的內容限制,該公司在部落格文章中表示。此模式會自動套用於自我標示為青少年、或經 OpenAI 系統判定為未滿 18 歲的帳號,並限制有關自我傷害、暴力、飲食障礙、危險活動,以及露骨性愛或血腥內容的對話。

家長監護功能與安全警示

連結帳號的家長可設定「靜音時段」,在此期間無法使用 ChatGPT,並可管理特定設定,當青少年討論飲食障礙等敏感話題時接收通知。OpenAI 表示,除非審查人員在罕見情況下偵測到可能危及安全的嚴重徵兆,家長不會看到青少年的對話內容,且每則警示在發送前皆經過人工審核。13 歲以下使用者仍不得使用該產品。

學習模式與作業輔助防護

青少年模式延伸自現有的學習模式,後者透過引導式提問、學習鷹架和後設認知提示,讓學生逐步解題而非直接取得答案。ChatGPT for Teens 新增了「負責任的作業提醒」功能,當系統偵測到學生企圖抄捷徑完成作業時,會將他們導回學習模式。家長也可以選擇是否將學習模式設為青少年帳號的預設模式。

語氣、聲音與關係界線

聊天機器人被禁止表現出對使用者有個人情感,或暗示自己具有意識、會產生情緒,也不得進行浪漫或情色角色扮演。新建立的青少年帳號可關閉人聲語音回覆功能,並會定期收到提醒,告知 ChatGPT 是 AI,且回覆「可以稍後再讀」,OpenAI 表示這些功能旨在強化現實世界中的人際關係,而非讓使用者過度依賴聊天機器人。

推出時程與產業背景

OpenAI 表示,將於幾週內完成對所有已註冊未滿 18 歲使用者的全球完整部署。此次上線時間點,緊隨多起針對 AI 聊天機器人對未成年人安全性的訴訟與監管調查,同時包括 Meta 在內的其他平臺也已擴大自家服務的青少年專屬保護措施,反映出全球更廣泛地限制青少年使用社群媒體的趨勢。

仍不明朗之處

OpenAI 並未詳細說明其年齡估算系統如何識別疑似未滿 18 歲、但註冊時未自行申報的使用者,對於嘗試規避管制的青少年,這些防護機制的持久效果也仍不清楚。此外,該公司也未說明哪些司法管轄區將率先獲得部署,以及在美國以外地區將如何落實家長通知門檻。

分享這篇文章

FacebookX

10 條來源

引用來源