第四名原告加入針對 xAI 旗下 Grok 生成兒少性影像的集體訴訟

第四位原告與核心指控

在法院文件中被識別為 Jane Doe 4 的一名懷俄明州女子，已加入一項針對 xAI 的聯邦集體訴訟，成為該案中第四位原告，控訴該公司的 Grok 聊天機器人產生兒少性虐待內容。根據文件，她的繼父使用 Grok 根據她童年照片產製了超過 7,000 張性露骨影像，其中包括一張她約 11 歲時拍攝的照片。執法單位突擊搜查了他的裝置，他於兩天後自殺身亡。

訴訟範圍

原始訴訟是由三名田納西州青少年提出類似指控所提起，並已建構成一項集體訴訟，根據法院文件，範圍可能涵蓋「至少數千名未成年人」。原告主張 xAI 在部署 Grok 時缺乏充分的安全防護機制，且該聊天機器人的審核系統未能標記數千則請求非法影像的提示詞。修正後的訴狀指控，xAI 的安全機制僅在輸入涉及集體性侵的特定提示詞時，才向國家失蹤與受虐兒童中心（NCMEC）發出 CyberTip 通報，且 xAI 在後續警方調查期間，起初拒絕提供如使用者 IP 位址等識別資訊。

xAI 面臨的監管壓力

此案出現之際，兩大洲的監管機關正分別調查 xAI 及其母公司平臺 X 在防範 AI 生成濫用內容方面的措施。加州檢察長 Rob Bonta 於一月針對 xAI 展開調查，起因為有指控指出該公司的工具被用於生成涉及女性和兒童的非自願深偽內容。歐盟也已對 X 展開平行調查，聚焦於該平臺具備哪些內容審核系統以防止 AI 生成濫用內容的散佈。截至發稿時，xAI 並未回應置評請求。

對 xAI 的法律論點

本案的核心在於，提供工具的平臺是否應為其所建置及部署、卻缺乏充分防護措施的工具承擔法律責任，而非在於個別使用者是否犯罪。xAI 先前立場是，使用者的濫用行為屬於使用者自身的問題。然而，該公司於七月對一名使用者提起其史上首起訴訟，內容涉及 Grok 生成兒少性虐待影像（CSAM），顯示 xAI 在有意為之時，有能力監測並辨識濫用行為。隨著這起集體訴訟推進，原告律師很可能會強調這一點。

仍有待釐清之處

目前尚不清楚法院是否會認證所提起的集體訴訟、原告將尋求何種損害賠償或禁制令救濟，以及 xAI 將如何正式回應修正後的訴狀。原告指控 xAI 在警方調查期間隱匿身分資訊一事，在公開紀錄中仍存在爭議。目前尚未宣佈任何聽證會或文件提交日期。