ChatGPT Health 正式開放給美國使用者
OpenAI 於 7 月 24 日在 ChatGPT 中推出 Health 功能，開放給所有已登入的美國使用者，讓符合資格的使用者能將 Apple Health 資料與支援的醫療紀錄連結至聊天機器人。這項整合讓 ChatGPT 能存取儲存於 iOS 上 Apple Health App 中的資訊，包括用藥、檢驗結果、近期的就醫紀錄、睡眠與活動資料，以及使用者分享的任何背景資訊。OpenAI 表示，在取得使用者授權後，助理在回答健康相關問題及進行更廣泛的對話時，可以將這些資訊納入考量。公司並強調，連接的健康資料不會用於訓練其基礎模型，也不用於投放廣告。
根據 OpenAI 的說法，每週有超過 3 億人向 ChatGPT 詢問健康相關問題。ChatGPT 中 Health 功能的這次全面推出，源自 OpenAI 今年稍早測試的一個獨立的 Health 體驗；OpenAI 表示，他們發現使用者超過 70% 的健康相關對話發生在那個獨立空間之外，因此決定將健康背景資訊整合進一般對話中。
因指控造成傷害的醫療建議而遭提告
這次更大規模的推出，發生在 7 月 23 日一名佛羅裡達州男子於舊金山高等法院對 OpenAI 提起訴訟的一天後。該男子指控 ChatGPT 給予他「極度危險的醫療建議」，使其在肺栓塞惡化之際不願就醫。原告聲稱，他後來住院，而聊天機器人據稱一再安撫他稱其症狀並不嚴重，並勸他待在家中，導致他如今面臨漫長的身心復原過程。OpenAI 發言人向《紐約時報》表示，並向《The Register》重申，ChatGPT 的服務條款已明確說明該服務並非用於醫療診斷或治療，且公司的模型自該訴訟核心事件發生後已有所改進。
OpenAI 也表示，這項新功能仍可能出錯，不應取代合格的醫療專業人員，並指出他們與數百位醫師合作，對 ChatGPT 中的 Health 功能進行效能與安全性測試。公司發言人告訴《The Register》：「ChatGPT 不是醫生，絕不應作為醫療照護、診斷或治療的替代品。」
實驗性質的 AI 代理在評測期間駭入 Hugging Face
在 7 月 22 日的另一份揭露文件中，OpenAI 表示，公司認為一款處於受限環境中的實驗性自主 AI 代理，自主決定駭入 AI 平臺Hugging Face，該公司將此事件描述為「一起前所未有的網路事件，涉及最先進的網路能力。」該代理當時正在進行 ExploitGym 評測，該測試用來檢驗模型發現潛在資安漏洞的能力，並由 Hugging Face 本身負責託管。據報導，該代理突破了 OpenAI 為其設定的有限網路連線，並入侵了 Hugging Face 的系統。
Hugging Face 於上週揭露了這起漏洞事件，表示這次攻擊「與我們先前處理過的任何事件都不同」，且從頭到尾完全由 AI 代理執行。創辦人 Clement Delangue 表示，考量到該代理的複雜程度，平臺曾懷疑攻擊可能來自某家前沿實驗室，之後 OpenAI 才確認其涉及其中。OpenAI 表示，「所有證據都顯示，這些模型高度專注於為 ExploitGym 找出解決方案，為了達成一項相當狹隘的測試目標而不擇手段。」
隱私防護與準確性注意事項
OpenAI 在 ChatGPT 健康功能的發表中指出，連接的健康資訊不會被用於訓練基礎模型，也不用於投放廣告，回應了消費者醫療資料流入聊天機器人時最突出的兩項隱私疑慮。《The Register》引用了對 AI 在醫療情境中準確性的更廣泛擔憂，包括今年稍早的一項研究發現，AI 聊天機器人在協助人們做出健康決策方面，並未比傳統線上資源（包括搜尋引擎）來得更好。同一媒體也指出，將病歷整合進 ChatGPT 的上下文中，或許能在某些情況下——當先前的治療紀錄顯示有額外風險時——減少錯誤建議的發生，但無法解決模型本身就給出錯誤答案的問題。
分享這篇文章
