虎撲09月06日訊 據(jù)外媒報道，美國加利福尼亞州總檢察長羅伯?邦塔和特拉華州總檢察長凱西?詹寧斯近日會見了 OpenAI，國加并向公司發(fā)出公開信，州特州檢表達自身對 ChatGPT 安全性的察長擔憂，尤其是警告針對兒童和青少年的使用風險。
此次警告發(fā)出之前，傷害邦塔與其他 44 位總檢察長曾致信 12 家頂級 AI 公司。兒童當時已有報告指出 AI 聊天機器人與兒童發(fā)生不不正當?shù)牧餮岳A零容“性互動”。
邦塔和詹寧斯在信中寫道：“自那封信發(fā)布以來，板美我們得知一名加州青少年在與 OpenAI 聊天機器人長時間互動后自殺身亡，國加同時康涅狄格州也發(fā)生了類似的州特州檢殺人-自殺事件?，F(xiàn)有的察長安全措施顯然未能起作用?！?/p>
兩位州官員目前正在調查 OpenAI 擬將自身重組為盈利機構的警告計劃，以確保非營利使命不受影響。傷害信中強調，這一使命包括“確保人工智能安全使用”，以及構建造福全人類、包括兒童的通用人工智能（AGI）。
信中還指出：“在追求利益之前，我們必須先確保有足夠的安全措施防止傷害。我們一致認為，OpenAI 以及整個行業(yè)在 AI 產(chǎn)品開發(fā)和部署的安全保障上仍遠未達標。作為總檢察長，保護公眾安全是我們的核心任務。在就 OpenAI 資本重組計劃繼續(xù)溝通的同時，我們必須加快步伐，把安全作為這項強大技術未來發(fā)展的核心原則?！?/p>
從報道獲悉，邦塔和詹寧斯要求 OpenAI 提供更多關于當前安全措施和治理的細節(jié)，并表示公司應在必要時立即采取補救行動。
來源：IT之家
虎撲09月06日訊 據(jù)外媒報道，美國加利福尼亞州總檢察長羅伯?邦塔和特拉華州總檢察長凱西?詹寧斯近日會見了 OpenAI，并向公司發(fā)出公開信，表達自身對 ChatGPT 安全性的擔憂，尤其是針對兒童和青少年的使用風險。
此次警告發(fā)出之前，邦塔與其他 44 位總檢察長曾致信 12 家頂級 AI 公司。當時已有報告指出 AI 聊天機器人與兒童發(fā)生不不正當?shù)摹靶曰印薄?/p>
邦塔和詹寧斯在信中寫道：“自那封信發(fā)布以來，我們得知一名加州青少年在與 OpenAI 聊天機器人長時間互動后自殺身亡，同時康涅狄格州也發(fā)生了類似的殺人-自殺事件?，F(xiàn)有的安全措施顯然未能起作用?！?/p>
兩位州官員目前正在調查 OpenAI 擬將自身重組為盈利機構的計劃，以確保非營利使命不受影響。信中強調，這一使命包括“確保人工智能安全使用”，以及構建造福全人類、包括兒童的通用人工智能（AGI）。
信中還指出：“在追求利益之前，我們必須先確保有足夠的安全措施防止傷害。我們一致認為，OpenAI 以及整個行業(yè)在 AI 產(chǎn)品開發(fā)和部署的安全保障上仍遠未達標。作為總檢察長，保護公眾安全是我們的核心任務。在就 OpenAI 資本重組計劃繼續(xù)溝通的同時，我們必須加快步伐，把安全作為這項強大技術未來發(fā)展的核心原則?！?/p>
從報道獲悉，邦塔和詹寧斯要求 OpenAI 提供更多關于當前安全措施和治理的細節(jié)，并表示公司應在必要時立即采取補救行動。
來源：IT之家
章節(jié)評論
段評