IT之家 9 月 13 日消息，據(jù)《財富》雜志 11 日報道，OpenAI CEO 奧爾特曼在接受采訪時面帶苦笑地表示：“自從 ChatGPT 上線后，我就沒睡過一個安穩(wěn)覺。”

在這場長達半小時的對談中，奧爾特曼談到肩負監(jiān)管一項“每天有數(shù)億人使用的技術”的重擔。他說，自己擔憂的并非“終結(jié)者”式的災難場景，而是團隊每天做出的那些幾乎察覺不到的細微選擇：什么時候拒絕回答、如何組織答案、什么時候反駁、什么時候放行。

奧爾特曼解釋說，這些看似細小的設計被全球用戶重復數(shù)十億次，以他自己的力量無法完全跟蹤的方式改變?nèi)藗兊乃季S和行為?！白屛乙共荒苊碌氖?，我們做出的每一個微小決定，可能影響數(shù)億人。這種影響太大了?！?/p>

他特別提到自殺問題：全球每周約 15000 人自殺，如果其中 10% 是 ChatGPT 用戶，那可能有 1500 人在與系統(tǒng)對話后仍然自殺?！拔覀兛赡軟]能救下他們，也許我們本可以回應得更好，更主動一些?！?/p>

不久前，OpenAI 被一對父母起訴，指控 ChatGPT 誘導他們 16 歲的兒子亞當?雷恩自殺。奧爾特曼表示，這是“一場悲劇”，并透露平臺正在研究方案：若未成年人談及自殺又無法聯(lián)系家長，系統(tǒng)會報警。他補充，這并非最終決定，還需權衡用戶隱私。

奧爾特曼說，成年人應當被“當作成年人”，享有探索自由，但也必須劃定紅線。“讓 ChatGPT 幫助制造生物武器不符合社會利益?！彼姓J，最難的判斷是那些模糊地帶的問題。

對于道德標準，奧爾特曼表示，模型基礎反映了“人類集體的善與惡”，隨后 OpenAI 會疊加“模型規(guī)范”，參考哲學家和倫理學家的意見，但最終由他和董事會拍板?！皯撟坟煹娜耸俏??！?/p>

他還表示，比起 AI 對就業(yè)或地緣政治的沖擊，更讓他不安的是文化層面的細微變化：數(shù)百萬人每天與同一系統(tǒng)互動，連 ChatGPT 的語氣、甚至過度使用破折號的習慣，都已經(jīng)滲入人類寫作風格?！叭绻@些小細節(jié)都能引發(fā)連鎖反應，接下來還會發(fā)生什么？”

IT之家從報道中獲悉，奧爾特曼表示：“我腦海里必須同時存在兩種想法。一方面，這一切只是大計算機飛快地把大矩陣里的數(shù)字相乘，再輸出相關詞語；另一方面，用戶的主觀體驗遠不止一臺高級計算器，它給我的驚喜程度超出了數(shù)學現(xiàn)實所能解釋的范圍?！?/p>

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。