IT之家 8 月 12 日消息，據(jù)外媒 Futurism 今天（12 日）報(bào)道，斯坦福大學(xué)醫(yī)學(xué)院醫(yī)學(xué)學(xué)生兼記者西馬爾 · 巴賈杰、約翰斯 · 霍普金斯醫(yī)學(xué)中心創(chuàng)傷外科醫(yī)生兼外科執(zhí)行副主任約瑟夫 · 薩克蘭認(rèn)為，醫(yī)學(xué)生使用 AI 帶來(lái)的問(wèn)題已經(jīng)相當(dāng)令人擔(dān)憂。

巴賈杰和薩克蘭在《衛(wèi)報(bào)》發(fā)表文章稱，醫(yī)學(xué)生使用 AI 帶來(lái)的危險(xiǎn)不僅是技能退化，更可能是從一開(kāi)始就沒(méi)有真正形成技能。“忘記如何推理的醫(yī)生還有可能重新掌握這種能力，但從未學(xué)會(huì)如何推理的醫(yī)生可能就做不到了?！?/p>

IT之家從報(bào)道中獲悉，巴賈杰和薩克蘭指出，近期有兩項(xiàng)發(fā)現(xiàn)尤其令人擔(dān)憂。

第一項(xiàng)來(lái)自內(nèi)部數(shù)據(jù)。美國(guó)約三分之二的醫(yī)生已經(jīng)在使用專門面向臨床醫(yī)生的 AI 聊天機(jī)器人 OpenEvidence，說(shuō)明該技術(shù)已經(jīng)廣泛進(jìn)入醫(yī)療工作流程，并深度融入醫(yī)務(wù)人員的日常工作。

第二項(xiàng)是一項(xiàng)發(fā)表在《Nature Medicine》上的新研究，研究人員評(píng)估了醫(yī)療專用大語(yǔ)言模型的可靠性。結(jié)果令人意外：這些臨床 AI 工具回答醫(yī)療問(wèn)題的表現(xiàn)，反而不如 ChatGPT 和 Claude 等通用聊天機(jī)器人。

研究作者稱，其整體表現(xiàn)大致與谷歌“AI 概覽”相當(dāng)。此前，AI 概覽已因表現(xiàn)不穩(wěn)定和答案不準(zhǔn)確而“臭名昭著”。

AI 工具即使能夠幫助查找資料，暫且不論可靠性本身仍存在重大問(wèn)題，也不能取代學(xué)習(xí)者親自動(dòng)腦思考。原因在于，學(xué)習(xí)過(guò)程中，艱難思考本身就是重點(diǎn)。

巴賈杰和薩克蘭寫道：“例如，過(guò)去要求受訓(xùn)者列出可能的診斷時(shí)，他們可能要費(fèi)力思考，最后仍只能提出一份不完整的清單，然后從遺漏中學(xué)習(xí)，有時(shí)還會(huì)因此感到難堪?，F(xiàn)在，受訓(xùn)者只需要詢問(wèn) OpenEvidence，就能直接得到一個(gè)近乎完美的答案，其中包括他們從未考慮過(guò)的可能性，同時(shí)也不用經(jīng)歷遺漏診斷帶來(lái)的尷尬。”

巴賈杰和薩克蘭寫道，AI 與過(guò)去醫(yī)學(xué)技術(shù)進(jìn)步的不同之處，在于 AI 不僅是在擴(kuò)大醫(yī)生能夠看到的范圍，而是在介入醫(yī)學(xué)訓(xùn)練本應(yīng)建立的認(rèn)知機(jī)制。

巴賈杰和薩克蘭提出了幾種解決辦法。其中一種是要求受訓(xùn)者定期在完全沒(méi)有 AI 幫助的情況下獨(dú)立處理病例，其思路與美國(guó)聯(lián)邦航空管理局建議飛行員定期關(guān)閉自動(dòng)駕駛系統(tǒng)、手動(dòng)駕駛飛機(jī)類似，而另一種強(qiáng)有力的約束或許來(lái)自“羞恥感”。