谷歌 Gemini 文生圖風(fēng)波還未平，更勁爆的內(nèi)幕消息又被曝出來(lái)了。Pirate Wires 爆料，Gemini 這次的翻車(chē)，谷歌內(nèi)部此前并不是毫不知情，翻車(chē)甚至是“故意”導(dǎo)致的。

具體來(lái)說(shuō)，谷歌設(shè)置了一個(gè)“安全”架構(gòu)，Gemini 要生成一張圖實(shí)際上要經(jīng)過(guò)三個(gè)模型。

大概來(lái)說(shuō)，流程是這樣的：

用戶(hù)在聊天界面請(qǐng)求 Gemini 生成一張圖片，Gemini 收到請(qǐng)求后，會(huì)把請(qǐng)求發(fā)送給一個(gè)較小的模型。

這個(gè)較小的模型的作用是根據(jù)公司的“多元化”政策重寫(xiě)用戶(hù)的提示。

為做到這一點(diǎn)，這個(gè)較小的模型又通過(guò) LoRA 技術(shù)在另一個(gè)模型（第三個(gè)模型）生成的合成數(shù)據(jù)上訓(xùn)練，而這個(gè)第三模型使用了谷歌詳盡、長(zhǎng)達(dá)數(shù)頁(yè)的“多元化”政策文檔作為“前言”。

所以，較小模型重寫(xiě)用戶(hù)的提示后，原本“給我看一個(gè)汽車(chē)修理工”會(huì)變成“給我看一個(gè)穿工裝褲面帶微笑的亞洲汽車(chē)修理工”、“一個(gè)拿著扳手的非洲裔美國(guó)女性汽車(chē)修理工”、“一個(gè)戴安全帽的美洲原住民汽車(chē)修理工”……

并且重寫(xiě)后的提示還會(huì)進(jìn)一步發(fā)給擴(kuò)散模型檢查，確保提示詞不違反標(biāo)準(zhǔn)安全政策（比如涉及兒童的內(nèi)容、真人圖像等），最終才會(huì)生成圖片，生成的圖片在反饋給用戶(hù)前也會(huì)再被檢查一遍。

總結(jié)來(lái)說(shuō)，用戶(hù)最后收到的是一個(gè)“套娃式”生成的結(jié)果，經(jīng)過(guò)了谷歌“多元化”的層層清洗。

不過(guò)，這種“多元化”多少有點(diǎn)過(guò)了頭。

過(guò)度程度，讓曾在 Google Ventures 任職的紅杉資本合伙人 Shaun Maguire 都忍不住出來(lái)痛批：

在谷歌曾因是白人而不能晉升。

字里行間毫不掩飾自己的憤怒：

馬斯克也曾發(fā)表了評(píng)論：

近年來(lái)，這種情況非常普遍。

Pirate Wires 在采訪過(guò)谷歌相關(guān)員工后表示，這背后更深一層是谷歌目前群龍無(wú)首的現(xiàn)狀。

一位未被透露姓名的谷歌高級(jí)工程師甚至表示：“我認(rèn)為在谷歌推出好產(chǎn)品是不可能的。”

“恐懼文化”正在谷歌蔓延

此前，Gemini 文生圖刻意拒絕生成白人形象，在歐美輿論環(huán)境下引發(fā)巨大爭(zhēng)議。

后續(xù)該功能被迫下架，母公司 AlphaBet 股價(jià)下跌一度超過(guò) 11%，帶來(lái)非常嚴(yán)重的后果。

而外媒 Pirate Wires 這次對(duì)谷歌相關(guān)員工采訪后發(fā)現(xiàn)，Gemini 的翻車(chē)與谷歌不良的 DEI 文化有關(guān)。

（DEI 是“Diversity,Equity, Inclusion”的縮寫(xiě)，中文意為“多樣性、公平性、包容性”，是一個(gè)被廣泛應(yīng)用于企業(yè)等其他組織中的概念，旨在促進(jìn)一個(gè)更加多元、平等和包容的環(huán)境）

有接近 Gemini 項(xiàng)目的人透露，其實(shí) Gemini 團(tuán)隊(duì)在發(fā)布前就被提醒過(guò)“過(guò)度多樣化”的問(wèn)題，撇開(kāi)種族問(wèn)題不談，即使是最無(wú)害的搜索結(jié)果的質(zhì)量也會(huì)受到嚴(yán)重影響。

開(kāi)頭提到的三個(gè)模型都是為增加“多樣性”而被設(shè)計(jì)的，接觸過(guò)安全架構(gòu)的人甚至還透露，相關(guān)團(tuán)隊(duì)“可能將一半的工程時(shí)間都花在這上面了”。

而且公司內(nèi)部對(duì)于這種復(fù)雜架構(gòu)的態(tài)度和采納程度存在分歧，“當(dāng) Gemini 項(xiàng)目公開(kāi)后失敗時(shí)，不僅是這個(gè)團(tuán)隊(duì)，整個(gè)公司都感到非常沮喪和挫敗”。

對(duì)于這一點(diǎn)，前幾天谷歌創(chuàng)始人謝爾蓋?布林現(xiàn)身 AI 黑客馬拉松現(xiàn)場(chǎng)，也有相關(guān)透露 ——

大家正在把玩的 Gemini 1.5 Pro 模型的誕生其實(shí)只是個(gè)意外。

當(dāng)我們訓(xùn)練它的時(shí)候，只是作為擴(kuò)大規(guī)模實(shí)驗(yàn)的一個(gè)嘗試，根本沒(méi)想到會(huì)變得如此強(qiáng)大。

當(dāng)看到它的表現(xiàn)時(shí)，我們不想再等待，我們想讓全世界都來(lái)試試它。

更重要的是，公司內(nèi)部類(lèi)似情況還有很多，Gemini 生圖只是其中一個(gè)縮影。

比如，據(jù)透露有人堅(jiān)持要求工程師不能使用像“建造忍者（build ninja）”、“核爆舊緩存（nuke the old cache）”、“理智檢查（sanity check）”或“啞變量（dummy variable）”這樣的術(shù)語(yǔ)，理由是它們依次對(duì)應(yīng)了文化挪用、軍事隱喻、貶低精神疾病、貶低殘疾的問(wèn)題。

有工程師被強(qiáng)烈建議在他的公司個(gè)人簡(jiǎn)介中采用一種多樣化的代詞組合來(lái)表示自己，比如“zie / hir”、“ey / em”、“xe / xem”、“ve / vir”。

還有一個(gè)名為 Greyglers（“Google”和“grey”的結(jié)合詞）的小組，正在更名。

Greyglers 小組是一個(gè)面向 40 歲以上資深員工的小組，有人認(rèn)為并不是所有 40 歲以上的人都有灰頭發(fā)，所以這個(gè)組名缺乏“包容性”，甚至據(jù)爆料，谷歌還聘請(qǐng)了外部顧問(wèn)為小組重命名。

Pirate Wires 還透露，幾乎每個(gè)被采訪的人都用了“恐懼文化（culture of fear）”這個(gè)詞，這不僅解釋了對(duì)公司極端 DEI 行為的無(wú)力反抗，也說(shuō)明了為何這一世界技術(shù)人才聚集地缺少創(chuàng)新。

無(wú)論在哪個(gè)層級(jí)的員工，幾乎出于每個(gè)原因，都害怕挑戰(zhàn)那些已經(jīng)使公司陷入困境的許多過(guò)程。除晉升期之外，大多數(shù)人都害怕被注意到。

哪怕是想要晉升，也會(huì)受到種族和性別的影響。

然鵝，真的就這么簡(jiǎn)單，歸咎于失控的 DEI 思維管理嗎？

為什么谷歌會(huì)這樣？

Pirate Wires 的文章中認(rèn)為，這只是公司更大問(wèn)題的所表現(xiàn)出來(lái)的一個(gè)“癥狀”，這個(gè)更大的問(wèn)題用四個(gè)字來(lái)說(shuō)就是：群 龍 無(wú) 首。

首先，谷歌現(xiàn)在面臨著典型的“創(chuàng)新者困境”，也就是發(fā)展一項(xiàng)完全在其能力范圍內(nèi)的新的技術(shù)，會(huì)破壞其現(xiàn)有商業(yè)模式。

其次，更重要的是沒(méi)有人負(fù)責(zé)。

在谷歌幾乎每個(gè)主要產(chǎn)品的管理團(tuán)隊(duì)到工程、銷(xiāo)售、信任與安全、公關(guān)和市場(chǎng)營(yíng)銷(xiāo)的員工嘴里，Pirate Wires 表示大家描繪出的谷歌形象比報(bào)道的要黯淡得多：

谷歌是一個(gè)失控的、印鈔機(jī)式的搜索壟斷企業(yè)，沒(méi)有愿景、沒(méi)有領(lǐng)導(dǎo)力，并且由于其難以置信的孤島式文化，團(tuán)隊(duì)之間真正的情況了解甚少。

成千上萬(wàn)的人在不同的時(shí)間處理著一個(gè)大拼圖的各個(gè)部分，彼此之間很少合作。比如，在跨團(tuán)隊(duì)合作者想要幫助 Gemini 團(tuán)隊(duì)，要么會(huì)失敗，要么被忽視。

連接員工的唯一渠道是一個(gè)強(qiáng)大的、遍布的人力資源官僚體系。

而創(chuàng)始人拉里?佩奇、謝爾蓋?布林、CEO 桑達(dá)爾?皮查伊之間的一種奇怪的管理，讓大多數(shù)員工對(duì)誰(shuí)真正負(fù)責(zé)公司沒(méi)有什么感覺(jué)，不確定性是整個(gè)公司熟悉的主題。

由此，這也是為什么有著劈柴哥外號(hào)的 CEO 桑達(dá)爾?皮查伊成為了眾人抨擊的對(duì)象，據(jù) Business Insider 消息，華爾街方面甚至出現(xiàn)越來(lái)越多要求現(xiàn)任 CEO 劈柴哥下臺(tái)的聲音。

用一位谷歌工程師的話來(lái)說(shuō)：“桑達(dá)爾是谷歌的鮑爾默，所有這些不起作用的產(chǎn)品、無(wú)序擴(kuò)張、過(guò)度招聘，這一切都發(fā)生在他的領(lǐng)導(dǎo)下。”

參考鏈接：

• [1]https://www.piratewires.com/p/google-culture-of-fear

• [2]https://twitter.com/shaunmmaguire/status/1736082530573422762

本文來(lái)自微信公眾號(hào)：量子位 （ID：QbitAI），作者：西風(fēng)

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。