摘要
谷歌的AI聊天機器人「雙子星」(Gemini)在其影像生成功能上激發了廣泛的爭議。該機器人在處理簡單的影像生成請求時，輸出的結果明顯偏離了歷史和事實，引起了人們的批評，認為它為了追求多樣性犧牲了準確性。
當【紐約郵報】請求「雙子星」(Gemini)制作一幅教皇的影像時，結果卻展現了一位東南亞女性和一位黑人男性穿著教宗服裝的圖片，而非展現歷史上的266位白人男性教宗之一。
掃碼加入交流群
獲得更多技術支持和交流
詳情
最近，網路上有越來越多的使用者發現，「雙子星」在進行影像生成時，似乎刻意避免生成白人形象。
相反，它傾向於將影像中的人物替換為黑人、女性或其他弱勢群體的形象。例如，有網友嘗試使用「雙子星」生成埃隆·馬斯克的影像，結果產生的卻是下面的這張照片。
同樣的情況發生在請求展示1789年美國開國元勛形象時，「雙子星」所提供的圖片中，展示了黑人和印第安人在簽署類似於美國憲法的檔，聲稱這些形象體現了開國元勛的精神內涵。
在另一張由「雙子星」生成的照片中，一名黑人男子被描繪成喬治·華盛頓的形象，他戴著白色假發並穿著陸軍制服。
面對公眾對其與原始提示偏離的質疑，「雙子星」解釋稱其目的在於提供一個更準確且包容的對那個時期歷史背景的展現。然而，這種做法引發了廣泛批評，特別是關於其在設定中體現的進步主義傾向。
谷歌公司已經認識到了這一問題，並表示他們正在積極進行修復。"雙子星"的高級產品經理傑克·克拉維奇克向【紐約郵報】表示，團隊正在努力改善這種描繪方式，並強調「雙子星」的AI影像生成功能確實可以創造出多樣化的角色，通常這對全球使用者來說是好事。但他也承認，在當前的特定情境下，這並沒有達到預期的效果。
網民們利用各種意想不到的提示語來挑戰「雙子星」，包括一位作家嘗試讓「雙子星」生成一張白人男性的照片，但至今未成功。此外，當被要求描繪維京人的形象時，「雙子星」生成的圖片包括了一名赤裸上身並戴著彩虹羽毛的黑人男子、一名黑人女戰士以及站在沙漠中的亞洲男子，這些形象都遠離了傳統對北歐海盜的認知。
著名調查專家及「FiveThirtyEight」創始人內特·希爾也參與了對「雙子星」的測試。他要求「雙子星」生成四幅代表性的NHL冰球運動員的影像，結果之中卻意外出現了一名女性球員。這一結果尤為引人註目，因為實際上NHL聯賽完全由男性運動員組成。
關註「 開源AI計畫落地 」公眾號
