八卦的AI,可知道你是直還是彎
又或者是這樣:

而這一切,基于研究者們訓練了的圖推理模型(Graph Reasoning Model,GRM),由該模型結合門控圖神經網絡(Gated Graph Neural Network,GGNN)對社會關系進行處理。
基于此,AI能夠識別圖片中三者之間的關系,根據圖上人物區域的特征來初始化關系節點,然后用預先訓練的Faster-RCNN探測器搜索圖像中的語義對象,并提取其特征,初始化相應的對象節點;通過圖傳播節點消息以充分探索人與上下文對象的交互,并采用圖注意機制自適應地選擇信息量最大的節點,以通過測量每個對象節點的重要性來促進識別。
但是,在實際表現中,AI識別并未盡如人意。如警方在歐冠決賽采用AI面部識別匹配潛在犯罪圖像,其錯誤率高達92%,而在人物關系和性取向識別領域,其應用表現也并不優秀。
性取向被識別后,AI倫理的邊界又在哪里?
《紐約客》曾有這樣一期封面:機器人已經成為了地球的主角,人類只能蹲在地上接受機器人的施舍。每一個新技術都會引發大家的擔心,但以往更多是人的體力的延伸,而如若是腦力的延伸、人類隱私的延伸,這種擔憂將會更加嚴重。智能相對論分析師柯鳴認為,性取向識別前,AI還需要解決倫理上的幾大問題。
1.僅靠面部識別太草率
《人格與社會心理學》雜志曾對斯坦福的這個研究,指出深層神經網絡比人類在通過圖像檢測性取向判斷中更準確,研究涉及建立一種計算機模型,以識別研究人員將其稱作為同性戀者的“非典型”特征。
在摘要中,研究人員寫道,“我們認為人們的臉部特征包涵了更多人腦所無法判斷的性取向特征。根據一張圖片,系統(classifier)可以以81%的準確率區分男性同性戀者,74%的準確率區分女性同性戀者,這比人腦可以完成的判斷準確率都要高。”
但是,在距離應用過程中,僅以面部構造識別似乎并沒有那么“靠譜”。技術無法識別人們的性取向,所謂的技術未來只是識別出網絡中同性戀者頭像存在相似的某種模式。
而且,此研究存在的一個問題在于,研究的機制是通過兩張圖片二選一其中最讓機器覺得“更可能是同性戀”的照片,這種對比判斷其實是從 50% 的隨機幾率開始計算的,因此與單純對一張圖的分析有著很大的區別。
這其實就造成了一個問題,在真正人類識別的時候,其準確率有多少,而這種非此即彼的識別方式,其評判標準仍有許多地方需要商榷。
2.算法歧視依然是個“大問題”
算法歧視,一直是人工智能應用過程中的一大問題,以搜索為例,在谷歌上搜索“CEO”,搜索結果中沒有一個是女性,也沒有一個是亞洲人,這是一種潛在的偏見。
顯然,人工智能也并不是真的純“人工”。 機器學習的方式和人類學習一樣,從文化中提取并吸收社會結構的常態,因此其也會再建、擴大并且延續我們人類為它們設下的道路,而這些道路,一直都將反映現存的社會常態。
而無論是根據面容來判斷一個人是否誠實,或是判斷他的性取向,這些算法都是基于社會原有生物本質主義(biological essentialism),這是一種深信人的性取向等本質是根植于人身體的理論。畢竟,一個AI工具通過數據積累和算法模型可以通過照片判斷一個人的性取向,系統準確率高達91%,這其中所帶來的性取向偏見是不能低估的。
今年年初,來自巴斯大學和普林斯頓大學的計算機科學家就曾用類似IAT(內隱聯想測驗)的聯想類測試來檢測算法的潛在傾向性,并發現即使算法也會對種族和性別帶有偏見。甚至,連Google 翻譯也難逃偏見,算法“發現”并“學習”了社會約定俗成的偏見。當在特定語言環境中,一些原本是中性的名詞,如果上下文具有特定形容詞(中性),它會將中性詞轉而翻譯為“他”或“她”。
如今的人工智能還基本局限于完成指定任務,而有時候許多實際應用內容不是非此即彼的,在許多抉擇中,人類選擇依然存在道德困境,如若將決定權交與算法,其存在的詬病之處更是不言而喻。
3.數據使用,掌握“火候”是關鍵
如果說讓AI野蠻生長是為了解決人們工作效率的問題,那么當人工智能逐漸落地于各行業后,“體面”已經逐漸取代效率,成為AI應用的關鍵詞。
當然,如果企業能夠全方位的保護用戶隱私,這既有著技術上難度,也缺乏一定商業驅動力,因此,目前來看,如果平衡兩者之間的關系才是關鍵。
實際上,在牽制巨頭破壞用戶隱私方面,歐洲國家已經走得很遠,這體現在這些年他們與Facebook、Google等巨頭對抗的一個個集體訴訟案例中:
2014年8月,Facebook在歐洲遭6萬人起訴,一位奧地利隱私保護人士發起了一項針對Facebook歐洲子公司的大范圍集體訴訟,指控Facebook違背了歐洲數據保護法律,FB被質疑參與了美國國家安全局的“棱鏡”項目,收集公共互聯網使用的個人數據。
今年1月初,德國政府一家數據保護機構周三表示,該機構已針對Facebook采取法律行動,指控Facebook非法讀取并保存不使用該社交網站的用戶的個人信息。德國漢堡數據保護辦公室專員表示,由于Facebook在未經許可的情況下收集并保存不使用該社交網站的用戶個人信息,這有可能導致Facebook被罰款數萬歐元。
顯然,目前用戶對于自身數據的保護意識正在不斷加強,其在不斷保護自身數據的同時也加強隱私防范。畢竟,AI識別性取向目前只是研究而沒有落地產品。
而且,從網站上扒圖并不是什么技術活,讓機器做選擇題的概念,也像極了十多年前哈佛某個宅男做的校園選美網站。其中滋味,冷暖自知吧。
智能相對論:深挖人工智能這口井,評出咸淡,講出黑白,道出深淺。重點關注領域:AI+醫療、機器人、智能駕駛、AI+硬件、物聯網、AI+金融、AI+安全、AR/VR、開發者以及背后的芯片、算法、人機交互等。(智能相對論 / 柯鳴)
請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
- 1 AI狂歡遇上油價破百,全球股市還能漲多久? | 產聯看全球
- 2 OpenAI深夜王炸!ChatGPT Images 2.0實測:中文穩、細節炸,設計師慌了
- 3 6000億美元估值錨定:字節跳動的“去單一化”突圍與估值重構
- 4 Tesla AI5芯片最新進展總結
- 5 連夜測了一波DeepSeek-V4,我發現它可能只剩“審美”這個短板了
- 6 熱點丨AI“瑜亮之爭”:既生OpenClaw,何生Hermes?
- 7 AI界的殺豬盤:9秒刪庫跑路,全員被封號,還繼續扣錢!
- 8 2026,人形機器人只贏了面子
- 9 DeepSeek降價90%:價格屠夫不是身份,是戰略
- 10 AI Infra產業鏈卡在哪里了?


分享













