研究表明Google AI在識別女性口罩方面存在問題

營銷公司Wunderman Thompson的數據小組進行的一項最新研究表明，當對戴著口罩的人進行測試時，成熟的AI系統(如Google AI)存在性別偏見。

這項研究中使用的AI系統來自知名的技術名稱，例如Google Cloud Vision，Microsoft Azure的Cognitive Services Computer Vision和IBM的Watson Visual Recognition。

我們都知道AI仍在開發中。此外，隨著時間的推移頻繁使用它只會變得更好。但是，研究結果表明，男人比女人更傾向于男人。該研究還使很多事情受到質疑。

Wunderman Thompson的數據小組進行的研究檢查了視覺AI系統是否以與女性相同的方式對待穿著PPE套件的男性。在不同的條件和質量下總共拍攝了256張性別的圖像。

研究中使用的所有AI系統均表現不佳

根據ZDNet的報告，研究中使用的AI系統都無法執行我們可以稱做恒星或至少良好的人工智能系統。而且，所有人都發現很難在男人或女人的臉上發現口罩。

但是，戴著口罩的男性面部要比戴著口罩的女性面部更容易識別。Google AI的遮罩研究給出了一些令人震驚的結果。它可以識別出28%的女性圖像，因為她們的嘴被膠帶覆蓋了。而且信心高達95%。其他8%的情況下，人工智能檢測到戴口罩的女性，因為他們是面部毛發的女性。

IBM的數字也不是很好。結果顯示，有23%的女性戴口罩。同時，在其他23%的案件中，可以肯定的是，婦女戴著鏈條或約束裝置，而不是戴口罩。同時，只有5%的案例顯示出預期的結果。

微軟的計算機視覺似乎已經被很好地編碼。結果表明，有40%的情況是因為女性穿著一些時尚配飾，還不錯。在其他14%的時間中，它將女性臉上的面具識別為口紅。它只有5%的時間檢測到女性臉上的面具。

這項研究對像Google，IBM這樣的成熟AI系統的教育提出了質疑

研究人員沒有仔細檢查這些AI系統的制造者，而是很好地揭示了這些AI系統所面臨的偏見。

此外，盡管AI會隨著時間的流逝而從學習模式中進行自我教育，但最終最終結果還是由人類來承擔。此外，制造商應確保他們反映的是一個中立的社會，而不是普遍存在性別偏見的歷史社會。

這將使自動化進入預期的路徑。因為如果本地結果令人震驚，那么訓練數據肯定存在問題。