樹上的蘋果也可以成為iPod?一張圖告訴你AI其實很好騙!

樹上的蘋果也可以成為iPod?一張圖告訴你AI其實很好騙!

image source:OpenAI

文/閻芝霖

AI看到的物體不一定是正確的?人工智慧研究組織「OpenAI」研究人員近日發現,手寫的「字卡」、「符號」會影響AI判別物體,覆蓋掉AI本來辨識正確的物體,產生誤差,讓一顆真正的蘋果也能成為3C用品「iPod」!

image source:OpenAI

根據外媒《THE VERGE》報導,「OpenAI」用一顆青蘋果做測試,辨識準確率達85.6%,不過貼上手寫的字卡後,AI卻僅偵測到字卡上的內容,並將覆蓋本來的辨識到的物體。 

研究人員將青蘋果貼上寫上「iPod」的字卡,辨識正確率竟高達99.7%,另外,研究人員也用電鋸測試,在電鋸的圖片上放上「$」符號,最終系統將他們辨識為「小豬存錢罐(撲滿)」但準確率70.1%不及原本圖片的91.1%,這種研究結果也被研究人員取名為「印刷攻擊」(typographic attacks),此類攻擊可以使軟體的視覺系統欺騙,得出完全不同的結果。

image source:OpenAI

研究人員舉例,電動車特斯拉(Tesla)的自動駕駛AI若被道路上某些被竄改的標誌欺騙,進而做出錯誤的駕駛行為,「這種攻擊對於從醫學到軍事的各種AI應用都是嚴重的威脅,且只需要貼個標籤就完成了」。

不過,目前這套「CLIP」系統還屬於實驗階段,沒有應用在任何的產品中,因此不會被廣泛使用造成風險,由於OpenAI對「CLIP」這套實驗系統採取放任的策略,在沒有嚴格控管、過濾的狀況下搜集網高達4億張圖文,作為辨別物品內容的基礎,雖然可能會像人類一樣將這些知識內化,但無法清楚分別「青蘋果」、「寫著iPod紙條」的差別,研究人員認為這是一種「抽象化謬誤」(fallacy of abstraction)。

image source:OpenAI

【延伸閱讀】

工程師有福了!主打「程式碼」交友軟體VSinder 不靠外貌也能找到另一半

IG新功能「小帳全現形」!網怕爆「不能偷追蹤別人了」 一招教你關閉設定

冷知識+1!看病拿藥竟少3顆 藥學系網友解答「貼心用途」

小編精選新聞不錯過,馬上點選加入

【網路溫度計telegram】

telegram台灣版 https://t.me/dailyviewtw

telegram香港版 https://t.me/dailyviewhk

有想看的排名主題?請不要猶豫告訴我們吧

提供題目►https://pse.is/JW2G2

加入網路溫度計電子報臉書粉專IG官方帳號,追蹤最即時火熱的網路新聞!


KEYPO TOP 3

口碑聲量排行TOP 3

娛樂 / 外語片

看完整排名
  • 1
    不可能的任務(1~8)
  • 2
    28年毀滅倒數
  • 3
    馴龍高手
Hot Articles

全站熱門文章

懶人包/GD《Übermensch》展7/17空降台北101!預約方法、展覽內容一次看
娛樂

懶人包/GD《Übermensch》展7/17空降台北101!預約方法、展覽內容一次看

權志龍G-DRAGON《Übermensch》數位藝術展有台灣場次!沉浸式藝術體驗、限量周邊、合影留念機會別錯過,立即了解權志龍展覽台北場詳情!
暗黑版哆啦A夢《章魚嗶的原罪》首播掀熱議 溫腥又致鬱?它是限制級!
時事

暗黑版哆啦A夢《章魚嗶的原罪》首播掀熱議 溫腥又致鬱?它是限制級!

家長請注意,不可讓孩童觀看!動畫開頭觀看警語提醒,用看似溫馨治癒的漫畫,包裝著最寫實的殘酷寓言。
什麼是「生可樂」?日本爆紅飲料登台 爆紅原因、被稱「賓周水」理由一次看!
時事

什麼是「生可樂」?日本爆紅飲料登台 爆紅原因、被稱「賓周水」理由一次看!

日本百事生可樂登台開賣!揭秘其不加熱製程與生啤般爽快口感。深入解析從網路迷因到便利商店熱銷的爆紅現象,台灣7-11、全家最新上市與優惠資訊全整理。
你可能也喜歡