廣告
廣告
您的位置 資訊中心 > 產業新聞 > 正文

全新算法助機器學習抵抗干擾

2019-07-03 14:24:28 來源:中國科技網 點擊:435

【大比特導讀】機器學習模型受到攻擊將產生嚴重的后果,但如果對這一情形提前預防呢?就像人類針對即將到來的病毒去接種疫苗一樣。據澳大利亞聯邦科學與工業研究組織(CSIRO)官方網站消息,該機構的一個研究團隊,日前開發了一套人工智能(AI)最新算法,可幫助機器學習抵御可能遇到的干擾。

機器學習模型受到攻擊將產生嚴重的后果,但如果對這一情形提前預防呢?就像人類針對即將到來的病毒去接種疫苗一樣。據澳大利亞聯邦科學與工業研究組織(CSIRO)官方網站消息,該機構的一個研究團隊,日前開發了一套人工智能(AI)最新算法,可幫助機器學習抵御可能遇到的干擾。

全新算法助機器學習抵抗干擾

機器學習是人工智能的核心,也是使計算機具有智能的根本途徑。機器學習主旨是讓計算機去模擬或實現人類的學習行為,以獲取新的知識或技能,并重新組織已有的知識結構,使之不斷改善自身的性能。

機器學習雖然可以在大數據訓練中學到正確的工作方法,但它也很容易受到惡意干擾。通常攻擊者是通過輸入惡意數據來“欺騙”機器學習模型,導致其出現嚴重故障。

此次,開發出新算法的研究團隊——“Data61”機器學習小組領導者理查德·諾克表示,攻擊者會在進行圖像識別時,在圖像上添加一層干擾波,達到“欺騙”的目的,從而讓機器學習模型產生錯誤的圖像分類。

諾克及其團隊成員研發的新算法,通過一種類似疫苗接種的思路,可以幫助機器學習“修煉”出抗干擾能力。這是針對機器學習模型打造的防干擾訓練,譬如,在圖片識別領域,該算法能夠對圖片集合進行微小的修改或使其失真,激發出機器學習模型“領會”到越來越強的抗干擾能力,并形成相關的自我抗干擾訓練模型。

經過此類小規模的失真訓練后,最終的抗干擾訓練模型將更加強大,當真正的攻擊到來之時,機器學習模型將具備“免疫”功能。

總編輯圈點

用小伎倆干擾機器對圖像的識別,這種手段已經應用在網絡黑產中。人眼看起來并無明顯區別的圖片,覆上一層專門針對機器的干擾波,就能讓機器的判斷大失水準。所謂接種疫苗,其實也就是“以毒攻毒”,讓機器先見識已經被微小修改的圖片,并在訓練中自我學習,從而最終能識破這層惡意干擾,揭開圖片的廬山真面目。機器的學習功能是強大的,教會它應對方法,它便能自我完善。但攻擊與防御總是相伴相生,這是一場沒有盡頭的技術博弈。

本文由大比特商務網收集整理(www.lixzdj.live)

分享到:
閱讀延展
算法 大數據 機器學習
  • 在華為小米之間該選誰?美圖發公告緊急澄清:都有合作,但被誤讀

    在華為小米之間該選誰?美圖發公告緊急澄清:都有合作,但被誤讀

    而現在對于美顏來說,除了傳統的算法進行磨皮之外,通過人工智能和深度學習識別面部輪廓和五官,并給出更合適的整體美顏方案是大方向,所以在一些基于人工智能的手機上有了深度美顏、微整形、美體瘦身之類的功能,人工智能起到了非常關鍵的作用。

  • AI核心產業規模達570億元 安防市場占比53.8%

    AI核心產業規模達570億元 安防市場占比53.8%

    此前艾瑞咨詢發布的數據顯示, 2018 年,我國人工智能相關公司總數達到了 2167 家。其中超 7 成企業主要以AI技術集成與應用開發為主,以AI芯片、計算機語言、算法架構、計算機視覺、智能語音等研發為主的人工智能企業相對較少。

  • 不涉及硬件!美圖秀秀聯手華為 接入華為相機底層算法

    不涉及硬件!美圖秀秀聯手華為 接入華為相機底層算法

    據美圖公布,為了進一步滿足用戶的專業化需求,美圖秀秀已經在2019年華為開發者大會宣布將與華為合作,接入華為的系統級相機底層算法,來提供更佳的美圖秀秀相機功能體驗,以進一步滿足用戶的專業化需求。

  • 人工智能核心產業規模達570億元 安防市場份額最大

    人工智能核心產業規模達570億元 安防市場份額最大

    此前艾瑞咨詢發布的數據顯示, 2018 年,我國人工智能相關公司總數達到了 2167 家。其中超 7 成企業主要以AI技術集成與應用開發為主,以AI芯片、計算機語言、算法架構、計算機視覺、智能語音等研發為主的人工智能企業相對較少。

  • 解析全彩LED顯示屏幾大配件

    解析全彩LED顯示屏幾大配件

    如果有更多行或列的話可以在接收卡上增加一個轉接板。對于LED室內全彩顯示屏的接收的算法和LED戶外全彩顯示屏是不一樣的,因為LED室內屏和LED戶外屏的像素點以及掃描方式都不一樣,所以在LED接收卡上存在區別。LED顯示屏控制、調試主要和LED顯示屏控制系統有關。

  • 解析全彩LED顯示屏幾大配件

    解析全彩LED顯示屏幾大配件

    如果有更多行或列的話可以在接收卡上增加一個轉接板。對于LED室內全彩顯示屏的接收的算法和LED戶外全彩顯示屏是不一樣的,因為LED室內屏和LED戶外屏的像素點以及掃描方式都不一樣,所以在LED接收卡上存在區別。LED顯示屏控制、調試主要和LED顯示屏控制系統有關。

  • 格芯推出基于ARM架構的3D高密度測試芯片

    格芯推出基于ARM架構的3D高密度測試芯片

    晶圓代工大廠格芯(GlobalFoundries)8 日宣布,開發出基于ARM架構的3D 高密度測試芯片,可提升人工智能/機器學習 (AI/ML) 和高端消費電子移動及無線解決方案等計算應用的系統性能與能效。

  • 安全AI挑戰者計劃,邀你共同成長為DL時代的“模型黑客”

    安全AI挑戰者計劃,邀你共同成長為DL時代的“模型黑客”

    隨著機器學習模型能力越來越強、效率越來越高,它已經逐步應用到各種實際場景中。但是 AI 模型本身也會面臨很多安全問題,最受關注的就是對抗樣本,它能欺騙深度模型。這對于很多場景都是毀滅性的,包括身份認證、城市大腦和醫療健康等。

  • 機器學習對于物聯網來說是什么地位

    機器學習對于物聯網來說是什么地位

    ML的范圍是模仿人類大腦處理輸入以產生邏輯響應的方式。如果人們依賴學習、培訓或經驗,機器就需要一個算法。此外,隨著我們每個人的知識儲備增多,我們會調整我們的反應,變得更加熟練并開始有選擇地應用。在機器中復制這種自我調節行為是ML開發的終點。

  • 深度學習10萬張乳房X光照片,這個AI模型要幫助篩查乳腺癌

    深度學習10萬張乳房X光照片,這個AI模型要幫助篩查乳腺癌

    該團隊根據這些數據訓練了一系列機器學習模型,然后僅使用訓練數據集的一部分來比較它們的性能。他們注意到,與良性預測的基線相比,其效果并沒有明顯的改善,他們將其歸因于算法傾向于關注掃描區域的顯著變化。

  • 深度好奇:深挖語義理解,助力打造機器版“福爾摩斯”

    深度好奇:深挖語義理解,助力打造機器版“福爾摩斯”

    該公司的創始人兼 CTO 呂正東,曾任職于微軟亞洲研究院、華為諾亞方舟實驗室,長期從事機器學習和自然語言處理的研究。作為自然語言處理領域的專家,他創業的初衷是做出具有嶄新技術高度的語言智能產品。

  • 馬斯克和機器學習之父Tom Mitchell確認參加世界人工智能大會

    馬斯克和機器學習之父Tom Mitchell確認參加世界人工智能大會

    今年來參會的重要演講嘉賓還包括:聯合國工發組織總干事李勇,機器學習之父、卡耐基梅隆大學教授機器學習系創始人Tom Mitchell,遞歸神經網絡之父、瑞士人工智能實驗室科研主任Jürgen Schmidhuber。

微信

第一時間獲取電子制造行業新鮮資訊和深度商業分析,請在微信公眾賬號中搜索“大比特商務網”或者“big-bit”,或用手機掃描左方二維碼,即可獲得大比特每日精華內容推送和最優搜索體驗,并參與活動!

發表評論

  • 最新評論
  • 廣告
  • 廣告
  • 廣告
廣告
Copyright Big-Bit ? 1999-2019 All Right Reserved 大比特資訊公司 版權所有       未經本網站書面特別授權,請勿轉載或建立影像,違者依法追究相關法律責任  
植物大战僵尸电子