「就像任何強大的工具一樣，人工智慧也是一把雙面刃。」勤業眾信的報告如此點評。生成式AI（以下簡稱GenAI），不只能提高各產業的生產力，它也打開了潘朵拉的盒子，釋放各種未知的網路威脅猛獸。
商周專訪多位資安產業的專家，整理出GenAI時代，個人與企業將面對的三大新型威脅與風險，以及相應對的防範心法與措施：
威脅1》身分偽造
偷走聲音和臉，「另一個你」誕生！
根據信任科技公司走著瞧（Gogolook）旗下陌生來電辨識App「Whoscall」之用戶回報數據顯示，用戶遇到「疑似親人聲音來電，要求加Line」以及「疑似AI語音」的相關事件回報次數，今年高峰時每個月可突破六十萬次，是去年平均值的四倍之多。
該公司數據與商業智慧總監高義銘指出，詐騙集團可能透過各種管道，取得攻擊對象認識人物的語音，接著進一步假冒該人身分，致電欲攻擊對象。在取得信任後，會要求轉透過Line進行文字交流，進入財產詐騙程序。
此類攻擊手法，會結合既有的詐騙案元素，如盜用親友照片做為臉書或Line帳號大頭貼，在文字交流中騙取銀行帳號、密碼或其他特定資訊。
加上GenAI技術後，這類攻擊變得更多層次。起手式的攻擊，恐怕會變成是盜取你的聲音與影像，製造另一個你，以接近你的親友，再做真正的攻擊。
同樣的邏輯，加上深度偽造（deepfake）等影像偽造技術，在企業端，就成為各公司未來都更難防禦的資安攻擊。
過去，駭客會發送帶有釣魚網站連結的電子郵件給企業員工，誘導點開連結後，進而找到突破企業防火牆、盜取企業資訊的破口，這類攻擊被稱為商業電子郵件詐騙（BEC，Business Email Compromise）。
過去此類攻擊，大多採用大量出擊的亂槍打鳥式寄送，不過，隨著GenAI的興起，未來駭客將可以用更低的成本，對企業特定人士進行「精準攻擊」。
