在全球各國銳意發展下，人工智慧（AI）技術近年來呈現爆炸性成長，應用領域也正迅速擴展，然而詐騙集團也看準生成式AI的能力，利用該技術快速產生大量「高度個人化」的網路釣魚內容，並且瞄準企業高層進行攻擊，對企業營運造成嚴重威脅。

《金融時報》（FT）報導，包括英國保險業巨擘比茲利（Beazley）集團，以及拍賣網站eBay，近期都向旗下員工發出警告，表示有心人士或組織，往往透過網路公開資訊生成可信度極高的電子郵件，向企業人士進行釣魚詐騙。

比茲利集團資安長凱利（Kirsty Kelly）指出，「由於詐騙手法日趨嚴重且高度個人化」，因此懷疑詐騙集團利用AI技術進行內容產製，且目前「已經觀察到針對性極高，對個人資訊蒐集極為完整的詐騙手段」。

報導表示，資安專家認為科技公司爭相研發先進AI技術，並且針對個人與企業推出各式各項功能強大的生成式服務，降低了詐騙集團運用該技術的門檻，進而使詐騙手段日趨精密，AI程式能夠在短時間內吸取大量特定公司或是個人的資訊，風格以及習慣，並且將前述資訊融合，產生出具有高可信度的詐騙內容。

除了公開資訊之外，AI也能夠截取特定對象的網路足跡、社群媒體活動，並且據此判斷受害者最有可能回應的話題，透過該模式大量形成詐騙內容。

根據美國資安最高主管機關、國土安全部旗下的「網路安全暨基礎設施安全局」（Cybersecurity and Infrastructure Security Agency, CISA）統計，在成功的網路詐騙之中，有高達90%始於釣魚信件，且在手法日新月異的發展之下，網路詐騙所造成的損失不斷升高。

根據美國科技大廠IBM估算，2024年全球平均單一資料外洩案所造成的損失，較前1年上升了10%，達到490萬美元（約1.61億元新台幣），且研究人員示警，指出AI尤其在生成商業信件、誘拐受害者提供公司機密資訊或是轉移資金等方面特別有成效，美國聯邦調查局（FBI）統計，自從2013年以來，該詐騙手法在全球已造成500億美元（約1.64兆元新台幣）的損失。