美國科技新創公司「OpenAI」於3月29日公布人工智慧（AI）語音模型「聲音引擎」，只需要短短15秒的說話者聲音樣本，就能複製出幾可亂真的AI語音，不僅富有情感且逼真，還不受語言限制，可以生成西語、法語等其他語種的AI語音。不過，OpenAI也承認，這項技術具有高度的「深偽」風險，因此不適合全面發布。

英國《衛報》報導，OpenAI於2022年開始研發AI語音模型「聲音引擎」（Voice Engine），初始版本起初只被用於ChatGPT內建的文字轉語音功能。這項語音模型的生成結果不受聲音樣本語種限制，如果說的是英文，可以產生西語、法語等多種語言。

OpenAI introduced Voice Engine, a voice cloning tool.

With a short 15-second sound, it can realistically transcribe human voices and convert written text into audio…

pic.twitter.com/xZXXMWOIMN

— Tansu Yegen (@TansuYegen) March 30, 2024

不過，OpenAI最新表示，考量到「深偽」、被濫用的風險，他們決定延遲推出「聲音引擎」，目前僅提供給合作夥伴使用，尚未對外全面開放。尤其是在至關重要的全球大選年，OpenAI致力避免假訊息出現的可能性。

OpenAI解釋說，他們「目前選擇預覽而非廣泛發布這項技術」，是為了強化社會面對「更具說服力的生成式模型」的抵禦能力。OpenAI呼籲逐步淘汰語音認證，作為登入銀行帳戶或其他敏感訊息的安全措施，並制定在AI領域使用個人聲音的保護政策，以及推廣理解AI技術的能力及侷限性，包括AI可能生成欺騙性內容。

OpenAI也強調，目前「聲音引擎」的生成結果都有浮水印，以讓公眾追蹤生成式AI語音的來源。與合作夥伴的使用條款也規定，必須取得原始說話者的明確知情及同意，更不允許開發人員讓個人用戶創建自己的語音檔。