亞馬遜Alexa智慧語音助理透過人工協助改善語音辨識功能。(湯森路透)
當你向亞馬遜(Amazon)人工智慧助理Alexa下達指令,如果有大量員工在分析你所說的每一句話,你還能「暢所欲言」嗎?
根據《彭博》(Bloomberg)的報告,亞馬遜員工會固定聆聽Alexa的錄音檔、分析語音,幫助確保語音助理提供優良的服務品質。至於如何保護用戶隱私,亞馬遜一直未能給予很好的解釋。
一般來說,用戶在使用智慧語音助理前就已「同意」亞馬遜使用人工驗證,而亞馬遜也對外澄清,資料是「用來改良語音辨識和自然語言理解系統」,用戶可自由選擇不參與該計畫。
然而,亞馬遜沒說的是,這項人工智慧訓練計畫包括該公司全球各地員工參與分析音檔。
More on #Alexa voice recordings
— Alex Lennon (@embedded_iot) April 11, 2019
"...they shared amusing voice clips with one another in an internal chat room They also described hearing distressing clips such as a potential sexual assault. However, they were told ... not Amazon's job to intervene."https://t.co/kbSjiHA7j2
針對《彭博》的報告,亞馬遜聲明指出,「我們重視客戶個人資料的安全與隱私,只會對Alexa極小部分的音檔內容進行分析,用來改善客戶體驗。」也強調絕不寬容任何濫用該系統的行為,「在(人工協助辨識的)工作流程中,員工不會直接存取到任何可以辨識用戶或帳號的資訊。」
亞馬遜過去也一直強調,智慧助理Alexa只會在聽見「喚醒詞」(wake word),或是透過手動按按鈕才會回傳語音到亞馬遜的伺服器。《彭博》的研究報告結果看來也是如此。不過常用智慧助理的用戶就會知道,有時候人與人之間交談的背景聲音就有可能被錯誤辨識為喚醒詞,進而啟動該系統。
也因為如此,員工有時候可能會誤聽到「不該聽」的資料,例如銀行帳戶或是他人隱私。有兩名員工便向《彭博》表示,他們曾聽過一些「像是性攻擊的語言」,而亞馬遜則說這不是服務提供商應該介入的範圍。
亞馬遜先前也因為收購的智慧門鈴公司Ring引起爭議。該智慧門鈴服務被發現讓研發團隊可以「自由存取全球各地(臉部辨識)的影像畫面」。
It seems like #Alexa is hearing you and taking notes even when you don't call her.#Threat #SpyWare #Techhttps://t.co/YhxVKz3wNw
— get2Clouds® (@get2clouds) April 12, 2019