上報 Up Media

馬祖卡托（Mariana Mazzucato）
●倫敦大學學院創新與公共用途研究所創始主任
●世界衛生組織全民健康經濟委員會主席

史特勞斯（Ilan Strauss）
●倫敦大學學院創新與公共用途研究所資深研究員

在美國政府控告Meta的訴訟中，41州和華盛頓特區的檢察總長表示，Meta旗下的兩個社群媒體——Instagram和臉書（Facebook）——不僅具有成癮性，也危害兒童的身心健康。Meta被控參與「蓄意利用年輕用戶牟利的計畫」，包括播放有害內容、讓用戶一直黏在螢幕前。

最新一項民意調查顯示，美國17歲青少年每天花在社群媒體上的時間是5.8小時。為什麼會變成這樣呢？一言以蔽之，「參與」。

運用演算法最大化用戶參與度是科技巨擘實現股東價值的方式，短期利潤往往凌駕在更長遠的商業目標之上，更不用說社會健康之上了。數據科學家林登（Greg Linden）直言，根據「不良的指標」建構的演算法助長「不良的動機與行為」，讓「不良行為者」受益。

儘管臉書最初只提供基本服務，讓朋友和相識者能在線上連結，但其設計逐漸不是為了滿足用戶的需求和偏好，而是為了讓他們留在平台上，遠離其他平台。為了實現這一目標，公司經常無視用戶明確表達的偏好與需求，諸如希望看到的內容類型、隱私和數據共享等等。

將眼前利益放在首位意味將用戶導向有「點擊量」的內容，儘管這種做法通常偏愛低劣、色羶腥內容，而不是公平地獎酬多元化生態系統裡的所有參與者，包括原創作者、用戶和廣告商等。我們稱這些利潤是 「收租」，因為是靠演算法吸引用戶的注意力賺錢，亦即靠被動擁有權賺錢（如房東靠擁有房產而有被動的租金收入），而不是靠企業主動滿足消費者需求，如生產等方式賺錢。

Meta的訴訟歸根究底是針對它精心建構的演算法，希望最大化用戶的「參與度」——讓用戶在平台上停留更長時間、掀起更多留言、按讚、轉貼等。要做到這一點，通常是刊登有害與近乎非法的內容，並透過 「無限滾動」、不間斷的通知和提醒等功能將用戶在平台上的時間轉化為一種強迫性活動（博奕業也廣泛使用許多同樣的技術，成效頗佳）。

而今人工智慧的進展神速，讓演算法推薦功能更為強大，影響所及，更加容易讓人對這些平台成癮，因此迫切需要建立以「共好」（而非狹隘的「股東價值」概念）為導向的新治理結構，並且需要在企業、政府和公民社會之間建立共生的夥伴關係。幸運的是，如何讓這些市場朝更好的方向發展，其實是在決策者的權力範圍之內。

首先，政策制定者不能僅依賴競爭法和反壟斷法，而應採用技術手段確保平台不能以不公平的方式將用戶和開發者鎖在其平台上。若要打破違反競爭的 「圍牆花園」（封閉平台）現象，方法之一是規定數據的可攜性和數位服務之間的互容性，這樣用戶就可以根據自己的需求和偏好在不同平台之間無縫地移動。

其次，公司務必進行治理改革，因為股東價值最大化是導致平台運用演算法剝削用戶的根本原因。這種商業模式導致的社會成本眾所周知（畢竟提高點擊率往往意味放大詐騙內容、錯誤訊息和政治極化素材），所以治理改革需要進行演算法改革。

建立更健全基線的第一步是要求平台在向美國證券交易委員會提交的年度10-K報告裡，披露優化演算法的目的，以及如何從用戶身上獲利。科技公司高管每年都會在達沃斯論壇上大談「目標、使命」，適當地披露會議訊息將迫使他們言出必行，並協助政策制定者、監管單位和投資人區分賺取的利潤和不勞而獲的租金之別。

第三，應該給予用戶更大的影響力，讓他們能夠影響演算法對他們顯示訊息的優先順序。否則，忽視用戶偏好所造成的危害將繼續擴大，因為演算法會形成自己的反饋循環，向用戶推送操縱性的點擊誘餌（clickbait，誘騙點擊），然後錯誤地推斷用戶更喜歡這樣的內容。

第四，產業標準的「A/B 測試」應退位，改以更全面的長期影響評估。有缺陷的數據科學會導致演算法的短視行為。例如，A/B 測試可能會顯示，在推送中顯示更多廣告會對利潤產生積極的短期影響，而不會過度損害用戶留存；但這忽略了對獲得新用戶的影響，更不用說其他大多數可能有害的長期影響。

數據科學顯示，改進推薦系統，希望獲得長期、過一段時間才顯現的回報（延遲的回報），這些回報包括客戶滿意度、用戶續留率、更多新用戶使用等等，這是公司推動長期成長和獲利的最佳方式，前提是公司不會把精力都聚焦在下一個季度的營收報告上。2020年，Meta的一個團隊認為，在較長一段時間內（一年），減少對用戶的干擾性通知會更有利於提高應用程式的使用率和用戶滿意度。長期效果截然不同於短期效果。

五，運用公共人工智慧，評估演算法產出結果的質量是好是壞，尤其是廣告。由於平台降低可接受廣告的門檻，造成巨大危害，因此英國的廣告監督機構現在將善用人工智慧對廣告進行審查，揪出「誇大、欠缺可信度的不實宣傳」。其他國家當權者也應該跟進。同樣重要的是，運用人工智慧進行審查與把關，應成為平台的特色，顯示平台同意開放其演算法產出的結果，讓第三方進行審計。

創造一種數位環境，獎勵透過創新的創造價值行為，懲罰僅透過擁有平台就能收租金的行為（尤其是在核心數位市場），這是我們這個時代面臨的根本性經濟挑戰。保護科技巨擘的用戶和整個生態系統的健康，必須確保演算法不會受股東短視近利所左右。如果企業領導人認真對待利害關係人的價值，就應該接受用另一種完全不同的方式創造價值，可參考上述五項原則。

Meta即將面對的官司無法彌補它過去的錯誤。但在我們為下一代人工智慧產品預做準備時，必須建立對演算法的監督機制。人工智慧驅動的演算法不僅會影響我們的消費，還會影響我們的生產和創造方式；不僅會影響我們的選擇，還會影響我們的思維。監督演算法的品質，在這點上，我們不能犯錯。

（翻譯：張瑩，責任編輯：楊淑華）

© Project Syndicate 

（原標題為《The Algorithm and Its Discontents》，文章未經授權，請勿任意轉載）

延伸閱讀：

永慶房屋示警：房市交易平均每4件就有1件短期交易　買賣屋「貨比三家」有保障

永慶房屋用品牌廣告彰顯房仲核心價值「誠實」

房仲服務首重誠實與安心！永慶房屋真房價保證與三不政策　提供最完整保障