文：鋼哥
2022年9月30日，BBC報導了一則震撼資訊科技界的新聞〈英國倫敦法院宣判社群媒體演算法的推薦內容導致英國14歲少女Molly Russel最終自殺身亡〉。
有鑒於該事件裡的主角Molly Russell，是目前為止第一個遭到法院判決，認定因為演算法推薦的內容而死的使用者，世界各地陸續開始有不少媒體報導該議題、專家學者加入討論。受理該次案件的驗屍官Andrew Walker，不以自殺說明Molly Russell的死因，反而特別提到社群媒體的影響：
Molly Rose Russell died from an act of self-harm while suffering from depression and the negative effects of online content.（Molly Russell的死，是受到憂鬱症以及網路推播的負面內容所導致的自傷行為。）
在這次事件曝光以前，人們或多或少都知道社群媒體演算法，有時會推播不合適的內容給觀看者，更甚者，可能會因為這些推播的內容，而影響人們的身心狀況。
然而，從來沒有人拿出證據並且確切地宣稱「演算法推薦給我的內容就是我的焦慮症元凶」，而科技巨頭們也極力宣稱「個人化的內容，是基於使用者的習慣作為推薦的依據」。Molly Russell的不幸離世，直接敲響了資訊科技界的叩問：
在演算法的推薦機制下，使用者還有選擇的自由嗎？如果演算法推播的內容會損害人們的身心健康，那麼，誰又該為此負責？
一場於美國舉辦的聽證會也許可以回答這些問題。
科技巨頭對演算法的刻意為之
2019年6月25日，前Google軟體工程師Tristan Harris出席美國國會聽證會，說明科技巨頭所打造的演算法正在讓社會變得愈來愈極端。
Tristan多次提及演算法的推薦內容並不是偶然產生，而是刻意設計（It’s not by accident but by design.）。每個使用者開啟軟體時，會觸發屬於他的個人模型（Avatar），使用者在網路上留下的足跡，通通都會被該模型紀錄下來，作為分析行為模式的數據原料。
現今科技巨頭在競逐的是，誰的模型可以更準確預測使用者的行為，再將該行為模型賣給商人。史丹佛大學（Stanford University）教授Shoshana Zuboff將這樣的商業模式稱為「監控資本主義」（Surveillance Capitalism）。
以Google旗下的影音平台YouTube為例，每當我在觀看影片時，影片背後的演算模型也在不斷收集分析我的個人數據，演算法則會依據這些數據分析，並推薦我可能會喜歡的影片內容。
Tristan提到，「YouTube的影片閱覽數，有70%是演算法的推薦內容貢獻的。」換句話說，演算法的推薦機制，創造了一種自由選擇的假象——我所選擇的影片，實際上是一場精心設計的預測，我的每一個選擇只是為了印證這個模型的精確性。
類似的效應也能從魔術師的手法窺見。在紙牌魔術的手法中，有一種稱為「迫牌」的手法。魔術師會洗亂整副撲克牌，甚至交由觀眾洗牌也沒問題；接者，魔術師會邀請觀眾抽一張牌，而這張牌正是魔術師預設要讓觀眾抽到的牌。
換句話說，藉由魔術師的手法操作，讓觀眾有「自由選擇」的錯覺；然而，這一切都是在魔術師的操控之下，如同演算法的推薦機制。只不過，魔術師只能進行一對一的操弄，而YouTube的演算法可以一次操弄20億用戶，不分日夜、全年無休。
透過演算法讓社會變得更極端
那麼，誰又該為此負責呢？Tristan在聽證會時特提到：
The polarization of our society is actually part of the business model.（社會的極端化也是這商業模式的一部分。）
為了在平台上留住最多的用戶，科技巨頭們不斷修改平台的設計，試圖在使用者所經過的每一處創造最大的參與度。2018年，美國麻省理工學院 （Massachusetts Institute of Technology）資訊科學家Sinan Aral以2006年至2017年間，真／假資訊作為分析的數據庫，針對假新聞在推特（Twitter）上的傳播模式做了研究。
Aral團隊發現假消息（假新聞）的傳播速度、深度以及廣度，在這三個構面上都比真消息來得快速，假消息傳播的速度甚至為真消息的6倍。
而在針對不同情緒的統計上，如：信任、喜樂、期待、難過、憤怒、害怕、噁心、驚喜，發現在「噁心、驚喜」的構面上，假消息的互動（回覆）比真消息還要高得多（上圖紅色框框所示），接續下來的則是「期待、憤怒、害怕」，真假消息的互動皆差不多。
從Aral的研究可以發現，相比於正面情緒（信任、喜樂）置入負面情緒的內容（噁心、憤怒、害怕），Twitter的使用者互動率反而比較高。
在The Verge的報導也提到，臉書的演算法所投放的高互動內容也鑲嵌著憤怒、仇恨、正義魔人的言論，而浸泡在演算法黑洞裡的使用者，反而會因此變得更加極端化。該報導中也提到2016年的一份網路調查發現，臉書約有64%的使用者加入極端主義傾向的社團，全因臉書演算法的推薦所致。
此外，Tristan 在聽證會上提到， YouTube 的推薦影片前15名的關鍵字也有負面情緒的痕跡：
- 仇恨（hates）
- 揭露（debunk）
- 殺死（destroy）
- 抹滅（obliterate）
Tristan形容這是一場直衝腦幹的競爭（a race to the brainstem），演算法的推薦機制，試圖勾出人類本能的不理性衝動，而在背後的科技巨頭，則大把地收割使用者的注意力貨幣。
監控資本主義的商業模型損害了民主社會的言論環境，更糟的是，無法自拔的使用者甚至因此失去了性命；然而，真正該究責的並非是檯面上的執行長、創辦人、程式設計師，而是禁止這一套不擇手段獲取利益、榨取網路使用者數據的商業模式。
質疑使用數據的代價
「我是劉小姐，麻煩加個LINE，有事情想找你確認一下！」
「我是XX證券的范小姐，有急事找你，加我賴ID！」
一天數十封類似這樣的網路詐騙訊息，讓你感到厭倦嗎？近年來網路使用需求量激增，加上各種資訊系統於雲端緊密佈建，數位足跡遍佈多個程式，為我們的工作與生活帶來便利性，但在背後也隱藏著極大的個資風險。為此，一般使用者不僅加強資安意識外，企業端更需要提升防護機制，對內部所使用的協作工具、資訊系統加強把關，替員工或是客戶建構安全的資安防護罩。
現今最常被企業使用的雲端服務Microsoft Azure、AWS、Google Cloud Platform三大巨頭在資安上有非常嚴謹的琢磨，但最終的系統服務供應商，是否有嚴謹的資安管控，面對突發狀況時，是否有緊急應變處理能力，也是企業在選擇系統服務時需要考量的重要因素。
雲端人資系統該具備的資安防護
近年，疫情促使下很多企業加速推動內部數位化轉型，並選擇支援遠端服務、容易佈署、好維護管理的雲端系統。企業將人事資料放置在雲端人資系統，管理求職者或員工個人資料，包含職稱、薪資、聯絡方式等重要機密性資料，這些個資不可公開也不能被篡改，更需要有安全的防護網。
因此導入雲端人資系統時，相較於性價比更應該將資訊安全納入優先考量指標，除了雲端伺服器本身的防護機制，人資系統服務廠商在開發流程上的資安控管機制、如何進行資料保護、掌握多少加密技術、有沒有在做定期預防及風險控管，都可以做為雲端服務在資安層面的評估準則。
資料保護與加密技術
鼎恒數位科技(以下簡稱MAYO)產品設計開發中心副總經理林承毅表示：「由於SaaS的特性，MAYO必須對客戶的資料負責，加上近年來著名的駭客攻擊事件頻傳，因此在資安防護的投入，我們非常重視如何防禦、避免讓資料面臨威脅，並將其做為資安建設的指導原則。MAYO會隨時監控檢視現有系統環境，以持續優化的縱深防禦與零信任架構做為資安防禦建設策略。」
MAYO努力打造安全的資料環境，以健全的資安架構 CIA Triad來看，針對機密性（Confidentiality）和完整性（Integrity），企業客戶將機敏的員工相關資料儲存在Apollo人資系統中，MAYO以最高規格來保護這些「個人資料」，避免資料陷入威脅，其防護措施涵蓋了資料存取控制、最小權限原則、資料加密與資料遮蔽等機制，確保資料的隱密性以及在網路存取過程中有完整的加密防護。
同時，Apollo人資系統可以依客戶需求進行使用者權限切割或資料配置，確保個人資料的合理存取。員工電子化薪資單有雙重驗證機制，瀏覽時需要再次輸入密碼，並整合電子郵件通知，保障員工薪資隱私。
風險控管與定期預防
對於資安可用性(Availability)而言，MAYO有完善的異地備援機制，避免天災人禍造成客戶無法使用服務的風險，並啟用Microsoft Azure提供的備份機制(Cross Region Restore, CRR)來保留備份資料，同時提供本地和異地備援，在緊急狀況時也能夠快速應變處理。為預防特殊事件造成公司的營運中斷，也有完整的營運持續管理(Business Continuity Management, BCM)計畫，會定期進行演練、風險評鑑、系統弱點掃描，亦透過委外單位進行滲透測試，經多方嚴謹的風險評估，確保系統安全無虞、符合現況需求。
MAYO在台灣已服務超過1,200家客戶，當中不乏集團型企業、上市上櫃公司或是外商企業，這些公司選擇Apollo雲端人資系統的同時，也認同MAYO在資安領域的投入。MAYO率先於2020年取得ISO 27001證書，從流程進行管控與稽核外，也導入PIM特權帳號管理系統與資料庫存取稽核記錄，進一步強化權限管控、追蹤存取足跡與提升運營效率，無論是一般員工或是具備特權的管理者帳號，皆被納入管理與稽核；近期更導入了Imperva雲端防火牆，進行多方面的監控及保護。
Photo Credit:MAYO
在開發流程早期，也須著手開始進行資安防禦，MAYO在CI/CD流程也加入了自動化程式碼安全分析，每一次建置都會掃描與分析程式碼、第三方元件與程式庫等是否含有漏洞，以利開發團隊在早期就能進行修補或採取對應的防禦行動。讓使用MAYO旗下人資系統服務的企業安心與放心，所有資料都有高規格的資安防護，成為企業經營管理層面強而有力的後盾。
下次別再理會加LINE的詐騙訊息，不如加入MAYO官方LINE好友，輸入ID：@mayohr，擁有最新的人資相關議題與新知分享，同時擁有不定期的免費人資講座與相關課程。
想知道更多MAYO的人資產品與資訊嗎？快到MAYO官方網站：https://www.mayohr.com/tw
Photo Credit:MAYO
本文章內容由「MAYO鼎恒數位科技」提供，經關鍵評論網媒體集團廣編企劃編審。