也談社群平台的管理難題：假帳號、不當內容、網軍聯合操作
什麼該管、什麼不該管、該管到什麼程度，都是困難的決定...
什麼該管、什麼不該管、該管到什麼程度，都是困難的決定...
近來和社群平台管理相關的幾條大新聞，就是各大社群平台，不約而同地發布公告，揪出一堆明顯受到中國統一操作，用來黑香港「反送中」運動的網軍帳號、專頁等，祭出停權、刪除等處分。
首先是 Twitter 開了第一槍，抓到 936 個明顯由中國網軍統一使用的帳號，以及二十萬個有問題的帳號。Twitter 非常有 guts，不但把這些問題帳號停權，還把相關的操作原始資料都放了出來：
Information operations directed at Hong Kong
We are disclosing a significant state-backed information operation focused on the situation in Hong Kong, specifically…blog.twitter.com
然後，鏡傳媒旗下的《讀＋》，根據 Twitter 放出來的資訊，做了很精彩的資料分析與整理，讓大家看到網軍養帳號的典型操作手法，印證 Twitter 的指控確有其本：
Twitter 大戰中國網軍！？解密被刪帳號資料集 - 讀+ Readr
8 月 19 日，Twitter 公佈了 刪除疑似中國網軍帳號的震撼消息 。Twitter 將 936…www.readr.tw
接下來是臉書，同樣發表了一篇公告，把一些他們偵測到中國網軍的操作行為都列出來，同樣也砍掉若干帳號和粉絲頁：
Removing Coordinated Inauthentic Behavior From China
Today, we removed seven Pages, three Groups and five Facebook accounts involved in coordinated inauthentic behavior as…newsroom.fb.com
隔了兩天，Google 也公告從 YouTube 上移除了 210 個帳號，同樣是中國網軍用來統一發布「反反送中」影片用的：
Maintaining the integrity of our platforms
Protecting our users and the integrity of our platforms is essential to Google's mission. My team works with others…www.blog.google
不甘寂寞的還有 LinkedIn。雖然他們沒有明說砍掉的帳號和中國網軍的關係，但強調今年上半年已經砍了 2160 萬個假帳號，其中有 1950 萬個，連註冊都還沒完成就被抓到了：
How We're Protecting Members From Fake Profiles
LinkedIn continues to grow as an active professional community of more than 645 million members where real people find…blog.linkedin.com
這些平台接二連三宣示反制中國網軍的操作，當然引起很大的話題；不過會操作帳號養網軍的並不只是中國，一般的行銷公司也會幹這種事；而平台針對這些「非正常使用行為」也感到非常頭痛。
這個社會就是一樣米養百樣人。永遠都會有許多個人和組織，為了特定目的和利益，去犯法或鑽法律漏洞；在虛擬世界，當然也會有很多人用各種方式濫用平台服務，因而衍生出各種平台管理上的難題。
我猜這個部落格的讀者，絕大多數都是平台的「用戶」，像筆者一樣當過平台「業者」的，可能不太多，所以可能比較不清楚平台的管理難題。下面筆者就以過去在這類平台服務的經驗，來幫平台「喊一下冤」，聊一下到底有哪些類型的管理難題。
假帳號：問題的最大根源
一切的社群平台服務，都從註冊帳號開始，所以帳號的管理問題，也是平台上各種問題的根源。
平台當然都希望用戶愈多愈好，所以在帳號的註冊過程和管理上，通常都會盡量給用戶方便，像是：
註冊時要填的資料最好不要太多（反正日後還可以用各種手段鼓勵用戶補齊資料）;
驗證方式愈簡單愈好（有些平台甚至簡單到連 recaptcha 這種人類驗證機制都不需要，只要到 Email 信箱裡回覆一下就好）。
但過於寬鬆的註冊流程，往往就是對假帳號註冊大開方便之門。許多作弊者就用機器人程式大量註冊免洗假帳號，造成日後平台各種各樣的管理困難。
所以你衝到了用戶數，達成了一個 KPI；但是麻煩在後頭。
平台應該墊高假帳號的註冊成本
怎麼樣分辨來註冊的帳號是真是假？其實有很多技術或手段；其中我覺得最有效的原則，是墊高註冊帳號的成本。
例如規定註冊新帳號必須以未曾登錄過的手機門號進行簡訊回覆驗證；由於取得手機門號的成本相對較高，所以能有效墊高假帳號註冊所需的成本。雖然平台也得付出較高的認證成本，但相較於假帳號後續造成的各種麻煩，應該還是值得的。
早些年前我在某平台服務時，就因為假帳號實在太多，垃圾內容泛濫到不行，不但砍到手抽筋，忠實用戶也抱怨連連，所以我曾經提案在註冊流程中加上簡訊認證機制；但因為公司的多個其他服務也用到同一個會員管理系統，牽連甚廣，再加上成本等因素，所以沒有實現。
不過現在很多新興服務，都把簡訊認證做為必備的註冊流程了，二階段驗證也愈來愈普及。甚至不少新款手機都有指紋或臉孔認證機制，接下來應該也可以在確保用戶隱私的前提下，串接這些系統功能來進行認證，進一步墊高假帳號的註冊成本。
內容管理：哪些該管、哪些不該管？
社群平台的內容管理，是個非常困難的題目；管或不管都會顧人怨。至於要如何管，更是難上加難。
網路就是真實社會的縮影，社群平台上就是會出現一大堆「有問題」的內容（例如色情、暴力、自殺或自殘、仇恨言論、霸凌、誹謗、恐怖活動、歧視、毒品、詐騙、虐童或 child porn、Spam 廣告、盜文盜圖等等）。
雖然大一點的平台，在其使用條款中都會有一堆規定，寫說哪些類型的內容是平台所不允許的，但是在實際執行面上有很多困難。
認定很困難
首先是標準和尺度的問題，如何認定某些內容需要管理？這就是門藝術。
上面舉出的那些例子，幾乎每一類都有不少灰色地帶，平台很難斬釘截鐵地說這個有違規，那個沒有；舉例來說，色情內容就很難認定。例如非性行為的裸照，到底要算色情還是藝術？露兩點還是露三點算不算色情？會不會引起性慾？（這什麼爛標準）
光是上面這些，吵了幾十年都吵不完。
有些平台還規定不能分享非本人的性行為影像，但是平台哪裡會知道這些內容是不是本人上傳的？
然後，每個人的尺度和標準都不一樣。往往平台管理者覺得還 OK 的內容，在某些衛道人士的眼裡就是有問題；這些人有時還是組織化的，會像瘋子一樣，不斷透過各種管道向平台施加壓力，要求平台處理掉那些內容。
平台如果聽了這些人的「善意提醒」，真的腦袋燒壞到去處理那些內容，那就會遇到下一個麻煩：侵害言論自由。
言論自由不容侵犯
在民主化程度較高，或是網路用戶自主意識比較高的地方，言論自由差不多可以說是個不能侵犯的聖域；大家都不喜歡有任何人去審核自己的貼文，用自己無法接受的理由修改、隱藏或刪除內容。
一但發現平台刪文，各種鄉民的陰謀論就來了；有的說平台一定是拿了什麼廠商的好處，有的說平台背後的資金來源有問題，有的還會威脅要搬到競爭平台去。處理不好，還有可能釀成平台品牌的公關危機。
但有趣的是，言論自由往往也可以是平台用來「規避」內容管理責任的好藉口；遇到有灰色地帶的情形時，有時可以搬出「平台不可侵害言論自由」這套說詞，立刻就佔有道德高度了。
機器永遠比人笨
還有就是量的問題。當平台上的用戶一多，內容的數量大到一個程度，就很難靠人工作業來處理內容管理問題；需要靠各種技術來偵測、讓機器來揪出不當使用行為或不當內容。
而這就和平台的技術能力息息相關。
技術好的，甚至能在濫用行為發生之前就能偵測到，先把這些濫用行為擋掉；例如 LinkedIn 在上面那篇報告說的，絕大多數的假帳號根本連註冊都無法完成，就是技術好的例子。
好技術幫助平台管理者很大的忙，但技術爛的不但幫不上忙，反而愈幫愈忙。
我之前聽說過這麼一個 case：某平台的留言板被台灣用戶抗議傾中賣台，甚至差點引發公關危機，因為只要輸入 Taiwan、Taipei 等詞就被自動消音；查了半天，結果根本就是一場誤會：外國工程師在設定不雅內容過濾系統時發生錯誤，把適用東南亞某國語言的過濾器套用在台灣版頁面上，遇到含有「tai」的任何內容（不知道是哪一國的髒話），就把它當成是不雅內容給自動幹掉了。
說來很好笑，但這就是平台管理的日常（攤手）。
想搞你的人真的很多，而且花招百出，更新迅速
道高一尺，魔高一丈；惡搞平台的人總會發現平台管理機制的各種規則或漏洞，很快就能找到全新的濫用手法；平台和這些人相比起來，不但敵暗我明，而且雙拳難敵萬手，根本處於下風。
這也就是 Google、Facebook 等平台，一天到晚必須改演算法的原因；過去三不五時改一次，現在用 AI 每分鐘都能改好幾次，而且不同人還能套用不同的演算法。
很多不了解平台運作的人，一遇到平台改演算法，就抱怨連連，說這些平台死要錢；他們不知道平台的苦衷：第一，這些平台都不是慈善事業，賺錢本就天經地義；第二，要是演算法放在那邊都不改的話，再大的平台也會被快速破台，連生意都甭做了。
（想像一下 Google 演算法要是被 SEO 業者參透，會發生什麼慘劇？搜尋結果如果都是掛羊頭賣狗肉的假連結，還有人要用 Google 嗎？）
這些技術好的平台都防不勝防了，技術爛的就只剩一招，就是像中國的平台那樣，組織個幾十萬人來當內容審查大隊。要是連這點都做不到，當然就只能阿彌陀佛，能放著不管就不管。
水軍帳號的聯合操作
各位如果細讀上面幾家平台 ban 中國帳號的聲明，就可以發現一個共通點：沒有一家平台是針對這些帳號發表的內容而進行處置；幹掉這些帳號的原因，都是都是這裡要講的濫用形態：聯合操作。
水軍為什麼一次要申請一大堆假帳號？當然就是因為這麼多假帳號共同操作起來，是很有威力的。這些水軍帳號的聯合操作，以我所知大概有幾個樣態：
拱粉絲數、增加相互追蹤：就像 Google 演算法中，被更多重要頁面連結到的頁面，SEO 分數會更高一樣，不少社群平台的演算法，都會去看帳號的追蹤人數、交友人數，以及彼此間的連結關係。所以養一堆帳號來先貼一堆任意內容，然後讓這些互相追蹤、加粉，把帳號養大養活，甚至吸引夠多的真人加粉追蹤，可說是水軍聯合操作的基本動作之一。
帶風向：當一堆假帳號養好了後，接下來就可以拿來用了。商業形態的水軍操作，或是發送 spam 內容，或是在社群平台中「創造」對自己的品牌、產品有利（或／及對競爭者不利）的內容；有政治任務的水軍操作就更細緻了，大家請自己去看 Netflix 上的記錄片《個資風暴：劍橋分析事件》（強力推薦，為了這部片去註冊 Netflix 都值得）。
The Great Hack | Netflix Official Site
What begins as one man's quest to see his personal data morphs into an investigation and exposé that impacts…www.netflix.com
講一個有趣的現象：為什麼各平台針對這次的中國反反送中假帳號處理事件，重點都放在帳號的聯合操作，而不是放在內容之上呢？答案其實很容易理解：
帳號的聯合操作，本來就是各平台都會寫在使用條款中的禁止事項；平台用這個理由來 ban 掉你的帳號，可說天經地義（像 Twitter 還附上聯合操作的證據，讓你百口莫辯）；
內容管理的灰色地帶太多，而且又有言論自由這個不容侵犯的絕對領域；平台如果用內容為理由 ban 帳號，破綻會比較多。
另外，還有個值得一提的話題，就是 Twitter 這次除了 ban 中國網軍帳號之外，同時也很有 guts 的宣布，日後不再接受「國家控制的媒體」在 Twitter 上買廣告。
Updating our advertising policies on state media
Our singular mission is to serve the public conversation. This mission applies to every part of our service, including…blog.twitter.com
但是，這樣就能減輕水軍在這些社群平台上的濫用行為嗎？我個人還是不那麼樂觀。平台的技術和資源，相較於成千上萬的濫用者，真的相形見絀。
結論：無盡的任務
小時候常見到這樣的畫面：搬家公司、水肥清理業者，用黏到不行的貼紙或噴漆，在公寓樓梯間把廣告貼好貼滿、噴好噴滿；相信不少人對這樣的畫面記憶猶新。
而且這些業者似乎根本罰不怕。清理完沒多久的樓梯間，小貼紙或噴漆廣告又會如過期吐司麵包上的霉點一樣，馬上又長得滿滿的。
社群平台上的各種濫用行為，就是人類社會的現實反應；而且說句不客氣的話，平台上會有這麼多 spam、這麼多網軍，有這麼多奇怪的操作手法，讓平台窮於應付，還不就是因為大多數的用戶腦波都很弱、容易被帶風向。
反正平台要出來賺，就得跟著玩貓捉老鼠的遊戲，而且這個遊戲恐怕永遠沒有結局，除非平台沒人用。