Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
‎（影響凡人生活的 ‎巨大體系必定有害）
‎（希臘悲劇作家 索福克里斯）
‎你就直接開始吧，坐看看舒不舒服
‎可以了嗎？好
‎好
‎第一次，開始
‎要不要先自我介紹？
‎大家好，貝莉，第三次
‎-可以了嗎？ ‎-這是最痛苦的地方
‎我不喜歡這樣
‎我從2011年到2012年在臉書工作
‎我是IG的創始員工之一
‎我的前東家包括谷歌、YouTube
‎蘋果、谷歌‎、‎推特、Palm
‎我協助成立Mozilla實驗室 ‎然後調到Firefox部門
‎要拍了嗎？各位…
‎好
‎我之前在推特工作 ‎上一個職務是工程部資深副總裁
‎我當過Pinterest總裁
‎在這之前則擔任臉書營利部協理
‎長達五年
‎我在推特公司花了好幾年 ‎建置他們的開發人員平台
‎後來成為消費產品主管
‎我和別人一起發明 ‎谷歌雲端硬碟、Gmail聊天
‎臉書粉絲專頁和臉書的按讚功能
‎對，所以我花了八個月時間
‎一直在跟律師討論
‎我怕死了
‎我在那裡時一直覺得 ‎這份工作能造福人群
‎但現在好像沒有這種感覺了
‎我在2017年6月 ‎因為倫理疑慮而離開谷歌
‎不只是因為谷歌 ‎我對整個產業都有疑慮
‎我非常擔心
‎非常擔心
‎現在大家很容易忘了
‎這些工具其實為世界做了不少好事
‎讓失散的家人團聚，找到器官捐贈人
‎這些都是有意義的系統性改變
‎影響遍及全世界
‎完全是這些平台的功勞
‎但是我們對黑暗面的看法太過天真
‎這些技術一旦上線 ‎就會有自己的生命
‎而且運用方式絕對和民眾的想法不同
‎我深深相信誰也不想要有這種後果
‎其實沒有特定的壞人，絕對沒有
‎那問題是什麼？
‎有問題嗎？問題在哪裡？
‎我很難給你一個簡單的…
‎我很想簡單講述很多問題
‎問題在哪裡？
‎NETFLIX 原創紀錄片
‎雖然批評聲浪與日俱增
‎科技巨頭規模還是有增無減
‎整個科技業受到新一波檢視
‎一項新研究顯示心理衛生以及
‎使用社群媒體之間的關係
‎…今天要來討論最新研究
‎卻沒有任何新聞報導
‎數千萬美國人對電子產品上癮
‎情況毫不樂觀
‎同溫層現象使得現代人能夠封閉自己
‎這都要拜科技所賜
‎假新聞越來越先進
‎也開始威脅世界各國社會
‎我們12年前創立推特時 ‎並沒有想到這些問題
‎官員指出他們認為
‎俄國網路攻擊不會停止
‎YouTube被迫專心清理網站內容
‎你跟任何一個青少年討論抖音
‎他們絕不可能刪除這個軟體…
‎艾拉，麻煩妳擺放餐具
‎問題極為嚴重
‎社群媒體是否讓你的孩子更憂鬱？
‎艾拉，麻煩妳擺放餐具
‎青少年對這些美容手術趨之若鶩
‎整型外科醫師甚至開創新名詞
‎Snapchat畸形，也就是年輕病患
‎為了更像濾鏡自拍的樣子而動刀
‎我還是不懂妳幹嘛給她手機
‎不然我要怎麼辦？
‎她的同學人手一機
‎她才11歲耶
‎小珊，沒人逼妳買手機
‎妳想多久不上網都沒問題
‎我沒手機就能上網了，好嗎？ ‎我現在就在上網
‎而且這也不是真的上網，只是一堆…
‎監控資本主義已經改變 ‎我們的政治和文化現象
‎很多人都無法想像
‎伊斯蘭國上網召集信徒
‎白人至上主義者也用相同招數
‎最近在印度
‎網路私刑暴民殺害多達十人，包括…
‎不只是假新聞 ‎還是後果嚴重的假新聞
‎如何在假新聞時代處理疫情？
‎吃中國菜會得冠狀病毒嗎？
‎我們已經從資訊時代 ‎進入到不實資訊時代
‎民主制度受到攻擊
‎我說的是：“我認為 ‎現代人創造的工具，已經開始
‎危害社會運作的架構”
‎艾莎發表開場白，我們播放影片
‎然後說：“各位來賓 ‎讓我們歡迎：崔斯坦哈利斯”
‎-好 ‎-好
‎所以我上台，然後…
‎（人文：科技新議題）
‎基本上就是說：“謝謝各位賞臉”
‎今天我要討論科技的新議題
‎為什麼討論這個？因為如果你問別人
‎“現在的科技業出了什麼問題？”
‎現在有各種不滿和醜聞的雜音
‎“他們偷走用戶資料” ‎還有科技成癮問題
‎有假新聞、兩極化問題
‎還有駭客操控選舉
‎但是所有這些問題的表象之下
‎有沒有造成這些事件的根本原因？
‎-這樣感覺好嗎？ ‎-非常好
‎我只是想…我希望大家看到…
‎科技業現在有一個問題
‎現在還沒有名字 ‎跟一個來源有關，一個…
‎你環顧四周時，會覺得全世界都瘋了
‎你必須捫心自問，這樣正常嗎？
‎還是我們都受到什麼影響了？
‎（崔斯坦哈利斯 ‎谷歌前任設計倫理師）
‎（人文科技中心共同創辦人）
‎我希望越來越多人能瞭解這個機制
‎因為這種事情不能只有科技業知道
‎每個人都應該知道
‎-我是崔斯坦，幸會 ‎-‎你是崔斯坦嗎？
‎-對 ‎-太好了
‎崔斯坦哈利斯曾在谷歌 ‎擔任設計倫理師
‎一直被稱為矽谷勉強有良心的人
‎他要求科技業
‎在產品中納入 ‎他所謂的“道德設計”標準
‎很少科技業的圈內人敢直言不諱
‎但是崔斯坦哈利斯認為必須有人敢說
‎我在谷歌時
‎在Gmail部門，被工作操得半死
‎因為大家拼命討論…
‎收件匣應該長什麼樣，要用什麼顏色
‎我自己就有電子郵件上癮問題
‎我覺得有趣的是
‎Gmail部門沒有一個人 ‎想讓這項功能沒這麼容易上癮
‎我就想：“有別人想到這一點嗎？
‎我沒聽別人提過”
‎我當時又對整個科技業覺得很灰心
‎覺得大家都迷失方向了
‎我真的很努力在思考
‎怎麼從內部改變這個風氣
‎所以我決定製作一份簡報 ‎有點像登高一呼
‎我每天晚上一回家就寫幾個小時
‎內容大概是說，自古以來 ‎從來沒有50個設計人員
‎大約20到35歲的白人，在加州這裡
‎做出影響二十億人口的決定
‎這二十億人會有自己原本沒有的想法
‎因為谷歌的設計人員說 ‎“通知功能的運作方式
‎就是讓你一起床就在螢幕上看到”
‎谷歌有解決這個問題的道義責任
‎我把這份簡報
‎傳給谷歌裡最熟的15到20個同事
‎我非常緊張，不知道大家反應如何
‎我第二天去上班時
‎大部分筆記電腦上都開了這份簡報
‎（注意）
‎那天後來大概有400個同時觀看人次
‎所以一直流傳下去
‎全公司很多人寄信給我
‎每個部門都有人說
‎“我完全同意，我的孩子也受影響
‎這個問題影響到我的親友 ‎必須想辦法解決”
‎我當時覺得自己好像發動了一場革命
‎後來我發現連賴瑞佩吉 ‎當天開的三場會議裡
‎都有人提到這份簡報
‎所以好像帶動了一股文化風潮
‎要谷歌非得正視不可
‎結果就…沒了
‎2006年的每個人…
‎包括我們臉書的所有人
‎對於谷歌這家公司 ‎和谷歌的服務都佩服到不行
‎因為他們的服務非常實用
‎我們認為對這個世界有很大的貢獻
‎還同時打造了一棵搖錢樹
‎我們非常羨慕這一點 ‎也覺得他們的做法好優雅…
‎好完美
‎臉書當時成立大概兩年
‎他們聘請我去想出
‎公司該用什麼商業模式
‎我是營利部協理，工作內容就是
‎“你必須想辦法讓這種東西能夠營利”
‎當時有很多人做很多東西
‎但是他們顯然指定要我們這幾個人…
‎第一，我們必須賺錢…
‎我覺得這種廣告模式 ‎可能是最有效的辦法
‎媽媽剛剛傳什麼影片？
‎是談話節目，但內容精彩 ‎那個人簡直是天才
‎他呼籲大家刪除 ‎社群媒體軟體，你也一樣
‎我可能要封鎖她的電子郵件了
‎我真不知道她在講什麼 ‎她的症頭比我還嚴重
‎-她上網只是找食譜而已 ‎-對，還有工作
‎-還有健身影片 ‎-還有監視我們
‎還有監視她這輩子認識的人
‎如果你一邊看社群媒體的動態消息
‎一邊看本節目 ‎趕快放下手機，仔細聽好
‎因為下一個來賓寫了一本好書
‎說明社群媒體怎麼危害人生
‎我們歡迎寫出
‎《你該馬上刪除社群媒體帳號的 ‎十個理由》這本書的作家
‎傑倫藍尼爾
‎谷歌和臉書這種公司是有史以來
‎最有錢也最成功的公司
‎他們的員工相對較少
‎光靠一台大電腦就賺翻了，對吧？
‎但是人家給錢叫他們做什麼？ ‎這是非常重要的問題
‎我從事科技業投資已經35年
‎矽谷科技業在一開始的 ‎50年期間製造產品
‎包括軟硬體，然後賣給客戶 ‎很不錯的簡單事業
‎但是過去十年間，矽谷最大的公司
‎卻是在做出賣使用者的生意
‎現在這樣講已經很老套了
‎可是因為我們並沒有 ‎花錢買我們使用的產品
‎所以我們用的產品是由廣告主買單
‎廣告主才是客戶
‎我們才是被賣的商品
‎有句話很有道理
‎“如果你沒有花錢買產品 ‎你自己就是產品”
‎（你自己就是產品）
‎很多人以為谷歌只是個搜尋框
‎臉書只是讓你看看朋友在幹嘛
‎看看他們的照片
‎大家並不知道這些公司 ‎都在爭搶你的注意力
‎臉書、Snapchat ‎推特、IG、YouTube
‎這些公司的商業模式 ‎就是讓民眾在螢幕上互動
‎我們要設法取得 ‎這個人大部分的注意力
‎越多越好
‎我們可以讓你花多少時間？
‎我們能讓你把多少生活點滴交出來？
‎只要思考這些公司怎麼運作
‎就能看出端倪了
‎你以為網路上有很多服務完全免費
‎但是你錯了，費用是廣告主出的
‎廣告主幹嘛付錢給這些公司？
‎付錢的目的是刊登廣告給我們看
‎人本身就是產品 ‎廠商把我們的注意力賣給廣告主
‎這樣講有點簡化
‎真正的產品是讓你的行為和觀點
‎開始慢慢有無法察覺的細微改變
‎（改變 行為和觀點）
‎這才是產品，也是唯一的產品
‎檯面上只有這個可以稱之為產品
‎他們只靠這樣東西賺錢
‎改變你的行為
‎你的想法、你的本性
‎這是緩慢的細微改變
‎如果你跟一個人說 ‎“給我一千萬美元
‎我就讓全世界 ‎朝你想要的方向改變1%”
‎全世界耶！太不得了了，非常值錢
‎好
‎這是所有公司自古以來的夢想
‎能夠保證只要刊登廣告，就會有效果
‎這是他們的業務，他們賣的是確定性
‎（確定性）
‎為了在這一行成功
‎你必須有很強的預測能力
‎預測能力要強就必須有一個前提
‎需要大量資料
‎（資料）
‎很多人把這個稱之為監控資本主義
‎這種資本主義的獲利方法
‎是大型科技公司 ‎無止盡追蹤每個人去哪裡
‎這種商業模式是要確保
‎廣告主的廣告盡可能有成效
‎這是新型態的市場
‎這個市場以前並不存在
‎這個市場只以人類期貨當成交易內容
‎有的市場專門買賣 ‎五花肉期貨或石油期貨
‎我們有大量買賣人類期貨的市場
‎這些市場產生了好幾兆美元
‎讓網路公司成為人類歷史上
‎最有錢的公司
‎我要大家知道他們的所有上網行為
‎都遭到監視、追蹤和測量
‎你的每個動作都會 ‎受到仔細監控和記錄
‎你看到哪張照片時停下來、看了多久
‎對，真的，你看了多久
‎（娜薇雅 互動時間）
‎（雷恩 互動時間）
‎（小仁 互動時間）
‎他們知道使用者何時寂寞、何時低潮
‎知道用戶何時在看 ‎前任男女朋友的照片
‎知道你深夜在做什麼，什麼都知道
‎你個性內向還是外向
‎你有什麼精神官能症 ‎你的個性怎麼樣
‎他們掌握到的使用者資訊
‎已經超越人類有史以來的想像
‎可說前所未見
‎所以我們一天到晚傾洩的大量資料
‎完全進入這些系統，卻幾乎無人監督
‎所以系統的預測能力不斷增強
‎知道我們會怎麼做，我們是誰
‎（為你推薦）
‎很多人以為這些公司賣掉我們的資料
‎臉書交出這些資料並不會有商業利益
‎重點是他們拿資料去幹嘛
‎他們利用資料建立模型 ‎預測我們的行動
‎誰的模型最好，誰就贏了
‎他的捲動速度變慢了
‎在他平均連線時間快結束時 ‎減少載入的廣告
‎減少親友貼文
‎在這套系統的幕後
‎他們簡直就好像有 ‎我們的巫毒娃娃分身模型
‎我們做過的所有事情
‎我們點擊過的地方
‎看過的影片、按讚的內容
‎都會回頭用來建立越來越精確的模型
‎一旦建立這個模型
‎就能預測那個人會做的事
‎好，讓我測試一下
‎你要去哪裡
‎我能預測什麼樣的影片會讓你看下去
‎我能預測什麼樣的情緒容易刺激你
‎對，太好了
‎全年經典NG鏡頭
‎（經典NG鏡頭！）
‎-太好了，一舉奏效 ‎-再補上一部影片
‎漂亮，在影片開始前塞個球鞋廣告
‎很多這類科技公司有三大目標
‎第一是互動目標，也就是 ‎推升使用率，讓你一直滑手機
‎還有成長目標
‎讓你一直回來，並且邀請朋友
‎讓朋友邀請更多朋友
‎還有廣告目標，能在達成這些目標時
‎我們可以透過廣告賺到最多錢
‎這些目標都經由演算法強化
‎演算法要負責想出該讓你看什麼
‎才能推升這些數字
‎我們在臉書時，經常討論一個想法
‎就是提供有需要時就能用的開關
‎我們討論要幫馬克祖克柏 ‎做出這些開關
‎“我今天要韓國有更多使用者”
‎轉一下開關
‎“把廣告調多一點點”
‎“把營利功能調高一點點”
‎所以…
‎這些公司全都能做到這種精確程度
‎-帥哥，怎麼… ‎-我不知道怎麼會違規的
‎-那個裁判有夠遜的 ‎-你幾乎全程…
‎-那是蕾貝卡，去跟她講話 ‎-我知道她是誰
‎-帥哥，去跟她講話啦 ‎-以後再說啦
‎他在日曆上說要暫停交往 ‎我們該插手了
‎要我“推”一下他嗎？
‎好，“推”吧
‎“你的朋友泰勒剛剛加入 ‎揮手打招呼吧”
‎快啊
‎傳送“揮手”啊
‎你根本沒…跟她說話啦
‎（你的朋友泰勒剛剛加入！ ‎揮手打招呼吧！）
‎（網路連線）
‎新連結！好啊，成功了
‎接著通知他079044238820 ‎這個編號的蕾貝卡發出貼文
‎非常好，全球定位座標 ‎顯示他們距離很近
‎（蕾貝卡：找到我的 ‎最佳伴侶了！#好朋友#舔舔#）
‎他現在能接受廣告了
‎競標時間到
‎（廣告預覽 深褪髮蠟）
‎成交！賣給深褪髮蠟
‎468個客戶有意下標，我們以 ‎曝光一次3.262美分價格出賣小班
‎我們打造的世界 ‎讓上網成為生活必須品
‎對年輕人來說更是如此
‎可是在這個世界裡 ‎兩個人建立關係時
‎這個平台要得到資金 ‎就一定要透過偷偷摸摸的第三人
‎由對方付費，然後操弄這兩個人
‎所以我們在全世界創造了 ‎整個新世代的年輕人
‎他們成長的環境，把溝通的意義
‎也就是文化的意義，變成了操弄
‎我們把欺瞞和偷偷摸摸
‎加入所有行為的核心點
‎（科技只要夠先進 ‎就會和魔術一模一樣）
‎（科學家、作家 亞瑟克拉克）
‎-抓著另一個… ‎-好
‎-要拿哪裡才有用？ ‎-這樣可以
‎-這裡？ ‎-對
‎如果我這樣，拍出來的效果會怎麼…
‎-其實我們可以… ‎-像這樣？
‎-什麼？ ‎-對啊
‎-再來一次 ‎-沒錯，好
‎不，這樣可能…
‎就…對啊
‎這一招可能沒那麼…
‎這邊的克立斯快嚇死了
‎精彩嗎？
‎（魔術！）
‎我五歲時學會表演魔術
‎我可以唬過成年的大人，甚至是博士
‎魔術師幾乎就像最早的神經科學家
‎和心理學家
‎他們是最先瞭解
‎人類心理機制的人
‎他們可以即時對觀眾測試很多技巧
‎魔術師瞭解一樣東西
‎瞭解我們不知道的一部份人類心理
‎所以幻術才有用
‎醫師、律師，還有知道 ‎怎麼製造747客機或核子飛彈的人
‎並不清楚自己的心理多麼脆弱
‎因為這是另一門學問
‎這種學問能套用到所有人身上
‎（史丹佛大學）
‎你從這個角度來看 ‎就能對於科技的用途
‎有非常不同的想法
‎我在史丹佛說服科技實驗室時 ‎學到的就是這一點
‎你能怎麼利用所有
‎說服人類的心理學知識
‎然後應用到科技裡？
‎很多同學已經是天才了
‎這句話應該沒錯，但我要把各位 ‎教成改變人類行為的天才
‎很多矽谷名人都上過那堂課
‎臉書、優步和其他公司 ‎成長的關鍵要角
‎他們都學會怎麼讓科技更有說服力
‎崔斯坦就是其中之一
‎說服科技有點像把設計
‎刻意應用到極限的地步
‎我們真的很想改變別人的行為
‎要他們採取這個行為
‎要他們一直滑手機
‎向下拉就能更新 ‎最新資訊就會出現在最上面
‎向下拉就又能更新 ‎又有新資訊，每次都是
‎這在心理學有個術語叫“間歇正增強”
‎你不知道何時會得到 ‎或者會不會得到某樣東西
‎原理就跟賭城的吃角子老虎一樣
‎你不能只是有意識的使用產品
‎我要深入挖掘人的腦幹
‎把潛意識習慣植入你的大腦
‎從你的大腦深處控制你
‎你甚至不會知道
‎有個叫詹姆斯…
‎每次你看到桌上的手機
‎看著手機就知道只要伸手過去
‎就可能有新消息
‎就好像玩吃角子老虎試手氣，對吧？
‎這不是意外，這是一種設計技術
‎他把金塊拿給舊金山陸軍的一名軍官
‎別忘了，舊金山當時的人口只有…
‎另一個例子是照片標註
‎如果你收到一封電子郵件 ‎說你朋友剛剛在照片上標註你
‎你當然會點那封電子郵件來看照片
‎你沒辦法放著不管
‎他們完全利用人類的深層人格
‎你要問自己一個問題
‎“為什麼郵件裡沒有那張照片？
‎這樣看照片不是更簡單？”
‎臉書發明那個功能時大肆宣傳
‎因為他們說 ‎“這是增加使用量的好方法
‎讓用戶整天在照片裡標註對方”
‎（至少有一個人好看）
‎他留言了
‎漂亮
‎好，蕾貝卡收到了，正在回覆
‎好，讓小班知道她在打字 ‎免得他跑掉
‎啟動刪節號功能
‎（至少有一個人好看）
‎很好，她發文了
‎他在她對自己貼文裡他的留言中留言
‎等等，他停止打字了
‎我們幫他輸入
‎表情符號，他最愛表情符號
‎（自動輸入 互動）
‎他選擇火焰
‎怎麼不用茄子啊？
‎有一整個學門叫做“成長駭客”
‎好幾組工程師專門負責破解人類心理
‎讓企業成長更快
‎他們能讓更多人申請帳號、更多互動
‎讓你邀請更多人加入
‎經過一大堆測試 ‎反覆作業這些東西後
‎你知道我們最大的收穫是什麼嗎？
‎十天內讓任何人接觸七個朋友
‎就這樣
‎查瑪斯是臉書早期的成長部門主管
‎在科技業也享有盛名
‎因為他率先推動很多成長策略
‎讓臉書的成長速度有如神助
‎這些成長策略後來成為 ‎矽谷的教戰守則
‎優步和一堆其他公司都在用
‎他率先採用的其中一項策略 ‎就以科學上的AB測試方法
‎來實驗功能的微幅變化
‎谷歌和臉書這種公司
‎會推出大量的微型實驗
‎經常對使用者進行測試
‎這些實驗進行久了之後
‎就能開發出最有效的方法
‎讓用戶朝你要的結果去做
‎這就是操弄
‎你把我講得好像白老鼠
‎你就是白老鼠，我們都是白老鼠
‎我們並不是開發癌症新藥的白老鼠
‎他們也不想造福我們
‎對吧？我們只是殭屍 ‎他們要我們看更多廣告
‎好讓他們賺更多錢
‎臉書進行他們所謂的 ‎“巨幅感染型實驗”
‎好
‎我們要怎麼在臉書網頁上 ‎用最低限度的暗示
‎就能讓更多人在期中選舉投票？
‎他們發現真的有辦法做到
‎其中一個結論，就是我們現在知道
‎人類在真實世界的行為和情緒 ‎的確會受到影響
‎而且使用者完全不會察覺
‎他們什麼都不知道
‎我們拿這些人工智慧系統對付自己
‎用逆向工程的方式 ‎找出怎麼讓人類做出回應
‎幾乎就像刺激蜘蛛的神經細胞
‎看看怎麼讓蜘蛛的腿抽動
‎就像一種監獄實驗
‎我們把人帶進這個數學矩陣
‎利用他們的一舉一動 ‎搜刮大量金錢和資料
‎中飽私囊
‎用戶卻完全不曉得
‎我們要以心理學手法 ‎想出如何用最快速度操弄各位
‎又讓你的大腦覺得快樂
‎臉書在這方面很強
‎IG做到了，WhatsApp做到了
‎Snapchat做到了，推特做到了
‎這種東西
‎就是我這種駭客會想出來的
‎因為你利用的是人心弱點
‎（臉書前總裁 西恩帕克）
‎我覺得發明家、創造者…
‎像我、馬克祖克柏…
‎還有IG的凱文西斯壯，這些人…
‎全都心知肚明，但我們還是一意孤行
‎腳踏車面世時，沒有人受害
‎對吧？如果大家都開始騎腳踏車
‎沒有人會說：“天啊 ‎我們毀了這個社會
‎或者腳踏車會影響大家
‎讓大家都不照顧小孩
‎毀了民主基石，大家無法分辨真相”
‎我們絕對不會說腳踏車有這些問題
‎如果某樣東西是工具 ‎就只會靜靜躺在那裡
‎耐心等待
‎如果某樣東西不是工具 ‎就會跟你要東要西
‎引誘你、操弄你、要你提供東西
‎我們已經不是在工具型的科技環境
‎而是進入成癮和操弄型的科技環境
‎改變的是這個
‎社群媒體並非被動讓人使用的工具
‎而是有其目標 ‎有自己實現目標的方式
‎利用人類心理對付人類
‎（全世界只有兩種產業 ‎把客戶稱為“使用者”）
‎（一個是毒品，一個是軟體）
‎（統計學家 愛德華塔夫特）
‎我幾年前是Pinterest公司的總裁
‎我下班回家後還是沒辦法放下手機
‎雖然我有兩個小朋友 ‎需要我的關懷和注意
‎我連在儲藏室裡都在寫電子郵件
‎有時還在看Pinterest
‎我就想：“天啊，有夠諷刺
‎我白天期間工作
‎打造連自己都沈迷其中的東西”
‎我沒辦法…有時我根本控制不了自己
‎我最愛用的是推特
‎以前是Reddit
‎我甚至得自己寫軟體 ‎以免自己沈迷，拼命上Reddit
‎我可能是對電子郵件上癮
‎真的，我自己都有感覺到
‎有意思的是
‎就算我知道幕後黑幕
‎還是控制不了自己去用
‎真的有點恐怖
‎就算有背景知識，我還是無法自拔
‎我還是一拿起手機，20分鐘就不見了
‎你早上尿尿前會先看智慧型手機嗎？
‎或者早上邊尿邊看？
‎因為只有這兩種選擇
‎我曾經想要單單靠意志力…
‎“我要放下手機 ‎我回家後要把手機放到車上”
‎我大概在一千天內跟自己講過一千次
‎“我絕對不要把手機帶到房間”
‎結果等到晚上9點時
‎“好吧，我要把手機帶進房間”
‎所以情形就像…
‎我第一次是用意志力
‎第二次就只好來硬的了
‎廚房保險箱上市囉
‎廚房保險箱是革命性的 ‎全新計時鎖容器
‎能讓你抗拒誘惑
‎大衛只要把這些誘惑放進廚房保險箱
‎接下來轉動旋鈕設定時間
‎最後按下旋鈕上鎖就好了
‎廚房保險箱很適合…
‎我們不是有嗎？
‎…電玩、信用卡和手機
‎對啊
‎廚房保險箱一旦上鎖
‎就得在計時結束後才能打開
‎結論是，社群媒體就像毒品
‎跟別人從事社交活動
‎是人類基本的生理需求
‎社交活動會直接影響 ‎釋放多巴胺的獎賞路徑
‎這個機制的背後有數百萬年演化基礎
‎讓人類聚在一起，喜歡群居
‎尋找配偶、繁衍後代
‎所以毫無疑問，社群媒體這種工具
‎能讓人與人有最好的社交管道
‎因此也可能造成上癮現象
‎爸，別鬧了！
‎我在晚餐前要送出一千片耶
‎片？
‎我不知道“片”是什麼
‎-好香啊，寶貝 ‎-謝謝
‎我希望大家能利用五官
‎來享受今天的晚餐
‎所以我決定今晚餐桌上不能有手機
‎所以…交出來吧
‎-真的要這樣？ ‎-對
‎-好吧 ‎-謝謝，小班呢？
‎-好 ‎-媽媽變成手機土匪了
‎-拿到了 ‎-媽！
‎手機要在這裡待到晚餐過後…
‎讓大家放輕鬆，好嗎？
‎-我可以看是誰嗎？ ‎-不行
‎我去再拿一支叉子
‎謝謝
‎女兒，妳不能打開
‎我設定一小時，所以別開了
‎那我們要聊什麼？
‎可以聊我今天開車 ‎經過的那些極端中心瘋子
‎-法蘭克 ‎-幹嘛？
‎我不想聊政治
‎-極端中心有問題嗎？ ‎-看吧？他根本就不懂
‎那要看你問的是誰
‎這就像在問：“政治宣傳有問題嗎？”
‎艾拉！
‎我的天啊！
‎-妳要我… ‎-好
‎我很擔心我的孩子
‎如果你有小孩，我也為你擔心他們
‎就算我在這方面懂得這麼多 ‎經驗這麼豐富
‎還是要跟孩子吵
‎他們用手機和電腦的時間
‎我會跟我兒子說 ‎“你覺得自己滑手機幾個小時？”
‎他會說：“大概半小時，頂多半小時”
‎我認為一小時多一點，一個半小時
‎我幾週前才查他的螢幕使用時間
‎-結果是三小時45分鐘 ‎-這…
‎我覺得不…這是每天平均值？
‎-對 ‎-我要現在去拿嗎？
‎我每一天都必須提醒我的孩子
‎苦與樂必須取得平衡
‎還有上癮之後造成的多巴胺缺乏狀態
‎-對 ‎-真相大白了
‎每天二小時50分鐘
‎-我看看 ‎-其實我今天用得很兇
‎-最近七天 ‎-可能是原因
‎IG，六小時13分鐘 ‎好，我用IG更兇
‎我的螢幕都碎掉了 ‎謝謝妳喔，小珊
‎“謝謝妳喔，小珊”是什麼意思？
‎妳一直拿我們用手機的事嚇媽 ‎其實根本就沒問題
‎我們不需要手機就能吃飯
‎我懂妳意思，只是這真的沒什麼
‎如果沒什麼，那就一個禮拜別用
‎對啊
‎其實如果你能不用手機一個禮拜…
‎我就幫你買新的螢幕
‎-從現在開始算？ ‎-從現在開始
‎好，沒問題
‎你得把手機留在這裡，老兄
‎好，我先充電
‎請正式記錄…我要離開了
‎好
‎-倒數計時開始 ‎-一個禮拜
‎我的…
‎妳覺得他行嗎？
‎我不知道，看看吧
‎吃飯吧，好嗎？
‎歡樂全家餐！
‎這些科技產品並不是由
‎想保護和教育兒童的 ‎兒童心理學家所設計
‎他們只是設計讓這些演算法
‎很擅長為你推薦下一部影片
‎或者很會幫你拍攝有濾鏡效果的照片
‎（二個讚）
‎（確定要刪除嗎？否）
‎（是）
‎這套技術不只是控制 ‎用戶把注意力放在哪裡
‎社群媒體尤其開始深入影響腦幹
‎控制兒童的自我價值和自我認同感
‎（美圖修修）
‎（莉莉：可愛！）
‎（蘇菲雅：天啊，好美）
‎（奧莉維亞：好棒）
‎（艾娃：妳的耳朵還能更大嗎？）
‎（哈哈）
‎人類演化後，開始在意其他部落同胞
‎喜不喜歡我們，因為這很重要
‎但是我們有演化成 ‎在意一萬個人的想法嗎？
‎我們並沒有演化成
‎每隔五分鐘就需要一點點社會認可
‎這不是人類與生俱來能夠應付的體驗
‎我們根據公認的完美標準改變生活
‎因為這種短期訊號就像一種獎勵
‎大心、按讚、豎起拇指
‎我們認同這種價值，以為這就是真理
‎但這都是虛假、稍縱即逝的人緣
‎不但無法長久 ‎而且承認吧，這種生活
‎反而讓你比以前更空虛
‎因為你被迫進入這種惡性循環
‎心裡想著：“接下來該做什麼？ ‎因為我還想要這種感覺”
‎想想看，這種情形對二十億人的影響
‎再想想大家對別人的觀感如何反應
‎大事真的…不妙了
‎真的很不妙
‎美國青少年的憂鬱症和焦慮問題
‎大幅增加
‎開始時間就在2011到2013年之間
‎美國少女每十萬人每年
‎送醫急救的人數
‎不管是割腕還是以其他方式自殘
‎這個數字在2010 ‎2011年以前都很穩定
‎結果突然大幅上揚
‎年齡較大的少女增加了62%
‎（美國非致命自殘行為送醫次數）
‎青少年前期的女生增加189% ‎幾乎等於三倍
‎更可怕的是自殺率情況類似
‎（美國每百萬名少女自殺死亡率）
‎年齡較大的少女，15到19歲
‎和21世紀的頭十年相比，增加了70%
‎青少年前期的女生一開始很低
‎卻增加了151%
‎整個模式都指向了社群媒體
‎（社群媒體軟體出現在手機上）
‎1996年以後出生的人，所謂的Z世代
‎這些孩子是歷史上第一個
‎在中學時使用社群媒體的世代
‎他們怎麼殺時間呢？
‎他們放學回家後就滑手機
‎整個世代的孩子都 ‎更加焦慮、更脆弱、更憂鬱
‎他們更不敢冒險
‎例如他們考取駕照的比例一直降低
‎交男女朋友的人數
‎或有任何浪漫互動的人數都急遽下滑
‎這一代的人有明顯變化
‎而且別忘了，每次有人急救送醫
‎都代表一個受創、驚恐的家庭
‎“天啊，我們的孩子怎麼了？”
‎我認為非常明顯
‎這些服務在害死人，導致民眾自殺
‎我沒聽過有家長說 ‎“我非常希望孩子從小到大
‎都覺得被科技公司的設計人員操弄
‎注意力都被人控制 ‎讓他們無法做功課
‎讓他們跟不切實際的 ‎美學標準相比較”
‎沒有人喜歡這樣
‎一個也沒有
‎我們以前有這種保護措施
‎兒童禮拜六早上看卡通時
‎父母都會關心、保護兒童
‎我們會說：“你不能用這些方式 ‎對這些年紀的兒童打廣告”
‎可是YouTube兒童版
‎卻吃掉整個注意力經濟版圖
‎現在所有兒童都在看YouTube兒童版
‎而且沒有任何保護措施和管理規範
‎（沒有手機的時間）
‎整個新生代都被我們訓練和制約成…
‎只要覺得不舒服 ‎寂寞、不確定或者害怕
‎就可以拿數位奶嘴麻痺自己
‎這會削弱我們處理負面感覺的能力
‎Photoshop不會在系統幕後 ‎雇用一千個工程師
‎利用通知功能、你的朋友
‎利用人工智慧預測 ‎怎麼讓你上癮，或引誘你
‎操弄你，或讓廣告主
‎測試六萬個文字或顏色的排列組合
‎想知道用什麼方法最能操弄你的心理
‎這是全新型態的一種權力和影響力
‎我要再說一次，他們這一次
‎玩弄民眾上癮或受到影響的方法
‎可能不一樣，也許完全不同
‎和報紙以及平面媒體出現時不一樣
‎和電視出現時不一樣
‎以前有三大電視網，而且…
‎-那是當時 ‎-那是當時，我正要說
‎我要說這是全新局面
‎全新局面發生這麼多次了
‎這只是我們看過的最新局面
‎有一種說法是：“我們遲早會適應
‎我們會學會怎麼和數位裝置共處
‎就跟我們學會和其他科技共處一樣”
‎這種說法的問題 ‎在於這個問題很不一樣
‎也許最危險的地方，在於
‎背後推進的科技一日千里
‎（電腦處理能力）
‎簡單來說，從1960年代到今天
‎電腦處理能力增加了大概一兆倍
‎人類沒有一樣發明的改良速度 ‎能夠相提並論
‎像是車子的速度大概只增加一倍
‎其他東西差不多都可以忽略不計
‎也許最重要的是
‎我們人類…人類的生理構造 ‎人類的大腦完全沒有進化
‎（沒有手機的時間）
‎人類的心理、生理和體能層面
‎並沒有基本上的改變
‎我們未來可以用基因工程 ‎開發全新型態的人類
‎但以現實層面來說 ‎人類的軀殼、大腦
‎都是數百萬年前的產物
‎這個螢幕，還有螢幕背後的系統
‎有幾千個工程師和超級電腦
‎他們的目標和你的目標不同
‎所以誰會贏這場比賽？誰會贏？
‎我們怎麼會輸？
‎-不知道 ‎-他在哪裡？這樣太不正常了
‎我送出太多親友內容了嗎？
‎-可能吧 ‎-可能廣告太多了
‎不對，出大事了，切換到復活模式
‎一般人想像中的人工智慧 ‎像是人工智慧會毀滅全世界
‎你看到魔鬼終結者 ‎你看到阿諾史瓦辛格…
‎我馬上回來
‎你看到無人機，心裡會想 ‎“我們會用人工智慧殺人”
‎但是大家並不瞭解 ‎人工智慧正在主宰今日世界
‎連“一套人工智慧”這說法都只是比喻
‎谷歌這種公司有超大超大的機房
‎有的在地下，有的在海裡
‎裡面全都是電腦
‎好幾噸的電腦，一眼看不完
‎彼此都連在一起，密不可分
‎執行非常複雜的程式
‎隨時都傳送資訊給對方
‎在同樣的電腦上
‎執行許多程式，許多產品
‎有的可以說成是簡易演算法
‎有的可以說是完整演算法
‎因為太複雜了，所以可以說有智慧
‎我很愛說演算法就是 ‎嵌在程式碼裡的個人意見
‎演算法並不客觀
‎工程師要根據“成功”的定義 ‎把演算法調整成最佳狀態
‎如果你能想像
‎某家企業根據自己的成功定義
‎打造了演算法
‎這就是商業利益
‎通常是為了獲利
‎你給電腦一個目標：“我要這個結果”
‎然後電腦自己學著怎麼達成
‎“機器學習”這個名詞就是這樣來的
‎所以系統每天都精進一點
‎用最佳順序挑選最佳貼文
‎讓你用這套產品的時間越來越長
‎其實沒人知道人工智慧用什麼方法
‎達到那個目標
‎演算法有自己的想法，雖然是人寫的
‎程式碼的寫法
‎就是把電腦做好以後 ‎讓電腦自己改變自己
‎這些公司裡只有少數人
‎不管是臉書、推特還是其他公司…
‎只有幾個人瞭解這些系統的運作方式
‎連他們都不見得完全瞭解
‎特定內容會變成怎麼樣
‎所以我們人類幾乎無法控制這些系統
‎因為這些系統控制我們看到的資訊
‎系統對人的掌控能力 ‎超出人控制系統的能力
‎根據他所在地理區域的 ‎可比較項目進行交叉參照
‎他的心理計量分身
‎他所在的地區有13,694個人 ‎跟他有類似行為
‎-他們有什麼趨勢？ ‎-我們需要絕招
‎才能真正復活
‎因為平常的做法無效
‎連學校的那個美女都無效
‎我的分析顯示如果用 ‎“極端中心”的內容多一點政治
‎長期互動的機率有62.3%
‎還不錯啊
‎用這個打前鋒還不行
‎好…我們傳送過標註照片
‎邀請、目前活動 ‎甚至是蕾貝卡的私訊通知
‎可是01265923010用戶呢？
‎對，小班對她的貼文都按下“大心”
‎好幾個月了，而且真的全部都按 ‎結果突然什麼都沒有
‎我算過，如果傳送安娜的通知
‎復活機率有92.3%
‎（新戀情）
‎還有她的新朋友
‎（沒有手機的時間）
‎（你的前女友有了新戀情！）
‎開什麼玩笑
‎好吧
‎什麼？
‎成功！我們復活了！
‎繼續賺錢吧，各位
‎對，讓他們連結到全世界
‎我要送出他可能喜歡的所有資訊
‎你們有沒有想過… ‎動態消息對小班有好處嗎？
‎-沒有 ‎-沒有
‎我對你下咒
‎因為你是我的
‎你最好停下手邊的工作
‎我沒說謊
‎（AB測試 極端中心）
‎不，我沒說謊
‎你知道我受不了
‎你到處亂跑
‎爸爸，你最清楚
‎我受不了，因為你罵我
‎對…
‎我對你下咒
‎因為你是我的
‎你是我的…
‎假設你上了臉書…
‎要對抗這個人工智慧
‎系統對你瞭若指掌
‎能預測你的下一步 ‎可是你完全不瞭解人工智慧
‎只知道有貓的影片和生日
‎這樣要打仗太不公平了
‎小班，快去上學囉，帥哥！
‎小班？
‎小班
‎快啦
‎要上課了，快走
‎（人文科技中心）
‎-你好 ‎-我好緊張
‎-真的？ ‎-對啊
‎我們都很擔心有一天
‎人類的力量和智慧將無法超越科技
‎科技什麼時候會越過那一點 ‎取代我們的工作，比人還聰明？
‎但是在更早以前
‎科技就會超越和打敗人類的弱點
‎跨過那一點以後，就會造成上癮
‎兩極化、激化、暴怒
‎虛榮，什麼都有
‎壓倒人性
‎也給人類將了一軍
‎對不起
‎我要向大家解釋臉書的動態消息功能
‎有多麼糟糕時，其中一個辦法
‎就是要大家看維基百科
‎（新增分頁）
‎你連上網頁看到的東西跟別人一樣
‎這是網路上少數大家都一樣的東西
‎假設維基百科說
‎“我們要讓每個人 ‎有不一樣的客製化定義
‎而且我們是拿錢辦事”
‎所以維基百科會監視你 ‎維基百科會計算
‎“我要怎麼做才能讓他改變一點點
‎以便達到商業利益呢？”對吧？
‎結果就改變詞條內容
‎你能想像嗎？
‎應該可以的
‎因為臉書就是這樣啊
‎你的YouTube動態消息也是
‎你上谷歌輸入“氣候變遷”的時候
‎結果會因為你住的地方而不同
‎（氣候變遷）
‎你在某些城市會看到 ‎系統自動完成句子
‎變成“氣候變遷是騙局”
‎有時你會看到
‎“氣候變遷造成自然毀滅”
‎這項功能和氣候變遷的真相無關
‎而是和你搜尋所在的地點
‎以及谷歌對你的興趣瞭解多少有關
‎就算是兩個很親近的朋友
‎他們的朋友也幾乎都重疊
‎他們想：“我去看臉書上的動態消息
‎就會看到同樣的更新” ‎但其實完全不是這樣
‎他們會看到完全不同的世界
‎因為電腦會根據計算結果
‎顯示最適合他們的內容
‎（播出中）
‎你可以想成二十七億個 ‎《楚門的世界》
‎每個人都有自己的真相，自己的…
‎事實
‎你覺得楚門為什麼要到現在
‎才發現他所處的世界真相？
‎人都會接受自己眼前世界的真實面
‎就這麼簡單
‎（播出中）
‎久了以後，你會以為 ‎大家都同意你的看法
‎因為動態消息裡的每個人 ‎都跟你有同感
‎一旦你處在那個狀態 ‎就很容易被操弄
‎就跟你被魔術師騙了一樣
‎魔術師表演撲克牌技法時 ‎會說：“隨便選一張牌”
‎你不知道的是他們早就設計好了
‎所以你選的是他們要你挑的牌
‎臉書就是這樣，臉書說
‎“你挑選你的朋友 ‎你挑選要點的連結”
‎其實都是胡扯，就像魔術師一樣
‎臉書控制你的動態消息
‎我們只是處理不同面向的事實
‎一旦這種事情大量出現
‎你就無法處理，甚至無法看到
‎跟你個人世界觀不一樣的資訊
‎也就是我們已經不是客觀 ‎有建設性的個體
‎睜開雙眼、別相信謊言…
‎然後你看看另一邊陣營
‎就會開始覺得 ‎“這些人怎麼這麼笨？
‎你看我經常看到的大量資訊
‎他們怎麼會看不到同樣的東西”
‎答案是：“他們真的 ‎看不到同樣的東西”
‎睜開雙眼、別相信謊言！
‎共和黨支持者是什麼樣的人？
‎無知的人
‎民主黨是犯罪組織，根本就不是政黨
‎皮尤研究中心對一萬名美國成人 ‎進行的大型新研究顯示
‎美國人比以往更分裂
‎民眾和政治兩極化的現象 ‎達到20年新高
‎共和黨超過三分之一的支持者說
‎民主黨威脅美國生存
‎超過四分之一的民主黨支持者 ‎也這樣說共和黨支持者
‎我們討論這麼多的問題
‎像是政治兩極化
‎在有線電視上也大量存在
‎媒體也有相同的問題
‎因為他們整體的商業模式
‎就是要把觀眾的注意力賣給廣告主
‎網際網路只是更有效率的新方法而已
‎我在YouTube工作時 ‎負責YouTube的推薦功能
‎我擔心自己開發的演算法
‎反而造成社會的兩極化
‎但是從觀看時間的觀點
‎兩極化現象是讓用戶上線 ‎非常有效率的方法
‎這些老師教這種東西的原因
‎就是因為有收錢
‎-太荒謬了 ‎-班班
‎今天不用練足球嗎？
‎要，我只是在看新聞
‎自己去查，所有極端中心…
‎你看的東西不能算新聞吧？
‎妳老是說天下大亂，他們也是
‎但那個東西只是政治宣傳
‎兩個都不對，重點是什麼有道理
‎小班，我是說真的 ‎這種東西對你不好
‎你該去練足球了
‎我會說這些是因為我重視
‎我擔心你們被誤導了 ‎這是不對的，好嗎？
‎大家以為演算法的設計目的
‎是提供民眾自己想要的東西，錯了
‎演算法只是想找幾個夠棒的幻境
‎找個和用戶興趣最接近的幻境
‎如果你開始看這類影片
‎系統就會一直推薦下去
‎沒有人真的想要這樣
‎只是推薦系統的功能就是如此
‎所以籃球巨星凱里厄文
‎才會說他相信地球是平的 ‎後來他又道歉
‎他怪罪到YouTube的幻境
‎你按下YouTube影片連結
‎就掉進深不見底的幻境
‎他後來上美國公共廣播電台說
‎“對不起，我竟然相信這個 ‎我不想誤導大家”
‎教室裡很多學生受訪時說
‎“他被地球是圓的信徒影響”
‎演算法推薦“地球是平的”
‎陰謀論影片好幾億次
‎很多人以為只有幾個笨蛋會相信
‎但是演算法每天都變得更聰明
‎所以今天他們說服別人地球是平的
‎可是明天又說服你相信別的謬論
‎“披薩門”主題標籤在11月7日誕生
‎披薩門…
‎天啊
‎我還是沒辦法確定一開始怎麼出現的
‎不過大意是只要訂披薩 ‎就等於訂一個偷渡客
‎這個社團在臉書上越來越大時
‎臉書的推薦系統開始向一般用戶
‎建議他們加入披薩門社團
‎例如假設某個用戶反對疫苗 ‎或相信化學凝結尾陰謀
‎或者以某種方式向臉書的演算法指出
‎他們很容易相信陰謀論
‎臉書的推薦系統就會 ‎向他們顯示披薩門社團
‎事件最後的高潮是某個人拿著槍出現
‎決定救出某家披薩店地下室的兒童
‎可是那家披薩店沒有地下室
‎-你在這裡做什麼？ ‎-確定那裡沒事
‎-沒什麼事？ ‎-戀童癖集團
‎披薩門，他講的是披薩門
‎這就是陰謀論的絕佳範例
‎整個陰謀已經散佈到所有社交網路
‎社交網路自己的推薦系統
‎主動把陰謀提供給用戶
‎不然他們不會去搜尋 ‎“披薩門”這三個字
‎（披薩門：民主 ‎與戀童癖的厚片披薩）
‎麻省理工學院有項研究
‎推特上的假新聞傳播速度 ‎比真的新聞還快六倍
‎如果一個人的優勢比另一個人
‎強上六倍，這個世界會怎麼樣？
‎你可以想像這種東西就像…
‎把人類行為當地板一樣歪一邊
‎讓某些行為比較難，某些比較簡單
‎你當然隨時都可以逆勢而上
‎但很少人這麼做
‎以整體社會的角度來看 ‎只要讓地板歪一邊
‎就能改變數十億人的想法和做法
‎我們打造的系統讓假消息更有優勢
‎這不是我們故意的
‎只是因為假消息比真消息更能讓公司
‎賺大錢，真相太無聊了
‎這是不實資訊獲利的商業模式
‎只要以最好的價格 ‎讓更多未經管制的消息
‎接觸任何人，就能賺到錢
‎因為氣候變遷？對啊
‎這是騙局，對，真的，這就是重點
‎他們越討論這個議題 ‎就越能分化美國人
‎他們的力量越大，控制能力就越強
‎臉書有好幾兆個動態消息貼文
‎他們並不知道什麼貼文是真的…
‎所以這個議題現在才如此重要
‎現在散播快速的不只是新型冠狀病毒
‎還有和病毒關的錯誤資訊 ‎在網路上流通
‎多喝水就能把冠狀病毒排出去的說法
‎是在社群媒體上流傳的一個病毒迷思
‎政府著手計畫這起事件，製造病毒
‎還模擬各國的反應方式
‎冠狀病毒是一場騙局
‎SARS、冠狀病毒
‎你看看製造時間，2018年
‎我認為這個謠言是美國政府搞出來的
‎沒人生病啊…
‎沒人認識生病的人
‎也許政府把冠狀病毒當作藉口
‎叫大家待在家裡，因為出了別的問題
‎冠狀病毒不會害死人
‎病毒散發的5G輻射線才會害人
‎（5G基地台被砍斷焚燬）
‎我們被謠言疲勞轟炸
‎有人真的炸掉手機基地台
‎我們看到俄國和中國 ‎散佈謠言以及陰謀論
‎烏克蘭民眾今天早上 ‎因恐懼而走上街頭…
‎民眾不知道何者為真 ‎現在已經威脅到人命
‎散佈冠狀病毒錯誤資訊的源頭
‎累積大約五千兩百萬次互動
‎妳是說這個含銀溶液有效
‎雖然還沒對冠狀病毒的 ‎這個病毒株實驗過，但是…
‎新型冠狀病毒的亂象只是資訊生態圈
‎整體亂象的極端例子
‎社群媒體讓八卦和謠言有如野火燎原
‎嚴重到不管我們關心什麼議題
‎都不知道什麼是真的
‎你還在足球隊嗎？
‎你要來的話，我想在練習前買包零食
‎算了
‎目前九成的人都不滿意
‎想一下就知道極端中心 ‎就像歷史上的任何政治運動
‎我們要挺身而出，對抗這種雜音
‎你是我的同胞，我相信各位
‎-極端中心的內容太精彩了 ‎-他非常喜歡
‎開始競標
‎843人下標，把他用 ‎4.35美分賣給武器製造商
‎我們來推廣這類活動吧
‎這禮拜在他家附近舉辦的遊行
‎新的影音部落客也在排隊
‎而且我老實說，我願意不擇手段
‎真的，不擇手段
‎-歡迎訂閱… ‎-小班？
‎…別忘了回來收看本頻道 ‎因為我要告訴你…
‎我還有真正的大事要宣布
‎真正的大事
‎臉書的其中一個問題 ‎就是以說服工具來說
‎臉書可能是史上最偉大的發明
‎你想想，如果獨裁者 ‎或專制政權得到這種工具
‎如果你想控制全國人民
‎臉書就是最有效的工具
‎政府和其他不良份子
‎把社群媒體當成武器使用時 ‎最危險的地方
‎在於會在真實世界造成傷害
‎最明顯的例子
‎就是有許多媒體報導的緬甸事件
‎（緬甸總統府）
‎緬甸人一想到網際網路
‎就會想到臉書
‎最常見的狀況是民眾購買手機時
‎通訊行老闆就會當場 ‎幫顧客安裝臉書程式
‎幫他們開設帳號
‎所以民眾買手機後，第一個開啟的
‎也是他們唯一知道 ‎怎麼開的，就是臉書
‎新出爐的爆炸性調查報告 ‎指出臉書越來越難
‎對抗緬甸的仇恨言論
‎（停止殺害穆斯林）
‎臉書真的讓軍方和其他不良份子
‎有了操弄輿論的新方法
‎鼓勵民眾對羅興亞穆斯林發動暴力
‎包括屠殺
‎放火燒毀全村
‎集體強暴，以及其他 ‎違反人性的嚴重罪行
‎現在導致七十萬名 ‎羅興亞穆斯林逃離緬甸
‎以前當然也有目的性極強的 ‎政治宣傳人物
‎只是這個平台出現後
‎散播煽動性言論的難度大幅降低
‎而且花不了多少錢
‎如果我要操弄選舉
‎我現在就能進入臉書上的陰謀論社團
‎找到100名用戶
‎這些人不但相信地球是平的
‎還認為人類登陸月球完全是陰謀論
‎我可以要求臉書 ‎“找出1000個類似用戶”
‎臉書會開心傳給我幾千個類似用戶
‎讓我用更多陰謀論接觸這種人
‎以曝光一次3.4美分的價格賣出
‎宣傳新的極端中心影片
‎準備刊登下一個廣告
‎演算法和操弄民眾的政客非常瞭解
‎怎麼學會挑撥我們
‎極為擅長捏造假新聞 ‎讓我們以為是真的
‎讓我們相信這些謊言
‎我們好像越來越無法控制
‎自己是誰，要相信什麼
‎…讓他們選邊站
‎這裡說謊，那裡也說謊
‎好讓他們把持權力 ‎好讓他們掌控一切
‎他們控制我們的想法 ‎這樣才能掩飾自己的秘密
‎（懷疑真理）
‎（疾管局承認掩飾疫苗與自閉症）
‎假設所有世人都不相信有真相
‎（疫苗無法一體適用 ‎基因就是證據）
‎大家都相信政府在騙民眾
‎每件事都是陰謀論
‎“我不該相信任何人，我恨其他陣營”
‎現在就朝這個方向前進
‎歐洲政治大地震餘波盪漾
‎這次換義大利和西班牙
‎整體而言，歐洲傳統 ‎中間聯盟不再有多數席位
‎極右和極左民粹政黨大有斬獲
‎（中間）
‎退後
‎好，走吧
‎這些帳號刻意且試圖
‎激起香港政治動亂
‎好吧，小班
‎如果全國民眾的資訊來源
‎都是臉書和社群媒體，後果會如何？
‎民主會迅速崩壞
‎只要半年
‎芝加哥發生暴亂後
‎示威民眾和支持者暴力相向…
‎民主政權面對信心危機
‎我們看到民主在全球遭到攻擊
‎（極端中心）
‎大部分遭到鎖定的國家
‎都有舉行民主選舉
‎問題的規模很大
‎國家行動者和百萬富翁說
‎“我要顛覆肯亞，我要顛覆喀麥隆
‎喔，安哥拉嗎？成本不高”
‎巴西上週日舉辦一場驚人選舉
‎競選活動由社群媒體發動
‎我們科技業創造的工具
‎能夠顛覆和侵蝕社會結構
‎而且一次就能讓世界各國受害
‎德國、西班牙、法國 ‎巴西、澳洲，全都有
‎全世界最先進的幾個國家
‎現在都要自爆了
‎他們有什麼共通點？
‎既然你現在知道
‎你覺得臉書影響了2016年的選舉嗎？
‎這個很難回答
‎其實…
‎其實影響的因素非常多
‎臉書、推特和谷歌代表重返美國國會
‎提供第二天的證詞
‎主題是俄國干預美國2016年大選
‎第三人並不是以駭客手法操弄選舉
‎對吧？俄國人並沒有駭掉臉書
‎他們只是利用臉書為合法廣告主
‎和合法用戶開發的工具
‎只是用意非常邪惡
‎這就像遙控戰爭
‎一個國家操弄另一個國家
‎卻不必真的侵犯實體國界
‎我們看到這些暴力畫面
‎雙方人馬似乎在推擠一個垃圾車…
‎但重點不在於你想投給誰
‎而是讓社會徹底混亂、民眾分裂
‎這裡是亨丁頓比奇，一場遊行…
‎目的是讓兩派人馬
‎再也聽不到對方的聲音
‎再也不想聽到對方的聲音
‎再也不想信任對方
‎城市居民的恨意赤裸裸呈現
‎然後轉變成種族暴力
‎（維吉尼亞州情勢緊繃 ‎暴力衝突當天三人死亡）
‎小班！
‎卡珊卓！
‎-小珊！ ‎-小班！
‎過來…！
‎手舉起來…跪下，馬上跪下
‎-冷靜… ‎-小班！
‎喂！手舉起來！
‎轉過去，趴在地上
‎我們要把社會賣給出價最高的人嗎？
‎我們要把民主體制整個賣掉 ‎讓你潛入每個人的心理
‎讓特定族群相信謊言 ‎然後造成文化大戰嗎？
‎我們要這樣嗎？
‎我們美國人…
‎已經不跟彼此說話
‎我們美國人已經不交朋友了
‎問題在於他們上次選出的總統
‎我們美國人已經孤立自己
‎只看跟我們立場一致的電視頻道
‎我今天要說的是部落主義會毀滅美國
‎撕裂我們的國家
‎頭腦清楚的成年人不會有這種行為
‎如果大家都能得到自己想要的事實
‎那就不必妥協，也不必一起討論了
‎其實大家也不必互動了
‎我們對於事實必須要有共識
‎不然國家就毀了
‎（祖克柏先生）
‎長遠的解決之道就是 ‎打造更多人工智慧工具
‎找出真人使用服務時不會出現的模式
‎我們讓科技業者把這個問題說成
‎他們有辦法解決的事情
‎謊話連篇
‎大家把人工智慧說得好像能知道真相
‎人工智慧無法解決這些問題
‎人工智慧無法解決假新聞的問題
‎谷歌根本沒資格說
‎“這是陰謀嗎？這是真相嗎？”
‎因為他們不知道真相是什麼
‎除了按滑鼠以外 ‎他們沒有可以代替真相的東西
‎如果我們對於何者為真沒有共識
‎或者認為世界上沒有真相
‎那就完了
‎這是其他問題底下的根本問題
‎因為如果我們對何者為真沒有共識
‎那就根本無法解決任何問題
‎我們應該建議他追蹤 ‎扁平地球足球俱樂部…
‎別再顯示體育消息了，他完全沒互動
‎很多矽谷科技新貴都相信
‎我們在打造全世界的超級大腦
‎所有用戶都只是可替代的小小神經元
‎沒有一個真正重要
‎這種心態把人貶低到某種怪異角色
‎你就像一個小小的運算元素
‎透過行為操弄手法設定我們的行為
‎為的是服務這個超級大腦 ‎你個人並不重要
‎你拿不到錢，沒人會感謝你
‎你沒有自主能力
‎我們會偷偷操弄你 ‎因為你只是個運算節點
‎所以我們要設定你的行為 ‎因為運算節點只有這項功能
‎天啊
‎如果你認為科技威脅人類生存
‎這句話講得很重，而且…
‎你就很容易覺得 ‎“好，我在用這支手機
‎我滑手機、點擊、使用
‎哪有什麼生存威脅？
‎好，有台超級電腦
‎在系統幕後指著我的大腦
‎要我看更多影片 ‎這哪有什麼生存威脅？”
‎科技並不是人類的生存威脅
‎（美國參議院說服科技聽證會）
‎科技的能力把社會黑暗面激發出來
‎社會最黑暗的一面，就是生存威脅
‎（美國參議院）
‎如果科技造成嚴重的混亂場面
‎憤怒、不文明行為
‎彼此缺乏互信
‎寂寞、疏離、更加兩極化
‎更多選舉駭客事件、更民粹
‎讓人更分心 ‎無法專心面對真實議題…
‎社會就是這樣
‎現在社會無法自我療傷
‎只能變成混亂局面
‎這個問題影響到每個人 ‎不用這些產品的人也一樣
‎這些東西已經變成數位科學怪人
‎照自己的想法改變整個世界
‎包括兒童的心理衛生
‎或者我們的政治論述
‎卻沒因為取代公共論壇而負起責任
‎-所以這又要回到… ‎-你覺得誰要負責？
‎我認為這些平台必須負起責任
‎因為他們接手了競選廣告
‎就必須負責保護選舉制度
‎他們接手兒童的心理衛生 ‎或兒童娛樂節目時
‎就必須負責保護兒童娛樂節目
‎廠商會一直努力爭取民眾的注意力
‎科技只會和人類的生活更密切 ‎而不是更疏離
‎人工智慧會更能預測 ‎什麼內容會讓我們沈迷
‎這種預測能力不會變差
‎我已經62歲了
‎講得越久只會老得越多
‎但是我想告訴你…
‎我八成會先死 ‎但是如果這個鬼東西成真
‎我會覺得很慶幸
‎因為這個東西把我嚇死了
‎你也有同感嗎？
‎還是我對自己不懂的問題 ‎反應過頭了？
‎你最擔心什麼？
‎我覺得就最近可能發生的事情來看…
‎內戰
‎如果現在的狀況維持不變 ‎比方說20年吧
‎我們可能會因為刻意忽視 ‎而摧毀自己的文明
‎我們可能會無法面對氣候變遷的挑戰
‎我們可能破壞全世界的民主體制
‎讓政府變成奇特的獨裁失能組織
‎我們可能毀滅全球經濟
‎我們可能都會死掉
‎我真的覺得這件事攸關生死
‎他們以後的人，會不會再也不知道
‎這個幻覺出現前，世界原本的樣貌？
‎如果你不知道自己在母體裡 ‎要怎麼從母體裡醒過來呢？
‎（未來是理想國還是被人遺忘 ‎取決於最後一刻之前）
‎一觸即發的大隊接力比賽…" ‎建築師 巴克敏斯特富勒
‎我們說的很多話聽起來很像…
‎一面倒的末日悲觀論
‎“天啊，科技要毀滅全世界
‎要毀了我的孩子”
‎其實…不對
‎大家迷惑的原因，在於 ‎未來會同時是天堂與地獄
‎我只要按一下手機 ‎就有車子在30秒後出現
‎讓我到我想去的地方
‎這實在太神奇了，太不可思議
‎我們發明“讚”按鈕時
‎動機是把正能量和愛散播到全世界
‎光陰似箭，這個初衷 ‎現在讓青少年因按讚數太少
‎而感到憂鬱
‎或者可能造成政治兩極化
‎我們完全沒想到這些
‎我覺得這些人的出發點並不壞
‎有問題的只是商業模式
‎你可以關閉整個服務 ‎銷毀不管是什麼東西
‎二百億美元的股東價值消失 ‎被人告上法院，還有…
‎但實際上，我們都回不去了
‎你可以稍微調整，但是到頭來
‎你還是得讓營收和使用量逐季成長
‎產業規模越大，改變就越困難
‎我認為很多人都被商業模式
‎經濟誘因和股東壓力給卡死了
‎幾乎不可能有別的做法
‎我覺得大家必須認同
‎企業努力賺錢其實沒有關係
‎有關係的是沒有規範 ‎沒有規則、沒有競爭
‎讓公司變成實質上的政府
‎然後他們說：“我們可以自律”
‎這根本是胡說八道，離譜至極
‎財務誘因宰制全世界
‎所以如果要解決這個問題 ‎就必須改變財務誘因
‎沒有財務理由可以逼這些公司改變
‎所以我覺得需要政府規範
‎手機公司有一堆和你有關的機密資料
‎我們也有很多法條禁止他們胡作非為
‎但是舉例來說，我們卻幾乎 ‎沒有數位隱私權的法令
‎政府可以對收集 ‎和處理資料的行為徵稅
‎就好像水公司監控你用的水量
‎跟你收水費一樣
‎你可以對這些公司擁有的資料收稅
‎用財務方面的理由
‎逼他們不要收集世界上的所有資料
‎我們的法律落後科技太遠
‎但我知道目前的法律並沒有保護用戶
‎而是為這些富可敵國的巨型公司
‎保護他們的權益和特權
‎我們要一直聽這些 ‎超級權貴份子的話嗎？
‎還是我們要說
‎“其實啊，有時國家利益
‎有時民眾和使用者的利益
‎更為重要
‎不能老是讓已經 ‎家財萬貫的人賺更多錢”
‎這些市場傷害民主、傷害自由
‎應該要立法禁止
‎這句話並不是激進的主張
‎我們也立法禁止其他市場
‎我們立法禁止人類器官買賣
‎我們立法禁止奴隸買賣
‎因為這種市場必定帶來毀滅性的後果
‎現在這個世界
‎死掉的樹比活著的樹值錢
‎死鯨魚比活鯨魚值錢
‎人類經濟長久以來都是這樣
‎企業也不受任何管制
‎他們會繼續砍伐森林
‎殺害鯨魚
‎開採礦物，繼續抽取地下的石油
‎就算我們知道地球會因此毀滅
‎我們知道這樣會 ‎留給子孫更殘破的世界
‎這是短視近利的思維
‎他們只相信為了錢可以不計代價
‎就好像每家公司自私自利時 ‎會跟變魔術一樣
‎創造出最好的未來
‎這種想法長久以來影響環境
‎最可怕的是 ‎我希望這是最後一根稻草
‎能讓我們全人類覺醒
‎知道這個說法一開始就漏洞百出
‎使得我們現在變成了大樹、鯨魚
‎企業可以開採我們的注意力
‎如果要讓企業賺更多錢
‎我們就要一直盯著螢幕
‎盯著廣告
‎而不是用那些時間過精彩的生活
‎所以我們會看到後果
‎我們會看到企業利用強大的人工智慧
‎智取人類，想出怎麼把我們的注意力
‎拉去看他們指定的東西
‎而不是最符合我們的目標
‎價值觀和生活的東西
‎（賈伯斯 今日主題演講）
‎電腦對我而言…
‎是人類有史以來最偉大的工具
‎相當於人類大腦的腳踏車
‎矽谷一開始的想法就是人性化科技
‎我們之所以忘記這一點 ‎是因為這樣做比較酷
‎而不是這樣做比較對
‎網際網路是很奇怪、詭異的地方
‎充滿實驗性
‎網際網路上有充滿創意的東西 ‎現在當然還是這樣
‎但是現在感覺就像超大型購物中心
‎我就想：“天啊 ‎一定可以有更多用途吧”
‎我覺得我很樂觀
‎因為我覺得我們可以改變 ‎社群媒體的樣貌和意義
‎科技運作方式並非物理定律 ‎並不是死板板的
‎而是我這種人類所做的很多選擇
‎人類可以改變這些科技
‎現在的問題是我們願不願意承認
‎我們打造出來的產品 ‎直接導致這些負面結果
‎因為是我們做的 ‎所以我們有改變的義務
‎我們並不想用 ‎注意力擷取模型對待人類
‎是我還是…
‎可憐哪
‎一個社會要健康
‎我們就必須揚棄這種有害的商業模式
‎我們可以要求廠商 ‎設計這些產品時加入人性元素
‎我們可以要求廠商不要 ‎把人當成可開採的資源
‎他們的目的可以是 ‎“怎麼讓世界更美好？”
‎人類歷史上，每一次改革
‎原因都是有人站出來說
‎“太愚蠢了，我們一定要改”
‎有人批判，才有改善的動能
‎批判的人才是真正樂觀的人
‎你好
‎看起來很離譜吧？
‎這種東西的基本設計原理好像…
‎不是朝著好的方向走
‎好像全都有問題
‎所以雖然全部打掉重練聽起來很扯
‎但這也是逼不得已的
‎你覺得我們能做到嗎？
‎非做到不可
‎你好像非常樂觀
‎有嗎？
‎對啊，我覺得…你竟然一直這樣講
‎因為我想：“真的？ ‎我覺得人類正在走向地獄
‎人類正在快速走向地獄
‎要有奇蹟才能解除危機”
‎這個奇蹟當然就是集體意識
‎我很樂觀，人類一定能想出解決之道
‎但是我覺得要花很長的時間
‎因為不是每個人都覺得這是問題
‎我覺得現今科技業的一大敗筆
‎就是領導者無能
‎沒有人挺身而出，公開討論這些問題
‎不只是講好的一面，還要講壞的一面
‎這樣才能讓別人開創新局
‎說到最後
‎除非有龐大的群眾壓力 ‎否則這個產業是不會懸崖勒馬的
‎只要討論這個問題，說出自己的意見
‎有時甚至能使用這類科技
‎我們就能開始改變方向 ‎改變對話內容
‎雖然聽起來很怪 ‎但這是我的世界，我在這一行
‎我並不恨他們 ‎我並不想打擊谷歌或臉書
‎我只想改革他們 ‎別讓他們毀掉全世界，好嗎？
‎我刪掉手機上的一堆程式
‎浪費時間的全都刪掉了
‎所有的社群媒體程式、新聞程式
‎也關掉通知功能
‎不讓沒有急迫性或當前不重要的資訊
‎一直讓褲袋裡的手機振動
‎就跟我不會在口袋裡放餅乾一樣
‎減少你收到的通知數目
‎關閉通知功能
‎關閉所有通知
‎我不用谷歌了 ‎我都用Qwant搜尋引擎
‎這種搜尋引擎不會儲存搜尋紀錄
‎不要接受YouTube推薦給你的影片
‎要自己去選，這也是對抗的方式
‎Chrome有很多擴充功能 ‎可以移除推薦功能
‎你在教別人怎麼對抗 ‎自己的心血結晶，我喜歡
‎對啊
‎轉貼新聞前先做事實查核 ‎評估來源是否可靠、多搜尋一下
‎如果看起來像是故意挑撥你的情緒
‎那就八九不離十了
‎本質上就是用滑鼠點擊來投票
‎如果你按了誘餌式標題
‎就會創造現有系統 ‎行之有年的財務誘因
‎自己一定要有多種消息來源
‎融入個人生活
‎我會刻意在推特上 ‎追蹤自己不認同的人
‎因為我想接觸不同觀點
‎其實有很多科技新貴
‎根本就不讓小孩有行動裝置
‎我的孩子完全不用社群媒體
‎這是規定還是…
‎家規
‎我們非常堅定
‎就像瘋子一樣
‎我們絕對不讓自己的小孩滑手機
‎我想出三條很簡單的規則
‎能讓家庭過得輕鬆很多 ‎而且有科學研究支持
‎第一條是每天晚上固定時間 ‎禁止帶任何數位裝置進房間
‎不管什麼時間，睡前半小時 ‎都禁止帶任何數位裝置
‎第二條是高中後才能用社群媒體
‎我個人認為16歲以後才可以
‎中學生活夠辛苦了，到高中再用吧
‎第三條是跟小孩一起設定時間限制
‎如果你跟他們討論說
‎“你覺得一天滑手機多少小時
‎比較合理？”
‎他們通常都會說個合理數字
‎我非常清楚
‎我不可能讓所有人 ‎刪除他們的社群媒體帳號
‎但是我能影響幾個人
‎讓幾個人刪除帳號其實意義重大
‎理由是這樣能創造對話空間
‎因為我希望社會上有夠多的人
‎這些人不受操弄系統的影響 ‎能夠討論社會議題
‎完全不受操弄系統的限制
‎去吧！離開這個體制
‎對，刪吧，離開這個笨蛋國度
‎這個世界很美麗 ‎你看，外面天氣多好
‎（請上社群媒體追蹤我們！）
‎（開玩笑的）
‎（讓我們一起對話，解決問題 ‎TheSocialDilemma.com）
‎字幕翻譯：溫鳳祺