‎“偉大なるものは ‎全て呪われている”
‎ソフォクレス
‎始めようか ‎座ってリラックスして
‎大丈夫？
‎ああ
ジェフ･シーバート
‎テイク１
ジェフ･シーバート
‎まずは自己紹介を
ベイリー･ リチャードソン
‎ハロー･ワールド ‎ベイリーよ
ベイリー･ リチャードソン
‎どう？
‎最悪だよ
‎ダメだ
‎Facebookで２年働いた
‎私はInstagramの ‎初期の社員よ
‎GoogleとYouTubeで働いた
‎Apple Google Twitter ‎Palmで働いた
‎Mozilla labsの後に ‎Firefoxへ
‎撮ってるか みんな
‎いいね
‎私は元Twitterの ‎エンジニアリング執行役員だ
‎Pinterestの元社長だ
‎その前は５年間 ‎Facebookで収益化を担当した
‎Twitterでは ‎開発者用のサービス運用から
‎開発の責任者まで務めた
‎Google DriveとGmail Chat ‎Facebookでは…
‎「いいね」を発明した１人だ
‎８ヵ月ぐらいは ‎弁護士との相談に費やした
‎話していいのかな
‎働いている間は ‎世の役に立つものだと思った
‎今は そう思えない
‎2017年６月に倫理的な悩みで ‎Googleを退職した
‎Googleだけではなく ‎業界全体に対して
‎心配している
‎とてもね
‎忘れがちな点だが
‎ＳＮＳは すばらしい役割も ‎果たしてきた
‎家族と再会できたり ‎臓器提供者が見つかったり
‎意味のある大きな変化が ‎世界で起こった
‎ＳＮＳの良い面だ
‎しかしその隠された顔に ‎我々は無知だった
‎機能やサービスは ‎独自に発展して
‎予想と違う使い方をされる
‎誰もこんな結果は ‎予想しなかった
‎１人の悪党の仕業ではない
‎では何が問題だった？
‎問題があるとすれば？
‎特定するのは難しい
‎議論する必要がある
‎問題は何？
‎NETFLIX オリジナルドキュメンタリー
‎批判のさなかでも ‎ビッグテックは拡大しました
‎テック業界は ‎精査されています
‎精神の健康とＳＮＳの利用は ‎関連がありそうです
‎最近の研究によると…
‎…報道されていません
‎数百万のアメリカ人が ‎電子機器中毒になっています
‎同じ意見の投稿しか ‎見なくなり…
〝タグづけされました〞
‎…‎悪化するのです
‎フェイクニュースの脅威が ‎増しています
‎Twitter創業時には ‎予想できませんでした
‎ロシアのサイバー攻撃は ‎止まらないでしょう
‎YouTubeは ‎浄化を強いられています
ツイーン世代にとって ＴｉｋＴｏｋは
必須アプリです
ねえアイラ 手伝って
ＳＮＳが子供たちを 鬱(うつ)にしているかも
テーブルをセットして
写真補正アプリの 流行によって
新たな症候群が 出現しました
〝ＳＮＳ異形症〞は
補正された写真の自分に なりたがることです
‎なんで持たせるのよ
‎クラスのみんなが持ってる ‎仕方ないわ
‎まだ11歳よ
別にいいだろ
孤立したいならどうぞ
スマホがなくても ネットは使えるし
ＳＮＳ上の人間関係は ニセモノよ
‎監視資本主義によって ‎政治と文化が変わっています
‎ＩＳＩＳと同様に
‎白人至上主義もネットで拡散
‎インドでは
‎ＳＮＳが原因で ‎多数の死者が出ました
‎フェイクニュースが原因です
‎この時代に ‎伝染病とどう戦うか
中華料理でも コロナはうつる？
‎情報時代から ‎偽‎情報時代に移行した
‎民主主義の危機です
近年作られたツールは 社会の構造自体を
‎蝕(むしば)‎んでいるように思う
歓迎のあいさつの後に 動画を流す
〝どうも トリスタン･ ハリスです〞
‎ああ
‎舞台に上がって…
‎来てくれてありがとう
‎今日はテクノロジーの ‎新たな問題について‎―
‎話したい
‎テック業界の問題は何かと ‎人々に聞くと
‎様々な不協和音や ‎スキャンダル
‎情報窃盗やテック中毒
‎フェイクニュース
‎選挙のハッキング
‎しかしこれらの問題を ‎引き起こす原因がある
〝倫理を求めて〞
どう？
〝倫理を求めて〞
‎いい感じだ
‎みんなに見て欲しい
‎テック業界は問題がある
‎名前はついてないが ‎原因は１つで…
‎周りをふと見ると ‎世の中がおかしくなっている
‎これが普通かと自分に問う
‎魔法でもかけられたのか？
トリスタン･ハリス
技術倫理研究所 共同設立者
みんなに理解してほしい
テック業界だけが 知るのではなく
‎みんなが知るべきだ
‎やあ
‎初めまして
‎どうも
‎ええ
‎Ｔ(トリスタン)‎･ハリスは ‎元Googleの倫理デザイナー
‎“シリコンバレーの良心” ‎でもあります
‎彼は業界に
‎倫理的なデザインを ‎要求している
‎業界からの声は珍しい
‎彼は誰かが言うべきだと ‎信じている
‎Google在籍中に
‎Gmailの仕事で ‎燃え尽きてしまった
‎議論は多く行われていた
‎受信箱のデザインを ‎どうするべきかとかね
‎自分もメール中毒だったし
‎楽しかったが
‎誰もメールの中毒性を ‎和らげようとしない
‎この問題についてどう思うか
‎話し合いたかった
‎テック業界全体に ‎閉塞(へいそく)‎感を感じていた
‎行き先が見えない
‎中からどう変えていくべきか
‎もがきながら模索していた
‎それでプレゼンテーションを ‎行うことにした
‎毎日 帰宅後の数時間を ‎費やして準備した
‎歴史上で初めて ‎50人という小数の白人男性が
‎カリフォルニアの ‎偏った集団が
‎20億もの人に影響を与えた
‎20億人の行動が ‎変わってしまった
‎Googleのデザイナーが ‎決めた方法に
‎行動が左右されてしまう
‎我々にはこの問題を解決する ‎倫理的な責任がある
‎プレゼンテーション資料を ‎15人〜20人の仲間に共有した
‎どう思われるのかなって ‎緊張したよ
‎翌日 出社すると
‎多くの人が資料を見ていた
‎“注目”
‎午後になると ‎400人以上が見てくれていた
‎多くのメールも届いた
‎あらゆる部署から届いた
‎“同感だよ ‎子どもも影響を受けている”
‎“何かしなければ”
‎革命でも起こす気分だった
‎この資料について ‎ラリー･ペイジも
Ｌ･ペイジ ＣＥＯ
‎この資料について ‎ラリー･ペイジも
‎報告を受けたらしい
‎私の資料がGoogle社内で
‎ある種の動きを生みだした
‎だが… 何も変わらなかった
‎2006年には皆が…
‎Facebook社の我々もね
ティム･ケンダル 元Ｆａｃｅｂｏｏｋ重役
‎Googleが築いたサービスに ‎感心していた
現ＭＯＭＥＮＴ社 ＣＥＯ
‎最高に便利なサービスで
‎我々の知る限りでは ‎世界にも貢献していて
‎金‎儲(もう)‎けも順調だった
‎その全てが とても優雅で ‎完璧に見えて嫉妬を覚えたよ
‎Facebookは始めて２年で
‎私が雇われたのは ‎収益モデルを考えるためだ
‎収益化の責任者だった
‎儲かる方法を考えるのが ‎仕事だった
‎多くの人が仕事をしていたが
‎お金の話になると ‎みんなが指さすのは
‎まず私だった
‎そこで私は広告を売るのが ‎最適だと考えた
‎母さんからだ
‎トークショーの動画 ‎いいこと言ってる
‎ＳＮＳを消すべきだって
‎母さんをブロックするよ
‎俺より母さんのほうが深刻だ
‎レシピだけよ
‎あと仕事
‎運動も
‎俺らの監視
‎知り合い全員の監視も
‎視聴中に ‎ＳＮＳを見ているのなら
‎携帯を置いてこの話を聞いて
続いてのゲストは
ＳＮＳの悪影響について すばらしい本を書いた方
‎ご紹介します
‎「今すぐソーシャルメディア ‎のアカウントを削除すべき‎―
‎10の理由」の作家
‎Ｊ(ジャロン)‎･ラニアーさん
‎GoogleやFacebookは
‎最も成功した企業
‎社員数は相対的に少なく
ジャロン･ラニアー 仮想現実の創始者
‎カネをかき集める ‎機械を持っている
コンピューター工学者
‎だが どうやって稼いでる？ ‎大事な質問だ
‎35年間テック業界に ‎投資してきた
ロジャー･マクナミー
‎最初の50年における ‎シリコンバレーは
ベンチャー キャピタリスト
‎製品を作り ‎販売するだけだった
‎ここ10年においては
‎ユーザーを売っている
‎今さらではあるが
エイザ･ラスキン 元Ｆｉｒｅｆｏｘ社員
‎私たちはサービスに ‎対価を払わない
技術倫理研究所 共同設立者
‎広告主が払うんだ
‎広告主こそが顧客だ
‎私たちは商品だ
‎よく言うだろう
‎タダで商品を使っているなら ‎君がその商品だ
〝君がその商品だ〞
‎Googleはただの ‎検索エンジンだと思うよね
‎Facebookは友人の日常や ‎写真を見る場所だ
‎これらは人々の関心を ‎得るために競争している
‎Facebook Snapchat ‎Twitter Instagram YouTube
‎全てが人々を画面に ‎釘(くぎ)‎づけにするビジネスだ
‎どうすれば最大限に ‎人の気を引けるかを研究する
‎何時間使わせられるか
‎どれくらい人生をもらえるか
Ｊ･ローゼンスタイン
企業の動きを考えると
分かってくる 元Ｇｏｏｇｌｅ エンジニア
無料だと思っていた サービスは…
‎無料ではない ‎広告主に支えられている
‎広告主が金を払うのは
‎広告を見せるためだ
‎我々の関心事を商品として ‎広告主に売る
‎単純化しすぎだが
‎行動や物事に対する認識が ‎変わっていく過程
‎それが商品だ
‎商品といえば それしかない
‎商品と呼べるようなものは ‎それしかない
‎儲けられるのはそれだけ
‎君の行動を変える
‎考え方も 君自身も
‎緩やかに変わっていく
‎誰かにこう言うとしよう
‎１千万ドルで世界を１％だけ ‎君が望む方向へ変えてやる
‎すごいだろう ‎当然カネにもなるよ
ショシャナ･ズボフ博士
全てのビジネスが 夢に描いていたことなの
ハーバード･ビジネス･ スクール 名誉教授
広告を掲載すれば 効果が出ると保証できる 「監視資本主義の時代」 著者
広告を掲載すれば 効果が出ると保証できる
‎確信を売るビジネスよ
‎そのビジネスで成功するには
‎予測に長けていないと
‎予測をするために ‎必須となるのは
‎大量のデーター
‎監視資本主義とは つまり
‎巨大テック企業が ‎全てを追跡し
‎そこから収益を上げること
‎彼らのビジネスは ‎広告主を成功させることだ
‎新たな市場の誕生よ
‎今まで存在しなかった市場
‎そこは人々を先物として ‎取引する市場よ
‎豚肉や石油の先物取引と同じ
‎大規模で なおかつ ‎人を取引する市場が存在し
‎これらの市場から ‎兆単位の収益が生み出される
‎ネット企業は人類史の中で
‎最も成功した企業になった
‎オンラインで行う ‎全ての行為は
‎監視され 計測されている
‎全ての行動が監視され ‎記録されている
ジェフ･セイバート 元Ｔｗｉｔｔｅｒ重役
‎全ての行動が監視され ‎記録されている
連続起業家
‎何を見ているか ‎閲覧時間はどのくらいか
‎閲覧時間も対象だよ
‎いつ寂しさを感じ ‎いつ鬱になるのか
〝現在の気分〞
〝写真の履歴〞 いつ別れた恋人の写真を 見るのか
〝行動の履歴〞 夜中に何をしているかも 全て分かる
〝性格診断〞
内向性か外向性か
〝性格診断〞
ノイローゼの内容や 性格も
‎想像を絶する量のデータを
‎彼らは持っている
‎前例なき事態ね
‎我々が無料で提供している ‎これらのデータは
サンディ･パラキラス
‎人間が監督することなく ‎システムに流れて
元Ｆａｃｅｂｏｏｋ 運営マネージャー
‎我々の行動パターンを ‎より正確に予測するんだ
〝オススメ〞
情報を売買すると 思われがちだが
‎Facebookは情報を渡さない
‎情報をどう使うか
‎我々の行動を予測する ‎モデルを作る
‎最強のモデルが勝つんだ
‎閲覧速度が遅い
‎平均利用時間だ
‎広告量低下 ‎友人と家族を出せ
‎画面の向こう側に
‎自分のアバターでも ‎持っているようだ
‎過去の行動や
‎クリック履歴
‎閲覧動画や“いいね”
‎これらが集まって ‎より正確な予測になる
‎このモデルがあれば ‎人々の行動を予測できる
‎試してみよう
‎目的地や
〝使用状況〞
‎どの動画を見るかも分かる
‎どんな感情に反応するかも
‎いいぞ
‎今年最強の大失態
‎“大失態”
‎いいね
‎次の動画を
‎スニーカーの広告を ‎差し込もう
‎テック企業には ‎３つの目標がある
‎まずは投稿への反応率だ ‎利用時間が増える
‎次に成長目標
‎何度もサイトへ来てもらい
‎友人を招待させる
‎そして広告目標だ ‎広告で儲けるために
‎確実な手を打つ
‎アルゴリズムが裏で支える
‎全ての数値が上がるように
‎何を見せるか決める
‎Facebookでよく議論していた
‎指先ひとつで ‎簡単に操作できないかと
‎ＣＥＯがそれを操作するのは ‎どうだとか
‎“韓国のユーザーを ‎増やしたい”
‎ポチッ
‎“広告を増やそう”
‎“収益を上げよう”
‎つまり…
‎これらのテック企業は ‎そのくらい正確だ
‎なぜ警告が出なかった
‎審判がダメだ
‎明らかに反則だよ
‎レベッカだ
‎知ってる
‎話しかけろよ
‎いつかは
‎カレンダーどおりなら ‎休憩時間だ
‎つつくか
‎ああ やれ
‎“タイラーに手を振ろう”
‎来い
‎手を振るんだ
‎彼女に話しかけろよ
‎“‎タイラーに ‎手を振りましょう”
‎つながった 計画どおりだ
‎次は079044238820だ ‎レベッカの投稿を見せよう
‎いいね ＧＰＳによると ‎２人は近くにいる
‎“親友を見つけた”
‎広告を出すぞ
‎競りを開始
‎“‎ヘアワックス”
ヘアワックス広告で 決まり
‎入札は468社 ‎3.262セントで落札だ
‎現在の人間関係は ‎オンラインが優先される
‎特に若い世代ではね
‎こんな世界だと ‎ズル賢い第三者が介入し
‎カネを出して ‎人とのつながりを操作する
‎これで収益が発生する
‎ＳＮＳによって所属感や ‎意思疎通の方法が操られ
‎操られたものしか知らない
‎そんな世代を ‎作り出してしまった
‎我々の行動はＳＮＳの操作に ‎よって決まってしまう
‎“十分に高度な技術は ‎魔法と区別がつかない”
‎アーサー･Ｃ･クラーク
‎どっちに向けばいい？
‎ここ？
‎こうすると ‎カメラにどう映る？
‎えっと
‎こう
‎えっ
‎もう一度
‎いいよ
‎いや どうだろう
‎このほうが…
‎クリスが驚いてる
‎いい感じ？
‎“手品！！！”
‎５歳の時に手品を学んだ
‎どんな教育水準の高い大人も ‎だますことができた
‎手品師は最初の神経科学者で
‎心理学者だよ
‎人の心がどう動くのかを ‎初めて理解したんだ
‎彼らは人々に ‎様々なことを試していた
‎手品師には分かる
‎自分では気づかない ‎無意識がね
‎だから驚かせられる
‎医者や弁護士や ‎核ミサイルを作れる人でさえ
‎自分の心の弱さには ‎気づかない
‎分野が違う
‎これは全人類に適用できる
スタンフォード大学
その観点では 技術に対する理解も
‎変わってくる
‎パースウェイシブ･ ‎テクノロジー研究所では
‎“説得”の心理学を ‎どう利用するかを研究した
‎技術にどう反映するか
‎この中の多くは天才だが
‎行動に変化をもたらす天才に ‎育てようと思う
‎シリコンバレーの多くの ‎人材が この講義を受けた
‎FacebookやUber ‎その他の企業の有力人物が
‎人々を動かすサービスの ‎作り方を学ぶ
‎トリスタンも
‎説得のデザインというのは
‎変えたい行動を ‎極端にしたデザインだ
‎“この行動をしろ”
‎“スクロールし続けろ”
再読込すると 新しい情報が出る
ジョー･トスカノ 「人間の自動化」著者
毎回そうなる
‎心理学では ‎“正の断続的強化”と言う
‎報酬があるかは分からないが
‎スロットマシーンと同じだ
‎意識的に使うだけでなく
‎深層心理にも浸透させて ‎習慣づけをする
‎プログラミングされるように
‎気づかれない
‎その人は…
‎スマホを目にするたびに
‎新しい情報があるかもと ‎思ってしまう
‎そしてスロットを回す
‎偶然じゃない 意図的だ
‎サンフランシスコの軍人に ‎彼は金の塊を届けた
‎サンフランシスコの人口は…
‎タグづけの例を挙げる
‎友人が写真にタグづけした ‎というメールが来る
‎当然の行動として ‎タップして写真を見る
‎無視できるものじゃない
‎人間の性格に ‎深く結びついている
‎こう聞くべきだ
‎なぜ写真を添付しない？
‎簡単に確認できるのに
‎Facebookは ‎この機能を最大限に利用した
‎ユーザーの行動を促せる
‎１日中タグをつけ合えばいい
‎“誰かさんは写りがいいね”
‎コメントだ
‎いいね
‎レベッカも確認済み ‎返事する
‎彼女が返信中だと知らせよう
‎記号を出す
‎“誰かさんは写りがいいね”
‎書き込んだ
‎彼女のコメントに ‎返信中だ
‎手が止まったぞ
‎予測入力だ
‎絵文字を出そう
‎“予測入力候補”
‎火(ホット)‎か…
‎ナスがいいのに
グロースハックという 分野がある
‎人間心理を研究して ‎ビジネスを成長させるんだ
‎新規ユーザーや行動が増え
‎より大勢を招待する
‎様々な研究を繰り返して ‎分かった
チャマス･ パリハピティヤ
‎10日で７人とつなげろ
元Ｆａｃｅｂｏｏｋ 成長戦略部長
‎以上だ
‎彼は初期のFacebookの ‎成長担当で
‎テック業界では有名人だ
‎様々な成長戦略を試し
‎すさまじいスピードで ‎成長させた
‎彼の戦略は ‎シリコンバレーの常識となり
‎様々なテック企業で使われた
‎彼が先駆けたのは ‎ささいな機能変更に対する‎―
‎ABテストだ
‎GoogleやFacebookは
‎ユーザーを対象とした ‎小さな実験を繰り返す
‎これらの絶え間ない実験で
‎ユーザーを望む方向へ ‎誘導する最適な方法を探す
‎操作だ
‎実験台になった気分だ
‎そう みんな実験台だよ
‎ガンを治療するためでもない
‎我々には何の得もない
‎単に より多くの広告を ‎見て欲しいだけ
‎金儲けのために
‎Facebookは大規模な ‎情動感染の実験を行った
‎Facebook上で ‎潜在意識に信号を送り
‎より多くの人に ‎投票させられるか試した
そして可能だと判明した
彼らが出した結論は
‎現実世界での行動と感情を
‎ユーザーには気づかれずに ‎操れるということ
‎ユーザーは全く気づかない
‎人が何に反応するのかを ‎知るために
‎ＡＩを使って ‎人間を分析しようとしている
‎クモの足を動かすために ‎神経を刺激するように
‎監獄実験と同じだ
‎マトリックス空間に閉じ込め
‎収益のために 行動から ‎カネとデータを抜き取る
‎誰にも気づかれない
‎なるべく早く ‎人間の心の操り方を把握して
‎ドーパミンを出させる
‎Facebookで大成功した
‎InstagramやWhatsApp
‎SnapchatやTwitterでも
‎私のようなハッカーが
‎思いつくようなことだ
ショーン･パーカー 元Ｆａｃｅｂｏｏｋ社長
‎人間の心の弱さを ‎利用して金儲けをする
‎私たち発明家や ‎クリエーターは…
‎私とマークと…
‎Instagramの ‎Ｋ･シストロムなどが
‎分かっていながらやったんだ
‎自転車の登場に怒る人は ‎いない
‎人間が自転車に乗り始めても
‎社会を悪くしたとは ‎言われない
‎自転車が子どもとの関係を ‎疎遠にして
‎民主主義を破壊すると ‎言う人はいない
‎自転車とは無縁の話だ
‎道具は静かに ただ存在し
‎使われるのを待つ
‎道具じゃないものは ‎要求をしてくる
‎誘惑し 操り ‎何かを引き出そうとする
‎道具としての ‎テクノロジーから‎―
‎中毒と操作の技術に ‎移行したんだ
‎そこだよ
‎ソーシャルメディアは ‎道具ではない
‎独自の目標を持ち ‎それを追求する手段がある
‎人の心を操るんだ
‎顧客を“ユーザー”と呼ぶ ‎業界は２つだけ
‎違法薬物とソフトウェアだ
‎エドワード･タフティ
‎私はPinterestの社長だった
‎帰宅してからも ‎スマホを手放せなかった
‎愛情を注ぐべき小さい子が ‎いるのに
‎パントリーで ‎メールを書いたり
‎Pinterestを見たり
‎皮肉だと思ったよ
‎昼間はこれのために働いて
‎仕事が終われば餌食になる
‎でも自分を止められなかった
‎一番ひどいのはTwitterだ
エイザ･ラスキン 元Ｆｉｒｅｆｏｘ社員
‎昔のRedditも
‎Redditを辞めるために ‎自分でソフトウェアを作った
‎メール中毒かな
‎自分で切実に感じる
‎興味深いことに
‎原理を知りながらも
‎自分をコントロールできない
‎怖いことだよ
‎彼らの手法を知っているのに
‎機械を手に取り ‎20分も無駄にする
‎朝 小便の前に ‎スマホを見るか
‎用を足しながら見る
‎選択肢は２つだけだ
‎意志でガマンしようと ‎してみた
‎“帰宅したら ‎スマホは車に置いていく”
‎寝室にはスマホを ‎持っていかないぞと‎―
‎自分に言い続けた
‎しかし夜の９時には
‎“スマホが欲しい”
‎それはつまり
‎意志は最初の試みで
‎その次は物理の力だ
‎キッチンセーフは ‎指定時間まで開かない
誘惑と戦うための 革命的な道具だ
‎誘惑になりそうなモノは ‎この中に入れる
‎そして時間を設定する
‎ボタンを押せば準備完了
‎これはすごい
‎家にあるよね
‎ゲームや携帯も…
‎あるわね
‎動き始めたら
‎設定時間になるまでは ‎開かない
‎ソーシャルメディアは麻薬よ
人は他の人と つながりたいという―
アンナ･レンケ博士 スタンフォード医大
基本欲求があり
薬物依存症病棟 医長 欲求はドーパミンの 分泌に直結している
‎人類の数百万年の進化は ‎その仕組みが基にある
‎共同体の中で生活して
‎パートナーを探し 繁殖する
‎人をつなげることに ‎最適化された‎―
‎ソーシャルメディアが
‎中毒を招くのは当然よ
‎やめて
‎夕飯の前にスニップを送るの
‎スニップ？
‎私も知らないわ
‎いい匂いだ
‎うれしい
‎今夜は五感をフル活用して
‎夕食を楽しみたい
‎だから食卓ではスマホ禁止よ
‎つまり
‎没収
‎本気？
‎ええ
‎了解
‎どうも ベンは？
‎母さんのスマホ狩り
‎これも
‎夕食が終わるまで ‎ここに置く
‎だからみんな安心してね
‎俺のだ
‎ダメ
‎フォークを取ってくる
‎ありがとう
‎開かないわよ
‎ロックされてる
‎諦めて
‎どんな話をする？
‎エクストリームセンターの ‎話はどうかな
‎イヤよ
‎政治の話はやめて
‎何それ？
‎聞いたか
‎話題が悪い
‎プロパガンダの集団
‎アイラ
‎ウソでしょ
‎俺が…
‎お願い
‎自分の子どもが心配よ
‎あなたの子どもも心配
‎自分の知識と経験をつかって
‎スマホやパソコンに費やす ‎時間を制限したい
‎どのくらいスマホを ‎使ってるか聞くと
‎長くて30分だと答える
１時間か １時間半ぐらいかな
アンナの息子 ジェームズ 15歳
‎利用時間を確認すると ‎３時間45分よ
‎ウソ
アンナの娘 マリー 17歳
ウソだよ 一日の平均で？
アンナの娘 マリー 17歳
‎そう
‎見てみる
‎毎日のように注意喚起してる
‎快楽の原則や
‎ドーパミン不足の状態や ‎中毒の危険性について
‎真実は？
‎平均２時間50分
‎今日はけっこう使った
‎過去７日
‎そのせい
‎Instagramが６時間13分 ‎私のほうがひどい
‎画面が粉々だ ‎よくやってくれたね
‎どういう意味？
‎姉さんが ‎母さんを不安にさせた
‎夕食には必要ない
‎たいした問題じゃないだろう
‎なら一週間やめてみたら？
‎そうね
‎１週間 スマホを使わずに ‎いられたら
‎画面を直してあげる
‎今から？
‎ええ
‎いいよ 乗った
‎携帯をここに置くのよ
‎電源をつなげる
‎証拠を残すためだ
‎いいわ
‎今からよ
‎１週間
‎できるかな
‎どうかしら
‎食べてて
‎いい夕食ね
‎これらのサービスは
‎子どもに配慮して ‎作られたわけじゃない
‎デザイン目標は単純だ
‎次のビデオを勧めること
‎美しい自撮りを促すこと
‎“いいね”
‎“削除しますか？”
‎“はい”
‎関心がある部分を ‎操作するだけじゃない
‎子どもの潜在意識にも浸透し ‎奪っていく
‎自分の価値や ‎アイデンティティーまで
‎“かわいい”
‎“キレイね！”
‎“ステキ”
‎“耳がデカいね”
‎“笑”
‎属する集団にどう思われるか ‎気にしてしまう
〝いい感じ〞
‎人間はそう進化してきた
‎しかしその対象は ‎小さな集団だったはずだ
‎５分ごとに‎―
‎他人の反応を確認するような ‎進化はしていない
‎そんな経験には耐えられない
‎幻想にすぎない完璧さを求め ‎自分の人生を編集する
‎“いいね”などで ‎短期的な報酬を得られるから
‎“いいね”を価値や真実と ‎勘違いする
‎はかない人気に過ぎないのに
‎短期的な報酬を得た後は
‎むなしくなる
‎悪循環に陥るんだ
‎“次は何をすればいい？ ‎また報償がほしい”
‎20億人が“いいね”を求めて
‎他人の反応に過剰反応すると ‎考えてみて
‎これは良くない
‎実に良くない
Ｊ･ハ(ジョナサン)イト博士 社会心理学教授
10代の青少年の間で 鬱と不安障害が増えた
「社会はなぜ左と右に わかれるのか」の著者
‎2011年から2013年の間に ‎始まった
‎アメリカ国内で10代の少女が ‎自傷行為で入院する割合は
‎増え続けている
‎2011年までは安定していた ‎数値が急増し始めた
‎10代後半では62％増だ
‎“自傷による入院数”
‎10代前半は189％増だ ‎３倍に近い
‎自殺も同じ傾向を見せている
〝１００万人当たり 自殺率ー少女〞
‎15歳から19歳少女の自殺率は
‎今世紀の最初の10年に対して ‎70％増えた
‎自殺率が低い ‎10代前半の少女さえ
‎151％増えている
‎ソーシャルメディアのせいだ
〝携帯版ＳＮＳが登場〞
‎1996年以降に産まれた ‎Ｚ世代は
‎中学時代にＳＮＳに接した ‎初の世代だ
‎彼らの日常では
‎帰宅してすぐに携帯を使う
‎この世代はもろく 不安で ‎鬱になりやすい
‎そして ‎リスクを取ろうとしない
‎運転免許の取得率も ‎下がっている
‎デートや恋愛に関しても
‎経験する比率が ‎急激に下がっている
‎大きな変化だ
‎そして自傷行為の入院は
‎家族のトラウマも ‎生んでしまう
‎“なぜうちの子が…”
‎明白だよ
‎ＳＮＳは人を殺したり ‎自殺を招いている
‎ＳＮＳに踊らされる我が子を ‎見て喜ぶ そんな親は…
‎いない
‎集中力が落ちて ‎宿題ができない
‎非現実的な美しさを求める
‎そんなの誰も望まない
‎誰もだ
‎以前は保護されていた
‎子どもがアニメを見るときは ‎気にしていたよ
‎“この年の子どもに ‎こんな広告はダメ”
‎でもキッズ版のYouTubeが ‎広まったことで
‎そっちを見るようになった
‎保護手段も規制も失われた
‎“スマホを ‎利用していない時間”
‎我々は新世代の人間を ‎生み出してしまった
‎不安や寂しさや恐怖を ‎感じても‎―
‎自分の力で対処できない
‎デジタルおしゃぶり‎に ‎頼る世代を作ってしまった
‎Photoshopはしなかった
‎通知を利用したり
‎ＡＩでユーザーの ‎中毒パターンを予測したり
文字や色の組み合わせを テストしたり
シカゴ アンチ･トラスト 技術カンファレンス
人の心を操ったりとかね
これは新しい影響力だ
‎中毒にさせたり ‎行動を変えてしまう
‎これらの方法は ‎進化したんだろう
‎おそらく
‎新聞や印刷機が登場した時も
‎テレビが登場した時も ‎そうだった
‎放送局も３つだけで
‎当時はね
‎そう
‎進化と言っていたが
‎進化は以前からずっと ‎存在している
‎これは‎最新な‎だけさ
‎慣れるしかないと言うんだ
‎他の全てと同じように ‎電子機器と共存していくと
‎全く新しい別のものなのに
ランディー･ フェルナンド
最も危険なのは こういう現象が
ランディー･ フェルナンド
急激に進化する技術に よって増幅されること
技術倫理研究所 共同設立者
〝コンピューターの 情報処理能力〞
１９６０年代と比べて
情報処理能力は １兆倍になっている
こんな成長率は 他では見られない
自動車は２倍ほどだ
他の数字は 全て無視できる規模だ
‎そして重要なのは
‎我々の脳は ‎進化していないということ
‎“スマホを ‎利用していない時間”
‎人間の心や体や ‎物理的な能力の
‎根本は変わらない
‎いつか新種の人間を ‎産み出せるのかもしれない
‎しかし我々の持つ脳という ‎ハードウェアは
‎数百万年前のモノで
‎我々が見る画面の向こうには
‎目的を持って動く ‎スーパーコンピュータがある
‎さて 誰が勝つだろう
‎なぜだ
‎さあ
‎おかしい 彼はどこだ
‎友人を表示しすぎたか
‎多分
‎広告かも
‎何かがおかしい ‎復活モードに入ろう
‎ＡＩが地球を滅ぼすと ‎想像したならば
‎ターミネーターや ‎ドローンを見て
‎戻ってくる
‎“ＡＩが人を殺す”と ‎思っただろう
‎しかし世界はすでに ‎ＡＩに支配されている
‎ＡＩはメタファーにすぎない
Ｇｏｏｇｌｅのような 会社には
巨大なスペースがあり
‎中はコンピューターで ‎いっぱいだ
‎数え切れないほどだ
‎これらは連結されて
‎複雑なプログラムを実行する
‎24時間 情報を送り合う
‎様々なプログラムが
‎同じ機械の上で動く
‎簡単なアルゴリズムもある
‎そして とても複雑な ‎アルゴリズムもある
キャシー･オニール
アルゴリズムには 作り手の意思が現れる
「ＡＩ･ビッグデータの 罠」著者
‎客観的ではない
‎成功の定義によって ‎最適化されている
‎営利企業が
‎アルゴリズムを構築するなら
‎当然 成功の定義は
‎商業的利益よ
‎収益ね
‎“この結果が欲しい”と ‎設定しておくと
‎コンピューターが ‎方法を研究する
‎“機械学習”だ
‎学習により成長して
‎投稿の選定が上手になり ‎利用時間を増やす
‎そのために何が行われるのか
‎誰にも分からない
アルゴリズムは意志を 持っているとも言える
Ｂ･リ(ベイリー)チャードソン
アルゴリズムは意志を 持っているとも言える
元Ｉｎｓｔａｇｒａｍ 社員
人が作ったとしても
‎機械が自らそれを書き換える
‎FacebookとかTwitterなどの ‎テック企業でも…
‎システム構造を ‎理解しているのは小数だけ
‎コンテンツの影響力は
‎彼らにも分からない
‎人類には もう制御できない
‎我々が見る情報は ‎機械が制御している
‎機械に統制されている
‎彼の居住地域で ‎比較対象を検索中
‎ドッペルゲンガーを探せ
‎彼の居住地域だと ‎行動が一致するのは13,694人
‎流行は？
‎確実に反応するものを探せ
‎普通のものに反応がない
‎かわいい女の子にも
‎エクストリームセンターなら
‎アクセス確率は62.3％
‎悪くない
‎関心を引くには弱い
‎タグ通知はすでに試した
‎招待やイベント ‎レベッカのメッセージも
‎ユーザー01265923010は ‎どうかな
‎ベンは彼女の投稿に ‎“いいね”をしなくなった
‎アナのネタなら ‎92.3％の確率で戻る
‎“新しい恋人”
‎彼女の‎友人‎も
‎“スマホを ‎利用していない時間”
〝元カノに 恋人ができました〞
ウソだろ
‎落ち着け
〝交際中： アナとルイズ〞
‎マジかよ
‎来たぞ
‎稼ぐ時間‎が来た
‎世界の人とつなげる
‎彼の気に入る情報を送る
‎その情報は ‎ベンにとって有益かな
‎さあね
‎魔法をかけよう
‎君は俺のモノ
‎いいかげんにしろよ
‎冗談じゃない
‎“ＡＢテスト”
‎冗談じゃない
‎もう耐えられない
‎遊び回って
‎分かるだろう
‎ナメるなよ
‎魔法をかけよう
‎君は俺のモノ
‎俺のモノ
‎Facebookを ‎使っているとしよう
‎君の全てを知り尽くしている ‎人工知能と
‎戦うことになる
‎君は相手について ‎何も知らない
‎ネコの動画が見られる以外は
‎公平な戦いではない
‎もう時間よ 行きましょう
‎ベン
‎ちょっと
‎学校に行くわよ
‎技術倫理研究所
‎調子は？
‎緊張した
‎我々は皆
‎技術が人間を圧倒する瞬間を ‎待っていた
‎技術が人間を超え ‎人間に代わる瞬間を
‎しかし その前に…
‎技術が人間の弱点を握る ‎瞬間がやってきた
‎この“分岐点”を超えると ‎技術が中毒の原因となる
‎人々の対立や怒りを生んだり
‎虚栄心の塊になる
‎人間の本性を支配して
‎技術が人類に勝ったんだ
‎ごめん
‎Facebookの弊害を‎―
‎人々を理解させたいときに ‎よく使う例えは
‎ウィキペディアだ
‎誰が見ても内容は同じ
ウィキペディア フリー百科事典
それが共通認識であり 事実だ
‎しかし ‎こう言われたらどうかな
‎“個人ごとに異なる内容を ‎表示しよう”
‎”それで金を稼ぐ”
‎ウィキペディアは計算する
‎“金儲けのために この人の ‎表示を少し変えてみよう”
‎そして内容を変える
‎ありえない？
‎ありえるさ
‎それがFacebookだ
‎YouTubeも同じだ
‎“気候変動”を検索すると
‎住所によって結果が異なる
〝気候変動は…〞
ある都市ではこう出る
〝気候変動はウソだ〞
他の都市での検索結果は
〝自然を破壊する〞
気候変動の真実ではなく
検索する場所と
Ｇｏｏｇｌｅの知識に よる
‎共通の友人が一致するような ‎仲のいい２人でも
‎Facebook上で見る情報は
‎同じではないんだ
‎全然違う
‎彼らが見るのは
‎コンピューターに計算された ‎結果なんだ
‎2.7億人による ‎「トゥルーマン･ショー」だ
‎人によって異なる現実がある
‎事実がある
もしトゥルーマンが 世界の真実に―
気づかなかったら どうなったのか
‎提示された現実を受け入れる
‎簡単だよ
‎皆が自分に同意してくれると ‎勘違いする
‎同じ意見しか見ないから
‎そんな状態に陥れば ‎簡単にだまされる
‎手品にだまされるようにね
‎カード手品を見ている観客は
‎カードを１枚選べと ‎言われたら
‎仕組まれた１枚を選ぶ
‎これがFacebookのやり方だ
‎“友達を自由に選べ”
‎手品師と同じく全部ウソだ
‎選ぶのはFacebookだ
‎みんな自分なりの真実を ‎生きている
規模が大きくなると
ラシダ･リチャードソン ＮＹＵ法学部 客員教授
自分の世界観に 相反する情報は
Ａ．Ｉ．ＮＯＷ研究所 ポリシーリサーチ局長
受け入れられなくなる
‎客観的で建設的な人間には ‎なれなくなる
‎目を覚ませ ウソを信じるな
‎意見が違う人を目にすると
‎“なぜこんなにバカなんだ”
‎“俺は数多くの情報を見た”
‎“同じ情報を見てないのか”
‎同じ情報は見ていない
‎目を覚ませ ウソを信じるな
‎共和党員はどう？
‎無知な人たちよ
‎民主党は政党ではなく ‎犯罪集団だ
‎１万人のアメリカ人に対する ‎研究結果によると
‎個人および政治的な面で ‎二極化が顕著になっています
〝アメリカ政治の 二極化〞
‎共和党員の３分の１以上が
‎民主党を国家への脅威と思い
‎民主党員の４分の１は ‎共和党を脅威と思う
‎政治的な二極化などの問題は
‎ケーブルテレビによるものだ
‎メディアも同じ問題を抱える
‎我々の関心を広告主に ‎売り渡すビジネスモデル
‎ネットはその新たな仕組みだ
ギヨーム･シャスロー
‎YouTubeのおすすめ動画に ‎関わっていたが
元ＹｏｕＴｕｂｅ エンジニア
‎自分の作ったアルゴリズムが
元ＹｏｕＴｕｂｅ エンジニア
‎二極化を招いてないか心配だ
‎視聴時間という観点では
‎二極化は とても効率的だ
‎教師がこれを教える理由は ‎カネしかない
‎ねえ ベン
‎サッカーは？
‎ニュースを見てるんだ
‎エクストリームセンターは…
‎これはニュースじゃない
‎姉さんだって ‎社会を批判するだろう
‎これはプロパガンダ
‎どっちも真実じゃない
‎こんなのは良くない
‎練習に行って
‎君のために言ってるんだ
‎惑わされないでほしい ‎いいか？
〝おすすめ動画〞
‎アルゴリズムは ‎人の欲しがるものを与えない
‎君を閉じ込めようとしている ‎有効な落とし穴はどれかと‎―
‎試しているんだ
‎１つでも ‎おすすめ動画を見ると
‎繰り返し勧めてくる
‎誰も望んでいない
‎システムが ‎そうなっているだけ
‎バスケ選手の ‎Ｋ･アービングが
‎地球平面説を信じたのは
‎YouTubeのせいだ
Ｙｏｕｔｕｂｅには 落とし穴が待っている
彼はＮＰＲに出て
‎“信じて悪かった”と謝った
‎すると今度は ‎“反対派にやられたか”
‎アルゴリズムにより
‎地球平面説は ‎数百万回も勧められた
‎影響された人は少ないと ‎思いたいが
‎アルゴリズムは ‎日々賢くなる
‎今は“地球は平面だ”と ‎広めているが
‎今後どんなウソを広めるか ‎分からない
11月７日に ピザゲートが勃発した
ピザゲート…
‎まったく
どう始まったのか 確信は持てないけど
ルネ･ディレスタ 研究主任
スタンフォード･ インターネット観測所 特定のピザ屋への注文が 人身売買の暗号だと言う
‎Facebookでフォロワーが増え
‎Facebookは普通のユーザーに ‎ピザゲートのグループを‎―
‎勧めだした
‎反ワクチンやケムトレイルを ‎信じるユーザーや
‎陰謀論に だまされやすいと ‎判断されたユーザーに
‎Facebookがピザゲートを ‎オススメする
ついには ある男が 銃を持ってピザ屋に現れ
‎売買される子どもを ‎地下から救出すると
‎でもそこに地下はなかった
なぜ来た
確認だ
何を？
小児性愛だ
何？
小児性愛
ピザゲートの話だな
‎これは陰謀論が
‎ＳＮＳで拡散する例の１つ
‎ＳＮＳのオススメ機能が
‎ピザゲートの情報を
‎自発的に提供している
〝ピザゲート 民主党と小児性愛〞
ＭＩＴの研究では
‎フェイクニュースは ‎ツイッターで６倍速く広まる
‎誰か１人が他の６人より ‎有利な世界はどうなんだろう
こういう現象は…
人間の行動の基礎を 傾ける
ある行動は難しく ある行動は簡単に
‎坂を上るのは自由だが
‎上る人は減る
‎大規模に床を傾けて
‎人の考えや行動を ‎変えている
‎偽情報に偏ったシステムを ‎作ってしまった
‎作りたいというより
‎真実より偽情報のほうが ‎金を生むから
‎真実はつまらない
‎収益のために偽情報を売る
‎金を払う者に ‎情報発信を許せば
‎そのたびに儲かる仕組みだ
‎気候変動だって？
‎ウソか本当か そこが問題だ
‎こういう話題で ‎我々を分裂させて
‎彼らは強くなっていく
‎Facebookには ‎兆単位の情報がある
‎何が真実なのか分からない
‎だからこうやって ‎話をしないといけない
‎COVID-19に関する偽情報が
ネットで広がっています
〝コカインが コロナウイルスを消す〞
水を飲めばウイルスが 流される
〝コロナウイルスを 解き明かす〞
ＳＮＳで広がっている 偽情報の一つです
各国の対応を テストするために
政府が作ったウイルスだ
〝マジかよ〞
コロナはウソだ
〝コロナウイルスに だまされている？〞
ＳＡＲＳ コロナ
〝コロナウイルスに だまされている？〞
作られたのは２０１８年
アメリカ政府が 始めたんだ
病気の人なんて 誰もいない
周りにもいない
何かを隠すため ウイルスを言い訳にした
みんなを閉じ込めている
コロナウイルスではなく
５Ｇが放つ放射能で 死ぬのよ
〝５Ｇタワーが 燃やされる〞
噂(うわさ)はすぐに広まる
携帯電話基地局が 破壊されたり
〝ウイルスの恐怖で 基地局を燃やす〞
ロシアや中国が 陰謀論を広めたり
今朝 ウクライナでは デモが…
ついに 命に関わる 問題になった
〝コロナウイルスで 非常事態〞
コロナウイルスの 偽情報は 〝２０２０年４月 ＮＹの集団埋葬〞
‎5200万回もアクセスされた
コロイダルシルバーは 効果がある？
〝バカーによると コロイダルシルバーは〞
その種類については まだテスト前だけど…
〝コロナウイルスを 12時間内に除去する〞
情報エコシステムの 歪みが
ＣＯＶＩＤで 極端に現れている
〝ハイル･ウィットマー〞
ＳＮＳによって 噂は急激に広まり
‎何が真実なのか ‎分からなくする
‎サッカーは？
練習前におやつ買うけど 一緒に来る？
‎何でもない
‎10人中９人は不幸だ
‎ＥＣは歴史を ‎繰り返しているだけ
‎俺たちは世の雑音に ‎抵抗しているんだ
‎君たちは仲間だ 信じてるよ
‎ＥＣは有効だった
‎気に入ったな
‎売るぞ
‎入札は843件 ‎武器製造会社が落札
‎イベントを宣伝しよう
‎今週末に近所で集会がある
‎ブロガーが待機中
‎何でもやる準備ができている
‎何でもだ
‎登録して
‎また見に来てくれ ‎なぜなら…
‎大きいイベントがある
‎デカいぜ
‎説得のための道具として ‎Facebookは最強だ
‎史上最強と言っていい
‎これが独裁者の手に入ると ‎考えてみてくれ
‎人々を操りたいのなら
‎Facebook以上に ‎効率的なものはない
シンシア･ウォン
政府や悪の集団が ＳＮＳであおることで
人権ＮＧＯの 元 主任研究員
政府や悪の集団が ＳＮＳであおることで
‎現実の暴力につながる
‎ミャンマーの実例がある
‎“‎ミャンマー大統領 ‎執務室”
ミャンマーのネットは
‎Facebookと同じ意味
‎お店でスマホを買うと
‎Facebookのアカウントも ‎お店が作ってくれる
‎スマホを受け取って ‎最初に使うのは
‎使い方が分かるFacebook
‎ミャンマーでの ‎ヘイトスピーチが
‎Facebookの新たな問題に
‎イスラム教徒を殺すな
‎Facebookは軍部や ‎悪意ある集団に
世論を操作する手段を 与えた
〝ロヒンギャは ミャンマー人にあらず〞
ロヒンギャへの暴力を 扇動した
‎大量虐殺を行ったり ‎町全体を燃やしたり
〝軍のレイプ〞
‎レイプを含む ‎深刻な人権問題が起こり
‎70万のロヒンギャ難民が ‎国外へ逃亡した
‎以前もプロパガンダは ‎存在していた
ＳＮＳという プラットフォームは
歪んだメッセージを 伝えやすくした
しかも安価で
‎選挙を操作したいなら
‎Facebookの陰謀論者グループ
‎数百の人が
‎地球は平らで
‎月面着陸はウソだと ‎信じている
‎こういう人たちの情報を ‎注文できる
‎そうすれば喜んで ‎数千のユーザーを表示する
〝行進しよう〞
‎そうすれば喜んで ‎数千のユーザーを表示する
〝投票するな〞
‎そこに新しい陰謀論を注ぐ
‎3.4セントで売った
‎動画広告を出そう
‎準備完了
‎アルゴリズムと政治家は ‎我々の操作を‎―
‎習熟したんだ
‎真実のような ‎フェイクニュースを作り
‎ウソで我々を惑わせる
‎自分の存在や信念が ‎薄れていく
‎…味方を選ぶ
‎どこもウソだらけだ
‎あいつらは権力を独占して ‎全てを操っている
‎我々の心も操ろうとしている
‎“真実を疑え”
〝ワクチンの副作用を 隠すな〞
‎真実が通じない世界だ
〝ワクチンは毒だ〞
‎人々は政府をうそつきと言う
〝コロナウイルスは 民主党が広めた〞
全てが陰謀だ
〝コロナウイルスは 民主党が広めた〞
誰も信じない 反対派は憎い
‎これが未来だ
‎イタリアとスペインでも ‎政治の葛藤が続いています
ヨーロッパの中道派は 過半数を失い
Ｍ･サ(マッテオ)ルヴィーニ 同盟党
‎極右派や極左派が ‎躍進しました
２０１８年 スペイン
‎下がって
‎行くぞ
これらのアカウントは 〝Ｔｗｉｔｔｅｒで 中国が香港を扇動〞
２０１９年 香港
‎政治不安をあおっています
２０１９年 香港
‎分かった
‎FacebookやＳＮＳを
‎情報源にする国の未来は？
民主主義が崩れる
マリア･レッサ Ｒａｐｐｌｅ代表
６ヵ月で
シカゴでの衝突以来
デモ隊と支持者の衝突が 絶えません
‎民主主義ヘの信頼が ‎試されています
‎民主主義が揺さぶられている
‎攻撃の対象とされる国は
‎選挙が行われる国
‎大規模で行われる
‎政府や億万長者たちが ‎こう言う
‎“ケニアを揺さぶりたい”
‎“アンゴラは安いよ”
‎ブラジルの選挙は前代未聞
‎ＳＮＳ選挙運動でした
〝ボルソナロ氏が当選〞
テック企業の 作ったツールが
〝支持率94％〞
‎社会を動揺させ侵食している
‎全世界で同時に
‎ドイツ スペイン フランス ‎ブラジル オーストラリア
‎いわゆる‎先進国‎が
‎内部分裂している
‎共通点は？
‎2016年の選挙にFacebookが ‎影響したと思いますか
‎難しい問題だね
‎それは…
２０１８年 ３月
‎いろいろな要因があったと ‎思うよ
〝テック業界の大物が 議会で証言〞 テック業界の代表が 議会で
大統領選挙の
‎ロシア介入について ‎証言します
‎第三者による操作は ‎ハッキングではない
‎ロシアはハッキングを ‎していない
‎Facebookが作ったツールを
‎合法的に利用して
‎汚い目的を達成した
‎遠隔戦争だ
‎国境を侵略せずに
‎他国を操ることができる
ごみ箱が乱暴に 押し出されています
誰に投票するかは 関係ない
〝カリフォルニアのデモ〝
混乱と分裂を 生み出すのが目的だ
〝対立する政治集会が 衝突〞
ハンティントン･ ビーチで…
‎相手の話を聞こうとしない ‎２つの集団をつくる
‎相手を信頼しない
‎憎悪がむき出しになり…
‎人種間の暴力に発展しました
〝バージニアで衝突 ３人死亡〞
‎ベン
‎姉さん
‎かかってこい
‎手を上げろ 膝をつけ
‎ベン
‎手を上げて
‎振り向いて膝をつけ
‎高額入札に ‎売っていいものか？
２０１９年 フランス
‎一部の人にうそを広めて ‎文化戦争を起こす
‎民主主義が ‎売り物になった世界だ
‎それでいい？
‎この国の人々は
‎もう会話をしない
マルコ･ルビオ フロリダ州 上院議員
‎選挙で誰に投票したかで ‎友人を選ぶ
聞きたいことを言う 番組しか見ない
‎部族主義が ‎我々を駄目にしている
ジェフ･フレーク 元 上院議員
‎国を分裂させている
ジェフ･フレーク 元 上院議員
‎常識を持つ ‎大人の行動ではない
‎自分が正しいと思うなら
‎妥協する必要も ‎団結する必要もない
‎関わる必要がなくなる
‎現実に対する共通の認識を ‎持てないのなら国ではない
ザッカーバーグ氏
長期的には より多くのＡＩを開発し
一般的なユーザーとは 違うパターンを探します
解ける問題のように 見せかけているけど
‎それはウソよ
ＡＩに真実が分かる日は 来ない
‎フェイクニュースは ‎ＡＩには解決できない
‎Googleは答えられない
‎“これは陰謀か真実か”
‎真実を知らない
‎クリックこそが真実の尺度よ
‎真実とは何か ‎真実は存在するのか
‎共通認識を持てないのなら
‎終わりだよ
‎基礎となる問いだ
‎共通認識がなければ
‎他の問題に対応できない
‎地球平面説サッカー部？
‎スポーツはもういい
‎シリコンバレーの多くの人は
‎自分が超頭脳を作っていて
‎ユーザーは交換可能な ‎神経細胞だと信じている
‎そして この考え方は ‎ユーザーを
‎コンピューターの部品と ‎見なす
‎超頭脳のために
‎ユーザーの行動を ‎プログラミングしようとする
‎対価はない 承認もされない
‎決定能力もない
‎コンピューターのノードなら ‎プログラムされて当然だ
‎まったく
‎テックが人間の存在価値を ‎脅かす
‎大げさに聞こえるかもね
‎こう考えるのも当然だと思う
‎“ただのスマホだ”
‎いじるぐらいで
‎存在価値への脅威？
‎画面の向こうの ‎スーパーコンピュータが
‎動画を勧めても ‎脅威とは思えない
‎技術そのものが ‎脅威というわけではない
説得のための技術に 関する上院聴聞会
‎社会の闇を引き出す力が ‎問題だ
‎その闇とは ‎存在価値を失うこと
アメリカ合衆国上院
‎もし技術が混沌や怒りを…
‎礼儀や信頼の欠如
‎孤独 疎外 さらなる二極化
‎選挙不正や大衆主義を ‎生み出し
‎問題から目をそらすなら
‎社会問題だ
‎今 社会は ‎自浄作用がきかなくなり
‎混沌は深まる一方だ
‎全ての人に影響を及ぼす
これらのサービスは デジタルモンスターだ
〝テック企業と アルゴリズム〞
世界を好きに変えている
〝上院 商業･科学･ 運輸委員会〞
子どもの精神も政治も
‎社会に対する責任も ‎負っていない
‎つまり…
‎誰の責任だと思う？
ダン･サリヴァン アラスカ州 上院議員
‎プラットフォームが ‎選挙の広告を載せるなら
‎選挙を守る責任もある
‎子どもの遊びを独占するなら
‎子どもを守る責任もある
‎人の関心を得るための競争は ‎終わらない
‎技術はさらに生活を侵食する
‎画面から ‎目を離させないように
‎ＡＩは進歩し続ける
‎私は62歳で
‎この瞬間にも ‎老いていっている
‎だがこれだけは言いたい
‎これらが現実となった世界に ‎住むよりも
ジョン･テスター モンタナ州 上院議員
‎死んだほうがましだ
‎つまり私は… 死ぬほど怖い
‎君もそう思うか？
‎未知の恐怖を ‎感じているだけなのか
‎何が一番怖い？
‎直近で考えられるのは
‎内戦かな
‎我々が何もせずに ‎20年経ったら
‎故意的な無知‎によって ‎文明は滅びるよ
‎気候変動に対応できない
‎世界の民主主義を劣化させて
‎異様な独裁社会にしてしまう
‎経済も破綻させるだろう
‎人間は生き残れない
‎存亡の危機だよ
‎こうなる前の世界を知る‎―
‎最後の世代は今かも知れない
‎歪んだ社会にいると ‎歪みに気づかない
‎行き先がどこであれ ‎最後の瞬間までは
‎バトンをつなぐだけだ
‎バックミンスター･フラー
‎今の話は滅亡への一本道に ‎聞こえただろう
‎“技術の発展が ‎世界を駄目にしている”とね
‎それは違う
‎地獄であると同時に ‎楽園でもあるから混乱する
‎スマホでボタンを押すと ‎30秒で車が現れて
‎行きたい場所に行ける
‎魔法のようなものだよ
‎“いいね”を作ったときは ‎愛を広げたかった
‎“いいね”をもらえなくて ‎鬱になっていく10代の子や
‎政治的な二極化は予想外だ
‎彼らも悪党ではない
‎悪いのはビジネスモデル
‎サービスを閉じて ‎20億ドルの価値を破壊し
‎株主に訴えられることも ‎できるだろうけど
‎ジーニーはランプに戻らない
直すことはできるけど
Ａ･ロ(アレックス)エッター 元Ｔｗｉｔｔｅｒ重役
利益を出す必要がある
Ａ･ロ(アレックス)エッター 元Ｔｗｉｔｔｅｒ重役
成長するほど 変えられなくなる
‎多くの人がビジネスモデルに ‎縛られている
‎収益や株主の圧力にも
‎これでは変化を起こせない
‎会社が金を儲けるのは ‎悪くない
‎悪いのは規制もルールも ‎競争もない状態
‎サービスが‎政府化する‎ことだ
‎“自分で規制する”と言うが
‎それはウソだ 話にならない
‎カネが世界を動かしている
‎この問題を解くには ‎収益構造を再調整しないと
‎収益面では変わる理由がない
‎だから規制が必要だ
‎携帯会社が抱えるデータは
‎法案で規制されている
‎デジタルプライバシーは ‎規制法がない
‎データ収集と処理に ‎課税することもできる
‎水道と同じように
‎データ量によって課税する
‎データを集めない理由が ‎できる
‎法律が整っていない
‎今の問題は ‎ユーザーの権利ではなく
‎巨大企業の利益と特権が ‎守られていること
‎金と権力にずっと従うのか
‎こう言えないか
‎“国家の利益を ‎優先すべき時だ”
‎“国民たるユーザーの利益が ‎大事だ”
‎“億万長者の利益よりはね”
‎この市場は民主主義と自由を ‎傷つけている
‎法律で規制すべきよ
‎過激な提案ではない
‎他の市場は規制している
‎臓器密売がそう
‎人身売買もそうよ
‎放っておくと ‎必ず害をもたらすから
‎この世界は
‎生きている木より ‎死んだ木が高く売れて
‎生きたクジラより ‎死んだクジラが高く売れる
‎経済はずっとそうだった
‎企業は規制されない限り ‎森を破壊してクジラを殺す
‎地球が破壊されると知りつつ ‎石油を掘り出す
‎次の世代に負を引き継ぐと ‎知っているのに
‎短期的な思考だ
‎収益が宗教と化して
‎利益のために行動する企業が ‎いい結果をもたらすと信じる
‎環境問題がいい例だ
‎この信仰が最初から ‎間違っていたと気づくこと
‎それが最後の希望だ
‎我々は木であり ‎クジラでもある
‎関心が採掘される
‎企業にとって我々は
‎画面に釘づけになり
‎広告を見ているほうが ‎利益になる
‎その結果として
‎企業はパワフルなＡＩを使い
‎我々の目標や価値や ‎人生に沿ったコンテンツより
‎企業が望むコンテンツを ‎見せる
‎Ｓ(スティーブ)‎･ジョブズ
‎コンピューターは
‎人類最高の発明品だ
‎心の自転車とも言える
‎初期のシリコンバレーは ‎人道的な技術を目指していた
‎それは正しいというより ‎カッコいいことになり
‎失われた
‎ネットの世界は変わっていて ‎実験的だった
‎ネット上では ‎創造的なことが起こる
‎でも今は ‎巨大なショッピングモール
‎何かもっと ‎できることがあると思う
‎私は楽観主義者よ
‎ＳＮＳは変えられると思う
‎技術は物理法則とは違う
‎人の選択によって ‎作られるものだ
‎人は技術を変えられる
‎ここで問うべき質問は
‎この結果を生み出したのは ‎我々だと認めるかどうか
‎自分が作ったものを ‎変える責任がある
‎人間を油田のように ‎扱ってはいけない
‎俺だけ…
‎マジかよ
‎健康な社会のために
‎人を蝕む収益モデルを ‎やめよう
‎倫理的なデザインを求めよう
‎鉱山のような扱いは ‎やめてもらおう
‎世界をより良くするために
‎何かが改善されるときは ‎いつだって
‎誰がこう言ったときだ
‎“アホらしい 直そう”
‎批判して改善するんだ
‎批判者こそ楽観主義者だ
‎やあ
‎おかしいよね
‎サービスの基本設計自体が
‎悪い結果を産む
‎業界全体がね
‎全て変えようと言うと ‎大変かもしれない
‎でも変えるべきだ
‎変えられるかな
‎変えないと
‎楽観視しているように見える
‎そう？
‎信じられない
‎お先真っ暗って言ってるのに
‎この先は地獄で
‎抜け出せたら奇跡だ
‎その奇跡はみんなの意志
‎方法は見つかると思ってる
‎時間はかかるだろうけど
‎問題を認識しない人も多い
‎現段階で ‎技術が直面している失敗は
‎リーダーシップの欠如よ
‎完璧でないものに対して
‎人々が前に出て議論している
‎新しいモノを作るように
‎結局のところ機械は
‎社会の圧力がないと ‎変わらない
‎これらの技術を利用してでも
‎議論し合い 意見を言えば
‎流れを変えることができる
‎私はテック業界の一員だ
‎テック企業を滅ぼしたくない
‎業界をリフォームしたい
‎アプリをたくさん削除した
‎時間の無駄だと思った
‎ＳＮＳやニュースアプリ
‎通知も切った
‎すぐに必要な情報しか ‎通知を受け取らない
‎誘惑の原因を絶つ
‎通知を減らして
‎通知を切る
‎通知を切るんだ
‎GoogleからQwantに移った
‎検索履歴を保存しない
‎YouTubeの ‎おすすめ動画を見るな
‎自分で選べ それも戦いだ
‎Google Chromeの拡張機能で ‎おすすめ動画を非表示にする
‎自分が作った機能を ‎無にするの？
‎ええ
‎共有する前に ‎事実関係の確認を
‎感情を操作しているように ‎感じたら それが正しい
‎クリックは投票だ
‎クリックで
‎このシステムを ‎支援することになる
‎情報を偏食しないように ‎心がけて
‎私は意見が違う人も ‎フォローする
‎違う視点にも接したいから
‎テック業界の人は ‎子どもにＳＮＳを使わせない
‎ＳＮＳは使わせない
‎家庭のルール？
‎ええ
‎我々はＳＮＳに熱狂している
‎大好きだよ
‎でも子どもには使わせない
‎私は３つのルールを作った
‎研究結果に基づいているし ‎守りやすい
‎１つ目は寝室に ‎電子機器を置かないこと
‎寝る30分前には ‎電子機器を外に出す
‎２つ目は高校までＳＮＳ禁止
‎16歳まで待つべきだ
‎高校生になるまで待とう
‎３つ目は ‎時間を予算化すること
‎子どもと相談する
‎“電子機器の利用は ‎何時間が適切だと思う？”
‎妥当な答えが出る
‎俺も分かってるよ
‎ＳＮＳの利用は止められない
‎だが数人でいい
‎数人がやめるだけでも ‎意味がある
‎世論操作されていない人が ‎十分に集まれば
‎社会の諸問題に対して ‎きちんと議論できる
‎束縛から解放されよう
‎削除するんだ
‎世界は美しい 外に出よう
‎ＳＮＳでフォローを！
‎冗談です
‎議論しよう
‎TheSocialDilemma.com
‎日本語字幕 郭 智恩