Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
"Inget omfattande förekommer i de dödligas liv utan en förbannelse."
SOFOKLES
Ja, kör på bara. Slå dig ner och gör dig bekväm.
Är du okej? Okej.
Ja.
Tagning ett, klappa.
Vill du börja med att presentera dig?
Hej, världen. Bailey. Tagning tre.
-Är du okej? -Det här är det värsta.
Jag ogillar det här.
Jag jobbade på Facebook 2011 och 2012.
Jag var en av de allra första anställda på Instagram.
Jag jobbade på Google, YouTube...
...Apple, Google, Twitter, Palm.
Jag jobbade med Mozilla Labs och bytte sen till Firefox.
Rullar vi? Allihopa...
Toppen.
Jag jobbade på Twitter. Mitt sista jobb där var som teknisk chef.
Jag var ordförande för Pinterest.
Innan dess var jag monetär chef på Facebook i fem år.
Jag tillbringade flera år med att driva Twitters utvecklarplattform
och sen blev jag chef för konsumentprodukter.
Jag hjälpte till att utveckla Google Drive, Gmail-chatten,
Facebook-sidor och Facebooks gilla-knapp.
Ja. Det var därför jag tillbringade ungefär åtta månader
med att prata med advokater.
Det här skrämmer mig.
När jag jobbade där kände jag alltid att det tjänade ett gott syfte.
Jag vet inte om jag känner så längre.
Jag lämnade Google i juni 2017 på grund av etiska problem.
Inte bara på Google, utan inom branschen i allmänhet.
Jag är orolig.
Väldigt orolig.
Det är idag lätt att glömma det faktum
att de här verktygen faktiskt har skapat några underbara saker i världen.
De har återförenat familjemedlemmar och hittat organdonatorer.
Det skedde positiva, meningsfulla, systemiska förändringar världen runt
på grund av de här plattformarna.
Jag tror att vi var naiva i fråga om baksidan av det myntet.
Man släpper såna här saker och de får ett eget liv.
De används på ett helt annat sätt än man förväntade sig.
Jag tror innerligt inte att nån avsåg några av de här konsekvenserna.
Det finns ingen enstaka skurk. Nej. Absolut inte.
Så vad är problemet?
Finns det nåt problem och vad är problemet?
Det är svårt att ge en enda, koncis...
Jag försöker ta upp många olika problem.
Vad är problemet?
EN ORIGINALDOKUMENTÄR FRÅN NETFLIX
Trots växande kritik blir de stora teknologiföretagen större.
Hela teknologibranschen är under en ny nivå av granskning.
En ny undersökning belyser kopplingen mellan psykisk hälsa och sociala medier.
...här för att prata om den senaste forskningen...
...som pågår som inte nämns alls.
Tiotals miljoner amerikaner är beroende av sina elektroniska apparater.
Det förvärras av att man kan isolera sig...
...i en bubbla, tack vare vår teknologi.
Fejknyheter blir mer avancerade och hotar samhällen världen runt.
Vi förväntade oss inget av det här när vi skapade Twitter för 12 år sen.
Tjänstemän har inga skäl att tro att de ryska cyberattackerna kommer sluta.
YouTube tvingas koncentrera sig på att rensa sajten.
TikTok... Prata med vilken ungdom som helst,
det finns ingen chans att de kommer radera appen.
Du, Isla, kan du vara snäll och duka?
Det finns en fråga
om huruvida sociala medier gör ens barn deprimerat.
Isla, kan du vara snäll och duka?
De här kosmetiska behandlingarna börjar bli så populära
att plastikkirurger har myntat ett nytt syndrom för det:
Snapchat-dysmorfofobi, där unga patienter vill operera sig
för att se ut som de gör i selfies med filter.
Jag förstår inte varför du henne skaffa den.
Vad skulle jag göra?
Alla andra i hennes klass hade en.
Hon är bara 11.
Cass, ingen tvingar dig att skaffa en. Du kan vara bortkopplad så länge du vill.
Jag är uppkopplad utan en mobil, okej? Jag är på nätet just nu.
Det där är inte ens riktig kontakt. Det är bara en massa sk...
Övervakningskapitalism har format vår politik och kultur
på sätt som många inte inser.
ISIS inspirerade följare på nätet och nu gör vita makt-rörelsen samma sak.
I Indien dödade nyligen
internet-lynchmobbar ett dussin personer, inklusive de här fem…
Det är faktiskt fejknyheter med konsekvenser.
Hur hanterar man en epidemi i en tid av fejknyheter?
Kan man få coronaviruset genom att äta kinamat?
Vi har gått från informationsåldern till desinformationsåldern.
Vår demokrati är under attack.
Det jag sa var: "Jag tror att verktygen som har skapats idag
börjar undergräva samhällsstrukturen."
Aza säger välkomnande ord, vi spelar upp videon
och sen: "Mina damer och herrar, Tristan Harris."
-Okej. -Toppen.
Så jag kommer upp och...
HUMANE EN NY AGENDA FÖR TEKNOLOGI
...säger i princip: "Tack för att ni kom."
Så idag vill jag prata om en ny agenda för teknologi.
Skälet till det är för att om man frågar: "Vad är fel i teknologibranschen just nu?"
finns det en kakofoni av klagomål och skandaler:
"De stal vår data," teknologiberoende,
fejknyheter, polarisering och val som blir hackade.
Men finns det nåt som ligger bakom alla de här problemen,
som orsakar att allt det här händer på samma gång?
-Känns det här bra? -Jättebra. Ja.
Jag försöker bara... Jag vill att folk ska se...
Det finns ett problem i teknologibranschen.
Det har inget namn och det har med en källa att göra. En...
När man ser sig omkring...
...känns det som om världen håller på att bli galen.
Man måste fråga sig själv: "Är det här normalt?
Eller har vi fallit under nån förtrollning?"
GOOGLE - TIDIGARE DESIGNETIKER CENTER FOR HUMANE TECHNOLOGY - MEDGRUNDARE
Jag önskar att fler kunde förstå hur det här fungerar.
Det borde inte vara nåt som endast teknologibranschen vet,
det borde vara nåt som alla vet.
-Hallå! -Hej.
-Tristan. -Det är Tristan, va?
-Ja. -Toppen.
Tristan Harris var designetiker för Google
och har kallats det närmaste Silicon Valley har till ett samvete.
Han ber teknologibranschen
att använda sig av vad han kallar "etisk design."
Det är ovanligt att en teknologi-insider är så rättfram,
men Tristan Harris tror att nån måste vara det.
När jag jobbade på Google
var jag med i Gmail-teamet. Jag började bli utbränd
på grund av att vi hade haft så många samtal om...
...hur inkorgen borde se ut och vilken färg den borde vara.
Jag personligen kände mig beroende av mejl och tyckte det var fascinerande
att ingen jobbade på att göra det mindre beroendeframkallande.
Jag tänkte: "Tänker nån annan på det? Jag har inte hört nån prata om det."
Jag kände en frustration över teknologibranschen generellt sett,
som om vi hade tappat riktningen.
Jag kämpade verkligen för att försöka komma på
hur vi kunde förändra det inifrån.
Det var då jag bestämde mig för att göra en presentation.
Jag åkte hem och jobbade på den i ett par timmar varje kväll.
Den visade i princip bara att aldrig tidigare hade 50 designers,
vita killar i 20- till 35-årsåldern i Kalifornien,
fattat beslut som skulle påverka två miljarder människor.
Två miljarder människor kommer ha tankar de inte tänkte ha
för att en designer på Google sa: "Så här funkar notifikationer
på den där skärmen du vaknar till på morgonen."
Som Google har vi ett moraliskt ansvar att lösa det här problemet.
Jag skickade den här presentationen till 15-20 av mina närmaste kollegor.
Jag var väldigt nervös. Jag visste inte hur den skulle tas emot.
När jag gick till jobbet nästa dag,
hade de flesta laptopparna presentationen uppe.
LYSTRING
Senare samma dag kollade 400 personer samtidigt,
så det bara växte.
Jag fick mejl från över hela företaget.
Folk från alla avdelningar sa:
"Jag håller med. Jag ser det påverka mina barn,
och personerna omkring mig. Vi måste göra nåt åt det här."
Det kändes som om jag startade en revolution eller nåt.
Senare fick jag veta att Larry Page hade informerats om presentationen
på tre separata möten den dagen.
Så det skapade ett kulturellt ögonblick
som Google behövde ta på allvar.
Och sen...inget.
År 2006 hade alla...
...inklusive alla vi på Facebook,
stor beundran för Google och vad Google hade byggt.
Det var en otroligt användbar tjänst
som gjorde, så vitt vi kunde se, många bra saker för världen.
Och parallellt byggde de en pengamaskin.
Vi var så avundsjuka på det och det verkade så elegant...
...och så perfekt.
Facebook hade funnits i ungefär två år
och jag anlitades för att ta reda på hur företages affärsmodell skulle se ut.
Jag var monetär chef och poängen var:
"Du ska lista ut hur vi kan tjäna pengar på den här saken."
Det var många personer som gjorde mycket av arbetet,
man jag var helt klart en av personerna som utpekades...
Vi måste tjäna pengar...
...och jag tror den här reklammodellen är det elegantaste sättet att göra det på.
Vad är det mamma har skickat?
Videon är från en pratshow. Killen är ett geni.
Han pratar om att radera sociala medier.
Jag kanske måste blockera hennes mejl.
Jag vet inte vad hon pratar om. Hon är värre än jag.
-Nej, hon använder den bara för recept. -Och jobb.
-Och träning. -Och för att titta till oss.
Och alla andra hon nånsin har träffat.
Om du skrollar igenom ditt flöde på sociala medier
medan du tittar, måste du lägga ner telefonen och lyssna.
Vår nästa gäst har skrivit en otrolig bok
om hur mycket det förstör våra liv.
Välkomna författaren
till Ten Arguments For Deleting Your Social Media Accounts Right Now,
Jaron Lanier.
Företag som Google och Facebook är några av de rikaste
och mest framgångsrika nånsin.
De har relativt få anställda.
De har bara en gigantisk dator som drar pengar, okej?
Vad får de betalt för? Det är en väldigt viktig fråga.
Jag har investerat i teknologi i 35 år.
De första 50 åren av Silicon Valley tillverkade branschen produkter.
De tillverkade hårdvara och mjukvara och sålde dem. Bra, simpel verksamhet.
De senaste tio åren har de största företagen i Silicon Valley
jobbat med att sälja sina användare.
Det är lite trivialt att säga nu,
men eftersom vi inte betalar för produkterna vi använder,
betalar annonsörer för produkterna vi använder.
Annonsörer är kunderna.
Vi är saken som säljs.
Det klassiska ordspråket är:
"Om inte du betalar för produkten, så är du produkten."
DU ÄR PRODUKTEN
Många tror: "Google är en sökruta
och Facebook är en plats för att se vad mina vänner gör
och deras bilder."
Men de inser inte att de tävlar om ens uppmärksamhet.
Så Facebook, Snapchat, Twitter, Instagram, YouTube,
såna företag, deras affärsmodell är att hålla folk engagerade.
Låt oss ta reda på hur vi kan få så mycket uppmärksamhet som möjligt.
Hur mycket tid kan vi få er att tillbringa?
Hur mycket av era liv kan vi få er att ge oss?
När man funderar på hur de här företagen fungerar,
faller bitarna på plats.
Det finns en massa tjänster på internet som vi anser är gratis.
Men de är inte gratis. De betalas av annonsörer.
Varför betalar annonsörer de företagen?
De betalar i utbyte mot att visa oss sin reklam.
Vi är produkten. Vår uppmärksamhet är produkten som säljs till annonsörer.
Det är lite förenklat.
Det är den gradvisa, lilla, icke märkbara förändringen
i ens beteende och uppfattning som är produkten.
Det är den enda möjliga produkten.
Det finns inget annat som skulle kunna kallas för produkten.
Det är det enda de kan tjäna pengar på:
Att förändra vad man gör, hur man tänker, vem man är.
Det är en gradvis förändring. Den är liten.
Om man kan gå till nån och säga: "Ge mig tio miljoner dollar
så förändrar jag världen en procent i riktningen du vill."
Det är världen! Det kan vara otroligt och det är värt mycket pengar.
Okej.
Det här är vad alla verksamheter nånsin drömt om:
Att ha en garanti för att en annons blir framgångsrik om den sätts ut.
Det är deras verksamhet. De säljer garanti.
GARANTI
För att lyckas i den branschen måste man ha bra prognoser.
BRA PROGNOSER
Bra prognoser börjar med ett imperativ:
Man behöver mycket data.
DATA
Många kallar det övervakningskapitalism:
Kapitalism som tjänar på den oändliga spårningen
av platserna alla besöker. Den genomförs av stora teknologiföretag
vars affärsmodell är att se till
att annonsörer är så framgångsrika som möjligt.
Det här är en ny sorts marknad.
Det är en marknad som aldrig tidigare har funnits.
Det är en marknad som endast handlar med mänskliga terminer.
Precis som det finns marknader
som handlar med sidfläsk- eller oljeterminer.
Nu har vi marknader som handlar med mänskliga terminer i större skala.
De marknaderna har producerat de triljoner dollarna
som har gjort internetföretagen till de rikaste företagen
i mänsklighetens historia.
Det jag vill att folk ska veta är att allt de gör på nätet
bevakas, spåras och mäts.
Varje handling man utför bevakas och registreras noggrant:
Exakt vilken bild man kollar på och hur länge man kollar på den.
Ja, allvarligt talat.
NAVIYA_R ÄGNAD TID
RYAN_M ÄGNAD TID
WREN_F ÄGNAD TID
De vet när folk känner sig ensamma. De vet när folk är deprimerade.
De vet när folk tittar på bilder på sina ex.
De vet vad man gör sent på kvällen, de vet allt.
De vet om man är introvert eller extrovert,
vad för sorts neuroser man har, vad man har för personlighet.
De har mer information om oss
än vad som nånsin har föreställts i människans historia.
Det är utan motstycke.
Så all data vi bara utgjuter hela tiden,
matas in i de här systemen som i princip inte har nån mänsklig övervakning.
Och de förespår bara bättre och bättre
vad vi kommer att göra och vilka vi är.
REKOMMENDERAT FÖR DIG
Många tror felaktigt att det är vår data som säljs.
Det ligger inte i Facebooks intresse att lämna ifrån sig data.
Vad gör de med denna data?
De bygger modeller som förespår våra handlingar.
Och den som har den bästa modellen vinner.
Han skrollar långsammare.
Det är nära slutet av hans vanliga sessionslängd.
Minskar reklam. Minska vänner och familj.
På andra sidan skärmen
är det nästan som om de hade en avatar-voodoo-dockmodell av oss.
Allt vi har gjort, allt vi har klickat på,
alla videor vi har sett, allt vi har gillat...
Allt det förs tillbaka för att bygga en mer precis modell.
Med den modellen kan man förespå vad den personen kommer att göra.
Låt mig testa.
Jag kan förespå vart du kommer att gå, vilka videor som håller dig engagerad,
vilka sorts känslor som triggar dig.
Ja, perfekt.
Årets mest episka misslyckanden.
EPISKA MISSLYCKANDEN!
-Perfekt, det funkade. -Fortsätter med en till video.
Vi klämmer in en skoreklam innan den börjar.
Många av de här teknologiföretagen har tre huvudmål:
Det är engagemangmålet,
för att öka användningen, få en att fortsätta skrolla.
Det är tillväxtmålet,
för att få en att komma tillbaka och bjuda in vänner
och få dem att bjuda in vänner.
Sen är det reklammålet, för att se till att medan allt det händer,
tjänar vi så mycket pengar som möjligt från reklam.
Alla de här målen drivs av algoritmer,
vars uppgift är att ta reda på vad man ska visa
för att få siffrorna att öka.
Vi pratade ofta på Facebook om den här idén
om att kunna justera efter behov.
Vi pratade om att Mark skulle kunna göra de justeringarna.
"Jag vill ha fler användare i Korea idag."
Gör justeringen.
"Vi lägger in fler annonser."
"Vi drar in lite mer pengar."
Så det...
Alla de här företagen har den precisionsnivån.
-Hur... -Jag vet inte hur jag inte fick ett kort.
-Den där domaren sög. -Du kom bokstavligen hela vägen…
-Det är Rebecca. -Jag vet vem det är.
-Gå och prata med henne. -Jag jobbar på det.
Enligt hans kalender har han rast. Vi borde vara live.
Ska jag puffa honom?
Ja, puffa på.
"Din vän Tyler gick precis med! Vinka åt honom!"
Kom igen, mannen.
Skicka en vinkning.
Du är inte ens... Prata med henne.
DIN VÄN TYLER GICK PRECIS MED! VINKA ÅT HONOM!
NÄTANSLUTNINGAR
Ny länk! Okej, vi är inne.
Fortsätt med ett inlägg från användare 079044238820, Rebecca.
Bra idé. Gps-koordinater indikerar att de är nära varandra.
REBECCA_G HITTADE MIN SJÄLSFRÄNDE! #BÄSTISAR #SLURP
Han är redo för reklam.
Dags för en auktion.
REKLAM-FÖRHANDSVISNING
Såld! Till Deep Fade hårvax.
Vi hade 468 intresserade budgivare.
Vi sålde Ben för 3,262 cent för ett intryck.
Vi har skapat en värld där online-anslutning har blivit primärt,
särskilt för yngre generationer.
I den världen, när än två människor knyter an,
är allt finansierat genom en lömsk tredje person
som betalar för att manipulera dem.
Så vi har skapat en global generation av människor
som uppfostras i en miljö där själva meningen med kommunikation,
själva meningen med kultur, är manipulering.
Vi har satt bedrägeri och lömskhet i centrum av allt vi gör.
"ALL TILLRÄCKLIGT AVANCERAD TEKNOLOGI KAN INTE URSKILJAS FRÅN MAGI."
ARTHUR C CLARKE
-Ta den andra... -Okej.
-Var är det bäst att hålla? -Det är toppen.
-Här? -Ja.
Hur ser det ut på kamera om jag skulle...
-Vi kan faktiskt... -Så där?
-Va? -Ja.
-Gör du igen. -Exakt, ja.
Nej, det är nog inte...
Som... Ja.
Den här är mindre...
Chris flippar ut här borta.
Är det bra?
MAGI!!!
Jag var ungefär fem år när jag lärde mig att trolla.
Jag kunde lura vuxna, fullvuxna personer med doktorsexamina.
Magiker var nästan som de första neuroforskarna
och psykologerna.
De var de första som förstod hur människors sinne fungerar.
De testar saker på folk i realtid.
En magiker förstår nåt,
nån del av vårt sinne som inte vi är medvetna om.
Det är det som får illusionen att funka.
Läkare, advokater,
folk som vet hur man bygger 747:or eller kärnvapenmissiler...
De vet inte mer om hur deras egna sinnen är sårbara.
Det är en egen disciplin.
Det är en disciplin som gäller för alla människor.
Från det perspektivet kan man ha en helt annan förståelse för teknologi.
Det var det vi lärde oss i Stanfords övertalningsteknologi-labb:
Hur kan man använda allt vi vet om psykologin om vad som övertalar folk
och bygga in det i teknologi?
Många av er i publiken är redan genier.
Men mitt mål är att förvandla er till beteendeförändrings-genier.
Många framstående personer i Silicon Valley gick den klassen,
huvudpersoner inom tillväxt på Facebook, Uber och andra företag,
och lärde sig att göra teknologi mer övertalande.
Tristan är en.
Övertalningsteknologi är design som tillämpas till det yttersta
där vi vill modifiera nåns beteende:
Vi vill att de ska göra så här,
vi vill att de ska fortsätta göra så här med fingret.
Om man drar ner och uppdaterar ligger det nåt nytt längst upp.
Dra man ner och uppdaterar igen så är det nytt.
Vilket vi inom psykologi kallar en positiv intermittent förstärkning.
Så man vet inte när eller om man kommer att få nåt,
vilket fungerar precis som spelautomaterna i Las Vegas.
Det räcker inte att du använder produkten,
jag vill gräva djupare i hjärnstammen och inplanta en omedveten vana,
så att du programmeras på en djupare nivå.
Du inser det inte ens.
En man vid namn James Marshall...
Varje gång man ser den där på sidan
och kollar på den... Man vet att om man bara sträcker sig
kanske den har nåt åt en.
Så man spelar på spelautomaten för att se vad man får.
Det är inte en slump, det är en designteknik.
Han tar med en guldklimp till en polis... i armén i San Francisco.
Kom ihåg att San Franciscos befolkning endast var…
Bildtaggning är ett annat exempel.
Om man får ett mejl om att ens vän har taggat en i en bild,
kommer man självklart att klicka på mejlet och kolla på bilden.
Det är inte nåt man bara kan ignorera.
Det är djupt rotad mänsklig personlighet de exploaterar.
Det du borde fråga dig själv är:
"Varför finns inte bilden med i mejlet? Det skulle vara mycket enklare."
När Facebook kom på den funktionen körde de bara på.
De sa: "Det här är ett jättebra sätt att öka aktivitet.
Vi får folk att tagga varandra hela dagen."
BEN_W EN AV OSS SER ÅTMINSTONE BRA UT
Han kommenterade.
Snyggt.
Okej, Rebecca fick den och hon svarar.
Okej, låt Ben veta att hon skriver, så vi inte förlorar honom.
Aktiverar ellips.
EN AV OSS SER ÅTMINSTONE BRA UT ...
Bra, hon svarade.
Han kommenterar på hennes kommentar om sin kommentar.
Han slutade skriva.
Vi använder autofyll.
Emojis. Han älskar emojis.
AUTOKOMPLETTERA ENGAGEMANG
Han valde eld.
Jag hoppades på aubergine.
Det finns en hel disciplin som kallas "growth hacking."
Det är ingenjörsteam vars jobb är att hacka folks psykologi,
för att få ökad tillväxt.
De kan få fler nya användare, mer engagemang
och få en att bjuda in fler personer.
Efter alla tester, all iterering, allt det,
vet ni vad vi insåg? Få en individ till sju vänner på tio dagar.
Det var allt.
Chamath var tillväxtchef på Facebook i ett tidigt skede.
Han är väldigt känd inom teknologibranschen
för att ha banat väg för många av taktikerna
som användes för att få Facebook att växa otrolig snabbt.
De taktikerna har sen blivit standarden för Silicon Valley.
De användes på Uber och ett gäng andra företag.
En av sakerna han banade väg för var användningen av A/B-testing
av små funktionsförändringar.
Företag som Google och Facebook
brukade lansera många små experiment som de ständigt gjorde på användare.
Med tiden, genom att utföra de här experimenten,
utvecklar man det bästa sättet att få användare att göra vad man vill.
Det är manipulering.
Jag känner mig som en labbråtta.
Du är en labbråtta. Vi är alla labbråttor.
Vi är inte labbråttor för att utveckla ett botemedel mot cancer.
De försöker inte gynna oss.
Vi är bara zombier och de vill att vi ska kolla på fler annonser,
så de kan tjäna mer pengar.
Facebook utförde vad de kallade
"omfattande experiment på emotionell smitta."
Okej.
Hur använder vi subliminala indikationer på Facebook-sidorna
för att få fler personer att rösta i valet?
Och de upptäckte att de kunde göra det.
En slutsats de drog var att vi nu vet
att vi kan påverka verkliga beteenden och känslor
utan att användaren är medveten om det.
De är helt ovetande.
Vi riktar de här AI-motorerna mot oss själva
för att demontera vad som framkallar reaktioner från oss.
Det är som om man stimulerar nervceller på en spindel
för att se vad benen reagerar på.
Det är som ett fängelseexperiment där vi bara drar in folk i Matrix
och skördar alla pengar och all data från deras aktivitet för att göra vinst.
Vi är inte ens medvetna om det.
Vi vill lista ut hur vi ska manipulera er så fort som möjligt
och ge er den där dopamin-dosen i gengäld.
Vi gjorde det briljant på Facebook.
Instagram har gjort det, WhatsApp har gjort det.
Snapchat har gjort det, Twitter har gjort det.
Det är precis en sån sak en hackare som jag själv skulle komma på.
För man exploaterar en sårbarhet i mänsklig psykologi.
Jag tror att vi... Ni vet, uppfinnarna, skaparna...
Ni vet, det är jag, det är Mark, det är...
Kevin Systrom på Instagram... Det är alla de här människorna.
Vi var medvetna om det här och vi gjorde det ändå.
Ingen blev upprörd när cyklar dök upp.
När alla började cykla runt sa ingen: "Herregud, vi har förstört samhället.
Cyklar påverkar folk, de drar människor från sina barn,
de förstör demokratistrukturen, folk vet inte vad som är sant..."
Vi sa aldrig nåt sånt om en cykel.
Om nåt är ett verktyg, sitter det bara där
och väntar tålmodigt.
Om nåt inte är ett verktyg, begär det saker från en.
Det förför dig, manipulerar dig, det vill ha saker från dig.
Vi har gått från att ha en verktygsbaserad teknologisk miljö,
till en beroende- och manipuleringsbaserad miljö.
Det är skillnaden.
Sociala medier är inte ett verktyg som väntar på att användas.
Den har sina egna mål och sina egna sätt att uppnå dem
genom att använda ens psykologi mot en.
"DET FINNS BARA TVÅ BRANSCHER SOM KALLAR SINA KUNDE 'ANVÄNDARE':
ILLEGALA DROGER OCH MJUKVARA."
EDWARD TUFTE
För några år sen var jag ordförande för Pinterest
Jag kom hem och kunde inte släppa telefonen,
trots att jag hade två små barn som behövde min kärlek och uppmärksamhet.
Jag var i skafferiet och skrev ett mejl eller kollade på Pinterest.
Jag tänkte: "Det här är klassisk ironi. Jag går till jobbet på dagen
och bygger nåt som sen jag faller offer för."
Jag kunde inte... Ibland kunde jag inte rå för det.
Jag använde mest Twitter.
Förr var det Reddit.
Jag blev tvungen att skriva mjukvara för att bryta mitt Reddit-beroende.
Jag är nog mest beroende av min mejl.
På riktigt. Jag känner det.
Det är intressant
att veta att jag inte kunde kontrollera min användning
trots att jag visste vad som hände bakom ridån.
Det är lite läskigt.
Trots att jag vet hur tricken fungerar, är jag ändå mottaglig för dem.
Jag plockar ändå upp telefonen och 20 minuter försvinner.
Kollar du din smarttelefon innan eller medan du kissar på morgonen?
För de är de enda alternativen.
Jag försökte med viljestyrka, bara ren viljestyrka...
"Jag lägger ner telefonen. Jag lämnar telefonen i bilen."
Jag sa nog till mig själv tusen gånger, tusen olika dagar:
"Jag tar inte med telefonen till sovrummet."
Sen blir klockan nio på kvällen...
"Jag vill ta med telefonen till sovrummet."
Så det var...
Viljestyrka var försök ett och försök två var råstyrka.
Vi presenterar Kitchen Safe.
Kitchen Safe är en ny, revolutionerande tidslåsande behållare
som hjälper en att stå emot frestelser.
David måste bara placera de frestelserna i Kitchen Safe.
Sen snurrar han vredet för att ställa in timern
och slutligen trycker han på vredet för att aktivera låset.
Kitchen Safe är toppen…
Vi har en sån, va?
...tv-spel, kreditkort och mobiler.
Ja, det har vi.
När Kitchen Safe är låst,
kan den inte öppnas förrän timern står på noll.
Så här är det. Sociala medier är en drog.
Vi har ett grundläggande biologiskt imperativ
att knyta an med andra människor.
Det har en direkt påverkan
på frisättningen av dopamin i det mesolimbiska dopaminsystemet.
Miljontals år av utveckling ligger bakom det systemet
för att få oss att samlas och leva i samhällen,
hitta partners och föröka vår art.
Så det finns ingen tvekan om att ett system som sociala medier,
som optimerar den här kopplingen mellan människor,
kommer ha potentialen för beroende.
Pappa, sluta!
Jag har typ tusen snips att skicka innan maten.
Snips?
Jag vet inte vad en snip är.
-Det luktar gott, älskling. -Tack.
Jag tänkte att vi skulle använda alla fem sinnen för att njuta av maten.
Så jag beslutade att vi inte ska ha mobiler vid bordet.
Så lämna över dem.
-På riktigt? -Ja.
-Okej. -Tack. Ben?
-Okej. -Mamma, telefonpiraten.
-Fick den. -Mamma!
De är säkra här i tills efter maten…
...och alla kan bara ta det lugnt. Okej?
-Får jag kolla vem det är? -Nej.
Jag ska bara hämta en ny gaffel.
Tack.
Älskling, du kan inte öppna den.
Jag låste den i en timme.
Så, vad ska vi prata om?
Vi kan prata om Extreme Center-galningarna jag körde förbi idag.
-Snälla. -Vad?
Jag vill inte prata om politik.
-Vad är fel med Extreme Center? -Han fattar inte ens.
-Det beror på vem man frågar. -Det är som: "Vad är fel med propaganda?"
Isla!
Herregud.
-Vill du att jag...? -Ja.
Jag är orolig för mina barn.
Om du har barn, är jag orolig för dina barn.
Med all kunskap och erfarenhet jag har,
bråkar jag med mina barn om tiden de tillbringar på telefoner och datorer.
Jag frågar min son: "Hur många timmar tror du att du spenderar på din telefon?"
Han svarar: "En halvtimme. Max en halvtimme."
Lite mer än en timme, en och en halv timme.
Jag kollade för ett par veckor sen
-och det var nästan fyra timmar. -Det...
Jag tror inte att det... I genomsnitt per dag?
-Ja. -Ska jag gå och hämta den?
Det går inte en dag utan att jag påminner mina barn
om balansen mellan njutning och smärta,
om dopaminbrist och risken för beroende.
Sanningens ögonblick.
Två timmar och 50 minuter.
-Få se. -Jag har använt den mycket idag.
De senaste sju dagarna.
Instagram: sex timmar och 13 minuter. Min Instagram är värre.
Min skärm är helt krossad. Tack, Cass.
Vad menar du?
Du gör mamma orolig för våra telefoner när det inte är nåt problem.
Vi behöver inte telefoner för att äta.
Jag förstår, men det är ingen stor grej.
Så använd den inte på en vecka, då.
Ja.
Om du kan lägga bort den i en hel vecka...
...köper jag en ny skärm.
-Från och med nu? -Ja.
Okej. Då säger vi så.
Okej, men du måste lämna den här.
Okej, jag kopplar in den.
Notera att jag går iväg.
Okej.
-Tiden går. -En vecka.
Kära...
Klarar han det?
Jag vet inte.
Ät bara, okej?
Bra familjemiddag!
De här produkterna designades inte
av barnpsykologer som försöker skydda och vårda barn.
De designade för att skapa de här algoritmerna
som var bra på att rekommendera nästa video
eller att få dig att ta en bild med ett filter.
TVÅ GILLAMARKERINGAR
ÄR DU SÄKER PÅ ATT DU VILL RADERA? NEJ
JA
Det är inte bara att de kontrollerar var de fokuserar sin uppmärksamhet.
Sociala medier börjar gräva sig djupare och djupare ner i hjärnstammen
och tar över barns känsla av egenvärde och identitet.
LILY_T SÖT!
SOPHIA_M HERREGUD SÅ VACKER
OLIVIA_B DU ÄR SÅ OTROLIG
AVA_R KAN DU GÖRA DINA ÖRON STÖRRE??
HAHA
Vi har utvecklats för att bry oss om huruvida andra i vår stam...
BRIANNA_S SER BRA UT!!
...tycker om oss. För det spelar roll.
Men har vi utvecklats för att bli medvetna om
vad 10 000 människor tycker om oss?
Vi utvecklades inte
för att få en dos socialt godkännande var femte minut.
Det är inte vad vi skapades för att uppleva.
Vi bygger upp våra liv runt den upplevda känslan av perfektion,
för att vi blir belönade med såna här kortsiktiga signaler:
Hjärtan, gillamarkeringar...
Vi blandar ihop det med värde och sanning.
Egentligen är det falsk, bräcklig popularitet...
...som är kortvarig och gör en ännu, erkänn det, tommare inombords än tidigare.
För sen tvingar den in en i en ond cirkel
där man tänker: "Vad ska jag göra nu? För jag behöver den igen."
Tänk på det förstärkt av två miljarder människor
och sen på hur folk reagerar på andras åsikter.
Det är riktigt illa.
Det har skett en enorm ökning av depression och ångest
bland amerikanska tonåringar
som började omkring... Mellan 2011 och 2013.
Antalet tonårsflickor av 100 000 som lades in
på sjukhus i det här landet varje år för att de skar eller skadade sig...
Den siffran var rätt stabil till omkring 2010, 2011.
Sen börjar den skjuta i höjden.
Den har ökat med 62 % för äldre tonåringar.
Den har ökat med 189 % för tjejer som ännu inte är tonåringar.
Det är nästan tredubbelt.
Vi ser samma mönster med självmord.
För de äldre tonårstjejerna, mellan 15 och 19 år,
har siffran ökat med 70 % jämfört med århundradets första årtionde.
För de yngre tjejerna, som har låga frekvenser från början,
har siffran ökat med 151 %.
Det mönstret pekar på sociala medier.
SOCIALA MEDIER TILLGÄNGLIG PÅ MOBIL 2009
Gen Z, barnen födda efter 1996 eller så...
De barnen är den första generationen i historien
som hade sociala medier i högstadiet.
Hur tillbringar de sin tid?
De kommer hem från skolan och använder sina apparater.
En hel generation är oroligare, känsligare och mer deprimerad.
De är mycket mindre bekväma med att ta risker.
Frekvensen av vilka som tar körkort har sjunkit.
Antalet personer som nånsin har gått på en dejt
eller haft nån romantisk interaktion sjunker snabbt.
Det här är en riktig förändring i en generation.
Kom ihåg att för alla de här, för alla sjukhusvistelser,
finns det en familj som är traumatiserad och förskräckt.
"Gud, vad händer med våra barn?"
Det är solklart för mig.
De här tjänsterna dödar folk och får folk att ta livet av sig.
Jag vet ingen förälder som säger: "Jag vill att mina barn ska växa upp
och känna sig manipulerade av teknologidesigners,
som manipulerar deras uppmärksamhet så att de inte gör läxor
och får dem att jämföra sig med orealistiska skönhetsideal."
Ingen vill det.
Ingen.
Vi brukade ha skydd.
När barn såg på Saturday-morning cartoons brydde vi oss om att skydda dem.
Vi brukade säga: "Man kan inte annonsera för barn i den här åldern så här."
Sen tar man YouTube för barn
och den förtär hela den delen av uppmärksamhetsekonomin.
Nu utsätts alla barn för YouTube för barn
och alla de där skydden och regleringarna är borta.
TID UTAN TELEFON
Vi tränar och formar en helt ny generation människor...
...att vi, när vi är obekväma, ensamma, osäkra eller rädda,
har en digital napp
som förgör vår egen förmåga att hantera det.
Photoshop hade inte tusentals ingenjörer som använde notifikationer, ens vänner
och AI för att förespå vad som gör en beroende,
manipulera en eller låta annonsörer testa 60 000 olika texter och färger...
ANTITRUST-TEKNOLOGIKONFERENS
...för att lista ut vad som perfekt manipulerar ens sinne.
Det här är en helt ny art av makt och inflytande.
Jag skulle säga återigen att metoderna som används
för att spela på folks förmåga att bli beroende eller påverkade
kan och är nog annorlunda den här gången.
De var annorlunda när tidningar kom in och när tryckpressarna kom in.
De var annorlunda när tv kom in och man hade tre stora nätverk och...
-På den tiden. -Det är det jag säger.
Men idén att det finns en ny nivå
och att den nya nivån har hänt så många gånger förr...
Det här är bara den senaste nya nivån vi har sett.
Vissa säger: "Vi anpassar oss.
Vi kommer att lära oss leva med de här apparaterna,
som vi har lärt oss leva med allt annat."
Men det missar att det finns nåt helt nytt här.
Den farligaste delen kan vara det faktum
att den drivs av teknologi som ökar exponentiellt.
DATORPROCESSORKRAFT
Från 1960-talet tills idag
har processorkraften ökat ungefär en triljon gånger.
Inget annat har förbättrats ens i närheten av den takten.
Bilar är ungefär dubbelt så snabba.
Nästan allt annat är försumbart.
Och ännu viktigare,
vår mänskliga... Vår fysiologi, våra hjärnor har inte utvecklats alls.
TID UTAN TELEFON
Människor kommer inte att förändras fundamentalt
på en själslig, kroppslig och fysisk nivå.
Vi kan göra genteknik och utveckla nya människor i framtiden,
men realistiskt sett lever man inuti hårdvara, en hjärna,
som var miljoner år gammal.
Sen finns det en skärm och på andra sidan skärmen
finns det tusentals ingenjörer och superdatorer som har andra mål än du.
Så vem kommer att vinna den matchen? Vem kommer att vinna?
Hur kan vi förlora?
-Jag vet inte. -Var är han? Det här är inte normalt.
Överväldigade jag honom med vänner och familj?
-Antagligen. -Det kanske var alla annonser.
Nej. Nåt är väldigt fel. Vi går in i återuppståndelse-läge.
När man tänker på AI och att en AI kommer förstöra världen,
ser man en terminator och Arnold Schwarzenegger...
Jag kommer tillbaka.
Man ser drönare och tänker: "Åh, vi kommer att döda folk med AI."
Vad folk missar är att AI redan styr världen idag.
Att prata om "en AI" är bara en metafor.
På företag som Google finns det enorma rum.
Vissa ligger under jorden, vissa under vatten...
Fyllda med datorer.
Massor av datorer så långt ögat ser.
De är djupt sammankopplade, kör extremt komplicerade program
och skickar information fram och tillbaka hela tiden.
De kör många olika program, många olika produkter på samma maskiner.
Vissa av dem är enkla algoritmer.
Andra algoritmer är så komplicerade att man skulle kalla dem intelligens.
Jag gillar att säga att algoritmer är åsikter inbäddade i kod...
...och att algoritmer inte är objektiva.
Algoritmer är optimerade till nån definition av framgång.
Så om ett kommersiellt företag bygger en algoritm
till sin definition av framgång,
är det ett kommersiellt intresse. Det är vanligtvis vinst.
Man ger datorn målet: "Jag vill ha det här resultatet"
och sen lär sig själva datorn hur man gör det.
Det är där termen "maskininlärning" kommer ifrån.
Så varje dag blir den lite bättre på att lägga rätt inlägg i rätt ordning,
så att man bara tillbringar mer tid i den produkten.
Ingen förstår egentligen vad de gör för att uppnå det målet.
Algoritmen har ett eget sinne. Så även om en person skriver den,
är den skriven på ett sätt
där man bygger maskinen och sen förändrar maskinen sig själv.
Det finns bara en handfull personer på de här företagen,
på Facebook, Twitter och andra företag...
Det finns bara några få personer som förstår hur de systemen fungerar.
Inte ens de förstår helt och hållet
vad som kommer att hända med ett visst innehåll.
Så vi har nästan förlorat kontroll över de här systemen,
för de kontrollerar informationen vi ser.
De kontrollerar oss mer än vi kontrollerar dem.
Jag jämför honom med likvärdiga personer i hans geografiska område.
Hans psykometriska dubbelgångare.
Det finns 13 694 personer som uppför sig som han i hans område.
-Vad är populärt bland dem? -Vi behöver nåt bra
för en återuppståndelse, med tanke på att det vanliga inte funkar.
Inte ens den söta flickan från skolan.
Min analys visar att innehåll med Extreme Center
har 62,3 % chans för långsiktigt engagemang.
Det är inte illa.
Den är inte bra nog att inleda med.
Vi har försökt notifiera honom om taggade foton,
inbjudningar, aktuella händelser, även ett direktmeddelande från Rebecca.
Men användaren 01265923010, då?
Ja, Ben älskade alla hennes inlägg.
I flera månader gillade han alla och sen inget.
Jag beräknar 92,3 % chans för återuppståndelse
med en notifikation om Ana.
NYTT FÖRHÅLLANDE
Och hennes nya vän.
TID UTAN TELEFON
DITT EX ÄR I EN NY RELATION!
Det är inte sant.
Okej.
ANA & LUIZ ÄR I EN RELATON
Va?
Vi är tillbaka!
Nu fortsätter vi tjäna pengar.
Ja och koppla Ben till hela världen.
Jag ger honom tillgång till all information han kan gilla.
Undrar ni nånsin om flödet är bra för Ben?
-Nej. -Nej.
Jag förtrollade dig
För att du är min
Det är bäst att du slutar upp
Jag menar allvar
Ja, jag menar allvar
Du vet att jag inte står ut
Du springer runt
Du vet bättre
Jag står inte ut, för du trycker ner mig
Ja, ja
Jag förtrollade dig
För att du är min
Du är min...
Så föreställ dig att du är inne på Facebook...
...och att du i själva verket spelar mot den här artificiella intelligensen
som vet allt om dig
och kan förespå ditt nästa drag. Du vet bokstavligen ingenting om den,
förutom att det finns kattvideor och födelsedagar på den.
Det är inte en rättvis match.
Ben och Jerry, det är dags att gå!
Ben?
Ben.
Kom igen.
Dags för skolan. Kom igen.
-Hur mår du idag? -Jag är nervös.
-Är du? -Ja.
Vi såg alla upp för ögonblicket
då teknologi skulle överväldiga mänsklig styrka och intelligens.
När ska den korsa singulariteten, ta våra jobb, vara smartare än människor?
Men det finns ett tidigare ögonblick...
...där teknologi överskrider och överväldigar mänskliga svagheter.
Den här punkten som korsas är roten till beroende,
polarisering, radikalisering, upprördhet-ifiering,
fåfäng-ifiering, allt.
Det här övermannar mänsklig natur
och sätter mänskligheten i schack matt.
Förlåt.
Ett sätt jag försöker få folk att förstå
hur fel flöden är från ställen som Facebook,
är genom att tänka på Wikipedia.
NY FLIK
När man går till en sida ser man samma sak som andra.
DEN FRIA ENCYKLOPEDIN
Det är en av få saker vi har gemensamt på nätet.
Föreställ er för en sekund att Wikipedia sa:
"Vi ska ge varje person olika skräddarsydda definitioner
och vi ska få betalt för det."
Så Wikipedia skulle spionera på en och räkna ut:
Vad kan jag göra för att få personen att ändra lite på sig
för att gynna nåt kommersiellt intresse?
Sen skulle den ändra inlägget.
Kan ni föreställa er?
Det borde ni kunna,
för det är precis vad som händer på Facebook och i ert YouTube-flöde.
När man googlar "klimatförändring,"
ser man olika resultat beroende på var man bor.
KLIMATFÖRÄNDRING
I vissa städer ser man den automatiskt komplettera
"klimatförändring är en bluff."
I andra fall ser man
"klimatförändring orsakar naturens förstörelse."
Det är en funktion som inte handlar om sanningen om klimatförändring,
utan om var man råkar googla ifrån och vad Google vet om ens intressen.
Till och med två vänner som står varandra nära
och har nästan samma vänner tänker: "Om vi går till nyhetsflöden på Facebook,
kommer vi att se samma uppdateringar." Men det är inte alls så.
De ser helt olika världar
för att de är baserade på datorer som räknar ut det perfekta för var och en.
SÄNDER LIVE
Man får tänka på det som 2,7 miljarder Truman Shows.
Varje person har sin egen verklighet med sina egna...
...fakta.
Varför tror du att Truman inte har anat den här showens sanna natur förrän nu?
Vi accepterar verkligheten som presenteras för oss.
Så enkelt är det.
SÄNDER LIVE
Med tiden får man en falsk känsla av att alla håller med en,
för alla i ens nyhetsflöde låter precis som en.
När man är i det tillståndet är man lätt att manipulera,
på samma sätt som man skulle manipuleras av en magiker.
En magiker visar ett korttrick och säger: "Välj ett kort."
Det man inte inser är att de har skapat en situation
så att man väljer kortet de vill.
Det är så Facebook fungerar. Facebook säger:
"Du väljer vänner, du väljer länkarna du följer."
Men det är nonsens. Det är precis som magikern.
Facebook styr ens nyhetsflöde.
Alla agerar baserat på olika fakta.
När det sker i större skala,
kan man inte längre ta itu med eller ens konsumera information
som strider mot den världsbilden man har skapat.
Det innebär att vi inte är objektiva, konstruktiva individer.
Öppna ögonen, tro inte på lögnerna! Öppna...
Sen kollar man på den andra sidan
och börjar tänka: "Hur kan de vara så korkade?
Kolla på all den här informationen jag ser hela tiden.
Hur kan de inte se samma information?"
Svaret är: De ser inte samma information.
Öppna ögonen, tro inte på lögnerna!
Hur är republikaner?
Okunniga.
Det demokratiska partiet är ett brottssyndikat.
En stor ny Pew Research Center-studie av 10 000 amerikanska vuxna
visar att vi är mer uppdelade än nånsin,
med personlig och politisk polarisering på sin högsta nivå på 20 år.
Mer än en tredjedel av republikaner säger
att det demokratiska partiet är ett hot mot nationen.
Mer än en fjärdedel av demokrater säger samma sak om republikanerna.
Så många av problemen vi diskuterar kring politisk polarisering,
existerar i överflöd på kabel-tv.
Media har exakt samma problem där deras affärsmodell i stort sett är
att de säljer vår uppmärksamhet till annonsörer.
Internet är ett nytt, effektivare sätt att göra det.
På YouTube jobbade jag med YouTube-rekommendationer.
Det oroar mig att en algoritm jag jobbade på
faktiskt ökar polarisering i samhället.
I fråga om tid framför YouTube,
är den här polariseringen extremt effektiv på att hålla folk online.
Lärarna lär bara ut de här sakerna för att de för betalt.
Hej, Benji.
Ingen fotbollsträning idag?
Jo. Jag lyssnar bara på nyheterna.
Läs på. Allt som avviker från Extreme Center...
Jag skulle inte kalla det där nyheter.
Du pratar alltid om hur galet allt är. Det gör de med.
Men det där är bara propaganda.
Inget är sant. Det handlar om vad som är logiskt.
Jag menar allvar. Det där är dåligt för dig.
Du borde gå till fotbollsträningen.
Jag delar det här för att jag bryr mig.
Jag bryr mig om att du blir vilseledd och det är inte okej.
Folk tror algoritmen är designad
för att ge dem vad de verkligen vill ha, fast det är den inte.
Algoritmen försöker faktiskt hitta mäktiga kaninhål
och vilket kaninhål som ligger närmast ditt intresse.
Om man börjar titta på en av de videorna,
kommer den att rekommendera den om och om igen.
Ingen vill att det här ska hända.
Det är bara det här rekommendationssystemet gör.
Till den grad att Kyrie Irving, den berömda basketspelaren,
sa att han trodde jorden var platt och sen bad om ursäkt
och skyllde på ett YouTube-kaninhål.
Man klickar på YouTube-länken och den går... Hur djupt kaninhålet går.
När han senare sa i NPR: "Förlåt, jag ville inte vilseleda folk,"
intervjuades några elever som sa: "Rundjordarna fick honom."
Plattjords-konspirationsteorin rekommenderades
av algoritmen hundratals miljoner gånger.
Det är lätt att tro
att det bara är några få, korkade personer som blir övertygade,
men algoritmen blir smartare varje dag.
Så idag övertygar de folket att jorden är platt,
men imorgon kommer de att övertyga en nåt annat falskt.
Den 7 november föddes hashtaggen "pizzagate."
Pizzagate...
Jösses.
Jag är fortfarande inte helt säker hur den kom till från början,
men idén var att beställa en pizza
innebar att man beställde ett traffickingoffer.
När grupperna blev större på Facebook,
började Facebooks rekommendationsmotor föreslå att regelbundna användare
skulle gå med i pizzagate-grupper.
Så om en användare till exempel var mot vaccinering, trodde på chemtrails
eller på nåt sätt hade indikerat
att de var benägna att tro på konspirationsteorier,
serverade Facebooks rekommendationsmotor dem pizzagate-grupper.
Det här ledde till att en man dök upp med ett vapen
för att befria barnen från källaren på pizzastället som inte hade en källare.
-Vad gjorde du på platsen? -Såg till att det inte var nåt där.
-Rörande vad? -En pedofilring.
-Vad? -En pedofilring.
Han pratar om pizzagate.
Det här är ett exempel på en konspirationsteori
som spreds över alla sociala nätverk.
De sociala nätverkens rekommendationsmotor serverar det här till folk
som aldrig hade sökt på "pizzagate."
PIZZAGATE SNACKET OM DEMOKRATER OCH PEDOFILI
Det finns en MIT-studie
där fejknyheter sprids sex gånger snabbare än sanna nyheter på Twitter.
Hur kommer den världen att se ut
när den ena har sex gånger större fördel än den andra?
Man kan föreställa sig att de här sakerna är som..
De lutar golvet för mänskligt beteende.
De gör vissa beteenden svårare och vissa enklare.
Man kan välja att gå uppför backen, men färre personer gör det.
Så, i stor skala, i samhällets skala, lutar man egentligen bara golvet
och ändrar vad miljarder människor tänker och gör.
Vi har skapat ett system som är partiskt mot fejkinformation.
Inte för att vi vill det,
utan för att fejkinformation får företagen att tjäna mer pengar
än sanningen. Sanningen är tråkig.
Det är en desinforrmations-vinstdrivande affärsmodell.
Ju mer man tillåter oreglerade meddelanden att nå nån för bästa pris,
desto mer pengar tjänar man.
För att klimatförändring? Ja.
Det är en bluff. Ja, det är verkligt. Det är poängen.
Ju mer de pratar om det och delar upp oss,
desto mer makt och kontroll har de.
Facebook har triljoner av såna här nyhetsflöde-inlägg.
De kan inte veta vad som är äkta eller sant.
Det är därför det här samtalet är så viktigt just nu.
Det är inte bara covid-19 som sprids snabbt.
Det finns ett felaktigt informationsflöde om viruset på nätet.
Uppfattningen att dricka mer vatten rensar ut coronaviruset ur ens system,
är en av flera myter som cirkulerar på sociala medier.
Regeringen planerade händelsen, skapade viruset
och hade en simulering av hur länderna skulle reagera.
Coronavirus är en bluff.
SARS, coronaviruset...
Kolla när den gjordes. 2018.
Jag tror att USA:s regering startade det här.
Ingen är sjuk.
Ingen känner nån som är sjuk.
Regeringen använder kanske coronaviruset som en ursäkt
för att få alla att stanna inne för att nåt annat händer.
Coronavirus dödar inte folk, det är 5G-strålningen de pumpar ut.
5G-MASTAR TAS NER OCH BRÄNNS
Vi blir bombarderade med rykten.
Folk spränger mobilmaster.
Vi ser Ryssland och Kina sprida rykten och konspirationsteorier.
I morse, panik och protest i Ukraina när…
Folk har ingen aning om vad som är sant och nu handlar det om liv och död.
Källorna som sprider felaktig information om corona
har samlat ihop ungefär 52 miljoner engagemang.
Du säger att silverlösning skulle vara effektivt.
Den har inte testats på den här stammen av coronavirus...
Det vi ser med Covid är bara en extrem version
av vad som händer i hela vårt informationsekosystem.
Sociala medier förstärker exponentiellt skvaller och hörsägen
så pass att vi inte vet vad som är sant, oavsett vilken fråga vi bryr oss om.
Är du kvar i laget?
Jag ska ta ett mellanmål innan träningen om du vill följa med.
Sak samma.
Nio av tio personer är missnöjda just nu.
EC är som vilken politisk rörelse som helst.
Vi står upp och vi... Vi står upp mot det här ljudet.
Ni är mitt folk. Jag litar på er.
-Extreme Center-innehållet är lysande. -Han älskar det.
Anordnar en auktion.
Åttahundrafyrtiotre budgivare. Han såldes för 4,35 cent till en vapentillverkare.
Vi marknadsför några av de här evenemangen.
Kommande möten i hans geografiska område.
Jag har även en ny vlogger på kö.
Ärligt talat, jag är villig att göra vad som helst.
Och jag menar vad som helst.
-Abonnera... -Ben?
...och kom tillbaka för att...
...jag har stora saker på gång.
Riktigt stora saker.
Ett av problemen med Facebook är att det, som ett verktyg för övertalning,
kan vara det bästa som nånsin skapats.
Föreställ er vad det innebär i händerna på en diktator.
Det har aldrig funnits ett sånt effektivt verktyg som Facebook
för att kontrollera befolkningen i sitt land.
CYNTHIA M WONG
Några av de mest oroande konsekvenserna
av regeringar och andra dåliga aktörer som beväpnar sociala medier
är att det har lett till skador offline.
Det främsta exemplet
som har fått mycket press är det som hände i Myanmar.
MYANMAR PRESIDENTKANSLI
När folk tänker på internet i Myanmar, tänker de Facebook.
Det som ofta händer är att när folk köper sin mobil,
laddar mobilbutiksägaren ner Facebook och öppnar ett konto åt dem i förväg
Så när folk får sin telefon är Facebook det första
och det enda de vet hur man ska öppna.
En ny, chockerande utredning avslöjar Facebooks växande kamp
att ta itu med hatpropaganda i Myanmar.
SLUTA DÖDA MUSLIMER
Facebook gav militären och andra dåliga aktörer
ett nytt sätt att manipulera allmänheten
och hjälpa till att uppmana till våld mot rohingya-muslimer.
Det inkluderade massmord,
brännande av hela byar,
massvåldtäkt och andra brott mot mänskligheten
som nu har lett till att 700 000 rohingya-muslimer har tvingats fly landet.
Det är inte det att högt motiverade propagandister inte har existerat förr.
Det är det att plattformarna gör det möjligt
att sprida manipulativa berättelser otroligt enkelt
och utan särskilt mycket pengar.
Om jag vill manipulera ett val,
kan jag nu gå in i en konspirationsteorigrupp på Facebook,
hitta hundra personer som tror att jorden är helt platt
och tror att det är en konspirationsteori att vi landade på månen
och säga: "Ge mig tusen såna användare."
Facebook skickar gladeligen tusen såna användare
som jag nu kan pracka på fler konspirationsteorier.
Såld för 3,4 cent per intryck.
Ny EC-video att marknadsföra.
Mer reklam redo.
Algoritmer och manipulativa politiker börjar bli så skickliga på
att veta hur de ska trigga oss
och skapa fejknyheter som vi tar in som om det vore verklighet.
De förvirrar oss till att tro på de lögnerna.
Vi har mindre och mindre kontroll över vilka vi är och vad vi tror på.
Så att de kan välja sidor.
Det finns lögner här och där borta,
så de kan behålla makten, så att de kan kontrollera allt.
De kan kontrollera våra sinnen, så att de kan behålla sina hemligheter.
TVIVLA PÅ SANNINGEN
CDC EKÄNNER VACCIN/AUTISM-MÖRKLÄGGNING
Tänk er en värld där ingen tror på nåt som är sant.
VACCINER ÄR INTE EN STANDARDLÖSNING
Alla tror att regeringen ljuger för dem.
Allt är en konspirationsteori.
"Jag borde inte lita på nån. Jag hatar den andra sidan."
Det är dit det är på väg.
De politiska jordbävningarna i Europa fortsätter mullra,
den här gången i Italien och Spanien.
Europas traditionella mittenkoalition förlorade sin majoritet
medan höger- och vänsterpopulistiska partier stärktes.
Backa.
Okej, vi kör.
De här kontona försökte medvetet och specifikt
så politisk oenighet i Hongkong.
Okej, Ben.
Hur är det att vara ett land
där hela informationskällan består är Facebook och sociala medier?
Demokrati föll snabbt.
Sex månader.
Efter det kaoset i Chicago,
blev våldsamma konflikter mellan demonstranter och anhängare…
Demokratin står inför en förtroendekris.
Det vi ser är en global attack mot demokrati.
De flesta av länderna som är berörda är länder som har demokratiska val.
Det här händer i stor skala.
Av statliga aktörer, folk med miljoner dollar som säger:
"Jag vill destabilisera Kenya. Jag vill destabilisera Kamerun.
Åh, Angola? Det kostade bara så mycket."
Ett extraordinärt val ägde rum i Brasilien i söndags.
Med en kampanj som har drivits av sociala medier.
Vi i teknologibranschen har skapat verktygen
för att destabilisera och undergräva samhällsstrukturen
i alla land överallt på samma gång.
Man har det i Tyskland, Spanien, Frankrike, Brasilien, Australien...
Några av de mest utvecklade nationerna
imploderar nu på varandra.
Vad har de gemensamt?
Med vetskapen du har,
tror du att Facebook påverkade valresultatet 2016?
Det är svårt.
Det är...
Verkligheten är att det var så många krafter inblandade.
Företrädare från Facebook, Twitter och Google är åter i Capitol Hill
för en andra dag av vittnessmål
angående Rysslands inblandning i valet 2016.
Manipuleringen av tredje parter är ingen hackning.
Okej? Ryssarna hackade inte Facebook.
Vad de gjorde var att använda verktygen Facebook skapade,
för legitima annonsörer och legitima användare,
och tillämpade dem till ett ont syfte.
Det är som fjärrstyrd krigföring.
Ett land kan manipulera ett annat utan att invadera dess fysiska gränser.
Vi ser de här våldsbilderna.
Det verkar vara en soptunna som knuffas runt...
Men det handlade inte om vem man ville rösta på.
Det handlade om att så totalt kaos och splittra samhället.
Det här var på Huntington Beach, en marsch...
Det handlade om skapa två sidor som inte kunde lyssna,
inte ville lyssna och inte litade på varandra längre.
Det här är en stad där hat blottades
och förvandlades till rasvåld.
SPÄNT LÄGE I VIRGINA TRE DÖDA I DAG AV VÅLD
Ben!
Cassandra!
-Cass! -Ben!
Kom hit!
Upp med armarna. Ner på knä. Nu. Ner.
-Lugna... -Ben!
Upp med händerna!
Vänd dig om. Ner på marken.
Vill vi sälja det här systemet till den högstbjudande?
Att demokratin ska vara till salu där man kan nå vilket sinne man vill,
rikta en lögn mot den befolkningen och skapa kulturkrig?
Vill vi det?
Vi är en nation...
...som inte pratar med varandra.
Vi är en nation som har slutat vara vän med människor
på grund av vem de röstade på i senaste valet.
Vi är en nation som har isolerat oss
för att bara se på kanaler som säger att vi har rätt.
Mitt budskap idag är att trabilism ruinerar oss.
Den sliter sönder vårt land.
Så ska inte sunda vuxna uppföra sig.
Om alla har rätt till sina egna fakta
finns det ingen anledning att kompromissa, för folk att gå samman.
Det finns ingen anledning att ens interagera.
Vi måste ha nån delad förståelse av verkligheten.
Annars är vi inget land.
MR ZUCKERBERG
Så den långsiktiga lösningen är att bygga fler AI-verktyg
som hittar mönster hos personer som använder tjänsterna
som ingen riktig person skulle hitta.
Vi låter teknologerna lägga fram det här som ett problem
de är rustade att lösa.
Det är en lögn.
Folk pratar om AI som att den kommer veta sanning.
AI kommer inte att lösa problemen.
AI kan inte lösa problemet med fejknyheter.
Google har inte möjligheten att säga: "Är det konspiration? Är det sant?"
För de vet inte vad sanning är.
De har ingen proxyserver för sanning som är bättre än ett klick.
Om inte vi enas om vad som är sant, eller att det finns nåt sånt som sanning,
är vi rökta.
Det här är problemet under andra problem.
Om inte vi kan enas om vad som är sant,
kan inte vi ta oss ur några av våra problem.
Vi borde föreslå Flat Earth Football Club.
Visa inte fler sportuppdateringar. Han deltar inte.
Många i Silicon Valley instämmer i nån sorts teori
om att vi bygger en global superhjärna
och att alla våra användare bara är små, utbytbara, obetydliga neuroner.
Det underkuvar människor till en konstig roll
där du bara är ett litet datorelement
vi programmerar genom vår beteendemanipulation
för att underhålla den jättehjärnan. Du spelar ingen roll.
Du får inte betalt, du får ingen bekräftelse,
du har inget självbestämmande.
Vi manipulerar dig bara för att du är en datornod.
Vi måste programmera dig, för det är så man gör med datornoder.
Jösses.
När man tänker på teknologi och att det är ett existentiellt hot...
Det är ett stort påstående och...
...det är lätt att tänka: "Okej, så där är jag med telefonen...
...skrollar, klickar, använder den... Var är hotet?
Där är superdatorn,
på andra sidan av skärmen, riktad mot min hjärna.
Den fick mig att kolla på en till video. Var är hotet?"
Det handlar inte om att teknologin är det existentiella hotet.
Det är teknologins förmåga att locka fram det värsta i samhället
och det värsta i samhället är det existentiella hotet.
USA:S SENAT
Om teknologi skapar masskaos, indignation, ohövlighet,
brist på tillit, ensamhet, utanförskap, mer polarisering,
mer valhackning, mer populism,
mer distraktion och oförmåga att fokusera på riktiga problem...
Det är bara samhället.
Nu är samhället oförmöget att läka
och övergåt till ett sorts kaos.
Det här påverkar alla, även om man inte använder produkterna.
Det här har blivit digitala Frankensteins
som förändrar världen i sin avbild.
Vare sig det är barns mentala hälsa
eller vår politik och vår politiska diskurs,
utan att ta ansvar för att ta över debatten bland folket.
-Så återigen återgår det till... -Vem tycker du bär ansvaret?
Vi måste hålla plattformarna ansvariga.
När de tar över valannonsering är de ansvariga för att skydda val.
När de tar över barns mentala hälsa eller Saturday-morning
är de ansvariga för att skydda Saturday-morning.
Kampen för att hålla folks uppmärksamhet försvinner inte.
Vår teknologi kommer att bli mer integrerad i våra liv.
AI kommer bli bättre på att förespå vad som håller oss vid skärmen,
inte sämre.
Jag är 62 år
och blir äldre varje minut det här samtalet pågår,
men jag ska säga att...
Jag kommer nog att vara död, och jag kommer nog vara tacksam för det,
när allt det här förverkligas.
Det här skrämmer mig till döds.
Ser ni det på samma sätt?
Eller överreagerar jag på en situation jag inte vet tillräckligt om?
Vad är du mest orolig för?
Inom den närmsta framtiden...
...inbördeskrig.
Om vi fortsätter som vi gör nu i låt säga ytterligare 20 år...
...förstör vi troligtvis vår civilisation genom egensinnig okunnighet.
Vi misslyckas troligtvis med utmaningen av klimatförändring.
Vi försämrar troligtvis världens demokratier,
så att de förfaller i nån sorts bisarr autokratisk dysfunktion.
Vi förstör troligtvis den globala ekonomin.
Vi överlever...troligtvis inte.
Jag ser det verkligen som existentiellt.
Är det här den sista generationen
som kommer att vet veta hur det var innan den här illusionen?
Hur vaknar man från Matrix när man inte vet att man är i Matrix?
"VARE SIG DET BLIR UTOPI ELLER GLÖMSKA, BLIR DET ETT OFÖRUTSÄGBART STAFETTLOPP
ÄNDA IN I DET SISTA ÖGONBLICKET..." BUCKMINSTER FULLER
Mycket av det vi säger låter som att det bara är...
...ensidigt jämmer och elände.
"Herregud, teknologi förstör världen och den förstör barn.."
Nej.
Det är förvirrande, för det är utopi och dystopi samtidigt.
Jag kan trycka på en knapp på min telefon och en bil dyker upp på 30 sekunder
och jag kan åka dit jag måste.
Det är magi. Det är fantastiskt.
När vi skapade gilla-knappen
var vår motivation: "Kan vi sprida positivitet och kärlek?"
Idén att tonåringar skulle bli deprimerade när de inte får nog med gilla-markeringar
eller politisk polarisering fanns inte på vår världskarta.
Jag tror inte de strävade efter att vara onda.
Det är bara affärsmodellen som har ett problem.
Man kan stänga ner tjänsten och förstöra vad det än är,
20 biljarder dollar av aktieägarvärde och bli stämd och...
Men man kan inte stoppa tillbaka anden i flaskan.
Man kan göra justeringar, men när allt kommer omkring
måste man öka intäkter och användning, kvartal under kvartal.
Ju större det blir, desto svårare blir det att förändras.
Jag ser en massa människor som är fångade av en affärsmodell,
ett ekonomiskt incitament och press från aktieägare,
som gör det nästan omöjligt att göra nåt annat.
Vi måste nog acceptera att det är okej att företag fokuserar på att tjäna pengar.
Det som inte är okej är när det inte finns reglering, regler eller konkurrens
och företagen agerar som faktiska regeringar.
Sen säger de: "Vi kan reglera oss."
Det är bara en lögn. Det är bara löjligt.
Ekonomiska incitament styr världen,
så alla lösningar på det här problemet måste justera de ekonomiska incitamenten.
Företagen har inga skattemässiga skäl att ändra på sig.
Det är därför vi behöver reglering.
Telefonbolaget har massor av känslig information om en
och vi har många lagar som ser till att inte de gör fel saker.
Vi har nästan inga lagar rörande digital integritet.
Vi kan beskatta insamling och behandling av data.
På samma sätt som man betalar sin vattenräkning
genom att kontrollera sin vattenförbrukning,
beskattar man de här företagen efter sina datatillgångar.
Det ger dem ett skattemässigt skäl att inte samla in all data på planeten.
Lagen ligger långt efter rörande de här sakerna.
Men jag vet att den nuvarande situationen inte skyddar användare,
utan rättigheterna och privilegierna hos de här gigantiska, rika företagen.
Ska vi alltid foga oss till de rikaste, mäktigaste människorna?
Eller ska vi nån gång säga:
"Det finns tillfällen då det finns ett nationellt intresse,
det finns tillfällen då folks, användares, intressen
faktiskt är viktigare
än vinsten hos nån som redan är en biljonär"?
De här marknaderna undergräver demokrati och de undergräver frihet
och de bör förbjudas.
Det här är inget radikalt förslag.
Vi förbjuder andra marknader.
Vi förbjuder marknader för mänskliga organ.
Vi förbjuder marknader för mänskliga slavar.
För att de har oundvikliga, destruktiva konsekvenser.
Vi lever i en värld
där ett träd, ekonomiskt sätt, är värt mer dött än levande,
i en värld där en val är värd mer död än levande.
Så länge vår ekonomi fungerar på det viset och bolag förblir oreglerade,
kommer de att fortsätta förstöra träd, döda valar,
bryta jorden och dra upp olja.
Trots att vi vet att det förstör planeten
och kommer lämna en värre värld för framtida generationer.
Det här är kortsiktigt tänkande baserat på vinst till varje pris,
som om det magiskt kommer att ge det bästa resultat
om alla bolag agerar själviskt.
Det här har påverkat miljön länge.
Det som är skrämmande och förhoppningsvis den sista droppen,
det som får oss att inse hur bristfällig den här teorin har varit från början,
är att se att nu är vi trädet, vi är valen.
Vår uppmärksamhet kan utvinnas.
Vi är mer lönsamma för ett bolag
om vi stirrar på en skärm, stirrar på en annons,
än om vi lever vårt liv på ett rikt sätt.
Så vi ser resultatet av det.
Vi ser bolag använda mäktig artificiell intelligens
för att överlista oss och rikta vår uppmärksamhet
mot det vill att vi ska kolla på,
snarare än det som bäst överensstämmer med våra mål, värderingar och liv.
STEVE JOBS DAGENS KEYNOTE
En dator för mig är...
Den är det mest anmärkningsvärda verktyget vi har skapat.
Den är som en cykel för våra sinnen.
Silicon Valley började med idén om mänsklig teknologi.
Vi har förlorat det ur sikte för att det blev den coola saken att göra,
till skillnad från den rätta.
Internet var en konstig, knasig plats.
Det var experimentellt.
Kreativa saker hände på internet. Det gör det fortfarande,
men det känns bara som ett gigantiskt köpcentrum.
Man tänker bara: "Gud, det måste vara mer än så"
Jag är väl bara en optimist.
För jag tror att vi kan förändra hur sociala medier ser ut och vad de betyder.
Teknologi funkar inte som en fysiklag. Den är inte skriven i sten.
Det här är val som människor som jag själv måste göra.
Och människor kan förändra de teknologierna.
Frågan nu är huruvida vi är villiga att erkänna
att de dåliga resultaten är en direkt produkt av vårt arbete.
Vi byggde de här grejerna och vi har ett ansvar att förändra dem.
Uppmärksamhets-framtagningsmodellen är inte hur vi vill behandla människor.
Är det bara jag eller...
Stackars jäkel.
En sund samhällsstruktur
hänger på att vi tar oss ur den här destruktiva affärsmodellen.
Vi kan kräva att de här produkterna designas på ett mänskligt sätt.
Vi kan kräva att inte behandlas som en utvinningsresurs.
Avsikten skulle kunna vara: "Hur ska vi göra världen bättre?"
Genom historien... Varje gång nåt blivit bättre,
är det för nån har sagt: "Det här är korkat. Vi kan bättre."
Det är kritikerna som driver fram förbättring.
Det är kritikerna som är de sanna optimisterna.
Hej.
Det verkar rätt galet.
Det är som om det grundläggande sättet det här är designat på...
...inte går i en positiv riktning.
Hela grejen.
Det låter galet att säga att vi måste förändra allt det,
men det måste vi.
Tror du att vi kommer dit?
Det måste vi.
Du verkar vara väldigt optimistisk.
Låter jag så?
Jag kan inte fatta att du säger det,
för jag tänker: "På riktigt? Det känns som om vi är på väg mot dystopi.
Vi är på snabbspåret mot dystopi
och det krävs ett mirakel för att få oss ur det."
Det miraklet är förstås kollektiv vilja.
Jag är optimistisk att vi kommer lösa det, men jag tror det kommer ta lång tid.
För alla inser inte att det här är ett problem.
Ett av de stora misslyckandena inom teknologi idag
är ett misslyckat ledarskap
av folk som kommer ut och har öppna konversationer
om saker...
Inte bara vad som gick bra, utan det som inte är perfekt,
så att nån kan komma in och bygga nåt nytt.
När allt kommer omkring,
kommer inte den här maskinen att förändras utan ett enormt tryck från allmänheten.
Genom att ha de här samtalen och uttrycka sin åsikt
kan vi, genom just de här teknologierna,
börja ändra riktningen och ändra konversationen.
Det är min värld, det är mitt samhälle.
Jag vill inte skada Google eller Facebook.
Jag vill reformera dem så att de inte förstör världen.
Jag har avinstallerat en massa appar jag kände bara slösade min tid.
Alla sociala medier-appar, alla nyhetsappar...
Jag har stängt av notifikationer på allt som vibrerade med information
som inte var lägligt eller viktigt för mig just då.
Det är av samma skäl jag inte har kakor i fickan.
Minska antalet notifikationer.
Stäng av notifikationer.
Istället för Google använder jag Qwant, som inte lagrar ens sökhistorik.
Acceptera aldrig en YouTube-rekommendation.
Välj. Det finns ett annat sätt att kämpa.
Det finns massor av Chrome-tillägg som tar bort rekommendationer.
Jag älskar att du rekommenderar nåt för att ta bort vad du skapade.
Ja.
Kolla fakta innan du delar nåt, googla en extra gång.
Om det verkar vara nåt designat för att trycka på känslomässiga knappar,
är det nog det.
Man röstar med sina klick.
Klickar man på klickbete,
skapar man ett ekonomiskt incitament som bevarar det nuvarande systemet.
Se till att du får många olika typer av information
i ditt liv.
Jag följer folk som inte jag instämmer med,
för jag vill utsättas för olika synpunkter.
Lägg märke till att många i branschen inte ger apparaterna till sina barn.
Mina barn använder inte sociala medier.
Är det en regel eller...
En regel.
Vi är fanatiker.
Vi är galna.
Vi låter i princip inte våra barn ha nån skärmtid överhuvudtaget.
Jag har kommit fram till tre enkla regler
som gör livet enklare för familjer och motiveras av forskningen.
Den första regeln är: Alla apparater ur sovrummet
en fast tid varje kväll.
Alla apparater ut en halvtimme före läggdags.
Den andra regeln är: Inga sociala medier innan high school.
Jag tycker att åldern borde vara 16.
Håll dem borta tills high school.
Den tredje regeln är: Kom fram till en tidsbudget med ditt barn.
Om man frågar:
"Hur många timmar vill du spendera per dag,
vad tycker du är bra?"
De säger ofta nåt rätt rimligt.
Jag vet mycket väl
att jag inte kommer få alla att radera sina sociala mediekonton.
Men jag tror att jag kan få några och bara det spelar stor roll.
Skälet till det är att det skapar utrymme för en konversation.
Jag vill att det ska finnas tillräckligt med människor
som är fria från manipuleringsmotorerna för att ha en konversation
som inte begränsas av manipuleringsmotorerna.
Så gör det! Ta er ur systemet.
Radera. Sluta med de dumma sakerna.
Världen är vacker. Det är toppen där ute.
FÖLJ OSS PÅ SOCIALA MEDIER!
VI SKÄMTAR BARA.
LÅT OSS PRATA OM ATT FIXA DET. THESOCIALDILEMMA.COM
Undertexter: Josephine Roos Henriksson