saruna ar James Williams – TechCrunch


Džeimss Viljamss var vēl nav mājsaimniecības nosaukums lielākajā daļā tehnoloģiju aprindu, bet viņš būs.

Šajā otrajā reizē, kas būs regulāra sarunu sērija, kurā tiks aplūkota tehnoloģiju nozares ētika, es priecājos, ka varu vērsties pie viena no mūsu pašreizējās paaudzes svarīgākajiem jaunajiem tehnoloģiju filozofiem.

Aptuveni pirms desmit gadiem Williams ieguva dibinātāja balvu, Google augstāko godu saviem darbiniekiem. Tad 2017. gadā viņš ieguva vēl retāku apbalvojumu, šoreiz par viņa dedzinošo kritiku par visu digitālo tehnoloģiju nozari, kurā viņš tik veiksmīgi strādājis. Kembridžas universitātes 100 000 dolāru „deviņu punktu balvas” atklāšanas uzvarētājs par sākotnējo domāšanu, Williams tika atzīts par viņa doktora pētījuma Oksfordas Universitātē augļiem, par to, kā „digitālās tehnoloģijas padara neiespējamu visas politikas formas, jo tās dod priekšroku mūsu impulsiem pār mūsu nodomiem un ir paredzēti, lai izmantotu mūsu psiholoģiskās ievainojamības, lai virzītu mūs uz mērķiem, kas var būt vai nebūt saskaņoti ar mūsu pašu. ”2018. gadā viņš publicēja savu izcili rakstīto grāmatu„ Izcelt savu gaismu ”, tūlītēju klasiku laukā ētikas ētiku.

Padziļinātā sarunā pa tālruni un e-pastu, kas rediģēts zemāk par garumu un skaidrību, Williams man pastāstīja par to, kā un kāpēc mūsu uzmanība ir pakļauta dziļu uzbrukumu. Vienā brīdī viņš norāda, ka mākslīgais intelekts, kas spēlē pasaules čempionu spēlē, tagad ir mērķtiecīgi – un drīzāk veiksmīgi – uzbrūkot mums, vai vismaz pārliecinot mūs skatīties vairāk YouTube videoklipu un palikt mūsu telefonos daudz ilgāk nekā mēs citādi. Un, lai gan lielākā daļa no mums ir novērojuši un apbēdinājuši šo parādību, Viljamss uzskata, ka tādu lietu kā viedtālruņa piespiedu sekas varētu būt daudz briesmīgākas un izplatītākas, nekā mēs saprotam, galu galā liekot miljardiem cilvēku dziļi apdraudēt, pārbaudot mūsu spēju pat būt cilvēka gribu.

Tas ir atdzist izredzes, un kaut kā, ja izlasāt intervijas beigās, jūs redzēsiet, ka Williams izdodas beigties ar iedvesmojošu un cerīgu piezīmi. Izbaudi!

Redaktora piezīme: šī intervija ir aptuveni 5500 vārdi / 25 minūtes lasīšanas laiks. Pirmā trešā daļa nav iekļauta ņemot vērā šī jautājuma nozīmīgumu. Lai izlasītu visu interviju, noteikti pievienojieties „Extra Crunch” dalībai. ~ Danny Crichton

Ievads un fons

Greg Epstein: Es gribu uzzināt vairāk par savu personīgo stāstu. Jūs uzaugāt Rietumu Teksasā. Tad jūs atradāt sevi Google, kur jūs uzvarēja dibinātāja balva, Google augstākais gods. Tad kādā brīdī jūs sapratāt: „Man ir jāiziet no šejienes.” Kāds bija šis ceļojums?

James Williams: Tas būs skaļāks un vairāk apzināts nekā tas bija, kā tas ir vairumam stāstu. Daudzos veidos mana dzīve ir bijusi ping-ponging starp tehnoloģiju un humanitārajām zinātnēm, cenšoties tos pārvērst kaut kādā sarunā.

Tā ir sajūta, ka, jūs zināt, automašīna jau ir uzbūvēta, paneļa kalibrēšana un tagad, lai pārvietotu cilvēci uz priekšu, jums tikai jāuztur ritenis taisni

Es pavadīju veidojošos gadus pilsētā Abilenē, Teksasā, kur mans tēvs bija universitātes profesors. Tā ir vieta, kur jūs saņemsiet dienu skolā, kad rodeo ierodas pilsētā. Daudz labu cilvēku tur. Bet tas nav tieši tehnoloģiju centrs. Lielākā daļa manas tehniskās izglītības sastāvēja no vēlu vakara un pilnas dienas vasarā, universitātes datorlaboratorijā, kur mans jaunākais brālis vienkārši sajaucās par ātru savienojumu tur. Vēlāk, kad es devos uz koledžu, es sāku mācīties datortehniku, bet es atklāju, ka man bija šī nieze par plašāku „kāpēc” jautājumu, kas man vajadzēja ieskrāpēt. Tāpēc es mainīju savu uzmanību uz literatūru.

Pēc koledžas es sāku strādāt pie Google savā Seattle birojā, palīdzot attīstīt viņu meklēšanas reklāmu biznesu. Es nekad neesmu iedomājies, ka es strādātu reklāmā, un bija dažas nopietnas pātagas, kas iet tieši uz šo pasauli pēc tam, kad pavadīju vairākas stundas dienā, lasot Džeimsu Džeisu. Lai gan es domāju, ka Leopolds Blooms Ulyssesā darbojas arī reklāmā, tāpēc tur ir vismaz daži savienojuma pavedieni. Bet es domāju, ka tas, ko es uzskatīju par vissvarīgāko par darbu tajā laikā, un es domāju, ka tas būtu bijis 2005. gadā, bija ideja, ka mēs būtībā mainījām to, kas varētu būt reklāma. Ja vēsturiski reklāmai bija jākļūst par kaitinošu, novēršot cilvēku uzmanību, tā vairs nebija vajadzīga, jo mums beidzot bija līdzekļi, lai to orientētu uz cilvēku patiesajiem nodomiem. Un meklējumi, ka “nodomu datubāze” bija šīs pārmaiņas priekšgalā.

Pretinieku pārliecināšanas mašīna

Foto ar Joe daniel cenu caur Getty Images

Greg: Kā jūs galu galā nonācāt Oksfordā, pētot tehnoloģiju ētiku? Ko jūs tur gājāt, lai uzzinātu?

Džeimss: Kas lika man doties uz Oksfordu, lai izpētītu pārliecības ētiku un uzmanību, ka es neredzēju šo reklāmu pārorientēšanu uz cilvēku patiesajiem mērķiem un nodomiem, kas galu galā uzvarēja visā nozarē. Patiesībā es redzēju kaut ko patiešām par notiekošo pretējā virzienā. Vecās uzmanības pievilcīgās reklāmas formas tika kritiski atkārtotas jaunajā digitālajā vidē, tikai tagad daudz sarežģītākā un neierobežotā veidā. Šie uzmanības cienīgie mērķi, kas nav mērķi, ko neviens lietotājs nekad nav izmantojuši paši par sevi, šķita, ka tie ir paši videi raksturīgi mērķi.

Agrāk reklāma tika raksturota kā „mediju parakstīšanas veids”, bet tagad šķiet, ka tā ir „pārrakstīšana”. Viss kļuva par reklāmu. Mana visa digitālā vide, šķiet, bija pārvēršanās par dīvainu jauna veida pretinieku pārliecināšanas mašīnu. Bet pārliecināšana nav pat pareizais vārds. Tas ir kaut kas spēcīgāks par to, kaut kas vairāk piespiedu vai manipulācijas virzienā, ka es joprojām nedomāju, ka mums ir labs vārds. Kad es paskatījos apkārt un neredzēju nevienu, kas runā par šo lietu ētiku, jo īpaši par tā ietekmi uz cilvēka brīvību, es nolēmu pats mācīties.

Greg: Cik stresa laiks bija jums, kad tu saproti, ka jums ir nepieciešams veikt tik lielu pārmaiņu vai ka jūs varētu izdarīt tik lielu pārmaiņu?

Džeimss: Lielās izmaiņas, kas pārceļas uz doktora darbu?

Greg: Nu, bet tiešām es cenšos saprast, ko gribētu iet no ļoti augstās vietas tehnoloģiju pasaulē, lai kļūtu par būtisku filozofu kritiķi par savu iepriekšējo darbu.

Džeimss: Daudzi cilvēki, par kuriem es runāju, nesaprata, kāpēc es to darīju. Draugi, kolēģi, es domāju, ka viņi nav sapratuši, kāpēc tā bija cienīga tik liels solis, tik liela pārmaiņa manā personīgajā dzīvē, lai mēģinātu nopratināt šo jautājumu. Bija mazliet, ne vientulība, bet gan sava veida motivējoša izolācija. Bet kopš tā laika, protams, ir bijis iepriecinoši redzēt, ka daudzi no viņiem saprot, kāpēc es jutu, ka tā bija tik svarīga. Daļa no tā ir tāpēc, ka šie jautājumi tagad ir daudz vairāk sabiedrības informētības priekšplānā nekā tagad.

Atbrīvošanās uzmanības laikmetā

Greg: Jūs rakstāt par to, kā tad, kad tu esi jaunāks, jūs domājāt, ka “nav lielas politiskas cīņas.” Tagad jūs teicāt: „Cilvēka uzmanības atbrīvošana var būt mūsu laikmeta morālā un politiskā cīņa.” Sakiet man par to intelektuāli vai emocionāli vai abas. Cik labi jūs domājat, ka tā bija toreiz, pasaule bija toreiz, un cik tas ir jūs?

Tas, ko jūs redzat daudz tehniskajā dizainā, būtībā ir vienāds ar apļveida argumentu par to, kur kāds uzklikšķina uz kaut ko, un pēc tam dizainers teiks: „Nu, skatiet, viņi to vēlējās, jo viņi uzklikšķināja uz tā.”

Džeimss: Es domāju, ka daudzi cilvēki manā paaudzē uzauga ar šo sajūtu, ka patiesībā nav nekādu vairāk eksistenciālu draudu liberālajam projektam, kas mums palika cīņā pret. Tā ir sajūta, ka, jūs zināt, automašīna jau ir uzbūvēta, paneļa kalibrēšana, un tagad, lai pārvietotu cilvēci uz priekšu, jums tikai jāuztur ritenis taisni un jāiegūst labs darbs un jāpārstrādā un jācenšas neuzbrukt automašīnai kā mēs braucam uz šo ļoti stabilu saulrietu vēstures beigās.

Tomēr es sapratu, ka šī uzmanības krīze, ko rada pretinieku pārliecinošs dizains, ir kā spainis dubļiem, kas ir izmesti pāri automašīnas vējstiklam. Tā ir pirmās kārtas problēma. Jā, mums joprojām ir lielas problēmas, piemēram, klimata pārmaiņas un ekstrēmisms utt. Bet mēs nevaram tos atrisināt, ja vien mēs nevaram viņiem dot pienācīgu uzmanību. Tādā pašā veidā, ja jums ir dubļains vējstikls, jā, jūs riskējat nobraukt no ceļa un nokļūt kokā vai lidot gravā. Bet pirmā lieta ir tāda, ka jums tiešām ir nepieciešams tīrīt vējstiklu. Mēs nevaram darīt neko, kas ir svarīgs, ja vien mēs nevaram pievērst uzmanību jautājumiem, kas ir svarīgi. Un mūsu plašsaziņas līdzekļi ir mūsu vējstikls, un tieši tagad tajā ir dubļi.

Greg: Viens no nosacījumiem, ko jūs vai nu izmantojat vai izmantojat situācijā, kurā mēs atrodamies, ir uzmanības vecums.

Džeimss: Es izmantoju šo frāzi “Uzmanības laikmets” ne tik daudz, lai virzītu to kā nopietnu kandidātu tam, ko mums vajadzētu saukt par mūsu laiku, bet vairāk kā retorisku pretstatu frāzei “Informācijas laikmets”. Herbert Simon, ko es runāju grāmatā, ka tad, kad informācija kļūst bagātāka, tas pievērš uzmanību ierobežotajam resursam.

Liela daļa ētikas darbu, kas saistīts ar digitālajām tehnoloģijām, līdz šim ir risinājuši jautājumus par informācijas pārvaldību, bet daudz mazāk ir pievērsušies uzmanības pārvaldības jautājumiem. Ja uzmanība tagad ir ierobežotais resurss, tāpēc daudzas tehnoloģijas konkurē, mums jāpievērš lielāka uzmanība ētiskai uzmanību.

Greg: Pa labi. Es tikai vēlos pārliecināties, ka cilvēki saprot, cik nopietni tas varētu būt, cik smagi jūs domājat, ka tas ir. Es ienācu savā grāmatā, kas jūtos pilnīgi novirzījusies, un to ieskauj pilnīgi novirzīti cilvēki. Bet, kad es pabeidzu grāmatu, un tā ir viena no visvairāk iezīmētajām grāmatām, ko esmu kādreiz piederējusi pie ceļa, es atnācu ar akūtu krīzi. Tas, kas tiek darīts mūsu uzmanības lokā, skar mūs kā cilvēkus. Kā jūs to raksturotu?

Džeimss: Paldies, ka veltījāt tik lielu uzmanību grāmatai. Jā, šīm idejām ir ļoti dziļas saknes. Dhammapadā Buda saka: „Viss, kas mēs esam, ir rezultāts tam, ko esam domājuši.” Salamana pamācība saka: „Kā cilvēks domā savā sirdī, tā ir viņš.” Simone Weil rakstīja: „Tas nav mēs, kas pārvietojamies, bet attēli nonāk mūsu acu priekšā un mēs dzīvojam. ”Man šķiet, ka uzmanība patiešām ir jāuzskata par vienu no mūsu visdārgākajām un fundamentālākajām spējām, to pienācīgā veidā jāuztver kā vienu no lielākajiem un to ievainošana būtu jāuzskata par vislielāko kaitējumu.

Grāmatā es biju ieinteresēts izpētīt, vai uzmanības valodu var izmantot, lai noderīgi runātu par cilvēka gribu. Dienas beigās es domāju, ka lielākā daļa no tā, kas ir apdraudēta šo pārliecinošo sistēmu veidošanā, ir cilvēka gribas panākumi.

"Vēlaties to, ko mēs vēlamies?"

Foto ar Buena Vista attēliem, izmantojot Getty Images

Greg: Lai pārvērstu šīs bažas par „cilvēciskās gribas panākumiem” vienkāršākos terminos, es domāju, ka lielā problēma šeit ir, kas notiek ar mums kā cilvēkiem, ja mēs pamodāmies no rīta un gulēsim naktī, kas vēlas lietas. ka mēs patiešām vēlamies tikai tāpēc, ka AI un algoritmi mums palīdzēja pārliecināt, ka mēs tos vēlamies? Piemēram, mēs vēlamies būt mūsu tālrunī galvenokārt tāpēc, ka tas kalpo Samsung vai Google vai Facebook vai kurš. Vai mēs zaudējam kaut ko no mūsu cilvēces, kad mēs zaudējam spēju „gribēt to, ko mēs vēlamies?”

Džeimss: Pilnīgi. Es domāju, ka filozofi sauc šīs otrās kārtas gribas, nevis tikai pirmās kārtas gribas. Pirmās kārtas vēlēšanās ir: "Es gribu ēst šokolādes gabalu, kas ir manis priekšā." Bet otrās kārtas vēlēšanās ir: "Es nevēlos gribēt ēst šo šokolādes gabalu, kas ir manis priekšā." Lai izveidotu šīs otrās kārtas gribas, spētu noteikt, ko vēlamies, mums ir nepieciešama spēja pārdomāt.

Tas, ko jūs redzat daudz tehniskajā dizainā, būtībā ir vienāds ar apļveida argumentu par to, kur kāds uzklikšķina uz kaut ko, un pēc tam dizainers teiks: „Nu, redzēt, viņiem tas vajadzēja, jo viņi uzklikšķināja uz tā.” Bet tas faktiski ir pierādījums par efektīvu pārliecināšanu kā pierādījumu par nodomu, kas ir ļoti ērts dizaina metriku un uzņēmējdarbības modeļu apkalpošanai, bet ne vienmēr ir lietotāja intereses.

AI un uzmanība

STR / AFP / Getty Images

Greg: Runāsim par AI un tās lomu pārliecināšanā, ko jūs esat aprakstījis. Vairākas reizes jūs runājat par AI aiz sistēmas, kas pārspēj pasaules čempionu galda spēlē Go. Es domāju, ka tas ir lielisks piemērs, un ka AI tika izmantots, lai saglabātu mums ilgāku YouTube skatījumu, un ka miljardi dolāru tiek burtiski iztērēti, lai noskaidrotu, kā panākt, lai mēs varētu aplūkot vienu lietu pār otru.