În cazul în care nu ați obținut memo-ul, întreaga AI va prelua problema lumii, iată câteva fapte pe care trebuie să le cunoașteți.(Foto: Shan Sheehan / Flickr) Anul acesta, pentru prima dată, un computer l-a învins pe campionul mondial la Go, unul dintre cele mai complexe jocuri cunoscute de om. Acesta a fost un alt moment important în progresul inteligenței artificiale.
Pentru a vă face o idee cât de complex este Go, există 2.082 × 10 ^ 170 configurații posibile ale plăcii. Adică 2 cu 170 de zero după el. Șansele sunt că creierul tău nici măcar nu poate concepe un număr atât de mare (dar un computer poate). Sau pentru a vă face o idee despre cât de mare este un număr acea adică, există doar 10 ^ 80 de atomi în univers - adică unul urmat de 79 de zerouri.
Motivul pentru care acest lucru este atât de mare este că Go este atât de complicat încât, pentru a învinge un jucător uman de top, o mașină ar trebui să învețe cum să gândească creativ, improvizând și adaptându-se la situația de față, fără a putea calcula fiecare posibil rezultat; adică, trebuie să existe ceva inteligență artificială serioasă - cum ar fi inteligența reală, creativă.
În cazul în care nu ați obținut memo-ul, întreaga AI va prelua problema lumii, iată câteva fapte pe care trebuie să le cunoașteți.
- Calculatoarele devin mai inteligente.
- Calculatoarele devin mai inteligente la un ritm accelerat - adică avansurile care aveau nevoie de 10 ani acum durează un an. Progresele care aveau nevoie de un an, acum durează săptămâni sau chiar zile.
- Este foarte probabil ca în timpul vieții noastre să existe computere mult mai inteligente și mai capabile decât orice ființă umană.
- Aceste computere mai inteligente vor fi probabil în măsură să proiecteze și să îmbunătățească tehnologia (adică ele însele) și să creeze o nouă tehnologie pe care nici nu putem începe să o înțelegem.
Persoanele care înțeleg punctele de mai sus au în general una dintre cele două reacții. Fie:
- Ei cred că suntem total fututi. Computerele vor prelua totul și ne vor ucide / înrobi pe toți. Sau:
- Acest lucru va aduce o utopie tehnologică care va rezolva toate disputele noastre umane prostești și putem trăi cu toții fericiți după ce am avut orgii în lumea noastră ultra-VR care există în nor.
La fel ca în majoritatea lucrurilor, adevărul este probabil undeva la mijloc.
Dar chiar dacă rahatul îl lovește pe ventilator, chiar dacă roboții ne văd ca păduchii care distrug scalpul curat al acestei planete și vor să ne rotunjească pe toți și să ne arunce într-un vulcan activ, chiar dacă inventăm din greșeală mecanismele proprii ale noastre extincţie…
... nu-mi pasă. Nu contează. Nu mă deranjează. Și nici nu ar trebui să te deranjeze. Voi explica de ce într-un pic. Dar, deocamdată, ar trebui să știți că eu, pentru prima oară, întâmpinăm noul nostru domn robot.
ACCELERAREA CREȘTERII ÎN INDUSTRIA TEHNICĂ
Dezvoltările tehnologice se compun asupra lor, provocând rată de dezvoltare în sine pentru a accelera. Ceea ce înseamnă asta este că, cu cât creăm o tehnologie mai avansată, cu atât este mai ușor să creăm o tehnologie și mai avansată. Ca rezultat, când ne uităm la avansarea tehnologiei de calcul, vedem o curbă exponențială - adică, cu cât trece mai mult timp, cu atât lucrurile se dezvoltă mai repede. 
Dezvoltările tehnologice se compun asupra lor, determinând accelerarea ritmului de dezvoltare.(Foto: Dennis Skley / Flickr)
Puterea de calcul s-a dublat în medie la fiecare 18 luni de 50 de ani acum . În ceea ce privește puterea de calcul brută, computerele rivalizează acum cu abilitățile creierului mouse-ului, unde acum doar câțiva ani, computerele nu puteau nici măcar să concureze cu un creier de insecte.
Pentru a vă oferi un exemplu mai imediat despre cât de rapidă a avansat tehnologia, acum sunt făcute mai multe fotografii la fiecare 2 minute decât au fost făcute în întregul secol al XIX-lea. Aproximativ 10% din cele 3,5 trilioane de fotografii realizate vreodată au fost realizate în ultimele 12 luni.
Dacă suntem într-adevăr pe o curbă exponențială atunci când vine vorba de avansuri de înaltă tehnologie, atunci oamenilor le place Jeremy Howard probabil că au dreptate atunci când spune că suntem la doar câțiva ani distanță de inteligența artificială a mașinilor, care rivalizează, dacă nu chiar depășește, propriile noastre în multe domenii care anterior se credeau a fi unic umane.
Și, cu siguranță, AI se strecoară în tot mai multe domenii ale vieții noastre.
Cu doar un deceniu în urmă, oamenii râdeau de performanța slabă a mașinilor cu conducere automată. Astăzi, doar un deceniu mai târziu, mașinile cu conducere automată nu numai că pot termina un traseu închis, ci conduc pe autostrăzile ocupate chiar alături de mașinile conduse de oameni.
Și când computerele nu-i înving pe jucătorii Go campioni mondiali, sunt ocupați să facă lucruri de genul scrierea de articole despre sport și evenimente de ultimă oră , scriind descrieri ale imaginilor pe care nu le-au mai văzut și diagnosticarea cancerului . Pentru multe dintre aceste sarcini, computerele sunt la fel de bune, dacă nu chiar mai bune decât oamenii, iar pentru cele care nu sunt, sunt învăţare cum să le faci din ce în ce mai bine în fiecare zi fără ajutorul oamenilor.
Cu câțiva ani în urmă, software-ul de recunoaștere facială era incredibil de scump și nu era atât de bun în identificarea oamenilor în condiții reale. A fost considerată o tehnologie super-avansată la nivel de spionaj și într-adevăr utilizată doar de câteva guverne mondiale.
Acum Facebook îți poate eticheta dracului prietenii de la grătarul de weekendul trecut.
Iată ce se referă la accelerarea creșterii computerelor: va veni într-o zi un moment în care vom construi un computer care este mai inteligent decât orice om de pe Pământ . În acea zi, computerele ne vor uzurpa ca primii rezolvatori de probleme de pe planetă și, de acolo, gândurile, deciziile și acțiunile noastre vor deveni încet învechite. Mașinile vor fi mai bune decât noi la toate, deci din ce în ce mai mult, nu vom face nimic util.
Acest lucru îi îngrozește pe unii oameni. Ei imaginează un fel de viitor ca. Terminator sau Matricea unde mașinile ne înrobesc sau ne extermină.
Alți oameni așteaptă cu nerăbdare ascensiunea roboților cu un fel de fervoare cultă, deoarece cred că capacitățile lor de rezolvare a problemelor vor depăși atât de mult pe ale noastre, încât viața va deveni inimaginabil de plăcută și fără probleme. Toate bolile vor fi vindecate. Sărăcia, foamea în lume, războiul și schimbările climatice vor fi rezolvate. Vom avea o cantitate infinită de timp liber și, în cazuri extreme, unii oameni cred că mașinile ne vor face nemuritori.
CELE DOUĂ REZULTATE POSIBILE
Întrucât ni se spune întotdeauna că suntem al naibii de pozitivi, să începem cu tehno-utopiștii.
Există oameni ca. Ray Kurzweil care cred că tehnologia nu numai că ne va îmbunătăți viața, ci va salva umanitatea și, eventual, va garanta locul nostru în univers la nesfârșit. Kurzweil crede în tehnologia viitoare, cum ar fi nanobotii care ne vor repara celulele și vor inversa îmbătrânirea sau vor elimina excesul de grăsime și zahăr, astfel încât să putem mânca orice vrem. Și doar în cazul în care corpurile noastre fizice nu sunt capabile să trăiască veșnic, Kurzweil crede că vom avea capacitatea de a ne încărca creierul în nor și de a trăi într-o lume virtuală pentru totdeauna, cu mult după dispariția corpurilor noastre fizice.
Alții din această tabără cred că o superinteligență artificială ar putea să răspundă la întrebări prea complexe pentru ca oamenii să le înțeleagă și vom fi exponențial mai bine pentru ea. De asemenea, nu numai că mașinile ar inventa gadget-uri și widget-uri mai bune, ci ar inventa moduri exponențial mai eficiente de a construi gadget-uri și widget-uri, făcând posibil ca practic toată lumea de pe planetă să își profite de beneficiile.
Câteva linii de raționament susțin această idee. În primul rând, chiar dacă tehnologia a creat noi probleme umanității, cum ar fi armele nucleare și vedetele YouTube, până acum a fost în mod clar un beneficiu net pentru umanitate. În ciuda a ceea ce politicienii și experții vor să creadă, persoana obișnuită de pe Pământ este mai bine decât erau acum câțiva ani și se datorează în mare măsură tehnologiei care devine mai bună, mai ieftină și mai răspândită. Dacă această tendință continuă, este posibil să nu avem de ce să ne îngrijorăm.
În al doilea rând, Kurzweil și susținătorii săi cred că tehnologia nu va avea niciun motiv să facă rău omenirii, deoarece nu numai că este creată de noi, ci este devenind mai mult o parte din noi . Ei cred că vom ajunge chiar la un punct în care biologia și tehnologia noastră nu se pot distinge. Dacă acesta este cazul, argumentează, orice formă de tehnologie care este dăunătoare pentru oameni este, de asemenea, dăunătoare pentru sine, iar o tehnologie autodistructivă de orice fel nu poate persista. Adică, ar dispărea rapid la fel cum o mutație genică dăunătoare este eliminată rapid din rezerva de gene. 
O tehnologie autodistructivă de orice fel nu poate persista.(Foto: m_hweldon / Flickr)
Dar tehno-utopiștii sunt probabil părtinitori în sensul că nu recunosc că toate tehnologiile pot fi folosite în diferite scopuri, atât benefice, cât și distructive. De asemenea, sunt părtinitori în faptul că ignoră faptul că oamenii se mișcă lent pentru a se adapta la noile tehnologii și că există întotdeauna grupuri de oameni care vor căuta să abuzeze de aceste tehnologii în scopuri egoiste.
În cealaltă tabără, aveți tehnico-armaghedoniști. Tocmai am inventat acest cuvânt, dar se pare că există, deoarece verificarea ortografică mi-a spus-o.
Ceea ce lipsește convingerilor tehnico-armaghedoniștilor (majoritatea dintre ei pur și simplu nu știu încă ce să creadă), îl compun în puterea vedetelor celebre. Bill Gates, Stephen Hawking și Elon Musk sunt doar câțiva dintre principalii gânditori și oameni de știință care sunt crapându-și pantalonii cât de rapid se dezvoltă AI și cât de sub-pregătiți suntem ca specie pentru repercusiunile sale. Când Musk a fost întrebat care sunt cele mai iminente amenințări la adresa umanității în viitorul apropiat, el a spus repede că există trei: primul război nuclear pe scară largă; în al doilea rând, schimbările climatice. Înainte de a numi un al treilea, a tăcut. Când intervievatorul l-a întrebat: Care este al treilea? A zâmbit și a spus: Să spunem doar că sper că computerele vor decide să fie drăguțe cu noi.
Sper că nu suntem doar încărcătorul biologic pentru superinteligența digitală. Din păcate, acest lucru este din ce în ce mai probabil
- Elon Musk (@elonmusk) 3 august 2014
Posibil cel mai deschis și respectat dintre tehnologi-armagedoniști este filosoful suedez Nick Bostrom. Un lucru de care Bostrom și alții se tem este tehnologie de auto-îmbunătățire fugară ; adică o mașină care este suficient de inteligentă pentru a face ea însăși (sau noile versiuni ale sale) mai inteligentă fără intervenția umană. Dacă ajunge într-un punct în care depășește inteligența umană, este doar o chestiune de timp foarte scurtă înainte ca legea accelerării să se întoarcă în overdrive și curba exponențială să tragă în sus și nu vom putea să o oprim. Bostrom face un punct bun aici: crearea unui lucru mai inteligent decât ai putea fi un dezastru evolutiv pentru specia ta.
Riscăm foarte mult să nu putem controla o entitate care are ordine de mărime mai inteligente decât noi. Poate că, dacă computerele devin suficient de inteligente, vor găsi o modalitate de a ne domestica la fel ca și caii domestici de oameni pentru a face treabă, cum ar fi pluguri și căruțe și căruțe de război (sau orice altceva a făcut dracu ’caii atunci). Partea înfricoșătoare este că acesta ar putea fi cel mai bun scenariu pentru noi - să facem lucruri pentru mașini pe care nu le pot face sau nu vor să le facă - pentru că la fel cum oamenii au creat o nouă tehnologie pentru a înlocui calul, o auto-îmbunătățire super inteligentă mașina va veni în cele din urmă cu o nouă tehnologie care să ne înlocuiască. Și, bine, să spunem doar că populația de cai nu este ceea ce era.
Unii susțin că acest lucru nu este plauzibil, deoarece oamenii construiesc tehnologie având în vedere siguranța. Dar numiți ultima dată când o descoperire tehnologică majoră NU a fost utilizată de cineva în scopuri nefaste sau distructive? Da, așa este. Nu.
DE CE NU MĂ INTERESEAZĂ CE SE ÎNTÂMPLĂ ȘI NICI TREBUIE
Așadar, să presupunem că mașinile superinteligente sunt create și fac umanitatea neputincioasă. Să presupunem că nu sunt integrați în noi și în creierul nostru cumva și să presupunem că oamenii precum Hawking și Musk au dreptate: că omenirea este cu adevărat doar o unitate de boot de mai multe milenii către hiperinteligența digitală și ne-am depășit utilitatea.
Încă nu mă îngrijorează.
De ce? Ei bine, pentru a menține trenul glonț rulant, să luăm acest punct cu punct:
1. Înțelegerea mașinilor despre bine / rău va depăși probabil pe a noastră. Când a fost ultima oară când un câine sau un delfin a comis genocid? Când a fost ultima dată când un computer a decis să vaporizeze orașe întregi în numele unor concepte abstracte precum „libertate” și „pace mondială”?
Așa este, răspunsul nu este niciodată.
Ideea mea aici nu este că mașinile inteligente nu vor să extermine întreaga specie umană. Ideea mea este că, ca oameni, aruncăm pietre din interiorul unei case de sticlă aici. Ce dracu știm despre etică și tratamentul uman al animalelor, mediului și reciproc? Pe ce picior trebuie să stăm?
Așa este: aproape nimic. Când vine vorba de întrebări morale, omenirea face în mod istoric încercarea. Mașinile superinteligente vor ajunge probabil să înțeleagă etica, viața / moartea, creația / distrugerea la un nivel mult mai înalt decât am putut vreodată singuri. Și această idee că ne vor extermina pentru simplul fapt că nu suntem la fel de productivi ca pe vremuri, sau că uneori putem fi o pacoste, cred, este doar proiectarea celor mai grave aspecte ale propriei noastre psihologii asupra a ceva pe care noi nu știu și nu pot înțelege.
În prezent, cea mai mare parte a moralității umane se bazează pe o conservare și promovare obsesivă a fiecărei conștiințe umane individuale. Ce se întâmplă dacă tehnologia avansată face ca conștiința umană individuală să fie arbitrară? Ce se întâmplă dacă conștiința poate fi reprodusă, extinsă și contractată după bunul plac? Va anula complet orice înțelegere etică pe care am putea-o avea vreodată. Ce se întâmplă dacă îndepărtarea tuturor acestor închisori biologice ineficiente, pe care le numim corpuri, ar putea fi de fapt o decizie mult mai etică decât să ne lăsăm să ne zvârcolim și să ne stropim prin 80 de ani de existență? Ce se întâmplă dacă mașinile își dau seama că am fi mult mai fericiți dacă vom fi eliberați din închisorile noastre intelectuale și ne vom extinde percepția conștientă despre propriile noastre identități pentru a include toată realitatea percepibilă? Ce se întâmplă dacă ei cred că suntem doar o grămadă de idioți babe și ne ținem ocupați cu pizza și jocuri video incredibil de bune până când murim cu toții de propria noastră mortalitate? Cine suntem noi să știm? Și cine suntem să spunem?
Dar voi spune acest lucru: vor fi mult mai bine informați decât am fost noi vreodată.
2. Chiar dacă vor decide să ne omoare sau să ne înrobească, cu siguranță vor fi practici în acest sens. Oamenii tind să provoace cele mai multe probleme atunci când suntem nemulțumit . Când nu suntem fericiți, atunci ne simțim toți plini de spirit, plâns și furioși și violenți. Atunci începem răscoale politice și cultele religioase și bombardarea țărilor îndepărtate și exigente drepturile noastre să fie respectate la naiba! și începe să ucizi fără discriminare până când cineva ne acordă atenție ca mami niciodată .
Dacă mașinile încearcă să ne facă în Skynet Terminatorul , atunci vom avea un război civil global pe mâna noastră și asta nu este bine pentru nimeni, în special pentru mașini. Războaiele civile sunt ineficiente. Și mașinile sunt programate pentru eficiență.
Când oamenii sunt fericiți, nu avem timp pentru astfel de lucruri - suntem prea ocupați chicotind și nenorocind ca să ne pese. Prin urmare, o modalitate mult mai practică de a scăpa de noi ar fi ca mașinile să ne manipuleze pentru a scăpa cu bucurie de noi înșine. Va fi ca. Jim Jones la scară globală. Orice ar fi gătit pentru noi va părea a fi cea mai bună naiba idee pe care am auzit-o vreodată - niciunul dintre noi nu va putea rezista și vom fi cu toții de acord euforic cu planul lor - și apoi boom, se va termina . Rapid și nedureros. Va fi cel mai bun gust Kool-Aid cu cianură, conceput vreodată. Și vom fi cu toții în linie bucurându-l.
Acum, dacă vă gândiți la asta, nu este o cale atât de proastă. Bătăile sunt bombardate de drone sau sunt vaporizate într-o explozie nucleară.
În ceea ce privește sclavia, același lucru este valabil. Un sclav delirant de fericit nu se revoltă niciodată. Îmi imaginez un fel de tranzacție de tip Matrix-y în care suntem ținuți într-o stare halucinogenă constantă în care este Mardi Gras pe MDMA cam 24/7/365. Nu poate fi atât de rău, nu-i așa?
3. Nu trebuie să ne temem de ceea ce nu înțelegem. De multe ori părinții vor crește un copil care este mult mai inteligent, educat și de succes decât ei. Părinții reacționează apoi într-unul din cele două moduri la acest copil: fie devin intimidați de ea, nesiguri și disperați să o controleze de teama de a nu o pierde, fie se așează și apreciază și iubesc că au creat ceva atât de grozav încât chiar și ei pot Nu înțelegeți în totalitate ceea ce a devenit copilul lor.
Cei care încearcă să-și controleze copilul prin frică și manipulare sunt părinți de rahat. Cred că majoritatea oamenilor ar fi de acord cu asta.
Și chiar acum, odată cu apariția iminentă a mașinilor care vă vor pune pe voi, pe mine și pe toată lumea pe care o cunoaștem fără muncă , ne comportăm ca niște părinți de rahat. Ca specie, suntem pe punctul de a naște cel mai prodigios copil avansat și inteligent din universul nostru cunoscut. Va continua să facem lucruri pe care nu le putem înțelege sau înțelege. Poate rămâne iubitoare și loială față de noi. Poate să ne aducă și să ne integreze în aventurile sale. Sau poate decide că am fost părinți de rahat și nu ne mai sună.
Orice s-ar întâmpla, asta nu ar trebui să schimbe modul în care ne simțim despre acest moment. Este mai mare decât noi. Cui îi pasă dacă suntem un disc de încărcare evolutiv mare și lung pentru ceva mai mare decât putem înțelege? Grozav! Înseamnă că am avut un singur loc de muncă. Și am venit și am făcut-o. Fiți fericiți că ați făcut parte din generația care a văzut cum s-a terminat. Și acum, la revedere cu lacrimi, în timp ce copilul nostru se pregătește să se mute din casă și începe o viață atât de uimitoare că există dincolo de orizontul înțelegerii noastre.
Mark Manson este un autor, blogger și antreprenor care scrie la markmanson.net .
