Inteligența artificială devine inteligentă rapid. Recentele descoperiri ale tehnologiei, care se manifestă prin capacitățile impresionante ale aplicațiilor precum ChatGPT, au stârnit teama că I.A. s-ar putea să preia în curând umanitatea — și nu într-un mod bun. Anul trecut, un inginer Google a susținut că a companiei I.A. chatbot LaMDA era atât de inteligent încât devenise „conștient”. Anul acesta, alarmat de potențialul pericol al A.I., un grup de peste 1.000 de antreprenori și academicieni în tehnologie, inclusiv Elon Musk, în martie a cerut o pauză de șase luni de antrenament A.I. sisteme mai avansat decât GPT-4 de la OpenAI, cel mai nou model de limbă care alimentează ChatGPT.
În timp ce aplicațiile de model de limbaj mari (LLM), cum ar fi ChatGPT și Google Bard, au arătat potențialul de a depăși oamenii în multe sarcini și de a înlocui locurile de muncă, ele nu sunt în niciun caz la fel cu creierul uman, deoarece mecanismele de învățare subiacente sunt diferite, David. Ferrucci, un informatician și un pionier timpuriu al I.A. comercială. aplicație, a spus Observer.
Ferrucci este cel mai bine cunoscut ca creatorul IBM Watson. Dezvoltat la sfârșitul anilor 2000 pentru a răspunde la întrebările emisiunii de chestionare de televiziune Primejdie! , sistemul informatic a învins în cele din urmă concurenții umani în joc în 2011.
'Cand Primejdie! provocarea a fost propusă la începutul lui 2007, eu am fost singurul din IBM Research, chiar și din comunitatea academică, care a crezut că se poate face și practic m-am înscris pentru ao urma”, a declarat Ferrucci pentru Observer într-un interviu.
În esență, IBM Watson este un sistem bazat pe învățarea automată care a învățat cum să răspundă Primejdie! întrebări prin digerarea unor cantități mari de date din emisiunile anterioare. A apărut într-un moment în care învățarea profundă, un subset al inteligenței artificiale, începea să se impună. Înainte de aceasta, sistemele informatice se bazau în mare măsură pe programarea și supravegherea umană.
În 2012, la scurt timp după succesul de succes al lui Watson, Ferrucci a părăsit IBM după 18 ani pentru a conduce A.I. cercetare pentru Asociații Bridgewater , cel mai mare fond speculativ din lume. În cea mai mare parte a ultimului deceniu, munca lui Ferrucci s-a concentrat pe dezvoltarea IA hibridă, care urmărește să combine învățarea automată bazată pe date cu raționamentul logic - cu alte cuvinte, să antreneze algoritmi să „gândească” mai mult ca oamenii.
În 2015, Bridgewater a finanțat prin semințe un proiect intern condus de Ferrucci, care în cele din urmă s-a desprins ca o companie independentă numită Cunoașterea elementară . I.A. hibrid de la Elemental Cognition. aplicațiile pot fi utilizate în managementul investițiilor, planificarea logisticii și descoperirea medicamentelor, conform site-ului său web. În februarie, startup-ul a semnat pe Bridgewater ca client.
Într-un interviu acordat lui Observer la începutul acestei luni, Ferruci a discutat despre diferitele procese de învățare ale ChatGPT și ale creierului uman, necesitatea unui I.A. hibrid și de ce crede că propunerea pentru un I.A. pe șase luni. pauza este mai mult simbolică decât practică.
Următoarea transcriere a fost editată pentru claritate.
câte sezoane de bliț
Ce este mai exact A.I. hibridă?
IA hibridă combină un proces inductiv bazat pe date cu un proces bazat pe logică. Învățarea automată este un proces bazat pe date. Se va îmbunătăți doar cu tot mai multe date de antrenament disponibile. Dar pentru a comunica cu oamenii, ai nevoie și de logică și raționament.
Cogniția umană funcționează într-un fel în același mod, așa cum se explică în cartea lui Daniel Kahneman Gândire, rapid și încet. Creierul uman funcționează gândind rapid și încet în același timp. Pentru a obține o luare a deciziilor precise și de încredere, aveți nevoie de tot ce este mai bun din ambele lumi.
Cum este gândirea rapidă diferită de gândirea lentă? De ce avem nevoie de amândouă?
Gândirea rapidă este atunci când extrapolăm din experiența noastră sau din datele noastre și apoi generalizăm. Generalizarea poate fi greșită, totuși, deoarece se bazează pe trăsături superficiale care s-ar putea corela în date, dar nu sunt cu adevărat cauzale - acesta este fundamentul gândirii prejudiciabile.
Gândirea lentă înseamnă formularea unui model despre modul în care cred că funcționează lucrurile: Care sunt valorile mele? Care sunt presupunerile mele? Care sunt regulile mele de inferență? Și care este logica mea pentru a trage o concluzie?
go tati a interzis reclamă pentru superbowl
Când vorbim despre A.I. astăzi, avem tendința de a ne gândi automat la învățarea automată, care, așa cum ați spus, este un proces bazat pe date. Există exemple din lumea reală de I.A. condusă pur de logică?
Da, I.A. condusă de logică. a fost asimilat în multe aplicații din lumea reală. Reprezentări formale ale logicii de rezolvare a problemelor, precum sistemele bazate pe reguli sau sistemele de soluționare și optimizare a constrângerilor, sunt utilizate pentru aplicații de gestionare a resurselor, planificare, planificare, control și execuție.
Dar nu le considerăm ca A.I. mai mult, în mare parte pentru că, odată cu revoluția big data și a învățării automate, A.I. a devenit puternic asociat cu sistemele de învățare automată.
Unde se situează LLM-urile precum GPT și LaMDA în spectrul gândirii rapide/lente? Sunt cu adevărat aproape de inteligența umană, așa cum a susținut anul trecut un inginer Google?
LLM-urile produc structuri mari de date care captează probabilitățile statistice ale anumitor secvențe de cuvinte care urmează altor secvențe de cuvinte. Ce face ChatGPT sunt predicții statistice bazate pe caracteristicile superficiale ale limbajului. Cu suficiente date de antrenament și tehnici de învățare automată cu adevărat puternice, aceste modele pot imita limbajul care sună fluent.
Acesta nu este un raționament logic. Este greu de argumentat că o masă mare pentru probabilități este sensibilă. Aș spune că nu. Cu toate acestea, un lucru interesant despre cunoașterea umană este că combinăm text cu sunet coerent cu fapte. Suntem ca, asta sună foarte bine, trebuie să fie adevărat. Dar adevărul necesită o înțelegere și o analiză mai profundă dincolo de trăsăturile superficiale ale limbajului.
Ești nervos în legătură cu A.I. în cele din urmă depășind oamenii?
A.I. poate îndeplini anumite sarcini mai bine decât oamenii. Este adevărat de ani de zile. Astăzi, pe măsură ce datele și tehnicile de instruire se îmbunătățesc, este din ce în ce mai ușor să antrenezi I.A. sisteme pentru a face mai multe sarcini umane. Cred că este foarte semnificativ. Dar nu cred că A.I. urmează să preia. Nu există nicio entitate independentă care să dorească să te cucerească. Cu toate acestea, A.I. poate fi ușor abuzat. Cred că este o adevărată îngrijorare.
Elemental Cognition a semnat recent Bridgewater ca client, care este, de asemenea, un investitor timpuriu în compania dumneavoastră. Cum poate hibrid A.I. ajuta managerii de investiții să înțeleagă mai bine economia și piețele?
Înțelegerea economiei vine sub două forme: identificarea tiparelor în date și interpretarea acestor modele pentru a înțelege ce se întâmplă.
În managementul investițiilor, scopul final este de a face predicții precise, analizând indicatori economici, cum ar fi ratele dobânzilor și prețurile acțiunilor. Datele au multe de spus. Dacă ați putea vedea modele în date, este foarte puternic. Și dacă puteți interpreta tiparele și înțelegeți ceea ce se întâmplă în economie, atunci aveți o altă perspectivă. Este aproape ca și cum ai putea face verificări și echilibrări: iată corelațiile afișate în date și iată înțelegerea mea despre cum funcționează lucrurile. Sunt de acord sau nu?
Ce părere aveți despre propunerea de a întrerupe A.I. antrenament timp de șase luni?
Nu cred că este practic pentru început, deoarece modelele mari de limbaj nu sunt un secret. Întotdeauna vor exista companii care lucrează la ele. Vom continua să vedem o mulțime de experimente. Nu cred că are sens să oprim această experimentare.
Dar cred că are sens să facem un pas înapoi și să ne gândim bine la asta. Factorii de decizie trebuie să înceapă să se gândească la cum să reglementeze I.A. deoarece poate fi abuzat în mai multe moduri. Este probabil să vedem reglementări dezvoltate și aplicate.
