Această poveste este distribuită din buletinul informativ Substack Big Technology; abonați-vă gratuit aici .
Săptămâna trecută, în fața unei gropi pline, la World Summit AI de la Amsterdam, săptămâna trecută, le-am rugat cercetătorilor seniori de la Meta, Google, IBM și Universitatea din Sussex să vorbească dacă nu vor ca AI să oglindească inteligența umană. După câteva momente de tăcere, nicio mână nu s-a ridicat.
Răspunsul a reflectat ambiția industriei AI de a construi cunoașterea la nivel uman, chiar dacă ar putea pierde controlul asupra acesteia. AI nu este sensibil acum – și nu va fi pentru ceva timp, dacă vreodată – dar o industrie hotărâtă a AI lansează deja programe care pot discuta, vedea și desena ca oamenii în timp ce încearcă să ajungă acolo. Și pe măsură ce merge mai departe, riscă ca progresul său să se îndrepte spre necunoscutul periculos.
„Nu cred că poți închide cutia Pandorei”, a spus Grady Booch, om de știință șef la IBM, despre eventuala IA la nivel uman. „La fel ca armele nucleare, pisica a ieșit din sac.”
Compararea progresului AI cu armele nucleare este oportună, dar incompletă. Cercetătorii AI pot emula dorința oamenilor de știință nucleari de a realiza progres tehnic, în ciuda consecințelor, chiar dacă pericolul este la niveluri diferite. Cu toate acestea, mai mulți oameni vor accesa tehnologia AI decât puținele guverne care dețin arme nucleare, așa că există puține șanse de reținere similară. Industria arată deja o incapacitate de a ține pasul cu ea frenezie de descoperiri .
Dificultatea de a reține AI a fost evidentă la începutul acestui an, după ce OpenAI a introdus Dall-E, programul său de artă AI. De la început, OpenAI a rulat Dall-E cu reguli bine gândite pentru a-și atenua dezavantajele și o lansare lentă pentru a-și evalua impactul. Dar, pe măsură ce Dall-E a câștigat acțiune, chiar și OpenAI a recunoscut că nu putea face nimic în privința imitatorilor. „Pot vorbi doar cu OpenAI”, spus Cercetătorul OpenAI Lama Ahmad când a fost întrebat despre potențialii emulatori.
Copii Dall-E au sosit la scurt timp după și cu mai puține restricții. Concurenți, inclusiv Stable Diffusion și Midjourney, au democratizat o tehnologie puternică fără bariere și toata lumea a început să facă imagini AI. Dall-E, care a inclus doar 1.000 de utilizatori noi pe săptămână până la sfârșitul lunii trecute deschis tuturor .
Tipare similare vor apărea pe măsură ce mai multă tehnologie AI trece, indiferent de balustradele pe care le folosesc dezvoltatorii originali.
Desigur, este un moment ciudat să discutăm dacă AI poate oglindi inteligența umană - și ce lucruri ciudate se vor întâmpla pe parcurs - pentru că o mare parte din ceea ce face AI astăzi este elementar. Deficiențele și provocările sistemelor actuale sunt ușor de subliniat, iar mulți din domeniu preferă să nu se implice cu întrebări pe termen mai lung (cum ar fi dacă AI poate deveni sensibilă), deoarece cred că energia lor este mai bine cheltuită pentru probleme imediate. Ceștii pe termen scurt și cei pe termen lung sunt două facțiuni separate în lumea AI.
După cum am văzut în acest an, totuși, AI avansează în grabă. Progres în modele mari de limbaj a făcut chatboții mai inteligenți, iar acum discutăm despre simțirea lor (sau, mai exact, despre lipsa). Arta AI nu a fost în imaginația publicului anul trecut și este peste tot acum. AI este și acum crearea de videoclipuri din șiruri de text. Chiar dacă sunteți o persoană pe termen scurt, termenul lung poate ajunge înainte de termen. Am fost surprins de câți oameni de știință din inteligența artificială au spus cu voce tare că nu pot – și nu vor – să definească conștiința.
Există, desigur, o opțiune de a nu fi ca oamenii de știință din arme nucleare. A gândi altfel decât a spus J. Robert Oppenheimer, care a condus lucrările la bomba atomică. „Când vezi ceva care este dulce din punct de vedere tehnic”, a spus el, „dai înainte și faci asta și te certați despre ce să faceți în privința asta numai după ce ați avut succesul tehnic.”
Poate că de data aceasta mai multă gândire ar duce la un rezultat mai bun.
