Aceasta este a doua dintr-o poveste în două părți din Book Post; citeste primul post Aici .
Pe fondul negărilor că un computer ar putea vreodată să înlocuiască un scriitor în crearea artei literare reale, mai multe interviuri cu scriitori care lucrează deja care folosesc inteligența artificială au fost în mod provizoriu roz. Jay Caspian Kang, scriind in New Yorkerul cu unele cunoștințe anterioare despre chatbot și câteva sfaturi de specialitate, nu a reușit să ajungă la un produs literar satisfăcător în incursiunile sale fictive cu ChatGPT, dar Kevin Roose pe podcast Furca tare și scriitorul de educație John Warner au fost capabili să îmbunătățească rezultatele în mod substanțial prin rafinarea inputurilor lor. Lincoln Michel a intervievat romancierul Chandler Klang Smith , care a folosit un program bazat pe GPT-3 numit Sudowrite să lucreze la romanele ei un an și ceva. Ea a descris în mod memorabil experiența ca „ca un robot are un vis despre munca ta în desfășurare și tu poți decide dacă ceva din acel vis reflectă ceea ce încerci să faci.” Ea a spus că eforturile AI de a avansa munca pot „debloca idei care par că ar fi fost deja îngropate undeva... în text”. Chandler Klang Smith a considerat că AI nu este de ajutor în a se ocupa de „chestii macro cum ar fi intriga și structura”, dar peste la The Verge , scriitoarea auto-publicată de „mister confortabil”, Jennifer Lepp, care a folosit Sudowrite și tocmai a început să experimenteze cu ChatGPT, i-a spus lui Josh Dzieza că a fost uimită că ar putea oferi chatbot-ului o premisă și câteva detalii și ar putea genera o poveste eficientă în genul. Scriitorii de gen auto-publicați scriu adesea pentru cititorii care consumă sute de romane pe an și sunt sub presiune să producă la scară (vezi postarea noastră despre autopublicare și romantism). Jennifer Lepp a spus că mulți scriitori pe care îi cunoaște se luptă cu implicațiile de a folosi capacitățile ChatGPT de a accelera procesul. Pentru acești cititori, contează care este echilibrul dintre participarea umană și cea a mașinii?
Indiferent de aceste incursiuni mai vesele, se prezintă câteva pericole endemice în IA generativă. Două sunt rezumate frumos pe site-ul ChatGPT în sine: botul „poate genera ocazional informații incorecte” și „poate produce ocazional conținut dăunător și instrucțiuni părtinitoare”. ChatGPT este un model de limbă: tot ceea ce face este să prezică limba pe baza modelelor pe care le identifică în fondul foarte mare pe care îl scoate din internet și poate reproduce toate greșelile și urâțenia se poate găsi acolo și mai adaugă ceva propriu . (Amintim scandalul din 2020 când Google l-a concediat pe cercetătorul AI Timnet Gebru a căror cercetare a identificat, printre alte limitări ale modelelor de limbaj mare, reproducerea prejudecăților.) Proiect de legislație UE creează „categorii de risc” care poate canaliza noi sisteme AI spre eforturi „cu costuri reduse”, cum ar fi prostiile online înainte de a începe activități „cu costuri mari”, cum ar fi, de exemplu, operația. Cu toate acestea, ca cercetător AI Chandra Bhagavatula a spus TechCrunch , „Sistemele AI iau deja decizii încărcate cu implicații morale și etice.”
AI generativă poate fi condusă scoate la trap tropii rasiste și sexualizați imaginile . Instrumente de recrutare AI poate codifica părtinirea angajării (administrația Biden a produs toamna trecută un plan pentru un „ Declarația drepturilor AI ” protejarea consumatorilor de algoritmi discriminatori și prădători). GPT-3 pare să fi introdus „paravane” care limitează rezultatele ofensive, dar acestea sunt aparent ușor de subminat , și, de asemenea, generează pentru stăpânii săi felul de probleme de moderare care afectează toate platformele agnostice de conținut. AI generativ poate fi, desigur, implementat în scopuri nefaste - criminalitatea cibernetică , falsuri profunde , porno non-consensual . ChatGPT le cere utilizatorilor să se angajeze să nu folosească rezultatul său pentru politică.
O altă provocare de bază pentru sistemele AI generative, în limbaj mare, cum ar fi GPT-3, este proprietate intelectuală . Tot ceea ce face ChatGPT se bazează pe munca făcută anterior de cineva, iar modelele generative viitoare vor absorbi constant materiale noi pentru a-i „antrena”. Oamenii de știință prevăd că reglementarea și urmărirea penală a drepturilor de autor vor trebui să găsească un echilibru între recunoașterea momentului în care modelele AI uzurpă și imită în mod direct artiști anumi și când scavenge este mai plural și acoperit de „utilizare corectă”, deși unii avocați susțin că toate materialele atrase într-un astfel de articol. modelele ar trebui să fie licențiate și creatorii compensați. Stability AI a indicat recent că ar permite artiștilor să renunțe la setul de date folosit pentru a antrena generatorul de imagini Stable Diffusion; Getty Images a interzis conținutul AI din cauza riscului legal; galeria online DeviantArt a creat o „etichetă de metadate” pentru imagini pentru a avertiza traulerul AI. Începe să pară o altă fază în sângerarea digitală a renumerării de la cei care fac munca mentală care alcătuiește universul nostru digital. (În mod similar, casele de discuri au cerut recent o creștere a redevenței de la TikTok pentru muzica care face videoclipurile lor atât de contagioase.)
Deținând instrumente cu astfel de puteri și promisiuni, mai ales în fața recordului nostru plin de gunoi atunci când vine vorba de guvernare atât în cadrul industriei tehnologice, cât și fără reglementări, îi are pe scriitori și pe cei care lucrează cu limba și artele în același timp amețitori și nervoși. Un argument despre dacă ChatGPT și alte instrumente de limbă mare pot produce artă literară (pentru: Stephen Marche , împotriva: Ian Bogost , Walter Kirn ) pare să depindă de faptul că mâna editorială a omului îi dă mașinii îndemnurile și își rafinează rezultatele ca fiind importante. Amit Gupta, unul dintre fondatorii programului folosit de Chandler Klang Smith, a spus Stephen Marche , în articolul care a stârnit interesul lui Chandler Klang Smith, „meseria de scriitor devine aproape ca redactor. Rolul tău începe să devină să decizi ce este bun și să-ți execute pe gustul tău, nu atât munca de nivel scăzut de a pompa cuvânt cu cuvânt.” Marche compară inteligența artificială cu fotografia și spune „din retrospectivă, este clar că mașinile nu au înlocuit arta; doar l-au extins.”
În prezentând la o conferință Toamna trecută versiunea Google a ChatGPT, pe care corporația mult mai uriașă nu a lansat-o încă, la fel ca celelalte firme mari din cursa înarmărilor AI, din cauza numeroaselor slăbiciuni ale modelelor, în special – pentru Google – tendința sa neprietenoasă a mărcii de a produce inexacte. rezultate, cercetătorul Douglas Eck a subliniat că modelul lor, cu numele prietenos Atelier de scriitori de Wordcraft , a fost conceput pentru a fi interactiv: „Tehnologia ar trebui să servească nevoii noastre de a avea un control creativ și de acțiune asupra a ceea ce facem.” Reporterul Ben Dickson a comentat: „fără control uman și supraveghere, sistemele AI, cum ar fi modelele generative, vor avea performanțe slabe, deoarece nu au aceeași înțelegere a conceptelor fundamentale așa cum facem noi oamenii.”
O mare parte din dezorientarea din jurul ChatGPT a fost vizibilă într-un interviu incoerent cu Stephen Marche, publicat pe scară largă pe podcast Intelligence Squared , în care amândoi susțineau că ChatGPT ar putea produce o poezie care nu se poate distinge de Coleridge și ar putea scrie un eseu pe care l-ar putea publica în atlantic și că nu există nicio modalitate de a „înlocui scrisul uman”, că computerele nu vor putea niciodată să facă ceva care „va deveni viral”, chiar dacă viralitatea este, în cele din urmă, un fenomen robotic. El a făcut ecou lui Amit Gupta spunând că utilitatea chatbot-urilor va fi în crearea „primelor schițe”, care pot fi complet greșite, pe care le facem umane prin corectarea și revizuirea lor. În evaluarea activității studenților asistate de inteligență artificială „veți privi mult mai mult conținutul decât claritatea exprimării”, chiar dacă botul „nu produce lucrări pe care să o puteți utiliza din nou”; arta umană este în rafinament. Dacă un om verifică faptele și lustruiește finisajul, cu ce contribuie robotul exact?
Pot să văd argumentul pentru utilizarea instrumentelor tehnologice, dar această idee conform căreia „promoarea cuvânt cu cuvânt cu cuvânt” sau asamblarea ideilor într-o formă și secvență este „lucrarea de nivel scăzut” a scrisului este de neînțeles pentru mine. Pericolul ChatGPT și al fraților săi este că este aproape imposibil de distins de produsul uman și poate ușor, așa cum Timnet Gebru și colegii ei discernut , generează, pe măsură ce instrumentele devin din ce în ce mai sofisticate, „iluzii de sens” care ascunde faptul că un model de limbaj nu înțelege sau nu cunoaște de fapt nimic, ci doar împrumut text și imită tipare. Detectarea prezenței conștiente și a scopului în metoda autoriale aplicată pe care Gupta și Marche o descriu sună ca o întreprindere posibil din ce în ce mai evazivă. Casey Newton și Kevin Roose notat cu nelinişte pe podcast-ul lor că un model de limbă mare numit Cicero a învățat cum să bată oamenii la jocul Diplomacy—i. e., convinge jucătorii umani într-o negociere.
Aproape că îmi pot imagina o lume în care o mașină compune ceva care încântă la fel de mult ca Mozart sau angajează mintea cu complexitatea lui Shakespeare. Presupun că nu ar trebui să mă închid de posibilitatea acestor experiențe acum neimaginate. Dar îmi este greu să mă gândesc la asocierea noastră istorică a acestor forme cu intenția umană. Dacă eseul unui student nu este înregistrarea unui proces de gândire dezvoltată, trebuie să găsim o altă modalitate de a înregistra gândirea dezvoltată? Sau este ideea de a delega gândirea dezvoltată în întregime? Nu-mi prea îmi imaginez drumul într-o lume în care aspirația intelectuală nu mai este recunoscută ca matricea lucrurilor pe care le facem și le admirăm, munca de a depăși presiunea necunoscutului, efortul de a îmbunătăți o lume parțială sau deteriorată. , pentru că orice poate fi făcut fără a încerca, prin recuperarea și cusarea laolaltă a ceea ce a fost făcut înainte. Dar poate că pur și simplu nu știu ce îmi lipsește.
