Această poveste este distribuită din buletinul informativ Substack Big Technology; abonați-vă gratuit aici .
Recent, un nou Substack numit The Rationalist a ridicat analiza și scrierea direct de la Big Technology. Este plagiat post pe „Economia creatorilor”—care am acoperit cu zile înainte - a devenit viral, lovind prima pagina a Hacker News și a declanșat o conversație cu peste 80 de comentarii. Ar fi fost un debut grozav pentru orice publicație, dacă ar fi fost autentică.
Ceea ce a făcut ca cazul The Rationalist deosebit de izbitor, totuși, a fost autorul său – un avatar cu numele „PETRA” – a recunoscut că au folosit instrumente AI pentru a produce povestea, inclusiv cele de la OpenAI, Jasper și Hugging Face. Viteza cu care au putut să copieze, să remixe, să publice și să distribuie povestea lor neautentică a fost impresionantă. A depășit capacitatea platformelor și, poate, dorința de a o opri, semnalând că partea întunecată a AI generativă va fi greu de îmblânzit.
„Este foarte greu de prezis toate utilizările malefice”, a spus Giada Pistilli, etician principal la Hugging Face. „Încercăm să anticipăm toate riscurile, dar este întotdeauna foarte greu.”
The Rationalist este o publicație ciudată. Nu are nicio misiune. Nu există autori numiți în afara PETRA. Este live de o săptămână. Și totuși, la două zile după ce a intrat în direct, a ridicat pasaje direct de la Big Technology.
Iată, de exemplu, o clauză Big Technology din povestea de săptămâna trecută :
cele mai bune site-uri de întâlniri din lume
Odată cu sfârșitul zilelor de spumă a dobânzii zero, investițiile devin din ce în ce mai greu de justificat.
Și iată-l pe Raționalistul, două zile mai târziu :
Odată cu sfârșitul spumei cu dobândă zero, aceste investiții devin din ce în ce mai greu de justificat.
Iată o altă clauză de la Big Technology:
Crearea de conținut online este încă în cea mai mare parte viabilă pentru eșalonul de vârf al creatorilor online
Și aici din nou The Rationalist, două zile mai târziu:
unde a fost filmat john wick 2
Numai eșalonul superior al creatorilor este capabil să obțină un venit viabil
Un titlu strălucitor – „Economia creatorilor: top 1% și toți ceilalți” – a ajutat să propulseze povestea The Rationalist pe prima pagină a Hacker News, o poziție care de obicei valorează mii de vizualizări. Miezul poveștii, preluat de la Big Technology, a fost suficient de bun pentru a stârni o discuție.
Cu toate acestea, pe măsură ce utilizatorii Hacker News au citit, au observat că ceva nu era în regulă. „Întregul articol mi se pare că a fost generat de GPT-3 pe baza unor solicitări”, a scris un utilizator. „Acesta nu a fost scris de o persoană”, a spus altul. Apoi, Petra a mărturisit. „Dacă sunteți de la știrile hackerilor, iată instrumentele pe care le-am folosit pentru a îmbunătăți lizibilitatea”, au spus ei înainte de a enumera OpenAI, Jasper și Hugging Face. Instrumentele permit scrierea AI și probabil au ajutat la remixarea articolului original. PETRA, care nu a răspuns la o solicitare de comentariu, nu a menționat conținutul provenit dintr-o altă publicație.
Pe măsură ce povestea circula, platformele tehnologice care asistau The Rationalist au rămas nemișcate. OpenAI a împărtășit o declarație generică care includea rândul „Politicile noastre impun ca utilizatorii să fie sinceri cu publicul lor”. Hugging Face a recunoscut că nu are cum să găsească utilizatorul ofensator, deși Pistilli părea recunoscător că a fost alertat. Și Substack a promis că va investiga.
produse care favorizează creșterea părului
Substack a spus că are o politică împotriva plagiatului, ceea ce Merriam-Webster defineste ca „a fura și a da (ideile sau cuvintele altuia) drept ale cuiva.” Cu toate acestea, deși acest caz se potrivește definiției, Substack a decis să lase postarea lui The Rationalist. „În acest moment, nu putem concluziona cu certitudine că postarea încalcă politica noastră de plagiat”, a declarat purtătorul de cuvânt al Substack, Helen Tobin.
Având în vedere succesul The Rationalist, probabil că vor avea loc eforturi mai avansate de a copia și remixa munca altora cu AI. Și ar trebui să fie ușor de îmbunătățit. Raționalistul a fost neglijent, ridicând clauze cuvânt cu cuvânt. Dar, pe măsură ce publicațiile cu intenții similare își perfecționează sistemele, ele vor putea elimina toate urmele scrisului original și vor putea doar să transmită ideile. Și nici nu ar trebui să fie greu de automatizat.
Imaginați-vă că AI remixează cele mai citite zece povești ale zilei din Financial Times - sau acoperirea VC a The Information - și face raportarea disponibilă fără paywall. AI scrie deja povești neplagiate pentru publicații precum CNET . La un moment dat, unii editori vor tăia colțuri.
Nu există o soluție tehnologică rapidă pentru aceste probleme. Așa cum a fost cazul pentru aproape toate cazurile de răspândire a informațiilor proaste online, cititorii și editorii vor trebui din nou să-și dea seama singuri. „Concurenții noștri ne înșală tot timpul, în esență remixând lucruri și partajând”, a spus CEO-ul The Information Jessica Lessin. „Abonații Informații sunt inteligenți să le obțină de la sursă. Dar, desigur, privesc toate acestea cu fascinație.”
